Los principios del Derecho de la inteligencia artificial.
Una propuesta de hard law
DOI:
https://doi.org/10.29166/cap.v9i16.8497Keywords:
Principles, Artificial intelligence, Properson, Transparency, BeneficenceAbstract
The use and application of artificial intelligence (AI) produces negative impacts on individuals, such as the violation of human and fundamental rights. In this paper, the principles of AI Law are proposed as an alternative for binding and obligatory regulation. In this sense, a theoretical-doctrinal study is carried out, from its origin, its passage through ethics, soft law documents, and the need for its positivization. To this end, using the qualitative method and the document analysis technique, doctrinal and institutional studies were analyzed, through which they have been developed and consolidated. The state of the art verifies that there is a doctrinal and legal agreement on six principles of AI Law: pro-person, transparency, beneficence, non-maleficence, equity, and responsibility. However, because they are ethical and indicative guidelines, they are insufficient for the development and use of human-centered AI and algorithmic transparency. As a hard law proposal, observing the reconfiguration of the social pact and the recognition of new rights such as the human right to the internet, neuro-rights (privacy and mental intimacy), and the right to human control, the need for its positivization is substantiated.
References
Alexy, Robert. Teoría de los derechos fundamentales. Madrid: Centro de estudios constitucionales,
Barona Vilar, Silvia. Algoritmización del Derecho y de la Justicia. De la Inteligencia Artificial a
la Smart Justice. Valencia: Tirant lo Blanch, 2021.
Barrio Andrés, Moisés. “Objeto, ámbito de aplicación y sentido del reglamento europeo de
inteligencia artificial”. En El Reglamento Europeo de Inteligencia Artificial, dir. Moisés
Barrio Andrés, 21-48. Valencia: Tirant lo Blanch, 2024.
_____. Manual de Derecho Digital 3.ª ed. Valencia: Tirant lo Blanch, 2024.
Borges Blázquez, Raquel “El sesgo de la máquina en la toma de decisiones en el proceso penal”.
Ius Et Scientia, Vol. 6, No. 2 (2020): 54-71. doi: 10.12795/IETSCIENTIA.2020.
i02.05.
CE, Comité de Ministros. Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y
Derechos Humanos, Democracia y Estado de Derecho. 17 de mayo de 2024.
Centro Latinoamericano de Administración para el Desarrollo, Carta Iberoamericana de
Inteligencia Artificial en la Administración Pública, s/f. Capítulos 1.1.3. y 3.
Chile
Corte
de
Suprema.
“Sentencia
”.
Rol
-2023
de
de
agosto
https://juris.pjud.cl/busqueda/pagina_detalle_
sentencia?k=L2FadjlzYUdmbGx1UWNKWmV6ZjZ3dz09.
Colombia Corte Constitucional. “Sentencia T-323 de 02 de agosto de 2024”. https://www.
corteconstitucional.gov.co/relatoria/2024/T-323-24.htm.
Colombia Corte Constitucional. “Sentencia T-067 de 26 de febrero de 2025”.
Comisión Europea, Commission Staff Working Document Impact Assessment. Bruselas:
Comisión Europea, 2021.
_____. Grupo independiente de expertos de alto nivel sobre inteligencia artificial, Directrices
Éticas para una IA fiable. Bruselas: Comisión Europea, 2018.
_____. Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia
y la confianza. Bruselas: Comisión Europea, 2020.
Corcoy Bidasolo, Mirentxu. “Problemática de la persecución penal de los denominados delitos
informáticos: particular referencia a la participación criminal y al ámbito espacio
temporal de comisión de los hechos”. Eguzkilore, No. 21 (diciembre 2007): 7–32.
https://www.ehu.eus/es/web/ivac/cuaderno-eguzkilore-21.
Ezeani, Gabriella, Ansgar Koene, Richa Kumar, Nicole Santiago y David Wright. Una encuesta
sobre el riesgo de la inteligencia artificial evaluación metodologías. La situación mundial
y las principales prácticas identificadas. Trilateral Research, 2021.
Floridi, Luciano y Josh Cowls. “A Unified Framework of Five Principles for AI in Society”.
Harvard Data Science Review Issue 1.1 (2019): s/p. doi:10.1162/99608f92.8cd550d1.
Floridi, Luciano, Matthias Holweg, Mariarosaria Taddeo, Javier Amaya, Jakob Mökander y
Yuni Wen, “capAI, un procedimiento para realizar evaluación de la conformidad de
los sistemas de IA en consonancia con la Ley de Inteligencia Artificial de la UE”.
Reino Unido: Universidad de Oxford, 2022. https://papers.ssrn.com/sol3/papers.
cfm?abstract_id=4064091.
Genser, Jared, Stephen Damianos y Rafael Yuste, International Human Rights Protection
Gaps in the Age of Neurotechnology. Neurorights Foundation, 2022. https://static1.
squarespace.com/static/60e5c0c4c4f37276f4d458cf/t/6275130256dd5e2e11d4bd1b/.
_____. Safeguarding Brain Data: Assessing the Privacy Practices of Consumer Neurotechnology
Companies. Neurorights Foundation, 2024. https://www.perseus-strategies.com/
wp-content/uploads/2024/04/FINAL_Consumer_Neurotechnology_Report_
Neurorights_Foundation_April-.
Martínez Garay, Lucía. “Peligrosidad, algoritmos y due process: el caso State v Loomis”. UNED.
Revista de Derecho Penal y Criminología, No. 20 (2018): 485-502. https://hdl.handle.
net/10550/72730.
Mathiesen, Kay. “The human right to internet access: a philosophical defense”. International
Review of Information Ethics, Vol. 18 (2012): 9-21. doi: 10.29173/irie299.
Misuraca, Gialuca y Tanya Álvarez, Algoritmos de gobierno: peligros y poderes de la IA en el
sector público. Barcelona: Sociedad del futuro digital, 2021.
Navas Navarro, Susana. “Derecho e inteligencia artificial desde el diseño. Aproximaciones”.
En Inteligencia Artificial, Tecnología Derecho, directora Susana Navas Navarro, 23-72.
Valencia: Tirant lo Blanch, 2017.
Oliver, Nuria. “Governance in the Era of Data-driven Decision-making Algorithms”. En
Women Shaping Global Economic Governance. (London: CEPR Press, s/n (2019): 171
https://nuriaoliver.com/papers/Oliver_FATEN.pdf.
______. Inteligencia Artificial: Ficción, Realidad y ...Sueños. Madrid: Real Academia de
Ingeniería, 2018.
OCDE, Recommendation of the Council on Artificial Intelligence, 2024. 5-9.
PE, Resolución del Parlamento Europeo. Aspectos éticos de la inteligencia artificial, la robótica
y las tecnologías conexas. 20 de octubre de 2020.
Ponce Solé, Juli. “Inteligencia artificial, Derecho administrativo y reserva de humanidad:
algoritmos y procedimiento administrativo debido tecnológico”. Iustel, No. 50 (enero,
: s/p. https://laadministracionaldia.inap.es/noticia.asp?id=1509505.
Sánchez Vásquez, Carolina. “El derecho al control humano: Una respuesta jurídica a la
inteligencia artificial”. Revista chilena de Derecho y tecnología, Vol. 10 No. 2 (2021): 211
doi: 10.5354/0719-2584.2021.58745.
Tasioulas, John. “Artificial Intelligence, Humanistic Ethics”. Daedalus, Spring, Vol. 151, No. 2
(2022): 232-43. https://www.jstor.org/stable/10.2307/48662038.
Tribunal Europeo de Derechos Humanos. “Sentencia asunto C 203/22, 27 de febrero de
”.
https://curia.europa.eu/juris/documentument.?text=&docid=295841&page
Index=0&doclang=EN&mode=req&dir=&occ=first&part=1&cid=15673976.
UE Parlamento. Reglamento de Inteligencia Artificial. 12 de julio de 2024. (UE) 2024/1689.
UNESCO. Recomendación sobre la ética de la inteligencia artificial. París: UNESCO, 2022.
Valdés, Erick. Bioderecho. Epistemologías y aplicaciones en tiempos de pandemia y riesgo
existencial. Valencia: Tirant lo Blanch, 2021.
Vestri, Gabriele. “La inteligencia artificial ante el desafío de la transparencia algorítmica.
Una aproximación desde la perspectiva jurídico-administrativa”. Revista Aragonesa
de Administración Pública, No. 56 (2021): 368-98. https://dialnet.unirioja.es/servlet/
articulo?codigo=7971161.
_____.“Transparencia y justicia algorítmica en el sector público: un análisis entre el factor
humano y el aprendizaje profundo”. En Inteligencia artificial y administraciones
públicas: una triple visión en clave comparada, directores Agustí Cerrillo I Martínez,
Francesca Di Lascio, Isaac Martín Delgado y Clara I. Velasco Rico, 253-63. Madrid:
Iustel, 2024.
Vila Casado, Iván. Fundamentos del derecho constitucional contemporáneo. Bogotá:
Universidad Libre, 2021.


