Los principios del Derecho de la inteligencia artificial.

Una propuesta de hard law

Authors

DOI:

https://doi.org/10.29166/cap.v9i16.8497

Keywords:

Principles, Artificial intelligence, Properson, Transparency, Beneficence

Abstract

The use and application of artificial intelligence (AI) produces negative impacts on individuals, such as the violation of human and fundamental rights. In this paper, the principles of AI Law are proposed as an alternative for binding and obligatory regulation. In this sense, a theoretical-doctrinal study is carried out, from its origin, its passage through ethics, soft law documents, and the need for its positivization. To this end, using the qualitative method and the document analysis technique, doctrinal and institutional studies were analyzed, through which they have been developed and consolidated. The state of the art verifies that there is a doctrinal and legal agreement on six principles of AI Law: pro-person, transparency, beneficence, non-maleficence, equity, and responsibility. However, because they are ethical and indicative guidelines, they are insufficient for the development and use of human-centered AI and algorithmic transparency. As a hard law proposal, observing the reconfiguration of the social pact and the recognition of new rights such as the human right to the internet, neuro-rights (privacy and mental intimacy), and the right to human control, the need for its positivization is substantiated.

Author Biography

Saulo Jaramillo Romero

Abogado, master en Derecho penal y master en Derecho de la economía digital, investigador predoctoral en Universidad de Salamanca. Líneas de investigación: corrupción, lavado de activos, Derecho de la inteligencia artificial, ciber delitos y delitos co metidos con sistemas de IA.

References

Alexy, Robert. Teoría de los derechos fundamentales. Madrid: Centro de estudios constitucionales,

Barona Vilar, Silvia. Algoritmización del Derecho y de la Justicia. De la Inteligencia Artificial a

la Smart Justice. Valencia: Tirant lo Blanch, 2021.

Barrio Andrés, Moisés. “Objeto, ámbito de aplicación y sentido del reglamento europeo de

inteligencia artificial”. En El Reglamento Europeo de Inteligencia Artificial, dir. Moisés

Barrio Andrés, 21-48. Valencia: Tirant lo Blanch, 2024.

_____. Manual de Derecho Digital 3.ª ed. Valencia: Tirant lo Blanch, 2024.

Borges Blázquez, Raquel “El sesgo de la máquina en la toma de decisiones en el proceso penal”.

Ius Et Scientia, Vol. 6, No. 2 (2020): 54-71. doi: 10.12795/IETSCIENTIA.2020.

i02.05.

CE, Comité de Ministros. Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y

Derechos Humanos, Democracia y Estado de Derecho. 17 de mayo de 2024.

Centro Latinoamericano de Administración para el Desarrollo, Carta Iberoamericana de

Inteligencia Artificial en la Administración Pública, s/f. Capítulos 1.1.3. y 3.

Chile

Corte

de

Suprema.

“Sentencia

”.

Rol

-2023

de

de

agosto

https://juris.pjud.cl/busqueda/pagina_detalle_

sentencia?k=L2FadjlzYUdmbGx1UWNKWmV6ZjZ3dz09.

Colombia Corte Constitucional. “Sentencia T-323 de 02 de agosto de 2024”. https://www.

corteconstitucional.gov.co/relatoria/2024/T-323-24.htm.

Colombia Corte Constitucional. “Sentencia T-067 de 26 de febrero de 2025”.

Comisión Europea, Commission Staff Working Document Impact Assessment. Bruselas:

Comisión Europea, 2021.

_____. Grupo independiente de expertos de alto nivel sobre inteligencia artificial, Directrices

Éticas para una IA fiable. Bruselas: Comisión Europea, 2018.

_____. Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia

y la confianza. Bruselas: Comisión Europea, 2020.

Corcoy Bidasolo, Mirentxu. “Problemática de la persecución penal de los denominados delitos

informáticos: particular referencia a la participación criminal y al ámbito espacio

temporal de comisión de los hechos”. Eguzkilore, No. 21 (diciembre 2007): 7–32.

https://www.ehu.eus/es/web/ivac/cuaderno-eguzkilore-21.

Ezeani, Gabriella, Ansgar Koene, Richa Kumar, Nicole Santiago y David Wright. Una encuesta

sobre el riesgo de la inteligencia artificial evaluación metodologías. La situación mundial

y las principales prácticas identificadas. Trilateral Research, 2021.

Floridi, Luciano y Josh Cowls. “A Unified Framework of Five Principles for AI in Society”.

Harvard Data Science Review Issue 1.1 (2019): s/p. doi:10.1162/99608f92.8cd550d1.

Floridi, Luciano, Matthias Holweg, Mariarosaria Taddeo, Javier Amaya, Jakob Mökander y

Yuni Wen, “capAI, un procedimiento para realizar evaluación de la conformidad de

los sistemas de IA en consonancia con la Ley de Inteligencia Artificial de la UE”.

Reino Unido: Universidad de Oxford, 2022. https://papers.ssrn.com/sol3/papers.

cfm?abstract_id=4064091.

Genser, Jared, Stephen Damianos y Rafael Yuste, International Human Rights Protection

Gaps in the Age of Neurotechnology. Neurorights Foundation, 2022. https://static1.

squarespace.com/static/60e5c0c4c4f37276f4d458cf/t/6275130256dd5e2e11d4bd1b/.

_____. Safeguarding Brain Data: Assessing the Privacy Practices of Consumer Neurotechnology

Companies. Neurorights Foundation, 2024. https://www.perseus-strategies.com/

wp-content/uploads/2024/04/FINAL_Consumer_Neurotechnology_Report_

Neurorights_Foundation_April-.

Martínez Garay, Lucía. “Peligrosidad, algoritmos y due process: el caso State v Loomis”. UNED.

Revista de Derecho Penal y Criminología, No. 20 (2018): 485-502. https://hdl.handle.

net/10550/72730.

Mathiesen, Kay. “The human right to internet access: a philosophical defense”. International

Review of Information Ethics, Vol. 18 (2012): 9-21. doi: 10.29173/irie299.

Misuraca, Gialuca y Tanya Álvarez, Algoritmos de gobierno: peligros y poderes de la IA en el

sector público. Barcelona: Sociedad del futuro digital, 2021.

Navas Navarro, Susana. “Derecho e inteligencia artificial desde el diseño. Aproximaciones”.

En Inteligencia Artificial, Tecnología Derecho, directora Susana Navas Navarro, 23-72.

Valencia: Tirant lo Blanch, 2017.

Oliver, Nuria. “Governance in the Era of Data-driven Decision-making Algorithms”. En

Women Shaping Global Economic Governance. (London: CEPR Press, s/n (2019): 171

https://nuriaoliver.com/papers/Oliver_FATEN.pdf.

______. Inteligencia Artificial: Ficción, Realidad y ...Sueños. Madrid: Real Academia de

Ingeniería, 2018.

OCDE, Recommendation of the Council on Artificial Intelligence, 2024. 5-9.

PE, Resolución del Parlamento Europeo. Aspectos éticos de la inteligencia artificial, la robótica

y las tecnologías conexas. 20 de octubre de 2020.

Ponce Solé, Juli. “Inteligencia artificial, Derecho administrativo y reserva de humanidad:

algoritmos y procedimiento administrativo debido tecnológico”. Iustel, No. 50 (enero,

: s/p. https://laadministracionaldia.inap.es/noticia.asp?id=1509505.

Sánchez Vásquez, Carolina. “El derecho al control humano: Una respuesta jurídica a la

inteligencia artificial”. Revista chilena de Derecho y tecnología, Vol. 10 No. 2 (2021): 211

doi: 10.5354/0719-2584.2021.58745.

Tasioulas, John. “Artificial Intelligence, Humanistic Ethics”. Daedalus, Spring, Vol. 151, No. 2

(2022): 232-43. https://www.jstor.org/stable/10.2307/48662038.

Tribunal Europeo de Derechos Humanos. “Sentencia asunto C 203/22, 27 de febrero de

”.

https://curia.europa.eu/juris/documentument.?text=&docid=295841&page

Index=0&doclang=EN&mode=req&dir=&occ=first&part=1&cid=15673976.

UE Parlamento. Reglamento de Inteligencia Artificial. 12 de julio de 2024. (UE) 2024/1689.

UNESCO. Recomendación sobre la ética de la inteligencia artificial. París: UNESCO, 2022.

Valdés, Erick. Bioderecho. Epistemologías y aplicaciones en tiempos de pandemia y riesgo

existencial. Valencia: Tirant lo Blanch, 2021.

Vestri, Gabriele. “La inteligencia artificial ante el desafío de la transparencia algorítmica.

Una aproximación desde la perspectiva jurídico-administrativa”. Revista Aragonesa

de Administración Pública, No. 56 (2021): 368-98. https://dialnet.unirioja.es/servlet/

articulo?codigo=7971161.

_____.“Transparencia y justicia algorítmica en el sector público: un análisis entre el factor

humano y el aprendizaje profundo”. En Inteligencia artificial y administraciones

públicas: una triple visión en clave comparada, directores Agustí Cerrillo I Martínez,

Francesca Di Lascio, Isaac Martín Delgado y Clara I. Velasco Rico, 253-63. Madrid:

Iustel, 2024.

Vila Casado, Iván. Fundamentos del derecho constitucional contemporáneo. Bogotá:

Universidad Libre, 2021.

Published

2025-06-01