Los principios del Derecho de la inteligencia artificial.

Una propuesta de hard law

Autores/as

DOI:

https://doi.org/10.29166/cap.v9i16.8497

Palabras clave:

Principios, Inteligencia artificial, Propersona, Transparencia, Beneficencia

Resumen

Mediante el uso y aplicación de inteligencia artificial (IA) se producen impactos negativos en las personas como vulneración de derechos humanos y fundamentales. En este trabajo, se proponen los principios del Derecho de la IA, como una alternativa de regulación, vinculante y obligatoria. En este sentido, se realiza un estudio teórico-doctrinario, desde su origen, su paso por la ética, los documentos de soft law y la necesidad de su positivización. Para ello, mediante el método cualitativo y la técnica de análisis documental, se pudo analizar los estudios doctrinarios e institucionales, mediante los cuales, se han venido elaborando y consolidando. El estado del arte permite verificar que existe un acuerdo doctrinal y legal en seis principios del Derecho de la IA: propersona, transparencia, beneficencia, no maleficencia, equidad y responsabilidad. No obstante, por encontrarse como lineamientos éticos e indicativos, son insuficientes para el desarrollo y uso de una IA centrada en la humanidad y la transparencia algorítmica. Como una propuesta de hard law, observando la reconfiguración del pacto social y el reconocimiento de nuevos derechos como el derecho humano a internet, los neuroderechos (privacidad e intimidad mental) y el derecho al control humano, se fundamenta la necesidad de su positivización.

Biografía del autor/a

Saulo Jaramillo Romero

Abogado, master en Derecho penal y master en Derecho de la economía digital, investigador predoctoral en Universidad de Salamanca. Líneas de investigación: corrupción, lavado de activos, Derecho de la inteligencia artificial, ciber delitos y delitos co metidos con sistemas de IA.

Citas

Alexy, Robert. Teoría de los derechos fundamentales. Madrid: Centro de estudios constitucionales,

Barona Vilar, Silvia. Algoritmización del Derecho y de la Justicia. De la Inteligencia Artificial a

la Smart Justice. Valencia: Tirant lo Blanch, 2021.

Barrio Andrés, Moisés. “Objeto, ámbito de aplicación y sentido del reglamento europeo de

inteligencia artificial”. En El Reglamento Europeo de Inteligencia Artificial, dir. Moisés

Barrio Andrés, 21-48. Valencia: Tirant lo Blanch, 2024.

_____. Manual de Derecho Digital 3.ª ed. Valencia: Tirant lo Blanch, 2024.

Borges Blázquez, Raquel “El sesgo de la máquina en la toma de decisiones en el proceso penal”.

Ius Et Scientia, Vol. 6, No. 2 (2020): 54-71. doi: 10.12795/IETSCIENTIA.2020.

i02.05.

CE, Comité de Ministros. Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y

Derechos Humanos, Democracia y Estado de Derecho. 17 de mayo de 2024.

Centro Latinoamericano de Administración para el Desarrollo, Carta Iberoamericana de

Inteligencia Artificial en la Administración Pública, s/f. Capítulos 1.1.3. y 3.

Chile

Corte

de

Suprema.

“Sentencia

”.

Rol

-2023

de

de

agosto

https://juris.pjud.cl/busqueda/pagina_detalle_

sentencia?k=L2FadjlzYUdmbGx1UWNKWmV6ZjZ3dz09.

Colombia Corte Constitucional. “Sentencia T-323 de 02 de agosto de 2024”. https://www.

corteconstitucional.gov.co/relatoria/2024/T-323-24.htm.

Colombia Corte Constitucional. “Sentencia T-067 de 26 de febrero de 2025”.

Comisión Europea, Commission Staff Working Document Impact Assessment. Bruselas:

Comisión Europea, 2021.

_____. Grupo independiente de expertos de alto nivel sobre inteligencia artificial, Directrices

Éticas para una IA fiable. Bruselas: Comisión Europea, 2018.

_____. Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia

y la confianza. Bruselas: Comisión Europea, 2020.

Corcoy Bidasolo, Mirentxu. “Problemática de la persecución penal de los denominados delitos

informáticos: particular referencia a la participación criminal y al ámbito espacio

temporal de comisión de los hechos”. Eguzkilore, No. 21 (diciembre 2007): 7–32.

https://www.ehu.eus/es/web/ivac/cuaderno-eguzkilore-21.

Ezeani, Gabriella, Ansgar Koene, Richa Kumar, Nicole Santiago y David Wright. Una encuesta

sobre el riesgo de la inteligencia artificial evaluación metodologías. La situación mundial

y las principales prácticas identificadas. Trilateral Research, 2021.

Floridi, Luciano y Josh Cowls. “A Unified Framework of Five Principles for AI in Society”.

Harvard Data Science Review Issue 1.1 (2019): s/p. doi:10.1162/99608f92.8cd550d1.

Floridi, Luciano, Matthias Holweg, Mariarosaria Taddeo, Javier Amaya, Jakob Mökander y

Yuni Wen, “capAI, un procedimiento para realizar evaluación de la conformidad de

los sistemas de IA en consonancia con la Ley de Inteligencia Artificial de la UE”.

Reino Unido: Universidad de Oxford, 2022. https://papers.ssrn.com/sol3/papers.

cfm?abstract_id=4064091.

Genser, Jared, Stephen Damianos y Rafael Yuste, International Human Rights Protection

Gaps in the Age of Neurotechnology. Neurorights Foundation, 2022. https://static1.

squarespace.com/static/60e5c0c4c4f37276f4d458cf/t/6275130256dd5e2e11d4bd1b/.

_____. Safeguarding Brain Data: Assessing the Privacy Practices of Consumer Neurotechnology

Companies. Neurorights Foundation, 2024. https://www.perseus-strategies.com/

wp-content/uploads/2024/04/FINAL_Consumer_Neurotechnology_Report_

Neurorights_Foundation_April-.

Martínez Garay, Lucía. “Peligrosidad, algoritmos y due process: el caso State v Loomis”. UNED.

Revista de Derecho Penal y Criminología, No. 20 (2018): 485-502. https://hdl.handle.

net/10550/72730.

Mathiesen, Kay. “The human right to internet access: a philosophical defense”. International

Review of Information Ethics, Vol. 18 (2012): 9-21. doi: 10.29173/irie299.

Misuraca, Gialuca y Tanya Álvarez, Algoritmos de gobierno: peligros y poderes de la IA en el

sector público. Barcelona: Sociedad del futuro digital, 2021.

Navas Navarro, Susana. “Derecho e inteligencia artificial desde el diseño. Aproximaciones”.

En Inteligencia Artificial, Tecnología Derecho, directora Susana Navas Navarro, 23-72.

Valencia: Tirant lo Blanch, 2017.

Oliver, Nuria. “Governance in the Era of Data-driven Decision-making Algorithms”. En

Women Shaping Global Economic Governance. (London: CEPR Press, s/n (2019): 171

https://nuriaoliver.com/papers/Oliver_FATEN.pdf.

______. Inteligencia Artificial: Ficción, Realidad y ...Sueños. Madrid: Real Academia de

Ingeniería, 2018.

OCDE, Recommendation of the Council on Artificial Intelligence, 2024. 5-9.

PE, Resolución del Parlamento Europeo. Aspectos éticos de la inteligencia artificial, la robótica

y las tecnologías conexas. 20 de octubre de 2020.

Ponce Solé, Juli. “Inteligencia artificial, Derecho administrativo y reserva de humanidad:

algoritmos y procedimiento administrativo debido tecnológico”. Iustel, No. 50 (enero,

: s/p. https://laadministracionaldia.inap.es/noticia.asp?id=1509505.

Sánchez Vásquez, Carolina. “El derecho al control humano: Una respuesta jurídica a la

inteligencia artificial”. Revista chilena de Derecho y tecnología, Vol. 10 No. 2 (2021): 211

doi: 10.5354/0719-2584.2021.58745.

Tasioulas, John. “Artificial Intelligence, Humanistic Ethics”. Daedalus, Spring, Vol. 151, No. 2

(2022): 232-43. https://www.jstor.org/stable/10.2307/48662038.

Tribunal Europeo de Derechos Humanos. “Sentencia asunto C 203/22, 27 de febrero de

”.

https://curia.europa.eu/juris/documentument.?text=&docid=295841&page

Index=0&doclang=EN&mode=req&dir=&occ=first&part=1&cid=15673976.

UE Parlamento. Reglamento de Inteligencia Artificial. 12 de julio de 2024. (UE) 2024/1689.

UNESCO. Recomendación sobre la ética de la inteligencia artificial. París: UNESCO, 2022.

Valdés, Erick. Bioderecho. Epistemologías y aplicaciones en tiempos de pandemia y riesgo

existencial. Valencia: Tirant lo Blanch, 2021.

Vestri, Gabriele. “La inteligencia artificial ante el desafío de la transparencia algorítmica.

Una aproximación desde la perspectiva jurídico-administrativa”. Revista Aragonesa

de Administración Pública, No. 56 (2021): 368-98. https://dialnet.unirioja.es/servlet/

articulo?codigo=7971161.

_____.“Transparencia y justicia algorítmica en el sector público: un análisis entre el factor

humano y el aprendizaje profundo”. En Inteligencia artificial y administraciones

públicas: una triple visión en clave comparada, directores Agustí Cerrillo I Martínez,

Francesca Di Lascio, Isaac Martín Delgado y Clara I. Velasco Rico, 253-63. Madrid:

Iustel, 2024.

Vila Casado, Iván. Fundamentos del derecho constitucional contemporáneo. Bogotá:

Universidad Libre, 2021.

Publicado

2025-06-01