Los principios del Derecho de la inteligencia artificial.
Una propuesta de hard law
DOI:
https://doi.org/10.29166/cap.v9i16.8497Palabras clave:
Principios, Inteligencia artificial, Propersona, Transparencia, BeneficenciaResumen
Mediante el uso y aplicación de inteligencia artificial (IA) se producen impactos negativos en las personas como vulneración de derechos humanos y fundamentales. En este trabajo, se proponen los principios del Derecho de la IA, como una alternativa de regulación, vinculante y obligatoria. En este sentido, se realiza un estudio teórico-doctrinario, desde su origen, su paso por la ética, los documentos de soft law y la necesidad de su positivización. Para ello, mediante el método cualitativo y la técnica de análisis documental, se pudo analizar los estudios doctrinarios e institucionales, mediante los cuales, se han venido elaborando y consolidando. El estado del arte permite verificar que existe un acuerdo doctrinal y legal en seis principios del Derecho de la IA: propersona, transparencia, beneficencia, no maleficencia, equidad y responsabilidad. No obstante, por encontrarse como lineamientos éticos e indicativos, son insuficientes para el desarrollo y uso de una IA centrada en la humanidad y la transparencia algorítmica. Como una propuesta de hard law, observando la reconfiguración del pacto social y el reconocimiento de nuevos derechos como el derecho humano a internet, los neuroderechos (privacidad e intimidad mental) y el derecho al control humano, se fundamenta la necesidad de su positivización.
Citas
Alexy, Robert. Teoría de los derechos fundamentales. Madrid: Centro de estudios constitucionales,
Barona Vilar, Silvia. Algoritmización del Derecho y de la Justicia. De la Inteligencia Artificial a
la Smart Justice. Valencia: Tirant lo Blanch, 2021.
Barrio Andrés, Moisés. “Objeto, ámbito de aplicación y sentido del reglamento europeo de
inteligencia artificial”. En El Reglamento Europeo de Inteligencia Artificial, dir. Moisés
Barrio Andrés, 21-48. Valencia: Tirant lo Blanch, 2024.
_____. Manual de Derecho Digital 3.ª ed. Valencia: Tirant lo Blanch, 2024.
Borges Blázquez, Raquel “El sesgo de la máquina en la toma de decisiones en el proceso penal”.
Ius Et Scientia, Vol. 6, No. 2 (2020): 54-71. doi: 10.12795/IETSCIENTIA.2020.
i02.05.
CE, Comité de Ministros. Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y
Derechos Humanos, Democracia y Estado de Derecho. 17 de mayo de 2024.
Centro Latinoamericano de Administración para el Desarrollo, Carta Iberoamericana de
Inteligencia Artificial en la Administración Pública, s/f. Capítulos 1.1.3. y 3.
Chile
Corte
de
Suprema.
“Sentencia
”.
Rol
-2023
de
de
agosto
https://juris.pjud.cl/busqueda/pagina_detalle_
sentencia?k=L2FadjlzYUdmbGx1UWNKWmV6ZjZ3dz09.
Colombia Corte Constitucional. “Sentencia T-323 de 02 de agosto de 2024”. https://www.
corteconstitucional.gov.co/relatoria/2024/T-323-24.htm.
Colombia Corte Constitucional. “Sentencia T-067 de 26 de febrero de 2025”.
Comisión Europea, Commission Staff Working Document Impact Assessment. Bruselas:
Comisión Europea, 2021.
_____. Grupo independiente de expertos de alto nivel sobre inteligencia artificial, Directrices
Éticas para una IA fiable. Bruselas: Comisión Europea, 2018.
_____. Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia
y la confianza. Bruselas: Comisión Europea, 2020.
Corcoy Bidasolo, Mirentxu. “Problemática de la persecución penal de los denominados delitos
informáticos: particular referencia a la participación criminal y al ámbito espacio
temporal de comisión de los hechos”. Eguzkilore, No. 21 (diciembre 2007): 7–32.
https://www.ehu.eus/es/web/ivac/cuaderno-eguzkilore-21.
Ezeani, Gabriella, Ansgar Koene, Richa Kumar, Nicole Santiago y David Wright. Una encuesta
sobre el riesgo de la inteligencia artificial evaluación metodologías. La situación mundial
y las principales prácticas identificadas. Trilateral Research, 2021.
Floridi, Luciano y Josh Cowls. “A Unified Framework of Five Principles for AI in Society”.
Harvard Data Science Review Issue 1.1 (2019): s/p. doi:10.1162/99608f92.8cd550d1.
Floridi, Luciano, Matthias Holweg, Mariarosaria Taddeo, Javier Amaya, Jakob Mökander y
Yuni Wen, “capAI, un procedimiento para realizar evaluación de la conformidad de
los sistemas de IA en consonancia con la Ley de Inteligencia Artificial de la UE”.
Reino Unido: Universidad de Oxford, 2022. https://papers.ssrn.com/sol3/papers.
cfm?abstract_id=4064091.
Genser, Jared, Stephen Damianos y Rafael Yuste, International Human Rights Protection
Gaps in the Age of Neurotechnology. Neurorights Foundation, 2022. https://static1.
squarespace.com/static/60e5c0c4c4f37276f4d458cf/t/6275130256dd5e2e11d4bd1b/.
_____. Safeguarding Brain Data: Assessing the Privacy Practices of Consumer Neurotechnology
Companies. Neurorights Foundation, 2024. https://www.perseus-strategies.com/
wp-content/uploads/2024/04/FINAL_Consumer_Neurotechnology_Report_
Neurorights_Foundation_April-.
Martínez Garay, Lucía. “Peligrosidad, algoritmos y due process: el caso State v Loomis”. UNED.
Revista de Derecho Penal y Criminología, No. 20 (2018): 485-502. https://hdl.handle.
net/10550/72730.
Mathiesen, Kay. “The human right to internet access: a philosophical defense”. International
Review of Information Ethics, Vol. 18 (2012): 9-21. doi: 10.29173/irie299.
Misuraca, Gialuca y Tanya Álvarez, Algoritmos de gobierno: peligros y poderes de la IA en el
sector público. Barcelona: Sociedad del futuro digital, 2021.
Navas Navarro, Susana. “Derecho e inteligencia artificial desde el diseño. Aproximaciones”.
En Inteligencia Artificial, Tecnología Derecho, directora Susana Navas Navarro, 23-72.
Valencia: Tirant lo Blanch, 2017.
Oliver, Nuria. “Governance in the Era of Data-driven Decision-making Algorithms”. En
Women Shaping Global Economic Governance. (London: CEPR Press, s/n (2019): 171
https://nuriaoliver.com/papers/Oliver_FATEN.pdf.
______. Inteligencia Artificial: Ficción, Realidad y ...Sueños. Madrid: Real Academia de
Ingeniería, 2018.
OCDE, Recommendation of the Council on Artificial Intelligence, 2024. 5-9.
PE, Resolución del Parlamento Europeo. Aspectos éticos de la inteligencia artificial, la robótica
y las tecnologías conexas. 20 de octubre de 2020.
Ponce Solé, Juli. “Inteligencia artificial, Derecho administrativo y reserva de humanidad:
algoritmos y procedimiento administrativo debido tecnológico”. Iustel, No. 50 (enero,
: s/p. https://laadministracionaldia.inap.es/noticia.asp?id=1509505.
Sánchez Vásquez, Carolina. “El derecho al control humano: Una respuesta jurídica a la
inteligencia artificial”. Revista chilena de Derecho y tecnología, Vol. 10 No. 2 (2021): 211
doi: 10.5354/0719-2584.2021.58745.
Tasioulas, John. “Artificial Intelligence, Humanistic Ethics”. Daedalus, Spring, Vol. 151, No. 2
(2022): 232-43. https://www.jstor.org/stable/10.2307/48662038.
Tribunal Europeo de Derechos Humanos. “Sentencia asunto C 203/22, 27 de febrero de
”.
https://curia.europa.eu/juris/documentument.?text=&docid=295841&page
Index=0&doclang=EN&mode=req&dir=&occ=first&part=1&cid=15673976.
UE Parlamento. Reglamento de Inteligencia Artificial. 12 de julio de 2024. (UE) 2024/1689.
UNESCO. Recomendación sobre la ética de la inteligencia artificial. París: UNESCO, 2022.
Valdés, Erick. Bioderecho. Epistemologías y aplicaciones en tiempos de pandemia y riesgo
existencial. Valencia: Tirant lo Blanch, 2021.
Vestri, Gabriele. “La inteligencia artificial ante el desafío de la transparencia algorítmica.
Una aproximación desde la perspectiva jurídico-administrativa”. Revista Aragonesa
de Administración Pública, No. 56 (2021): 368-98. https://dialnet.unirioja.es/servlet/
articulo?codigo=7971161.
_____.“Transparencia y justicia algorítmica en el sector público: un análisis entre el factor
humano y el aprendizaje profundo”. En Inteligencia artificial y administraciones
públicas: una triple visión en clave comparada, directores Agustí Cerrillo I Martínez,
Francesca Di Lascio, Isaac Martín Delgado y Clara I. Velasco Rico, 253-63. Madrid:
Iustel, 2024.
Vila Casado, Iván. Fundamentos del derecho constitucional contemporáneo. Bogotá:
Universidad Libre, 2021.


