A necessidade de uma estrutura ética e legal obrigatória para inteligência artificial e algoritmos na Colômbia
Magíster y especialista en Derecho Administrativo, Universidad del Cauca. Doctorando en Estudios Avanzados en Derechos Humanos, Universidad Carlos iii de Madrid (España). Abogado, Universidad Cooperativa de Colombia. Docente-investigador de la Universidad Autónoma del Cauca, pertenece al grupo de investigación Estudios Jurídicos, Políticos y Sociales (giejpso).
email: william.ulrich.a@uniautonoma.edu.co
O avanço da tecnologia no que diz respeito à inteligência artificial (ia) levou o meio acadêmico a questionar não apenas até onde ela pode ir, mas também quais são os possíveis efeitos nocivos que ela pode trazer para a humanidade, razão pela qual, na ausência de regulamentação legal sobre o assunto, a Presidência da República publicou o “Marco ético para a inteligência artificial na Colômbia” em resposta à dinâmica global da IA.
Objetivo: Estabelecer a necessidade de implementação de um marco ético e jurídico obrigatório para a ia e os algoritmos na Colômbia.
Metodologia: É realizada uma análise dos diferentes casos internacionais em que foram discutidos os problemas éticos e jurídicos da ia e dos algoritmos, e é proposta a necessidade de mudanças em nível legislativo para a Colômbia.
Resultados: Um mecanismo necessário para a regulamentação é recorrer ao Congresso da República para legislar sobre os aspectos éticos e de responsabilidade da ia e dos algoritmos.
Conclusões: A importância e a necessidade de regulamentar aspectos como a ética e a responsabilidade da ia e dos algoritmos devem incentivar o Congresso a regulamentar a questão. Da mesma forma, nas mãos das altas corporações judiciais da Colômbia está a responsabilidade de criar regras que permitam a compreensão e o gerenciamento dos conflitos gerados pela ia e pelos algoritmos.
Alejandro Zornoza Somolinos. Vehículos automatizados y derecho. La influencia de la conducción automatizada en la responsabilidad civil automovilística y en el seguro obligatorio de automóviles. Tesis de doctorado, Universidad Carlos III de Madrid. 2020. Disponible en: https://cutt.ly/f4rTGhC
Andrés Boix. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la adopción de decisiones. REVISTA DE DERECHO PÚBLICO 1. Pág. 223-269. Disponible en: https://doi.org/10.37417/RPD/vol_1_2020_33
Armando Guio Español, Elena Tamayo Uribe, Pablo Gómez Ayerbe y María Paula Mujica. MARCO ÉTICO PARA LA INTELIGENCIA ARTIFICIAL EN COLOMBIA. Departamento Administrativo de la Presidencia. (2020). Disponible en: https://cutt.ly/y4rSRaP
Asamblea Nacional Constituyente. CONSTITUCIÓN POLÍTICA DE COLOMBIA. Editorial Legis. (1991).
Chayakrit Krittanawong, HongJu Zhang, Zhen Wang, Mehmet Aydar y Takeshi Kitai. Artificial intelligence in precision cardiovascular medicine. JOURNAL OF THE AMERICAN COLLEGE OF CARDIOLOGY 69. 2017. Pág. 2657-2664. Disponible en: https://doi.org/10.1016/j.jacc.2017.03.571
Fundación Civio. La justicia impide la apertura del código fuente de la aplicación que concede el bono social [en línea]. Febrero 10 de 2022. Disponible en: https://cutt.ly/P4r2d97
Comisión Europea. DIRECTRICES ÉTICAS PARA UNA IA FIABLE. Oficina de Publicaciones de la Unión Europea. (2016). Disponible en: https://cutt.ly/I4rXGNF
Comisión Europea. Resolución del Parlamento Europeo de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas (2020/2012(INL)). Octubre 20 de 2020.
Comunidad Andina de Naciones. Decisión 351 de 1993. Régimen Común sobre Derecho de Autor y Derechos Conexos. Diciembre 17 de 1993. Disponible en: https://cutt.ly/o4rNfXm
Congreso de la República de Colombia. Ley 57 de 1887. Código Civil Colombiano. Abril 15 de 1887.
Congreso de la República de Colombia. Ley 472 de 1998. Por la cual se desarrolla el artículo 88 de la Constitución Política de Colombia en relación con el ejercicio de las acciones populares y de grupo y se dictan otras disposiciones. Agosto 5 de 1998. Diario Oficial 43.357.
Congreso de la República de Colombia. Ley 565 de 2000. Por medio de la cual se aprueba el “Tratado de la OMPI –Organización Mundial de la Propiedad Intelectual– sobre Derechos de Autor (WCT)”, adoptado en Ginebra el veinte (20) de diciembre de mil novecientos noventa y seis (1996). Febrero 2 de 2000. Diario Oficial 43.883.
Congreso de la República de Colombia. Ley 1564 de 2012. Por medio de la cual se expide el Código General del Proceso y se dictan otras disposiciones. Julio 12 de 2012. Diario Oficial 48.489.
Corte de La Haya. Sentencia C-09-550982-HA ZA 18-388. Marzo 6 de 2020. Disponible en: https://cutt.ly/N4r9ucd
CSU Global. How does AI actually work? [en línea]. Agosto 9 de 2021. Disponible en: https://cutt.ly/64rAD1K
Diego López Medina. EL DERECHO DE LOS JUECES. 2.a ed. Legis Editores; Ediciones Uniandes. (2015).
Future of Life Institute. Asilomar Conference on Beneficial AI [en línea]. Agosto 11 de 2017. Disponible en: https://cutt.ly/A4rCYAx
Jeff Erickson. ALGORITHMS. Jeff Erickson. (2019). Disponible en: https://cutt.ly/64rPZfG
Jeff Larson, Surya Mattu, Lauren Kirchner y Julia Angwin. How we analyzed the COMPAS recidivism algorithm. PROPUBLICA. Mayo 23 de 2016. Disponible en: https://cutt.ly/C4rBrxV
Joanna Redden. The harm that data do. Paying attention to how algorithmic systems impact marginalized people worldwide is key to a just and equitable future. SCIENTIFIC AMERICAN MAGAZINE. Noviembre 1 de 2018. Disponible en: https://cutt.ly/N4rBNf6
John David Montilla. Colombia, destacada por beneficios tributarios para la innovación. Sala de Prensa Instituto Nacional de Contadores Públicos (INPC). Noviembre 8 de 2021. Disponible en: https://cutt.ly/v4tHaEV
Juan Carlos Henao Pérez. EL DAÑO: ANÁLISIS COMPARATIVO DE LA RESPONSABILIDAD EXTRACONTRACTUAL DEL ESTADO EN DERECHO COLOMBIANO Y FRANCÉS. Editorial Universidad Externado. (2007).
Koen Vervloesem. How Dutch activists got an invasive fraud detection algorithm banned. ALGORITHM WATCH. Abril 6 de 2020. Disponible en: https://cutt.ly/74r9UPc
Luke Henriques-Gomes. ‘Not correct’ that robodebt caused suicides, former head of Human Services says. THE GUARDIAN. Julio 31 de 2020. Disponible en: https://cutt.ly/04r2GRF
Sergio Estrada Vélez. Dos ejercicios de ponderación a propósito del matrimonio y la adopción en parejas del mismo sexo. OPINIÓN JURÍDICA 19. Enero-Junio 2011. Pág. 21-40. Disponible en: https://cutt.ly/u4rN7eK
Real Decreto 897/2017, de 6 de octubre, por el que se regula la figura del consumidor vulnerable, el bono social y otras medidas de protección para los consumidores domésticos de energía eléctrica. Boletín Oficial del Estado. Madrid, 7 de octubre de 2017. Núm. 242. Pág. 97743-97775.
The Associated Press (2022) Nearly 400 car crashes in 11 months involved automated tech, companies tell regulators. NPR. Junio 15 de 2022. Disponible en: https://cutt.ly/T4rIQwQ
Tom Beauchamp. PRINCIPLES OF BIOMEDICAL ETHICS. 4.a ed. Oxford University Press. (1994).
Tomás Fernández y Elena Tamaro. Biografía de Al-Khwarizmi. BIOGRAFÍAS Y VIDAS [en línea]. 2004. Disponible en: https://cutt.ly/I4rOHZ6
Victor Shoup. A COMPUTATIONAL INTRODUCTION TO NUMBER THEORY AND ALGEBRA. Cambridge University Press. (2009).
Viviana Ponce de León Solís. La noción de carga pública y su función en la jurisprudencia del Tribunal Constitucional Chileno. REVISTA CHILENA DE DERECHO 3. Diciembre 2015. Pág. 843-872. Disponible en: https://cutt.ly/J4r0s3X
Wilson Ruiz. RESPONSABILIDAD DEL ESTADO Y SUS REGÍMENES. Ecoe Ediciones. (2010).
Wolfhart Totschnig. Fully autonomous AI. SCIENCE AND ENGINEERING ETHICS 5. Julio 2020. Pág. 2473-2485. Disponible en: https://doi.org/10.1007/s11948-020-00243-z
Copyright (c) 2023 DIXI

Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
O autor deve declarar que seu trabalho é original e inédito e que não foi enviado à avaliação simultânea para sua publicação por outro meio. Além disso, deve garantir que não tem impedimentos de nenhuma natureza para a concessão dos direitos previstos no contrato.
O autor se compromete a esperar o parecer da revista DIXI antes de considerar sua apresentação a outro meio; caso a resposta de publicação seja positiva, compromete-se em responder por qualquer ação de reivindicação, plágio ou outro tipo de reclamação que possa ocorrer por parte de terceiros.
Ainda, deve declarar que, como autor ou coautor, está completamente de acordo com os conteúdos apresentados no trabalho e ceder todos os direitos patrimoniais, isto é, sua reprodução, comunicação pública, distribuição, divulgação, transformação e demais formas de utilização da obra por qualquer meio ou procedimento, pelo termo de sua proteção legal e em todos os países do mundo, ao Fundo Editorial da Universidad Cooperativa de Colombia, de maneira gratuita e sem compensação monetária.