Con la llegada del ChatGPT, un sistema automatizado de chat basado en inteligencia artificial (IA), y la viralización de imágenes o canciones generadas con IA, los medios de comunicación, organizaciones y gobiernos de todo el mundo han abierto el debate sobre el uso de esta tecnología, incluyendo la necesidad de un marco legal que contemple la protección de datos personales y los derechos humanos como el de la privacidad.
Varios países de Sudamérica ya han implementado normativas, pero a Paraguay aún no ha llegado la discusión. El país incluso presenta carencias estructurales para asegurar que una regulación de la inteligencia artificial sea una herramienta jurídica con solidez, reconocen expertos en el área.
Eduardo Carrillo, codirector de la organización TEDIC que trabaja en derechos humanos y tecnología en Paraguay, explicó que por lo general, las discusiones regulatorias sobre inteligencia artificial se refieren específicamente a estrategias de machine learning o aprendizaje de máquinas.
“Se usa el paraguas de IA para referirse a cualquier sistema automatizado. Implica la utilización de grandes bases de datos que posteriormente son utilizadas para entrenar algoritmos que pueden automatizar determinadas decisiones o acciones”, explicó.
Primero, una ley de protección de datos personales
Al consultar las aristas básicas para construir una normativa sobre el tema, saltó la deuda de una ley de protección de datos personales. Existe un proyecto al respecto en la Cámara de Diputados que fue tratado el pasado miércoles 21 en el pleno pero sin conclusiones. Quedará la tarea para los nuevos legisladores que asumieron sus cargos para el siguiente periodo legislativo.
“Al no contar con una ley de protección de datos, te quedás desprotegido en cómo las empresas que utilizan IA recolectan nuestros datos, bajo qué argumentos, de qué forma segura o no lo guardan y qué finalidad le dan a esos datos”, comentó Antonia Bogado, abogada y magíster por la London School of Economics con un estudio sobre los desafíos legales del uso de la inteligencia artificial en servicios financieros.
Por ejemplo, si un sanatorio privado pide la identidad facial para acceder a una consulta, mientras no se cuente con una ley aprobada, esta empresa no está obligada a justificar por qué necesita estos datos biométricos, cómo y quiénes la usarán. “¿Qué pasa si después venden esos datos a una empresa tercerizada que los utilizará para entrenar inteligencia artificial en Paraguay?”, se preguntó Bogado.
Al no tener una protección de nuestros datos personales utilizados por las empresas que alimentan su software de IA, estamos en la deriva total y absoluta, aseguró la abogada.
Sin una regulación específica para esta protección, hoy los trámites judiciales para reclamar el mal uso o el error en alguno de los datos personales es un sistema largo y engorroso, como sucedió con la periodista Menchi Barriocanal, quien sufrió acoso luego de la publicación de su número telefónico en redes sociales.
“Sin este tipo de bases mínimas que ya en otros países están vigentes desde hace 20 años, obviamente la IA nos puede afectar de manera desproporcionada. Si estamos hablando de una regulación de IA, pero ni siquiera tenemos una ley de protección de datos que nos dé elementos para apelar una decisión automatizada por grandes bases de datos personales, estamos hablando de la nada misma”, aseguró Carrillo.
Buscar subirnos a la economía digital basada en la inteligencia artificial podría ser una oportunidad para identificar cuáles son las falencias históricas que hay en el tema de regulación y de esta forma generar estrategias con un enfoque en los derechos humanos, opinó Carrillo.
Los impactos de la IA ya están aquí
Se ha construido una percepción errónea sobre la IA. Comúnmente se cree que es una nueva tecnología con la cual robots reemplazarán el trabajo de los seres humanos, pero en realidad se trata de algoritmos ya cotidianos.
Por ejemplo, en Paraguay como en otros países de la región, una importante cantidad de trabajadores hoy dependen de plataformas como Uber, PedidosYa o Bolt. Estas cuentan con algoritmos automatizados que asignan trabajos de acuerdo a una serie de criterios que muchas veces no son claros para todas las partes involucradas y por lo tanto tampoco son fáciles de apelar en casos de decisiones arbitrarias, comentó Carrillo.
Esta es una de las razones por las cuales se busca una regulación de la IA. Si estas decisiones automatizadas no contemplan un proceso transparente donde se identifique qué datos son utilizados, cómo son utilizados y por quiénes son utilizados, podrían ir en contra de los derechos humanos de seguridad y privacidad. Actualmente, estos procesos son opacos y preocupantes, reconoció el experto.
Los algoritmos automatizados también se encuentran insertos en nuestras vidas cada vez que abrimos una red social. En Facebook, Instagram, TikTok y Twitter, los algoritmos nos muestran contenidos de acuerdo a nuestros gustos y preferencias. “La gente no hace necesariamente la conexión de que estoy siendo sujeto a una decisión que muy probablemente no tiene una persona humana detrás”, agregó.
Otro de los mitos en torno a la IA es sobre su neutralidad. Se cree que la inteligencia artificial, al llamarse así, se encuentra libre de sesgos humanos, pero no hay nada más alejado. Las técnicas de machine learning aprenden según información suministrada por seres humanos, por lo que sus resultados serán tan sesgados como dicha información, explicó el doctor en ingeniería de sistemas y computación, Benjamín Barán.
Si los datos y los resultados son sesgados, entonces la inteligencia artificial podría perpetuar la discriminación, exclusión y desigualdades con grupos sociales más vulnerados. Por ejemplo, un sistema de IA de un banco podría otorgar créditos más fácilmente a un sector de la población que ya cuenta con más poder económico, o una IA podría denegar más veces la visa a personas de ciertos países por sobre otros, o al buscar trabajo el proceso de selección automatizado podría preferir a hombres por sobre mujeres.
“Lo que busca una regulación es poner cierto balance y límites sobre ciertas cuestiones que son innegociables”, comentó Bogado.
¿Por dónde empezar?
Para Eduardo Carrillo, uno de los primeros pasos a la hora de construir una regulación es definir qué se entiende por inteligencia artificial y qué queremos regular sobre ella, pensar qué tipo de regulación tiene que estar asociada a este tipo de tecnologías.
Además, los tres expertos consultados coincidieron en la necesidad de un proceso participativo al momento de generar estas regulaciones, donde no solo los tecnócratas se encuentren involucrados sino también la sociedad civil, la academia, el sector privado y el Gobierno.
“Al hablar sobre IA se tiene que pensar en una regulación transversal y holística con perspectiva de derechos humanos que sea realmente la que dicte y trace un camino sobre qué tipo de IA queremos”, recalcó el codirector de TEDIC.
Por su parte, Bogado cree que, como toda tecnología, la IA también es un negocio, y por lo tanto se terminará regulando. “Lo difícil está en abordar el cómo. Cómo armar o diseñar un marco regulatorio que le permita a la tecnología seguir avanzando pero sin que implique sobrepasar cuestiones de derechos humanos, democracia y otros principios que durante años se han tratado de defender con cuerpos normativos”, agregó.
En noviembre de 2021, los 193 estados miembros de la Conferencia General de la UNESCO —entre ellos, Paraguay— adoptaron la Recomendación sobre la Ética de la Inteligencia Artificial, el primer instrumento normativo mundial sobre el tema. Este busca proteger y promover los derechos humanos y la dignidad, también tiene por objetivo ser una base normativa global que permitiría “construir un sólido respeto por el estado de derecho en el mundo digital”.
Tarde o temprano, los países regularán la IA
Antonia Bogado reconoce que en todo el mundo se está dando una discusión sobre si regular o no la IA. Entre las razones para no hacerlo se encuentra la idea de que esto podría significar una traba para la innovación. Sin embargo, ella opina que no necesariamente es así y que se debería construir una herramienta jurídica lo suficientemente flexible para que vaya acompañando el desarrollo de esta tecnología.
Entre las jurisdicciones más avanzadas en materia de regulación se encuentra la Unión Europea, que hace muy poco aprobó negociar una primera ley de inteligencia artificial que a más tardar, entraría en vigencia en 2026.
En América Latina, Perú ha aprobado una ley para el uso y la promoción de inteligencia artificial. Chile cuenta con una política nacional de inteligencia artificial desde hace años, y además está buscando crear una comisión nacional reguladora. Brasil también presentó recientemente un proyecto de ley para el desarrollo, implementación y uso de sistemas de IA.
En entrevista, Carrillo opinó que lo que se está viendo de regulación en la región y en el mundo es una tendencia mucho más relacionada a temas de innovación y economía, y no necesariamente a temas de derechos humanos.
El investigador Barán aseguró que normativas sobre inteligencia artificial terminarán llegando al país, ya que estas serán un requisito para proteger a la humanidad de un mal uso de esta tecnología.
“Como ocurre con cualquier otra tecnología que nos empodera y que nos permite hacer un montón de cosas nuevas. No es una tecnología especialmente diferente o peligrosa comparada con otras que han existido, y confío en que la humanidad sabrá tomar los cuidados necesarios para generar leyes adecuadas para que sea más una tecnología que nos sirva” concluyó esperanzador el Dr. Barán.
II Festival de la Ciencia abordó la inteligencia artificial
La inteligencia artificial fue uno de los temas centrales del II Festival Internacional de la Ciencia del Paraguay, que organizó Ciencia del Sur y finalizó el 2 de julio pasado.
Los temas abordados fueron:
- “AlphaFold y otras herramientas predictivas de inteligencia artificial aplicadas a la biología” por Alejandra Recalde y Severin Dicks. Grabación disponible en YouTube.
- “Taller de introducción a la inteligencia artificial para niñas, niños y adolescentes” por Michel Barán.
- “Taller de Inteligencia artificial generativa: los chatbots personalizados” por Daniel Duarte.
- “Inteligencia artificial aplicada a negocios: una experiencia exitosa” por Gustavo Mayeregger.
- “Mitos y verdades de la inteligencia artificial y su futuro en el Paraguay” por Benjamín Barán, Diego Stalder y José Manuel Silvero.
Estudiantes, docentes y el público en general tuvieron la oportunidad de escuchar cuál es el estado de esta tecnología, qué es mito y qué es una realidad en cuanto a ella, así como conocer herramientas disponibles en la actualidad.
Ciencia del Sur continúa su labor de divulgación y capacitación ofreciendo un taller de redacción científica que incluye la utilización de IA para fines de julio. Estará a cargo del Dr. Sebastián Grillo, científico de la computación.
¿Qué te pareció este artículo?
(1 votos, promedio: 5,00 de 5)
Alejandra es reportera en Ciencia del Sur. Licenciada en periodismo por la Universidad Autónoma de Asunción, se ha desempeñado en distintas área de la comunicación para empresas y organizaciones de la sociedad civil. Fue una de las ganadoras del Premio Nacional de Periodismo Científico de Paraguay en 2019 y en 2022.
