Tecnología
Hechos clave
—El paso. Un comité de la Cámara de Diputados de Brasil aprobó el 23 de junio un proyecto de ley que establece normas de protección al consumidor para productos y servicios de IA.
—La divulgación. Las empresas tendrían que informar claramente a los usuarios cuándo interactúan con la IA y explicar en un lenguaje sencillo lo que hace el sistema.
—El control humano. Para decisiones automatizadas como el rechazo de un crédito o un diagnóstico médico, los consumidores pueden exigir los criterios, apelar y solicitar una revisión humana.
—La regla del sesgo. El texto prohíbe la IA que discrimine por raza, sexo, edad o discapacidad, y exige que las empresas auditen sus sistemas en busca de sesgos.
—Los dientes. Las infracciones podrían generar una multa del 1% al 5% de los ingresos y una prohibición temporal del uso del sistema de inteligencia artificial.
—El modelo. El relator se basó en la Ley de IA de la UE y la ley de protección de datos de Brasil; el proyecto de ley aún necesita más comités y ambas cámaras para ser aprobado.
Brasil ha dado otro paso hacia un régimen de protección al consumidor de IA, con un comité del Congreso respaldando reglas que obligarían a las empresas a aclarar que las máquinas toman decisiones por las personas.
Un comité del Congreso brasileño respaldó normas que obligan a las empresas a revelar el uso de la IA y realizar auditorías en busca de sesgos. (Foto reproducción de internet) La votación, en el comité de ciencia y tecnología de la cámara baja, es el comienzo de un largo camino. El proyecto de ley debe ser aprobado por dos comités más y ambas cámaras del Congreso antes de que pueda convertirse en ley.
Aun así, el texto es un indicador de hacia dónde se dirige Brasil. Se basa abiertamente en la Ley de IA de la Unión Europea y en la propia ley de protección de datos del país para elaborar un libro de reglas dirigido directamente al usuario cotidiano.
Lo que exige el proyecto de ley de protección al consumidor de IA En esencia, se encuentra el deber de divulgación. El proyecto de ley obligaría a las empresas a indicar claramente cuándo un cliente está tratando con un sistema de inteligencia artificial y explicar en lenguaje sencillo qué hace el algoritmo.
Las disposiciones más estrictas se refieren a las decisiones automatizadas. Cuando una IA niega un crédito a alguien o devuelve un diagnóstico médico, el consumidor podría preguntar los criterios detrás de esto, cuestionar el resultado y exigir que un humano revise el caso.
También crea un derecho a ser olvidado por la máquina. Los usuarios podrían solicitar que sus datos se extraigan de los grupos utilizados para entrenar o ejecutar sistemas de inteligencia artificial, con una excepción para el mundo de la calificación crediticia.
Una cláusula va más allá de los debates habituales. Permitiría que la IA certificada oficialmente revalide prescripciones de medicamentos a largo plazo, una pequeña pero concreta señal de hasta qué punto los legisladores esperan que llegue la tecnología a la vida diaria.
Por qué debería importarle a un lector extranjero Brasil es la economía más grande de América Latina y uno de sus mayores mercados consumidores, por lo que las reglas que escribe para la IA se extienden por toda la región y llegan a cualquier empresa que venda en él.
Los dientes son lo que lo distingue. El proyecto de ley prohíbe la discriminación algorítmica, ordena a las empresas auditar sus sistemas en busca de sesgos y amenaza con multas del uno al cinco por ciento de los ingresos, además de una prohibición temporal del sistema infractor.
Esos deberes son continuos, no puntuales. Las empresas tendrían que realizar controles periódicos para detectar sesgos y mantener canales abiertos para que los usuarios se quejen y busquen reparación, convirtiendo el cumplimiento en un costo permanente en lugar de una casilla marcada una vez.
También es un segundo frente. El principal marco de IA de Brasil ha estado estancado en la cámara baja durante meses, y este proyecto de ley centrado en el consumidor avanza por un camino separado y más silencioso.
El texto es una mezcla. Un relator unió tres propuestas separadas en una y tomó prestada la arquitectura de Europa, señalando que Brasil tiene la intención de seguir el modelo más estricto que se ofrece en lugar del más ligero.
El contraste con el marco emblemático es revelador. Ese proyecto de ley más amplio, que limitaría las sanciones a decenas de millones y disputaría sobre quién paga por entrenar los modelos, se ha estancado, mientras que estas reglas más estrictas para el consumidor siguen avanzando.
Para las empresas que implementan IA en Brasil, desde bancos hasta hospitales y minoristas, la dirección ahora está clara. El país está convergiendo hacia un modelo de estilo europeo, y el proyecto de ley de cumplimiento que lo acompaña está tomando forma con la votación de un comité a la vez.
Preguntas frecuentes ¿Qué cubre el proyecto de ley de protección al consumidor de IA? Requiere que las empresas revelen cuándo los consumidores interactúan con la IA, que expliquen cómo funciona el sistema y que permitan a las personas solicitar una revisión humana de decisiones automatizadas, como la denegación de crédito o un diagnóstico médico. También prohíbe la discriminación algorítmica y crea el derecho a que se eliminen datos personales de los grupos de formación de IA.
¿Es ley todavía? Todavía no: una sola comisión de la Cámara de Diputados aprobó el texto el 23 de junio y todavía se necesitan dos comisiones más y ambas cámaras del Congreso. Las disposiciones podrían cambiar a medida que avance el proceso.
¿Cuáles son las sanciones? Las empresas que violen las reglas podrían enfrentar una advertencia con tiempo para solucionar el problema, una multa del uno al cinco por ciento de los ingresos o una suspensión temporal del sistema de inteligencia artificial involucrado. Las empresas también tendrían que realizar auditorías periódicas sobre prejuicios y mantener canales para quejas y reparaciones.
The Rio Times · Mapa de poder
Vea quién realmente tiene el poder en América Latina
Haga clic para abrir el mapa de energía →