Uno de los principales problemas en el proyecto de ley regulador de la Inteligencia Artificial (IA) aprobado por el Parlamento de la Unión Europea (UE) es la prohibición de los reglamentos técnicos relacionados con el reconocimiento facial y la divulgación de los datos de entrenamiento generados por la IA.
Esta es una tarea importante en las negociaciones tripartitas entre la Comisión de la UE, el Parlamento y el Consejo de Ministros, y la posibilidad de modificar las cláusulas se está planteando durante el proceso de negociación.
Regulación de la tecnología de reconocimiento facial
La tecnología de reconocimiento facial es una tecnología que analiza una imagen del rostro de una persona para verificar su identidad. La Ley de Inteligencia Artificial de la UE prohíbe tomar y analizar el rostro de una persona común sin permiso como ‘IA altamente peligrosa’ que viola los derechos humanos.
Durante una revisión del Parlamento Europeo, también hubo una propuesta para permitir que las fuerzas del orden lo usen como una excepción, pero se aprobó un proyecto de ley que contenía una prohibición total.
Sin embargo, los miembros del Partido Popular Europeo (PPE) de centroderecha en el Parlamento Europeo siguen argumentando que es útil para la seguridad nacional, la prevención del delito, la lucha contra el terrorismo y la búsqueda de personas desaparecidas.
También se espera que el Consejo de Ministros de la UE, que está compuesto por ministros de los estados miembros de la UE, reconozca excepciones a la prohibición de la aplicación de la ley y los guardias fronterizos durante futuras conversaciones tripartitas.
De hecho, varios medios de comunicación extranjeros, incluidos The Times y The Guardian, informan que los líderes europeos retirarán la prohibición total de la tecnología de reconocimiento facial en futuras negociaciones sobre el borrador final de la AIA.
Administrar la IA generativa.
Cuando se trata de IA generativa, las disposiciones que exigen la divulgación de datos de capacitación para garantizar la transparencia se están convirtiendo en una patata caliente. Algún tipo de coordinación parece inevitable ya que las empresas sujetas a la solicitud expresan su desaprobación diciendo que no es técnicamente posible.
La sección 28b(4(c)) de la AIA requiere que los proveedores de sistemas creativos de IA «documenten y brinden públicamente un resumen suficientemente detallado de su uso de datos educativos protegidos por la ley de derechos de autor».
Sin embargo, las empresas de desarrollo de IA generativa afirman que es imposible rastrear los derechos de autor de ciertos datos en conjuntos de datos de entrenamiento a gran escala. Por ejemplo, se entrenó ‘GPT-3’, un modelo de lenguaje de OpenAI, con 45 terabytes de datos de texto, y se entrenó ‘Stable Diffusion’, una herramienta de manipulación de imágenes, con 5.800 millones de imágenes, por lo que los derechos de autor son imposibles de encontrar. de uno..
El CEO de OpenAI, Sam Altman, dijo en una discusión celebrada en el University College London (UCL) el 24 del mes pasado: “Intentaremos cumplir con los requisitos de la ley de IA de la UE, pero no está claro si podemos resolver todos los problemas, entre ellos por limitaciones técnicas». Si no podemos seguir la ley, dejaremos de operar (dentro de la UE)”, dijo.
Específicamente, dijo: «Escuché que el proyecto de Ley de IA actualmente está sobrerregulado y será revisado más adelante». Cuando el comisionado de la UE, Thiers Burton, negó esto y dijo: «El proyecto de ley de IA no está sujeto a negociación», Altman cambió de postura y dijo: «Por supuesto que no tengo intención de dejar Europa».
Las empresas creativas también afirman que las leyes de derechos de autor en Europa y EE. UU. son diferentes, lo que puede generar confusión y litigios.
La AIA también requiere que las empresas que ofrecen servicios de IA generativa tengan medidas de seguridad para evitar el mal uso de su tecnología. En este sentido, las empresas se quejan de que es difícil desarrollar dispositivos adecuados en una situación en la que es técnicamente difícil marcar contenido generado por IA. En este sentido, se ha planteado la posibilidad de ajustar la normativa sobre IA generativa.
Reportero Jeong Byung-il [email protected]
