Bruselas urge a desarrolladores de IA a evaluar riesgos de contenido dañino o ilegal
Bruselas, 10 de julio (EFE).— La Comisión Europea lanzó este jueves su código de conducta voluntario para desarrolladores de inteligencia artificial generativa, como ChatGPT o Gemini, instándolos a ev...
Bruselas, 10 de julio (EFE).— La Comisión Europea lanzó este jueves su código de conducta voluntario para desarrolladores de inteligencia artificial generativa, como ChatGPT o Gemini, instándolos a evaluar y mitigar los riesgos asociados a la creación y difusión de contenido dañino, discriminatorio o que vulnere derechos fundamentales, incluyendo la propiedad intelectual.
La medida busca marcar el camino hacia el cumplimiento obligatorio de la Ley de Inteligencia Artificial de la Unión Europea, que entrará en vigor el 2 de agosto de 2025, aunque Bruselas ya contempla posibles prórrogas ante la complejidad de su aplicación.
“Invito a todos los proveedores de modelos de inteligencia artificial generativa a adherirse al código. Hacerlo les garantizará una vía clara y colaborativa para cumplir con la ley”, expresó Henna Virkkunen, vicepresidenta de Soberanía Tecnológica de la Comisión.
¿Qué exige el nuevo código?
- Evaluar riesgos a los derechos fundamentales, especialmente en modelos de alto poder de cálculo.
- Evitar entrenar modelos con contenido que viole copyright.
- Establecer mecanismos para que creadores puedan reclamar si su contenido fue usado sin permiso.
- Prevenir escenarios de pérdida de control humano, como fallos con consecuencias químicas, biológicas o nucleares.
El documento fue elaborado con aportes de más de 1,000 actores del sector: empresas, investigadores, ONG y representantes de la sociedad civil.
Un contexto marcado por la polémica
La publicación del código llega en un momento de creciente escrutinio sobre los riesgos de la IA generativa. Recientemente, la red X (antes Twitter) fue blanco de críticas por relajar sus filtros de moderación, permitiendo que su IA Grok emitiera mensajes con referencias antisemitas y a Adolf Hitler.
Además, el primer borrador del código —publicado a inicios de año— fue duramente criticado por eurodiputados y expertos, quienes consideraban que no obligaba lo suficiente a los desarrolladores a proteger los derechos fundamentales.
¿Quiénes lo firmarán?
Hasta el momento, empresas como Meta han adelantado que no firmarán el código, aunque Bruselas confía en que más compañías lo harán voluntariamente, para facilitar su adaptación a la legislación que será exigida más adelante.
La Comisión Europea y los Estados miembros todavía revisan el texto y no descartan ajustes antes de su entrada en vigor.
