OpenAI y Anthropic piden al Parlamento británico leyes obligatorias para la IA; Google y Meta no se suman

Representantes de OpenAI y Anthropic le dijeron a un comité del Parlamento británico que los compromisos voluntarios ya no alcanzan para garantizar la seguridad de la inteligencia artificial y pidieron leyes obligatorias, según informó Infobae, que cita declaraciones del presidente del comité a Wired. La audiencia se realizó el martes ante el Comité de Negocios, Innovación, Ciencia y Comercio de la Cámara de los Comunes.

Liam Booth-Smith, jefe de Anthropic para Europa, afirmó: "Las reglas deberían ser obligatorias". Tom Duff Gordon, vicepresidente de OpenAI, fue más cauto, pero también respaldó un marco legal y una convención internacional. Dijo que "debería haber algunos elementos que sean obligatorios", empezando por el reporte de incidentes, y que basar todo en compromisos voluntarios "no es un buen plan a largo plazo" para los riesgos de los modelos más avanzados.

Google DeepMind y Meta no acompañaron esa postura. Owen Larter, de Google DeepMind, respondió que la prioridad de la empresa es trabajar "en los estándares". Rob Sherman, de Meta, señaló que el Reino Unido "no estuvo escribiendo sobre una página en blanco", porque ya cuenta con reguladores sectoriales. El presidente del comité, el laborista Liam Byrne, dijo a Wired que el objetivo era exponer las diferencias entre estas empresas y mostrar "que no se podía confiar en la autorregulación voluntaria".

La sesión coincidió con otra advertencia en Westminster. El director del MI5, Ken McCallum, presentó su informe anual de amenazas y alertó sobre el posible uso indebido de la IA en armas biológicas. "Aún no se ha concretado", dijo, pero consideró que el "potencial de la IA para cambiar las reglas del juego en armas biológicas existentes o incluso nuevas" es el caso de mal uso al que da mayor peso.

Los funcionarios admitieron los límites del sistema actual. El Instituto de Seguridad de la IA del Reino Unido (AISI), que evalúa modelos antes de su lanzamiento, depende de que las empresas decidan entregárselos voluntariamente. Su director, Henry de Zoete, reconoció que no puede impedir que una compañía publique un modelo aunque lo considere peligroso: "Lo que no estamos haciendo es certificar". Cat Little, de la Oficina del Gabinete, confirmó que el régimen es voluntario: "Por el momento, sí, lo es".

El comité había enviado cartas a las cuatro empresas el 22 de septiembre, con diez preguntas sobre pruebas de seguridad obligatorias y acceso del AISI a modelos y datos de entrenamiento, entre otros temas. El texto disponible no detalla qué pasos seguirán ni si habrá un proyecto de ley. Aunque la audiencia fue en el Reino Unido, el debate sobre normas obligatorias o compromisos voluntarios afecta a los usuarios de estas herramientas en cualquier país, incluida Colombia.