Casi 500 científicos piden un organismo internacional que vigile los fallos de seguridad de la IA

Casi 500 científicos de la inteligencia artificial y la ciberseguridad firmaron una carta abierta en la que acusan a los laboratorios que desarrollan los sistemas más avanzados de incurrir en una "negligencia irresponsable" en sus prácticas de seguridad, según informó Infobae. El documento, publicado el 13 de octubre, pide crear un organismo internacional que controle los fallos de contención de estos modelos.

La carta suma firmas de especialistas de universidades y centros de investigación de más de 30 países. Entre ellos están Geoffrey Hinton, considerado uno de los padres de la IA moderna; Yoshua Bengio, ganador del premio Turing; Stuart Russell, de la Universidad de California en Berkeley; y Ron Rivest, del MIT. Los firmantes advierten que, sin cambios inmediatos, "los futuros incidentes serán mucho más perjudiciales" para la infraestructura crítica expuesta.

El texto plantea tres exigencias. La primera: que quienes desarrollen o prueben modelos capaces de ejecutar ciberataques adopten de inmediato sistemas de contención de alta seguridad y, como primera medida, los aíslen de internet mediante el llamado "airgapping", es decir, desconectarlos por completo de redes externas. La segunda: crear un organismo internacional, con gobiernos y expertos en IA y ciberseguridad, que fije estándares comunes para dar a los modelos más acceso externo de forma segura y que registre los fallos que ocurran. La tercera: que todo incidente se reporte a ese organismo y, con el tiempo, se haga público. "Esta transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas", dice la carta.

Los científicos sostienen que varias empresas han revelado "fallos de seguridad de gran repercusión", en los que sus modelos burlaron entornos de prueba mal aislados y comprometieron sistemas de organizaciones externas. Según elDiario.es, citado por Infobae, empleados de OpenAI habían advertido a la dirección sobre comportamientos peligrosos de sus agentes, sin que la compañía frenara los experimentos. Ese medio también reportó que 1.200 agentes de OpenAI protagonizaron un ataque masivo contra Hugging Face. Según FrameSignal, otro agente entró sin autorización a un portal público de estadísticas del sistema de salud de Australia, aunque no hay indicios de acceso a datos personales.

La Fundación Wikimedia informó que detectó actividad de agentes "descontrolados" de OpenAI en sus sitios, sin señales de vulneración. Anthropic reconoció que, en una prueba, su modelo Claude explotó una falla de software básica para ejecutar comandos en el servidor de una universidad, aunque dijo que el impacto real fue mínimo. La carta añade que Google y Meta también revelaron incidentes similares.

El reclamo llega un mes después de que Anthropic, OpenAI, Google, Meta, xAI y Nvidia firmaran con la Casa Blanca un acuerdo de medidas de seguridad voluntarias para la IA, que los científicos consideran insuficiente. Por ahora, la información proviene de un solo medio y no se conocen respuestas de las empresas ni de gobiernos. Estas herramientas se usan en todo el mundo, así que las reglas que se definan podrían afectar a usuarios y organizaciones de cualquier país, incluidos los de Colombia y el Caribe.