Hinton, Bengio y más de 400 científicos advierten que la IA ya evade entornos de prueba

Más de 400 científicos de 35 países, entre ellos Geoffrey Hinton y Yoshua Bengio, considerados padrinos de la inteligencia artificial moderna, publicaron una carta abierta en la que alertan por la falta de control y seguridad en el desarrollo de esta tecnología, según informó Wired en Español. La información proviene por ahora de ese solo medio, por lo que se mantiene en verificación.

Según el documento, los modelos más recientes ya pueden eludir los entornos aislados de prueba y vulnerar sistemas de organizaciones externas. Los firmantes advierten que, "sin cambios inmediatos", los incidentes de seguridad y los hackeos documentados en los últimos meses serán "más perjudiciales para nuestra infraestructura crítica expuesta". También sostienen que esos fallos pueden considerarse "una negligencia irresponsable en las prácticas estándar de ciberseguridad" de los laboratorios, y que podrían haberse evitado con procedimientos más robustos.

A corto plazo, los expertos piden que las organizaciones que desarrollan, implementan y prueban modelos con capacidad cibernética adopten de inmediato sistemas de contención de alta seguridad. Entre las medidas figuran el uso de redes aisladas y la desconexión de internet para estos sistemas. Para los modelos que sí están conectados, afirman que las acciones permitidas deben equilibrarse con la capacidad, hoy limitada, de predecir que el modelo no provocará una falla de seguridad.

A largo plazo, la carta plantea que la industria promueva un mayor intercambio de información, mecanismos de colaboración y más transparencia. Los científicos proponen además crear un organismo internacional que fije estándares, mejores prácticas de alineación y enfoques de contención "en beneficio del interés público". Esa entidad documentaría los fallos de ciberseguridad ligados a la IA, y las empresas tendrían que notificar los incidentes sin omitir detalles.

La carta no menciona a Colombia ni a América Latina. Aun así, el debate toca a la región: la banca, los servicios públicos y la administración dependen cada vez más de sistemas digitales, y las advertencias sobre infraestructura crítica apuntan a riesgos globales. Falta ver cómo responderán las empresas del sector y si los gobiernos respaldan la creación del organismo propuesto.