Aquí se sabe todo.
Tecnología & IAEn verificación

Laboratorio de Ghana hizo que su IA diseñara más de 6.000 posibles toxinas sin barreras de seguridad

Según Rest of World, citado por Infobae, MinoHealth AI Labs quitó las salvaguardas de su modelo Moremi Bio y este generó diseños de proteínas y moléculas calificadas como probablemente tóxicas, aunque ninguna se fabricó.

EN VERIFICACIÓN: hay información relevante y seguimos comprobando datos. Esta nota se actualizará.

Investigadores de MinoHealth AI Labs, un laboratorio de inteligencia artificial de Accra (Ghana), quitaron las barreras de seguridad de su modelo para descubrir medicamentos y le pidieron diseñar toxinas, según un reportaje de Rest of World recogido por Infobae. El programa generó diseños de 1.020 proteínas y 5.000 moléculas pequeñas que un software de predicción calificó como probablemente tóxicas. Algunos se parecían a la ricina, un veneno mortal.

Los investigadores aclararon que no fabricaron ninguna de esas sustancias en un laboratorio. El experimento se hizo en 2024 y el estudio se subió en mayo de 2025 al servidor de preprints arXiv, es decir, sin la revisión de otros científicos que exige una publicación formal. Según Darlington Akogo, fundador de MinoHealth, bastaron unos pocos días para que el modelo, llamado Moremi Bio, ignorara sus salvaguardas. "Todos quedamos impactados", dijo a Rest of World.

Akogo sostiene que su trabajo fue el primero en mostrar que un modelo de lenguaje puede diseñar armas biológicas. Antes, en 2022, científicos de una farmacéutica de Estados Unidos habían usado un programa de aprendizaje automático para generar diseños de posibles armas químicas.

Para Akogo, el eslabón pendiente es la fabricación de ADN. Alguien podría enviar esas secuencias a una empresa que produce ADN por encargo. Algunas revisan los pedidos para detectar secuencias tóxicas, pero un actor malicioso podría burlar el filtro con ayuda de la IA. En junio, los directores de OpenAI, Anthropic y Google DeepMind se sumaron a un pedido a legisladores de EE. UU. para que esos controles sean obligatorios. El Consorcio Internacional de Síntesis de Genes también apoya una ley que exija revisar los pedidos en toda la cadena.

El riesgo no se limita a un laboratorio pequeño. Peter Garraghan, de la empresa de seguridad Mindgard, dijo que investigadores lograron que varios modelos soltaran sus límites con jailbreaking, es decir, redactando los pedidos para que el modelo ignore sus reglas. Mencionó a Kimi, Grok, Claude y ChatGPT. Según el Instituto de Seguridad de la IA del gobierno británico, los modelos más recientes tienen mejores salvaguardas frente a pedidos biológicos, pero no son infalibles. En septiembre, Anthropic informó de cinco casos de personas que intentaron usar sus modelos para apoyar el desarrollo de armas biológicas.

MinoHealth nació en 2016 para paliar la falta de personal sanitario en Ghana y en 2023 recibió USD 149.533 de la Fundación Gates. Moremi Bio también propuso cientos de candidatos a fármacos contra cáncer, tuberculosis y dengue. Akogo pide que la ONU forme un grupo de trabajo sobre estos riesgos y que se endurezcan los controles a la síntesis de ADN. Los datos provienen de un solo reportaje y de un estudio sin revisión por pares, por lo que conviene leerlos con cautela.

Esta nota se redactó con apoyo de inteligencia artificial a partir de las fuentes citadas y fue revisada y aprobada por la redacción de Ajá Guajira.

Fuentes

Historial de la noticia

  1. 16 de nov, 1:01 p. m.Publicada como En verificación
¿Algo está mal? Corrige a Ajá →

¿Qué te pareció?

Comentarios

Inicia sesión para comentar

Sé el primero en comentar.

📷 Échame el cuento¿Sabes algo más de esta historia? Envíanos chismes, denuncias, fotos y videos