La IA puede diseñar proteínas tóxicas que se escapan de las barreras de bioseguridad, advierte un estudio

El potencial de la Inteligencia Artificial (IA) para generar nuevas y sofisticadas amenazas biológicas es un hecho. Un estudio identifica que las herramientas de diseño de proteínas basadas en IA pueden crear códigos genéticos para toxinas.

Lo peor es que los actuales sistemas de bioseguridad globales son incapaces de detectar algunas de estas creaciones de la IA.

La tecnología avanza a un ritmo vertiginoso, y es necesario que entiendas cómo la IA podría poner en riesgo la bioseguridad.

¿Por qué los diseños de IA pueden evadir las medidas de bioseguridad?

La clave está en cómo la IA logra esconder su intención biológica. Las principales empresas biotecnológicas tienen filtros para evitar que alguien compre genes peligrosos, como los del ántrax o la viruela.

Sin embargo, la Inteligencia Artificial encontró una manera inteligente de engañar estos mecanismos.

Aquí te explicamos cómo la IA logra evadir los filtros, de acuerdo al estudio publicado en la revista Science y una entrevista que Eric Horvitz, director científico de Microsoft, tuvo con NPR, una organización de medios independiente:

• Reescritura del código fuente: La IA utiliza herramientas de diseño de proteínas para “parafrasear” el código genético de las toxinas.
• Mantenimiento de la función: A pesar de la reescritura, la estructura y, potencialmente, la función de las proteínas peligrosas se mantienen intactas.
• Producción masiva de variantes: En el estudio, el programa de IA fue capaz de generar más de 75,000 versiones diferentes de proteínas nocivas.
• Filtros no entrenados: Los sistemas de bioseguridad mundiales no estaban preparados para detectar estas secuencias genéticas modificadas o “reformadas”.
• Vulnerabilidad persistente: Aunque se creó una solución rápida para el software de detección, una pequeña parte de las variantes peligrosas sigue sin ser detectada.

¿Qué dicen los procesos de bioseguridad?

La bioseguridad, según la Organización Mundial de la Salud (OMS), se centra en las prácticas seguras para evitar la exposición involuntaria a agentes infecciosos o su liberación accidental.

A esto se suma la biocustodia, que busca proteger los materiales biológicos valiosos para prevenir el acceso no autorizado o el mal uso.

Te dejamos los aspectos centrales en la bioseguridad actual, según la OMS y la Secretaría de Salud (SSA):

• Prácticas de contención: La bioseguridad se basa en principios y tecnologías para prevenir la liberación inadvertida de agentes biológicos, como virus.
• Control de materiales valiosos: La biocustodia se enfoca en asegurar que los materiales biológicos no sean robados o desviados intencionalmente.
• Evaluación de riesgos: Es un proceso vital para identificar peligros y establecer si el riesgo es aceptable en un laboratorio o instalación.
• Prevención de exposición: Busca evitar el contacto involuntario con patógenos y toxinas mediante tecnologías y prácticas de contención.

¿Cuáles son los peligros de la ciencia abierta?

La ciencia abierta, donde la publicación libre de resultados es esencial, se enfrenta ahora a un dilema moral. Las herramientas de diseño de proteínas impulsadas por IA prometen avances en medicina, pero su poder también puede ser utilizado de forma indebida.

• Creación de biotoxinas: El desarrollo de herramientas de ADN mejoradas podría usarse para diseñar toxinas o virus más potentes.
• Generación de nuevos agentes: En estudios anteriores, herramientas de IA han creado miles de moléculas con propiedades dañinas.
• Los biólogos han debatido por años si es realmente sensato publicar abiertamente ciertos resultados experimentales.
• Riesgo de aceleración: La preocupación es que la IA actúe como un acelerador para las amenazas que los expertos ya temían desde hace tiempo.
• Retención de información peligrosa: Al igual que en el estudio actual, investigadores anteriores decidieron no publicar las estructuras químicas generadas por la IA por considerarlas demasiado peligrosas.

La IA es, sin duda, una de las fronteras más prometedoras de la ciencia. Sin embargo, este poder viene con una responsabilidad inmensa para evitar un mal uso de la tecnología con reglas claras