Nota

CIENTÍFICOS LLEGAN A UN ACUERDO PARA REGULAR LA IA ANTE UNA POTENCIAL CATÁSTROFE DESENCADENADA POR ARMAS BIOLÓGICAS

Lectura de 2 Minutos

Un grupo de científicos de distintas partes del mundo han llegado a un acuerdo y firmado un documento con la intención de impedir que se puedan desarrollar armas biológicas con la ayuda de la Inteligencia Artificial (IA).

En 2023 el director general de la start up de Inteligencia Artificial Anthropic, Dario Amodei, advirtió al Congreso de Estados Unidos acerca de la necesidad para establecer normas claras con la intención de controlar la IA. Entre los augurios distópicos que se esgrimieron en el Congreso se señaló el potencial uso que los terroristas podrían darle a la IA con la intención de crear armas biológicas.

Este nuevo acuerdo tituladoIA responsable x biodiseñoes un documento que recopila principios y valores que deberían aplicarse en los estudios de la IA con el objetivo de erradicar los peligros de la creación de armas biológicas de gran alcance. El documento, firmado por 144 científicos, está dirigido a los investigadores de sistemas de IA para la predicción y diseño de estructuras de proteínas.

El documento para regular la Inteligencia Artificial y evitar una catástrofe biológica, reza lo siguiente:

“Los avances en inteligencia artificial (IA) están creando oportunidades sin precedentes para la investigación en ciencias biológicas, incluso al permitir el diseño de moléculas biológicas funcionales, especialmente proteínas. Esta aplicación de la IA para el diseño de proteínas tiene un inmenso potencial para mejorar nuestra comprensión del mundo y ayudar a abordar algunos de los desafíos más apremiantes de la humanidad al permitir respuestas rápidas a brotes de enfermedades infecciosas, curar numerosas enfermedades, desbloquear fuentes sostenibles de energía y ayudar a mitigar el cambio climático y más (…) Si bien reconocemos que la mayoría de las tecnologías avanzadas pueden aprovecharse para bien o usarse deliberadamente de manera indebida para causar daño, nos abstendremos de realizar investigaciones que puedan provocar daños generales o permitir el uso indebido de nuestras tecnologías”.

IA avanzadas como la de AlphaFold tienen el potencial para ser utilizadas como armas biológicas en el futuro. Esto debido a que los sistemas de aprendizaje profundo tienen la capacidad para simular interacciones entre patógenos, así como la suficiencia para analizar y optimizar la dispersión de agentes biológicos. Por lo tanto, contar con una normativa que regule la IA parece ser una medida ya no sólo necesaria sino que urgente.


Germán S. S. Lev

Periodista, Narrador y Editor Jefe en Píldora Mutante.

Entradas recientes

APPLE ES DEMANDADA POR LA JUSTICIA DE ESTADOS UNIDOS DEBIDO A SUS PRÁCTICAS MONOPÓLICAS

La Justicia estadounidense ordenó una demanda contra Apple por monopolio. La acción judicial avalada por…

2 meses hace

SPACEX ESTÁ DESARROLLANDO UNA RED DE SATÉLITES ESPÍA PARA EL PENTÁGONO

La compañía aeroespacial de Elon Musk se encuentra fabricando una red de satélites espía para…

2 meses hace

TIKTOK ESTÁ MUY CERCA DE SER PROHIBIDO EN ESTADOS UNIDOS

La Cámara de Representantes de Estados Unidos aprobó un proyecto de ley para obligar a…

2 meses hace

ALDOUS HUXLEY: LOS ENEMIGOS DE LA LIBERTAD

Adaptado por Germán Lev Aldous Huxley (1894-1963) nació en el seno de un linaje aristócrata…

3 meses hace

LA CRISIS DE LOS MEDIOS DE COMUNICACIÓN DE MASAS NO TRADICIONALES

Diciembre de 2020 Por Germán Lev Las plataformas digitales han aumentado de forma exponencial en…

3 meses hace

EL OMNISCIENTE SOCIO: LA CONJURA DEL PENTÁGONO TRAS EL DESARROLLO DE LA IA

2021 Los grandes adelantos sociales que se han suscitado a través del desarrollo de nuevas…

3 meses hace