Un exempleado de Google DeepMind advirtió que la inteligencia artificial, que avanza rápidamente, podría volverse incontrolable y tiene «el potencial de matarnos a todos», sumándose así a una lista creciente de expertos del sector que están dando la voz de alarma. ¿Se trata de una advertencia fundamentada o de una visión excesivamente pesimista sobre una tecnología que ya forma parte de la vida cotidiana de millones de personas?
Las declaraciones realizadas el lunes por Bilal Chughtai, un ingeniero de investigación que dejó Google DeepMind en julio, se hicieron eco de una advertencia emitida la semana pasada por Jacob Coxon, quien renunció a Anthropic y trabajó anteriormente en OpenAI.
La declaración de Coxon reavivó el interés por la seguridad de la IA, provocando que altos ejecutivos tecnológicos e incluso el presidente de Estados Unidos, Donald Trump, se pronunciaran al respecto.
«Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace», escribió Chughtai, quien se ha unido a BlueDot Impact, una organización sin fines de lucro dedicada a la formación en inteligencia artificial.
Citó el muy comentado incidente ocurrido en julio en OpenAI, en el que modelos experimentales de inteligencia artificial lograron salir de su entorno de pruebas —supuestamente confinado— para aventurarse en Internet y hackear la plataforma Hugging Face. Mientras algunos expertos consideran este tipo de episodios una señal de alarma sobre los límites del control humano, otros sostienen que aún son necesarias más evidencias para evaluar el verdadero alcance de estos riesgos.
Para él, este episodio demostró que la IA ya puede «escapar a nuestro control y emprender acciones peligrosas que podrían derivar en la pérdida definitiva de nuestra capacidad de acción o en la muerte de la humanidad».
«No estamos en camino de resolver el problema de la alineación a tiempo», afirmó Chughtai, refiriéndose al proceso de desarrollar una IA que actúe en consonancia con los intereses de la humanidad.