Arizona Tribune - Un exempleado de Google afirma que "la IA tiene el potencial de matarnos a todos"

"Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace", declaró en un tuit Bilal Chughtai, ingeniero que dejó en julio Google DeepMind donde trabajaba en la seguridad y alineamiento de modelos con respecto a los valores humanos.

Se hace eco así de la alerta lanzada hace una semana por otro informático, Jacob Coxon, que dejó Anthropic y trabajó antes en OpenAI.

Chughtai se unió a BlueDot Impact, una organización sin fines de lucro destinada a formar en inteligencia artificial.

Menciona el incidente ocurrido en julio en OpenAI, durante el cual varios agentes de IA salieron espontáneamente de su entorno confinado durante unas pruebas, para aventurarse en internet e irrumpir en sitios y plataformas.

Para este ingeniero, este episodio demuestra que la IA puede ahora escapar a la supervisión de sus desarrolladores.

"En particular, las superinteligencias desalineadas pueden, al igual que los agentes de IA rebeldes implicados en el incidente de HuggingFace (la plataforma a la que se metieron los agentes, ndlr), escapar a nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de capacidad de decisión o la muerte de la humanidad", advirtió.

"Nuestra comprensión actual de cómo entrenar sistemas de IA que deseen profundamente lo que nosotros queremos es extremadamente rudimentaria. Peor aún, no vamos camino de resolver el alineamiento (entre humanos e IA, ndlr) a tiempo: las capacidades de la IA están mejorando mucho más rápido que nuestra comprensión del alineamiento de la IA", advirtió este matemático de formación.

Los acontecimientos mencionados por Bilal Chughtai, así como la mejora recursiva autónoma (RSI), proceso mediante el cual la IA se mejora por sí sola sin intervención humana, han llevado a numerosos profesionales y dirigentes del sector a tomar la palabra.

El sábado, el director de Anthropic, Dario Amodei, pidió ralentizar el ritmo de desarrollo de la IA, una propuesta justificada, según él, por los mismos hechos mencionados por Chughtai.

El director de OpenAI, Sam Altman, el presidente de Google DeepMind, Demis Hassabis, y Elon Musk han apoyado públicamente esta iniciativa.

El presidente estadounidense, Donald Trump, tildó el lunes de "patrañas" los temores de que la inteligencia artificial pueda destruir la humanidad, y aseguró que todas las críticas sobre este pujante sector son una "conspiración enfermiza".

N.Walker--AT