Arizona Tribune - "Estamos perdiendo el control" de la IA, dice a la AFP el pionero Yoshua Bengio

Los temores que despierta esta tecnología han arreciado en los últimos días después de que varios trabajadores de grandes desarrolladoras de modelos de IA han abandonado el sector por la amenaza contra la vida humana que supone el ritmo al que avanza la inteligencia artificial.

"Hay una razón por la que estas empresas dicen que esto va demasiado rápido, que estamos perdiendo el control", afirmó Bengio, que ganó el Premio Turing de 2018, conocido como el Nobel de la informática, junto al "padrino de la IA", Geoffrey Hinton.

"Gente como yo lleva mucho tiempo esperando esto", declaró el martes a la AFP este profesor de 62 años, quien admitió que los debates sobre los peligros de la IA no han sido suficientemente rigurosos.

El mundo entró en convulsión cuando OpenAI reveló que un enjambre de agentes de IA (programas capaces de actuar por su cuenta) se había introducido sin autorización en la plataforma de código abierto Hugging Face en julio.

Esa acción autónoma es una de las principales amenazas, afirmó Bengio, ya en el futuro estos agentes de IA pueden tener "la capacidad de sortear las barreras de ciberseguridad y entrar en cualquier empresa".

Bengio advirtió a la AFP que la gente debe ser consciente de los riesgos que se avecinan.

Los agentes de IA podrían desarrollar "la capacidad de establecer una conexión individual y persuadir a los seres humanos para que actúen de formas que les convengan a ellos, pero que no sean necesariamente buenas para todos nosotros", afirmó.

"Puede ser que la IA ya ni siquiera necesite a los seres humanos para realizar tareas concretas en el mundo físico", añadió.

Un extremo podría ser la destrucción de la humanidad", advirtió, aunque sin alcanzar ese "extremo", "el colapso del sistema bancario "seguiría siendo algo muy, muy grave".

W.Nelson--AT