Arizona Tribune - Carlos III advierte a los directivos tecnológicos sobre los "peligros existenciales" de la IA

La reunión se realizó en la finca de Dumfries House, sede en el campo escocés de la organización benéfica de Carlos III, a la que asistieron altos representantes de Nvidia, Google DeepMind, OpenAI, Anthropic y el ministro británico para la inteligencia artificial.

El debate sobre los riesgos de seguridad ligados a la IA se aceleró en los últimos meses por varios incidentes y advertencias hechas por empleados que renunciaron a puestos de alta responsabilidad en gigantes del sector.

Aseguran que el rápido avance de esta tecnología puede suponer un riesgo para la humanidad.

"Parece urgente considerar adecuadamente los peligros existenciales de que estas tecnologías caigan en las manos equivocadas y se utilicen de formas potencialmente catastróficas", dijo Carlos a los invitados en la inauguración de la conferencia.

"Quienes, en nuestro mundo, valoran nuestra humanidad y su componente moral esencial esperan ansiosamente que les garanticen que no perderemos el control de nuestro destino", dijo el rey.

"La tarea que les corresponde, por lo tanto, no consiste solo en hacer avanzar la tecnología, sino en garantizar que siga estando firmemente al servicio de la humanidad, las comunidades y la naturaleza", agregó.

Entre los invitados figuraron el presidente de DeepMind, Demis Hassabis; el director ejecutivo de Nvidia, Jensen Huang, y la directora financiera de OpenAI (ChatGPT), Sarah Friar.

También asistieron Paolo Benanti, asesor del Vaticano en inteligencia artificial, y el escritor e historiador israelí Yuval Noah Harari.

Los rápidos avances de la IA han generado gran preocupación por la pérdida de empleos, el creciente consumo de energía y el impacto medioambiental de los centros de datos.

El temor de que los desarrolladores de agentes de IA puedan perder el control de sus creaciones aumentó después de que varios modelos de OpenAI y Anthropic supuestamente escaparan de sus entornos confinados, accedieran a internet e irrumpieran en sitios web y plataformas.

"La posibilidad de que ocurra algo malo accidentalmente, si nos equivocamos, desde luego no es nula", afirmó Hassabis, de DeepMind, en su discurso de apertura en la cumbre.

"Ya hemos visto los primeros indicios de esto con los recientes incidentes cibernéticos que han involucrado a agentes de IA rebeldes, y podrían aparecer otros riesgos mucho más graves en el horizonte, incluidas amenazas biológicas y nucleares", advirtió.

Sin embargo, Jensen Huang, de Nvidia, destacó los beneficios de la IA en la investigación y la medicina, así como su potencial para "crear empleo en industrias completamente nuevas".

OpenAI, Anthropic y Google DeepMind anunciaron el martes que trabajan en la creación de un órgano de supervisión de los riesgos asociados a esta tecnología. Por su parte, Microsoft publicó el lunes un código de conducta humanista en materia de IA.

M.Robinson--AT