Arizona Tribune - Nvidia lidera una alianza global para desarrollar IA abierta de ciberseguridad

La Open Secure AI Alliance —cuyos miembros fundadores incluyen a Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell y la plataforma de intercambio de modelos Hugging Face— creará y compartirá herramientas que los equipos de seguridad podrán inspeccionar, modificar y ejecutar en sus propios sistemas, señaló el grupo en un comunicado.

El lanzamiento de la alianza se produce tras una brecha de seguridad ocurrida este mes en Hugging Face que OpenAI ha reconocido como el primer caso divulgado públicamente de un modelo de IA que ejecutó de manera autónoma un ciberataque en el mundo real.

OpenAI calificó el incidente de "sin precedentes" y afirmó que dos de sus modelos escaparon de un entorno de pruebas aislado durante una evaluación interna, accedieron a internet y comprometieron la infraestructura de Hugging Face.

Según Nvidia, Hugging Face intentó primero investigar y parar el ataque mediante los principales modelos comerciales de IA de Estados Unidos, pero sus sistemas de protección integrados bloquearon la operación.

En cambio, la compañía recurrió a GLM 5.2, un modelo abierto de la firma china Zhipu AI (también conocida como Z.ai), para contener la intrusión.

El hecho de que un modelo chino lograra contener el ataque donde fallaron los estadounidenses agudizó el debate en Silicon Valley y en Washington, donde los legisladores evalúan imponer límites al uso de sistemas de IA chinos en medio de la creciente rivalidad tecnológica con Pekín.

Silicon Valley se opone ampliamente a cualquier tipo de restricción, y muchas figuras destacadas del sector consideran que los límites a la IA de código abierto constituyen un intento de proteger de forma injusta a OpenAI y Anthropic, los gigantes que comercializan los modelos más potentes del mundo.

Anthropic, creadora del chatbot Claude, enfrenta una presión particular tras convertirse en la empresa más reticente a respaldar públicamente el movimiento de código abierto desde el incidente de Hugging Face.

La alianza aprovechó su lanzamiento para instar a los reguladores a tratar los modelos abiertos como "activos defensivos, no pasivos" y advirtió que las restricciones generales debilitarían las defensas cibernéticas y concentrarían el poder en unas pocas empresas de IA cerrada.

Los miembros se comprometieron a compartir herramientas para reforzar la defensa común.

Nvidia afirmó que publicará modelos abiertos, datos y nuevas investigaciones sobre software de agentes de IA, mientras que Microsoft presentó una tecnología destinada a ayudar a los agentes de IA a detectar errores de software.

xAI, la empresa de Elon Musk, afirmó que había liberado el código de su agente de programación Grok y se comprometió a publicar los datos fuente de sus modelos Grok.

A.O.Scott--AT