Arizona Tribune - La empresa de IA Mistral critica a actores que buscan "fortalecer su posición en el mercado"

"Los modelos de IA se convierten en actores poderosos cuando se les otorga cierto grado de libertad de ejecución y acceso a herramientas", reconoció la empresa emergente francesa.

"No se trata solo de un riesgo técnico. El despliegue negligente de agentes de IA ya ha tenido graves consecuencias en los últimos meses", advirtió.

La empresa francesa afirmó que "algunos actores aprovechan este período para fortalecer su posición en el mercado, promoviendo regulaciones diseñadas para favorecerlos en detrimento de sus competidores".

OpenAI, Anthropic y Google DeepMind anunciaron este martes que trabajan en la creación de un organismo de supervisión de los riesgos relacionados con la inteligencia artificial.

Las preocupaciones sobre la seguridad de la inteligencia artificial se han intensificado en las últimas semanas, incluidas advertencias de dos trabajadores que renunciaron a importantes desarrolladoras de IA por la amenaza contra la humanidad que implica esta industria.

Varias figuras del sector de inversiones en tecnología acusaron a Anthropic de buscar que las autoridades congelen mediante la regulación una jerarquía en la que la empresa emergente ocupa el primer lugar.

Anthropic y OpenAI también entregaron confidencialmente a las autoridades estadounidenses documentos para preparar sus respectivas salidas a bolsa, con el objetivo de alcanzar una valoración cercana a 1 billón de dólares, lo que ha llevado a algunos expertos del sector a acusarlas de buscar publicidad.

OpenAI, sin embargo, anunció el aplazamiento de su salida a bolsa debido a las preocupaciones sobre la seguridad de la IA.

"No reduzcan el ritmo de diseño y desarrollo, ni de tener sus propios modelos y sistemas de IA como empresa, y no habrá un apocalipsis para ustedes", había respondido el lunes en X el director ejecutivo de Mistral, Arthur Mensch.

Según la empresa francesa, desplegar un modelo de IA de manera segura requiere "una infraestructura informática adecuada, mecanismos de supervisión apropiados y una estricta separación de los derechos de acceso".

A diferencia de Estados Unidos, la Unión Europea cuenta con un marco regulatorio sobre la IA, adoptado en 2024, que busca limitar los riesgos de esta tecnología.

M.O.Allen--AT