Arizona Tribune - IA et défense: Mistral n'a pas à influer sur "les choix de déploiement", estime son patron

"Les choix de déploiement et d'utilisation, ce n'est pas de notre ressort", a-t-il déclaré lors d'un entretien en marge de la première conférence sur l'intelligence artificielle (IA) organisée par sa société à Paris.

Les activités de défense représentent aujourd'hui 10 à 15% du chiffre d'affaires de Mistral, qui collabore avec l'armée française, singapourienne et luxembourgeoise.

L'entreprise fournit une plateforme logicielle avec des agents IA, des assistants semi-autonomes auxquels l'utilisateur peut déléguer des tâches, capables d'agréger un grand nombre de données de sources hétérogènes.

"C'est très utile quand vous êtes dans l'état-major ou quand vous avez des sujets de coordination tactique sur le champ de bataille", a expliqué M. Mensch.

- Postures "d'idéologues" -

Son groupe, qui a annoncé un partenariat de cinq ans avec Airbus notamment dans la défense, déploie aussi des petits modèles d'intelligence artificielle qui peuvent être mis dans des systèmes d'armement ou des systèmes de défense pour développer leur autonomie, comme les drones.

"Qui sommes-nous pour expliquer à des militaires, qui connaissent leur métier, qui connaissent les menaces (...) ce qui peut être fait ?", a-t-il poursuivi, refusant les postures "d'idéologue".

"La légitimité du ministère de la Défense est largement supérieure à la nôtre en tant que société qui fournit une technologie", a indiqué Arthur Mensch.

"Notre responsabilité, c'est évidemment de choisir avec qui on travaille" et de garantir "une souveraineté absolue pour opérer les armes", a toutefois poursuivi le dirigeant de 33 ans.

Son concurrent américain Anthropic a fait les gros titres après avoir refusé que ses outils d'IA soient utilisés par le ministère américain de la Défense pour la surveillance de masse des citoyens aux États-Unis et pour rendre des armes totalement autonomes.

En représailles, le Pentagone a poursuivi Anthropic en justice et sélectionné tous ses rivaux américains (SpaceX, OpenAI, Google, Nvidia, Reflection, Microsoft et la filiale d'Amazon AWS) pour ses opérations classifiées, y compris sur le champ de bataille.

Or, des salariés du laboratoire d'intelligence artificielle de Google, Deepmind, se sont mobilisés par la suite au Royaume-Uni contre l'utilisation militaire de leur technologie par Israël et l'armée américaine, signe des vives inquiétudes sur ce sujet.

- Barrières de sécurité -

Mistral a aussi annoncé travailler désormais sur le développement d'une intelligence artificielle générale (AGI), autre sujet explosif, particulièrement outre-Atlantique, car il s'agit d'atteindre le stade où l'IA égalerait voire surpasserait toutes les capacités intellectuelles des humains.

"L'objectif, c'est d'avoir des systèmes les plus intelligents possibles pour que derrière, avec l'adaptation nécessaire, ils aient le plus d'impact possible sur les entreprises", a détaillé Arthur Mensch.

Risque-t-on de créer une IA hors de contrôle qui ferait courir un danger à l'humanité ?

"Ca n'a strictement aucun sens", balaye le trentenaire. "On déploie toujours les modèles et puis les systèmes dans des environnements où on peut les débrancher".

La sécurité reste "une préoccupation majeure" de sa start-up, fondée en 2023, qui a signé un accord avec l'Agence France-Presse (AFP) pour utiliser ses dépêches d'actualité afin de répondre aux requêtes de ses utilisateurs.

Il s'agit de s'assurer "que le modèle se comporte comme on lui a indiqué de le faire" et lui imposer des barrières qui vont "l'empêcher de prendre des actions déraisonnables", a souligné M. Mensch. "C'est un sujet essentiel pour nos clients".

Côté cybersécurité, Arthur Mensch a confirmé travailler sur un produit spécifique pour les entreprises, à l'heure où les sociétés européennes, notamment les banques, n'ont aucun accès aux derniers modèles d'IA tels que Mythos d'Anthropic, décrits comme extrêmement puissants pour découvrir les vulnérabilités informatiques.

"Tout le monde a besoin d'avoir des systèmes de cybersécurité qui défendent des attaquants, qui eux-mêmes sont équipés avec de l'intelligence artificielle", a-t-il pointé, ajoutant que ce produit serait disponible dès cette année.

K.Hill--AT