Nouveau plan du Pentagone : les modèles d'intelligence artificielle seront entraînés avec des informations secrètes

Il a été affirmé que le ministère américain de la Défense faisait des préparatifs remarquables pour amener les technologies d’intelligence artificielle à un niveau supérieur à des fins militaires. Selon les informations fournies par le MIT Technology Review, le Pentagone envisage de collaborer avec des sociétés d'intelligence artificielle pour former des modèles directement sur des données militaires secrètes. Cette approche coïncide avec l’objectif des États-Unis d’établir une structure « IA first » dans le domaine de la défense. Cette transformation a été clairement exprimée dans le document stratégique publié plus tôt cette année par le secrétaire à la Défense Pete Hegseth.

On sait que l’armée américaine utilise actuellement divers outils d’intelligence artificielle. Par exemple, les allégations selon lesquelles le modèle Claude développé par Anthropic aurait été utilisé dans des opérations visant à capturer le président vénézuélien Nicolas Maduro et dans des activités militaires contre l'Iran ont été reflétées dans l'opinion publique. Malgré cela, il convient de noter que la technologie en question a ensuite été interdite aux institutions fédérales. Cependant, il est indiqué que les modèles qui seront entraînés directement avec des données cachées ont le potentiel de produire des résultats beaucoup plus spécifiques et contextuels. En particulier, les données sur les opérations passées qui ne sont pas accessibles au public peuvent augmenter considérablement la capacité d'analyse de ces systèmes.

Le Pentagone conservera la propriété de toutes les données produites

Selon les plans, ce processus de formation se déroulera uniquement dans des centres de données de haute sécurité autorisés à héberger des projets secrets d'État. Il est indiqué que le Pentagone conservera la propriété de toutes les données utilisées dans ce processus en formant des versions spéciales de modèles d'intelligence artificielle. Malgré cela, il est également indiqué que dans de rares cas, certains employés d'entreprises d'intelligence artificielle peuvent obtenir un accès limité en obtenant les autorisations de sécurité nécessaires.

D’un autre côté, cette approche comporte des risques importants. Aalok Mehta, qui a déjà travaillé sur les politiques d'intelligence artificielle chez Google et OpenAI, affirme que la formation de modèles avec des données confidentielles peut conduire à différentes vulnérabilités de sécurité, même si cela n'entraîne pas directement une fuite de données. Surtout si le même modèle est largement utilisé dans l’ensemble du ministère de la Défense, il convient de noter que le personnel disposant de faibles niveaux d’autorité peut accéder indirectement à des informations auxquelles il ne devrait pas avoir accès. Cette situation suscite de nouvelles discussions en termes de hiérarchie militaire et de sécurité de l’information.

En outre, on commence à déterminer avec quelles entreprises technologiques le Pentagone travaillera dans le cadre de cette initiative. S'il est connu qu'OpenAI et l'initiative xAI d'Elon Musk ont ​​signé un accord avec le ministère de la Défense, il est précisé qu'Anthropic, qui collabore depuis longtemps avec l'État, ne pourrait pas participer au projet. Le refus de l'entreprise de se lancer dans la surveillance de masse et les systèmes d'armes autonomes constitue l'une des principales raisons de cette décision. Malgré cela, à mesure que le rôle de l’intelligence artificielle dans le domaine de la défense s’étend progressivement, le champ de la coopération entre les entreprises technologiques et les institutions publiques est également remodelé.

En plus de tout cela, les discussions mondiales sur l’utilisation de l’intelligence artificielle dans le domaine militaire ont également pris de l’ampleur. Des organisations telles que l’Union européenne et les Nations Unies soutiennent qu’une réglementation plus stricte devrait être introduite sur l’utilisation de systèmes d’armes autonomes et d’intelligence artificielle dans un environnement de guerre.