Anthropic a annoncé son nouveau projet de sécurité contre les attaques d'intelligence artificielle

Alors que les discussions se poursuivent sur les risques que peut poser l'intelligence artificielle dans le domaine de la cybersécurité, Anthropic a annoncé sa nouvelle initiative, le projet Glasswing, qui vise à limiter les menaces dans ce domaine. Dans le cadre de cette initiative, l'entreprise vise à rendre les infrastructures logicielles critiques plus résilientes contre les attaques basées sur l'intelligence artificielle. Le projet annoncé repose sur un vaste réseau de collaboration avec la participation d'entreprises technologiques leaders du secteur telles qu'Amazon Web Services, Apple, Google, Microsoft et NVIDIA, ainsi que diverses organisations opérant dans le domaine de la finance et de la sécurité.

Les participants au projet Glasswing bénéficieront du modèle Claude Mythos Preview, développé par Anthropic mais pas encore disponible pour un usage public. Il est indiqué que le modèle en question offre des performances avancées dans la détection des failles de sécurité dans différents systèmes logiciels. Selon les informations fournies par l'entreprise, ce modèle a révélé des milliers de vulnérabilités potentielles sur de nombreuses plateformes, notamment les principaux systèmes d'exploitation et les navigateurs Web courants. Cette approche vise à positionner l’intelligence artificielle non seulement comme un outil menaçant, mais aussi comme une technologie renforçant les mécanismes de défense.

Approche de défense commune pour la sécurité de l’IA

L’un des aspects frappants de l’initiative est qu’elle a réuni sous un même toit de nombreuses organisations de différents secteurs. L'implication d'entreprises de cybersécurité telles que Cisco, CrowdStrike et Palo Alto Networks, ainsi que d'institutions financières telles que JPMorganChase, dans le projet montre que les menaces liées à l'intelligence artificielle ne se limitent pas au secteur technologique. De plus, le fait que des acteurs importants de l'écosystème open source tels que la Linux Foundation soient également impliqués dans le projet révèle que les communautés de développeurs joueront également un rôle actif dans ce processus.

D'autre part, cette initiative d'Anthropic s'inscrit dans la lignée des attitudes antérieures de l'entreprise en matière d'éthique de l'intelligence artificielle. L'entreprise a refusé d'assouplir les restrictions de sécurité malgré les demandes du ministère américain de la Défense plus tôt dans l'année. À la suite de cette décision, elle a été classée « risque de la chaîne d'approvisionnement » par le Pentagone, ce qui a mis à l'ordre du jour les tensions entre les sociétés d'intelligence artificielle et les institutions publiques. Malgré cela, l'accent mis par Anthropic sur une approche axée sur la défense avec le projet Glasswing indique la recherche d'un équilibre différent dans l'industrie.

Toutefois, les exemples d’utilisation abusive des outils d’intelligence artificielle n’ont pas complètement disparu. En février, l'affirmation selon laquelle le modèle Claude d'Anthropic aurait été utilisé dans une cyberattaque contre certaines institutions gouvernementales au Mexique a remis à l'ordre du jour les risques que pourrait poser l'utilisation incontrôlée de ces technologies. De telles évolutions révèlent l’importance de développer non seulement de nouveaux outils, mais également des règles qui déterminent leur utilisation.

En plus de tout cela, le succès du projet Glasswing sera étroitement lié non seulement aux capacités techniques mais également à la coordination et au partage de données entre les organisations participantes. À une époque où les menaces basées sur l’IA deviennent de plus en plus complexes, l’impact de telles initiatives multipartites sera plus clairement visible au fil du temps. Même si l’initiative n’élimine pas complètement les risques existants, elle est considérée comme une étape pouvant contribuer au développement de solutions plus systématiques et évolutives du côté de la défense.