Il a été révélé qu'OpenAI, Anthropic et Google DeepMind étaient en pourparlers depuis plusieurs semaines sur la sécurité des systèmes avancés d'intelligence artificielle. Selon Bloomberg, Chris Lehane, directeur de la politique mondiale d'OpenAI, a confirmé les contacts entre les trois sociétés dans une déclaration aux journalistes mardi. Lehane serait également à Washington pour travailler avec les législateurs américains sur les risques à grande échelle que pourrait engendrer l’intelligence artificielle. Les discussions coïncident avec une période où les discussions sur la manière dont les tests de sécurité seront effectués, en particulier pour les modèles les plus avancés, et sur les normes communes que les entreprises peuvent adopter à cet égard, s'intensifient. En outre, l'un des sujets marquants des discussions est la manière dont la coordination entre les entreprises sera évaluée en termes de droit de la concurrence.
Juste avant cette évolution, le PDG d'Anthropic, Dario Amodei, a appelé à une coopération plus étroite avec les entreprises du secteur de l'intelligence artificielle dans son article publié samedi. Amodei a fait valoir que l'industrie devrait agir ensemble afin que le rythme de développement des modèles d'intelligence artificielle les plus avancés puisse être ralenti lorsque cela est nécessaire et que les risques à grande échelle puissent être évités. Sam Altman, PDG d'OpenAI, Demis Hassabis, PDG de Google DeepMind, et Elon Musk de SpaceXAI faisaient partie de ceux qui ont soutenu l'appel d'Amodei. Altman a également annoncé qu'il autoriserait des évaluateurs tiers indépendants à effectuer des audits de sécurité au sein d'OpenAI, à l'instar de l'approche d'Anthropic. Ainsi, il devient plus clair que les entreprises ne s’appuient pas seulement sur leurs propres équipes de sécurité internes, mais que des mécanismes de vérification externes sont également à l’ordre du jour.
Les entreprises d’IA envisagent des normes de sécurité communes
La déclaration de Lehane mardi montre que les discussions entre OpenAI, Anthropic et Google ont commencé avant l'article d'Amodei. S’il est précisé que les trois sociétés sont en contact depuis plusieurs semaines au sujet de la sécurité de l’intelligence artificielle, les limites juridiques d’une telle coordination sont également évoquées. Certains dirigeants du secteur, dont Altman, ont souligné que les sociétés rivales agissant ensemble pourraient poser un problème en termes de législation antitrust si l'on concluait que cela limite la concurrence. Pour cette raison, Amodei a proposé dans son article de créer une exemption légale à portée limitée couvrant uniquement la coordination en matière de sécurité de l’intelligence artificielle. Toutefois, selon Bloomberg, Lehane estime que les entreprises n'ont pas besoin d'une telle exemption pour poursuivre ces négociations.
Des signes de contacts entre les entreprises sont déjà apparus. Dans une interview avec Fortune à la fin de la semaine dernière, Altman a déclaré avoir eu des réunions privées avec des dirigeants d'autres sociétés d'intelligence artificielle, mais n'a pas divulgué les détails de ces contacts. The Information a rapporté cette semaine qu'OpenAI, Anthropic et Google travaillaient ensemble pour créer un organisme de normalisation commun pour l'industrie de l'IA. Selon le rapport, Altman a déclaré aux employés d'OpenAI qu'une telle structure pourrait devoir être créée sans le soutien du gouvernement américain. Si cette approche est mise en œuvre, les méthodes à utiliser dans les évaluations de sécurité des entreprises et les critères communs pouvant être appliqués aux modèles avancés pourront bénéficier d'un cadre plus systématique.
Demis Hassabis, PDG de Google DeepMind, a également demandé en juillet qu'un mécanisme similaire soit mis en place par les autorités publiques. Hassabis a proposé de créer aux États-Unis un nouvel organisme de normalisation qui jouerait un rôle de supervision dans le domaine de l'intelligence artificielle et de donner à cet organisme le pouvoir d'examiner les modèles les plus avancés au monde. La recommandation prévoyait également un ralentissement coordonné des activités de développement dans l’ensemble du secteur si les risques atteignaient un certain niveau. En réponse, le président américain Donald Trump a rejeté les inquiétudes concernant la sécurité de l’intelligence artificielle et a déclaré qu’une réglementation plus stricte n’était pas nécessaire. Alors que l'administration Trump a fait valoir que les réglementations qui ralentiraient le rythme du développement pourraient avoir un impact négatif sur la compétitivité des États-Unis par rapport à la Chine, le conseiller du président en matière d'intelligence artificielle, David Sacks, a également fait valoir que les craintes selon lesquelles l'intelligence artificielle pose un risque existentiel sont exagérées.
OpenAI, quant à lui, prend en charge les réglementations légales qui peuvent rendre obligatoire un audit indépendant, ainsi que les normes que les entreprises peuvent créer entre elles. Lehane a déclaré lors de la même réunion de mardi que la société soutenait une disposition de la loi FRONTIER. Le règlement en question stipule que les laboratoires développant les modèles d'intelligence artificielle les plus avancés auront accès à des « organismes de vérification indépendants » et qu'ils pourront être audités en externe pour garantir que les modèles ont été développés en toute sécurité. Il n'a pas encore été annoncé quelles normes concrètes aboutiront les négociations entre OpenAI, Anthropic et Google. Néanmoins, réunir des entreprises à la même table sur des sujets tels que l'évaluation indépendante, les critères de sécurité communs et l'inspection des modèles avancés peut créer un cadre plus concret sur la manière dont les pratiques de sécurité du secteur seront façonnées dans la période à venir.
