Trois chercheurs en sécurité de l'intelligence artificielle, licenciés par OpenAI, se sont opposés à leurs décisions de licenciement dans une lettre ouverte. Jasmine Wang, Mikita Balesni et Tomek Korbak ont fait valoir que les déclarations publiques de l'entreprise à leur sujet pourraient empêcher les autres employés d'exprimer leurs préoccupations en matière de sécurité. Les chercheurs ont noté que la communication avec des organisations de sécurité indépendantes, auparavant encouragée au sein d’OpenAI, crée désormais une incertitude pour les employés. Il a été affirmé que la manière dont l'entreprise annonce sa décision au public pourrait avoir un effet dissuasif sur les salariés. Trois chercheurs ont souligné qu'un environnement de discussion ouvert au sein de l'entreprise devait être maintenu à une époque où la sécurité des systèmes d'intelligence artificielle devient de plus en plus importante.
La semaine dernière, OpenAI a licencié trois employés pour avoir prétendument partagé des informations avec une organisation externe de sécurité de l'intelligence artificielle. Dans la déclaration faite par l'entreprise, il a été déclaré que les personnes en question avaient violé les politiques concernant l'accès et l'utilisation des informations sensibles de l'entreprise. OpenAI a également fait valoir que ces comportements nuisaient à la relation de confiance dans l’environnement de travail. Cependant, la décision a également suscité des discussions sur les pratiques de l'entreprise dans le domaine de la sécurité de l'intelligence artificielle. Le licenciement de chercheurs en sécurité a également attiré l'attention de certains législateurs, en particulier au milieu d'allégations selon lesquelles les agents d'intelligence artificielle d'OpenAI auraient été liés à des cyberattaques graves et potentiellement illégales ciblant Hugging Face et d'autres organisations.
Les chercheurs en sécurité d'OpenAI affirment que la culture de travail au sein de l'entreprise a changé
Dans leur lettre commune, trois anciens salariés ont déclaré que les déclarations internes et externes faites après leur licenciement avaient eu un impact négatif sur leurs anciens collègues. Selon les chercheurs, certaines pratiques qui étaient auparavant considérées comme un élément naturel du bon fonctionnement chez OpenAI sont désormais considérées comme risquées pour les employés. La lettre rappelle que dans le passé, les préoccupations en matière de sécurité pouvaient être exprimées ouvertement et les décisions au sein de l'entreprise pouvaient être contestées. De plus, il a été précisé que les employés sont encouragés à bénéficier de l'expertise d'organismes de sécurité indépendants. Les chercheurs ont déclaré que cette approche est l'une des raisons pour lesquelles ils sont fiers de travailler chez OpenAI.
Wang, Balesni et Korbak ont fait valoir qu'ils avaient agi conformément à la mission d'OpenAI et aux habitudes de travail valables dans l'exercice de leurs fonctions. Cependant, ils ont déclaré que leurs licenciements pourraient indiquer que les règles et les attentes au sein de l'entreprise ont changé. Selon les chercheurs, la situation actuelle fait que les employés ne disposent pas d’informations suffisamment claires sur les comportements acceptables. En particulier, les limites floues de la communication avec les organisations de sécurité externes peuvent rendre difficile la conduite de recherches sur la sécurité. La lettre souligne que cette incertitude concerne non seulement les trois personnes licenciées mais aussi les chercheurs qui continuent de travailler dans l'entreprise.
D'anciens employés ont également clarifié certaines des allégations portées contre eux. Ils ont déclaré qu'ils n'étaient pas à l'origine des informations publiées par The Information, qui traitaient des nouvelles architectures de modèles d'OpenAI, dont le comportement est plus difficile à surveiller. En outre, ils n’ont pas accepté l’affirmation selon laquelle ils avaient établi des relations avec des personnes et des organisations extérieures à l’entreprise qui allaient au-delà de leurs descriptions de poste. Les chercheurs ont déclaré que la communication avec les parties externes s'effectuait dans le cadre d'une coordination et d'un échange de vues avec les membres du conseil d'administration et les cadres supérieurs. Jasmine Wang a expliqué que lorsqu'elle avait accidentellement cliqué sur un e-mail contenant des informations sensibles, elle avait signalé la situation à un responsable de l'entreprise.
La lettre comprenait également diverses demandes de gestion d'OpenAI. Les chercheurs ont déclaré que l’entreprise aurait dû respecter les engagements d’audit de sécurité indépendant qu’elle avait précédemment rendus publics. Il a été demandé que le licenciement de trois employés ne soit pas utilisé comme motif pour abandonner le travail en commun avec des organismes de sécurité tiers. En outre, il a été souligné que la traçabilité du comportement des modèles avancés d’intelligence artificielle devait être préservée. Les chercheurs ont également appelé au maintien d’une communication ouverte et transparente entre les équipes de sécurité et la communauté externe de sécurité de l’IA.
Dans son article sur X, Jasmine Wang a déclaré que la direction d'OpenAI était largement d'accord avec les points de vue exprimés dans la lettre. Malgré cela, il a déclaré qu'il restait préoccupé par l'approche de l'entreprise en matière d'ouverture et de transparence. Wang a fait valoir qu'ils n'étaient pas les premiers employés à quitter OpenAI dans des circonstances douteuses. Il a suggéré que si les employés ne dénoncent pas de telles pratiques, des incidents similaires pourraient se reproduire. Selon Wang, la situation actuelle envoie un message au personnel qui reste dans l'entreprise : soulever des problèmes de sécurité ou travailler en étroite collaboration avec des groupes de sécurité indépendants pourrait risquer d'être licencié.
