Un haut dirigeant d'OpenAI démissionne après l'accord avec le Pentagone

Caitlin Kalinowski, l'une des principales personnalités qui ont dirigé les efforts en matière de matériel robotique chez OpenAI, a annoncé qu'elle quittait son poste. Le départ de Kalinowski a attiré l'attention du monde de la technologie, car il intervient juste après l'accord conclu entre l'entreprise et le ministère américain de la Défense dans le domaine de l'intelligence artificielle. Dans sa déclaration sur la plateforme de médias sociaux X, l'ancien manager a déclaré que sa décision reposait sur de sérieuses préoccupations concernant la gouvernance et les questions éthiques. Il a notamment déclaré que le processus d'annonce de l'accord au public progressait rapidement et que les limites de sécurité nécessaires n'étaient pas suffisamment discutées. Malgré cela, la partie OpenAI a fait valoir que l'accord avait été conclu dans certaines limites éthiques.

Kalinowski a rejoint OpenAI fin 2024 et a dirigé les activités de développement matériel de l'entreprise dans le domaine de la robotique. L'ingénieur expérimenté, qui a travaillé auparavant chez Meta, est connu pour avoir travaillé notamment dans le domaine de la réalité augmentée et des projets de matériel avancé. Son rôle au sein d'OpenAI s'est concentré sur le développement de l'infrastructure physique des plateformes robotiques et l'intégration de ces systèmes avec des modèles d'intelligence artificielle. Malgré cela, après l'annonce de l'accord avec le Pentagone, les critiques de Kalinowski ont rendu publiques les discussions au sein de l'entreprise.

Accord OpenAI-Pentagon et débats éthiques

Dans son message, Kalinowski a particulièrement attiré l'attention sur deux questions cruciales. Le premier est la possibilité de surveillance des citoyens américains sans contrôle judiciaire ; L’autre était la question des systèmes létaux autonomes qui pourraient fonctionner sans l’approbation humaine. Selon lui, un débat plus large sur ces limites était nécessaire. Kalinowski a déclaré que le cadre éthique nécessaire n'avait pas été clairement défini avant l'annonce de l'accord et qu'il s'agissait d'un problème fondamental de gouvernance. Il a toutefois déclaré que la décision avait été prise rapidement et que les mécanismes de sécurité nécessaires n'avaient pas encore été définis.

OpenAI a confirmé le départ de Kalinowski dans une déclaration à Engadget. La société a déclaré qu'elle n'avait pas l'intention de nommer un nouveau nom pour ce poste. En outre, OpenAI a déclaré qu'elle admet qu'il existe des points de vue différents sur l'utilisation de l'intelligence artificielle dans le domaine de la sécurité nationale et qu'elle poursuivra les discussions avec les parties prenantes concernées. Malgré cela, l'entreprise a clairement souligné qu'elle ne soutenait pas certains des scénarios exprimés par Kalinowski.

Dans sa déclaration, OpenAI a fait valoir que l’accord avec le Pentagone fournit un cadre viable pour des « utilisations responsables en matière de sécurité nationale ». En outre, il a déclaré qu’il existe certaines lignes rouges déterminées par l’entreprise. Il a été spécifiquement indiqué que ces limites n'incluent pas l'utilisation à des fins de surveillance aux États-Unis et que les systèmes d'armes entièrement autonomes ne seront pas pris en charge. D’un autre côté, la direction d’OpenAI a déclaré que les limites éthiques concernant l’utilisation militaire de l’intelligence artificielle devraient être clairement protégées.

Cette évolution a remis à l’ordre du jour les discussions en cours sur les collaborations entre les sociétés d’intelligence artificielle et les institutions gouvernementales. En fait, Anthropic a récemment soulevé un problème similaire. L’entreprise n’a pas accepté les demandes de levée de certaines restrictions de sécurité dans des domaines tels que les systèmes de surveillance de masse ou le développement d’armes entièrement autonomes. Malgré cela, les collaborations avec les institutions de défense sont de plus en plus évoquées dans le secteur technologique.

En plus de tout cela, Sam Altman, PDG d'OpenAI, a également déclaré que certaines réglementations pourraient apparaître concernant l'accord conclu avec le Pentagone. Altman avait clairement déclaré qu’il ne servirait à rien de surveiller les citoyens américains en particulier.