L'entretien du PDG d'OpenAI, Sam Altman, avec le rédacteur en chef de Vanity Fair, Mark Guiducci, a attiré l'attention lorsqu'un représentant des relations publiques qui a assisté à l'entretien au nom d'OpenAI est intervenu lors d'une question sur le suicide d'une personne utilisant ChatGPT. Guiducci a demandé à Altman s'il connaissait la journaliste Laura Reiley et a rappelé que Reiley, dans son article publié dans le New York Times, avait décrit les conversations qu'elle avait eues avec ChatGPT avant de tuer sa fille. L'éditeur a également spécifiquement noté que ChatGPT ne dit pas directement à l'utilisateur de se suicider. Cependant, avant que la question ne continue, le représentant d'OpenAI a souhaité changer de sujet, affirmant que l'heure de la réunion était sur le point d'expirer. Cette partie de l’entretien a remis à l’ordre du jour les discussions sur les responsabilités des sociétés d’intelligence artificielle face aux crises de santé mentale et aux données des utilisateurs.
Le représentant d'OpenAI a déclaré à Guiducci qu'il ne lui restait que deux minutes, qu'il souhaitait respecter le temps et préférait parler de l'avenir de l'entreprise dans la prochaine partie de la conversation. Guiducci a déclaré qu'il compléterait sa question et reviendrait ensuite aux sujets précédents. En réponse, le représentant a continué son objection, affirmant qu'ils devraient vraiment partir dans une minute ou deux. Cependant, l'entretien n'a pas pris fin et Guiducci a pu poser à Altman le reste de ses questions. Cette brève intervention est devenue l’une des parties les plus marquantes de l’entretien, notamment en raison de la sensibilité du sujet abordé.
Sam Altman se prononce sur l'utilisation des données des utilisateurs dans les crises de santé mentale
Guiducci a ensuite demandé si OpenAI envisagerait d'utiliser les informations glanées lors des conversations privées des utilisateurs avec ChatGPT pour améliorer les réponses aux crises de santé mentale et aux politiques de l'entreprise. Altman a déclaré qu'il s'agissait de l'un des problèmes les plus difficiles auxquels sont confrontés OpenAI et d'autres sociétés développant des technologies similaires. Il a souligné que le partage de conversations privées avec des chercheurs, en particulier pendant les périodes les plus difficiles de leur vie, pourrait entraîner de graves problèmes de confidentialité. Altman a déclaré qu'il pensait qu'il ne serait pas juste de partager de telles données privées à des fins de recherche sans l'autorisation des utilisateurs. Il a ensuite précisé son propos et souligné qu'un tel partage ne devait pas se faire sans le consentement de l'utilisateur.
Cette réponse montre également à quel point l’équilibre entre sécurité et confidentialité est devenu complexe dans les services productifs d’intelligence artificielle. Les signes indiquant qu’un utilisateur traverse une crise psychologique grave pourraient, en théorie, être utiles pour développer des politiques et des modèles qui aideraient les systèmes à réagir de manière plus sûre. Cependant, étant donné que ces conversations peuvent également contenir des informations extrêmement personnelles, la manière dont elles seront utilisées lors de la recherche, du développement de produits et des études de sécurité constitue un sujet de discussion distinct. Par ailleurs, il est également important d’informer clairement les utilisateurs sur les conditions dans lesquelles ces données peuvent être consultées. La réponse d'Altman montre également qu'OpenAI évalue le problème dans ce domaine non seulement en termes de sécurité technique mais aussi en termes de confidentialité des utilisateurs.
Le porte-parole d'OpenAI, Drew Pusateri, qui a ensuite fait une déclaration sur l'intervention lors de l'interview, a déclaré que la réunion avait dépassé la durée prévue. Selon Pusateri, ce délai est la raison pour laquelle le représentant de l'entreprise est intervenu. Le porte-parole a déclaré qu'après qu'Altman ait répondu à la question critique en question, plus de temps avait été demandé pour poursuivre la réunion. Ainsi, OpenAI a fait valoir que l’intervention avait été faite non pas en raison du contenu de la question, mais parce que le calendrier des entretiens était prolongé. Cependant, la tentative d'interrompre la conversation alors qu'il discutait du suicide d'un utilisateur et de ses conversations privées avec ChatGPT a amené l'incident à attirer davantage l'attention du public.
La manière dont les systèmes de chat IA doivent gérer la santé mentale est un équilibre de plus en plus difficile pour les entreprises technologiques. Alors que les systèmes sont censés diriger les utilisateurs vers des sources d'aide professionnelles dans des situations à risque, la vie privée des utilisateurs doit en même temps être protégée et les conditions dans lesquelles les conversations privées peuvent être examinées doivent être clairement déterminées. Cette interview entre OpenAI et Vanity Fair révèle également que le débat ne se limite pas au comportement des modèles, mais que la manière dont les entreprises communiquent avec le public sur ces cas est également étroitement surveillée. Alors que la réponse d'Altman mettait l'accent sur le consentement explicite de l'utilisateur lors du partage de données, l'intervention dans l'entretien a créé un débat distinct sur l'approche de communication de l'entreprise. Le tableau qui se dessine montre que l’équilibre à établir entre la sécurité de l’intelligence artificielle et la vie privée restera l’un des principaux sujets tant pour les entreprises technologiques que pour les régulateurs au cours de la période à venir.
