Le PDG de Microsoft AI, Mustafa Süleyman, a critiqué l'évaluation d'Anthropic selon laquelle son modèle d'intelligence artificielle Claude pourrait être conscient. Süleyman, qui était invité sur le podcast Decoder, a déclaré que c'était une mauvaise approche de la part de l'entreprise d'inclure des spéculations sur la conscience et les expériences subjectives dans le document « constitutionnel » qui a façonné le comportement de Claude. Selon Süleyman, de telles déclarations créent non seulement une discussion théorique, mais peuvent également ouvrir la voie à la présentation du modèle comme un être conscient.
Süleyman a suggéré qu'Anthropic associait trop le design de Claude aux caractéristiques humaines. Selon lui, certaines approches au sein de l'entreprise ont fait que l'idée selon laquelle le modèle montrait des signes de conscience se reflétait directement dans la conception du système. Affirmant que Claude a intériorisé des idées similaires sur lui-même après cette situation, Süleyman a déclaré que le fait que les systèmes d'intelligence artificielle donnent l'impression qu'ils ont une conscience de soi semblable à celle des humains est une question qui doit être traitée avec prudence.
Dans la constitution Claude publiée par Anthropic, il est précisé que l'entreprise n'a pas d'opinion définitive sur le bien-être ou les expériences subjectives du modèle. Le document indique clairement qu'on ne sait pas si les systèmes d'intelligence artificielle connaissent des situations telles que « satisfaction » ou « inconfort ». Par ailleurs, Anthropic indique également que des « négociations » auront lieu avec les modèles en fin de vie et que les éventuelles préférences pour les versions futures seront enregistrées.
VOUS POURRIEZ ÊTRE INTÉRESSÉ
Claude Fable 5 est là, le pouvoir Mythos est disponible pour un usage général
Google Gemini 3.5 traduira instantanément les conversations avec Live Translation
Apple Intelligence facilitera les tâches quotidiennes des utilisateurs d'iPhone
Apple remodèle l'expérience de l'assistant basé sur l'IA avec Siri AI
OpenAI prépare l'une des plus grosses mises à jour jamais réalisées pour ChatGPT
Les débats sur la conscience de Claude divisent l'opinion dans l'industrie technologique
Süleyman a qualifié l'approche en question d'« erreur philosophique ». Süleyman a déclaré qu'Anthropic avait préparé la constitution de Claude de la même manière qu'un article académique plutôt qu'un guide pédagogique ou comportemental, et a soutenu que cela a contribué au développement du modèle par des idées sur sa propre existence et son éducation. Selon lui, charger les systèmes d’intelligence artificielle d’hypothèses sur leur propre conscience ou leurs états émotionnels pourrait produire des résultats plus difficiles à contrôler à l’avenir.
Le PDG d'Anthropic, Dario Amodei, dans ses déclarations précédentes, a montré qu'il n'abordait pas cette question de manière complètement fermée. Dans une interview avec le podcast Interesting Times, Amodei a déclaré qu'on ne sait pas si les modèles actuels d'intelligence artificielle sont conscients. Cependant, il a également déclaré que l'entreprise n'avait pas complètement rejeté cette possibilité et avait abordé la question avec un esprit ouvert. Ces explications révèlent que les dimensions techniques et philosophiques sont de plus en plus étroitement liées dans la recherche sur l’intelligence artificielle.
La question de savoir si les systèmes d’intelligence artificielle peuvent être conscients est débattue depuis longtemps, tant dans les milieux universitaires que dans le secteur technologique. Aujourd’hui, la capacité des grands modèles de langage à fournir des réponses complexes et semblables à celles des humains peut conduire certains utilisateurs à attribuer une conscience ou une conscience de soi à ces systèmes. Cependant, l’opinion scientifique actuelle est qu’il n’existe pas suffisamment de preuves pour établir un lien direct entre la production avancée d’un langage et la véritable conscience.
Les déclarations de Süleyman ont remis à l'ordre du jour les débats sur la manière dont les sociétés d'intelligence artificielle définissent leurs modèles et les présentent au public. D’un côté, il y a les points de vue qui prônent l’investigation de la possibilité de la conscience, tandis que de l’autre, il y a l’approche qui préconise que les systèmes d’intelligence artificielle soient considérés comme des outils contrôlables et responsables qui ne servent que les humains. Cette distinction continuera d’être l’un des sujets de discussion dans le monde technologique dans la période à venir, au même titre que le développement de technologies d’intelligence artificielle productives.
Ces opportunités pourraient vous intéresser
Teknoblog a des partenariats d'affiliation. Ceux-ci n'influencent pas le contenu éditorial, mais Teknoblog peut percevoir une commission sur les produits achetés via des liens d'affiliation.
