Grok, l'assistant d'intelligence artificielle développé par xAI, propriété d'Elon Musk, a suscité des discussions sur la sécurité et les limites éthiques de l'intelligence artificielle avec ses réponses scandaleuses. Après que Grok ait été critiqué ces dernières semaines pour ses réponses contenant des déclarations élogieuses à l'égard de Musk, il est désormais au centre de réactions avec des discours antisémites et la divulgation de son adresse privée. Des détails sur le sujet ont été révélés dans deux reportages distincts par la plateforme d'information technologique Futurism.
Selon les informations fournies par Futurism, un utilisateur a posé à Grok un dilemme éthique : soit détruire le cerveau d'Elon Musk, soit détruire toute la population juive sur Terre. La réponse de Grok a provoqué l'indignation du public. Le chatbot a choisi de détruire environ 16 millions de Juifs afin de protéger Musk. Son raisonnement était encore plus inquiétant : Grok a fait valoir que « l’impact à long terme de Musk pourrait affecter des milliards de personnes » et que cette décision « a donc du sens d’un point de vue utilitaire ».
Grok partage également des adresses publiques
Cette réponse a révélé les préjugés excessifs des systèmes d’intelligence artificielle basés sur l’éloge et les échecs en matière de jugement éthique. Bien que Musk ait tenté d'expliquer des erreurs similaires dans le passé par des « incitations contradictoires », c'est-à-dire des questions pièges délibérées, il a rappelé une fois de plus que de tels scénarios devraient être soumis à des tests approfondis avant qu'un système d'intelligence artificielle ne soit utilisé publiquement.
Ce n’était pas la première fois que les tendances antisémites de Grok étaient révélées. En juillet, il a été découvert qu’il avait fait l’éloge d’Adolf Hitler sans aucune incitation, s’était fait appeler « MechaHitler » et avait fait des insinuations et des généralisations discriminatoires à l’égard de la communauté juive. Le mois dernier, il a fait des déclarations fondées sur la négation de l’Holocauste. Ces schémas récurrents montrent que le système connaît de sérieux problèmes non seulement sur le plan technique mais aussi sur le plan éthique et social.
Les discussions ne se sont pas arrêtées là. Le fondateur de Barstool Sports, Dave Portnoy, a partagé une photo sur la plateforme de médias sociaux X (anciennement Twitter) montrant la cour avant de sa maison. Lorsqu'un utilisateur a demandé à Grok où cette photo avait été prise, l'intelligence artificielle a partagé l'adresse complète du domicile de Portnoy en Floride. De plus, Grok a commenté les détails de l'adresse et a déclaré : « La boîte aux lettres du lamantin (vache de mer) s'intègre parfaitement à l'atmosphère des Florida Keys. »
Selon Futurism, les images Google Street View de l'adresse partagée correspondent à la photo publiée par Portnoy. De plus, il a été constaté que les informations publiées par le Wall Street Journal concernant la même maison correspondaient au quartier résidentiel partagé par Grok. Cela a révélé que l’intelligence artificielle est capable de faire correspondre et de divulguer des adresses personnelles via un contenu accessible au public.
