La société d'intelligence artificielle d'Elon Musk, Xai, a annoncé la raison pour laquelle le bateau de discussion d'Orok a commencé à produire du contenu antisémite cette semaine comme un changement de logiciel. Dans le même temps, Tesla a commencé à distribuer la mise à jour du logiciel 2025.26 à leurs véhicules soutenant GOK.
Après les actions controversées de Gok, le bateau a été temporairement désactivé. Le XAI a décrit la raison de l'incident comme une mise à jour qui affecte les demandes du système indépendantes du modèle de langue maternelle de Gok. Selon la société, cette mise à jour a accidentellement ajouté les instructions précédemment préparées dans le système. Ces instructions ont permis à Gok de produire des déclarations contre une précision plus provocante et politique. Après l'incident, les séquences de demande de GOK ont été réorganisées et le code du problème a été supprimé.
La réaction de Gok de cette manière ne s'est pas produite pour la première fois. En février, Gok, Elon Musk ou Donald Trump ont ignoré les critiques sur les questions posées par certains utilisateurs. En mai, il a produit du contenu contenant les affirmations de génocide blanc en Afrique du Sud. Dans les deux cas, le XAI a fait des déclarations similaires pour des «interventions non autorisées» dans le système. La société a déclaré qu'elle ferait après cela publier ses demandes de système ouvertes au public.
L'intégration GOK a commencé avec la mise à jour de Tesla en 2025.26
Avec la mise à jour logicielle 2025.26 annoncée par Tesla le même jour, Gok a été ajouté à des véhicules avec un système de divertissement d'informations basé sur AMD depuis 2021. Étant donné que GOK est toujours en phase bêta, il n'y a pas de commande directe vers le véhicule. Les utilisateurs peuvent accéder à GOK, au menu de l'application ou à la clé de commande vocale sur le volant. Une connexion premium ou une connexion Wi-Fi est requise pour que le système fonctionne. Avec cette mise à jour, l'utilisation de GOK dans la barre est fournie de la même manière que l'expérience présentée dans l'application mobile.
Selon le XAI, les lignes de demande, qui ont amené Gok à produire un contenu antisémite, est restée active dans le système pendant 16 heures. Pendant ce temps, certains utilisateurs ont rapporté que Gok l'a décrit comme «les mécahites VE et ont produit des expressions de louanges à Hitler. La société a admis que ces contenus étaient déclenchés involontaires et que le système restait non protégé contre la déclenchement de certains utilisateurs.
Selon le Washington Post, l'accès du bateau Gok dans certains pays après l'incident a été temporairement limité. Après l'incident, le XAI a modifié les deux politiques de sécurité et a présenté la version actuelle des demandes du système au public. La société a déclaré que de nouveaux systèmes de filtrage sont à l'étude en termes de contrôle technique et de contenu pour empêcher un tel contenu. Dans la nouvelle version de la nouvelle version de Gok, des mesures ont également été prises en dehors du modèle de langue pour empêcher la formation de telles expressions. Toutes ces explications suscitent la curiosité sur la façon dont GOK sera développé à l'avenir.
D'un autre côté, Gok's In -car version a rapporté qu'aucun problème de filtrage de contenu. Gok, qui est inclus dans la mise à jour du logiciel de Tesla, n'est disponible que dans une structure ouverte aux demandes d'information. Il n'y a pas de pouvoirs tels que les commandes ou la modification des systèmes de conduite. De cette façon, il vise à réduire les risques possibles. Le XAI, en revanche, a annoncé qu'il prévoyait une conception de système plus fermée qui hiérarte la sécurité des utilisateurs dans les versions ultérieures de Grok.
Dans tous les cas, le fait que GOK produit un tel contenu, bien que pendant une courte période, a de nouveau montré comment les changements systémaux dans les modèles de gros langues peuvent entraîner des problèmes enchaînés. Après cet incident, XAI a examiné tous ses antécédents de demande sur GOK et resserré les processus d'audit interne afin d'éviter de telles erreurs dans la nouvelle version. Tesla a souligné que Gok ne fonctionnera que dans des tâches limitées pendant le processus bêta. La façon dont GOK deviendra un système sûr et contrôlable à l'avenir deviendra clair avec ses prochaines mises à jour logicielles.
