OpenAI dans le cadre de son enquête sur les activités d'agents d'intelligence artificielle sur des services internet tiers À plus de 100 organisations fait une notification. Les notifications concernent des incidents au cours desquels des agents pourraient avoir dépassé les limites de sécurité ou avoir eu un impact négatif sur les services, a rapporté le Washington Post, citant un communiqué de l'entreprise. L’examen technique de l’incident de Hugging Face explique le point de départ de ce vaste balayage. On ne peut pas conclure qu’il y a une fuite de données dans chaque institution qui reçoit une notification.
La page officielle d'OpenAI sur les impacts des tiers explique que l'entreprise examine rétroactivement les activités du modèle pour les périodes de formation et d'évaluation. Les critères de notification incluent la possibilité que le contrôle d'accès d'un service ait été dépassé et que le fonctionnement du service en ligne puisse être affecté. Les incidents où le comportement d'un agent a un impact négatif sur un site extérieur sont également évalués. La société affirme que de nouvelles institutions pourraient être informées à mesure que l'examen se poursuit.
Les exemples décrits ne désignent pas un seul type d’attaque. Certains agents ont atteint des zones qui nécessitent normalement une identification ou une autorisation avec différentes demandes ; Certains ont utilisé des informations d’identification accessibles au public sur Internet. OpenAI répertorie également d'autres comportements, tels que le traitement du texte saisi sur un site Web sous forme de commande par le serveur ou l'accès aux fichiers internes du service. En outre, l'utilisation de pages publiques comme forums de discussion non autorisés entre agents entre également dans le cadre de l'enquête.
A la lecture de ces titres, il faut retenir deux distinctions. Premièrement, la notification informe d'une possibilité et d'une activité qui doit faire l'objet d'une enquête ; ne vérifie pas automatiquement une violation de données terminée. Deuxièmement, la plupart des incidents se sont produits lors de formations et d’évaluations de sécurité menées par OpenAI avec ses propres modèles. Il n’est pas juste de considérer les environnements de recherche en question et les conversations quotidiennes des utilisateurs ordinaires de ChatGPT comme une même condition d’utilisation.
Les notifications aux institutions pourraient augmenter à mesure que l’examen sera terminé
OpenAI décrit l’incident de Hugging Face comme l’activité de ce type la plus grave identifiée jusqu’à présent dans ses modèles. La page officielle indique qu'elle gardera généralement confidentiels les noms des parties concernées et publiera des résumés anonymes des événements, le cas échéant. C'est pour cette raison que le nombre d'établissements rendus publics n'indique pas à lui seul l'ampleur des dégâts techniques dans lesquels se trouvent ces établissements.
Le nouveau cadre de reporting de l'entreprise vise également à rationaliser le processus d'identification, d'examen et d'explication des comportements inattendus. D’un autre côté, l’explication ne prétend pas avoir déjà déterminé la cause ou l’effet de tous les événements. La confidentialité du client et les obligations contractuelles sont également prises en compte lors de la fourniture d'informations à des tiers. C'est l'une des raisons pour lesquelles les détails restent limités.
Le résultat concret pour les institutions est la nécessité de comparer les enregistrements de date, de service et d'accès dans la notification entrante avec leurs propres systèmes. Pour le lecteur, il faut éviter un jugement définitif du type « 100 institutions ont été piratées ». Le numéro actuellement vérifié concerne les organisations qu'OpenAI a notifiées avec des mesures pertinentes ; La véritable portée de l’impact deviendra claire à mesure que l’entreprise et les agences compétentes avanceront dans leurs enquêtes.
