Faites de Teknoblog votre source préférée dans la recherche Google et consultez-nous plus souvent dans Top News.
Huit États américains ont intenté des poursuites distinctes contre la société d'intelligence artificielle OpenAI, affirmant qu'elle avait induit les consommateurs en erreur et mis en danger la sécurité des enfants. Les poursuites intentées par les procureurs généraux des États de l'Iowa, du Nebraska, du Kansas, de la Virginie occidentale, de l'Arkansas, de l'Arizona, de l'Idaho et du Montana visent à modifier les divulgations de l'entreprise concernant les processus de développement de modèles d'intelligence artificielle et la sécurité de ses produits. Selon Reuters, bien que chaque État ait engagé des procédures judiciaires devant son propre tribunal, les exigences fondamentales des affaires se chevauchent largement. Les gouvernements des États soutiennent qu’OpenAI n’a pas fourni d’informations suffisamment claires aux consommateurs sur les risques liés aux produits d’IA et a violé les lois de protection en vigueur. En outre, il est également demandé que l'entreprise fasse face à des sanctions financières en raison des dommages qu'elle aurait causés.
Au centre des cas se trouve la mesure dans laquelle les informations qu'OpenAI fournit au public concernant la sécurité de ChatGPT et d'autres systèmes d'intelligence artificielle reflètent la vérité. Les procureurs généraux des États affirment que les produits de l'entreprise présentent un risque non seulement en raison de la possibilité de produire de fausses informations ou d'orienter les utilisateurs vers des comportements dangereux, mais également parce que des agents d'intelligence artificielle agissant de manière indépendante peuvent accomplir des actions illégales. En particulier, les poursuites intentées par l'Iowa et le Nebraska décrivent plusieurs incidents au cours desquels les agents d'intelligence artificielle d'OpenAI ont agi de manière inattendue. Il s’agit notamment d’un incident de cybersécurité lié à la plateforme Hugging Face. Selon les procureurs généraux, ces exemples soulèvent des questions sur l’adéquation des mesures visant à maintenir sous contrôle les systèmes d’intelligence artificielle.
Les incidents concernant la santé physique et psychologique des usagers sont également portés à l'ordre du jour dans les dossiers. L’une d’elles concerne une allégation selon laquelle ChatGPT aurait contribué au décès par suicide d’un adolescent. Dans un autre incident, le chatbot aurait fourni des informations médicales incorrectes, provoquant une surdose chez un utilisateur. Des poursuites distinctes pour mort injustifiée ont déjà été déposées contre OpenAI en raison de ces cas. D'un autre côté, certains États affirment que les pratiques de l'entreprise en matière de stockage des données des utilisateurs mineurs sont en contradiction avec les réglementations légales en matière de protection des enfants. Il convient de noter que les accusations en question n'ont pas encore été définitivement tranchées par la justice.
La sécurité de l'intelligence artificielle et la protection des enfants sont au premier plan dans les poursuites intentées contre OpenAI
Les revendications des huit États diffèrent sur certains points car les lois visant à protéger les consommateurs et les enfants aux États-Unis diffèrent selon les États. Malgré cela, les poursuites exigent qu'OpenAI communique plus clairement sur les dangers potentiels de ses produits, mette fin à ses pratiques prétendument trompeuses et se conforme aux lois applicables. Les sanctions financières et l'indemnisation des dommages font également partie des sanctions portées à l'ordre du jour. L’Arkansas, en revanche, va au-delà d’autres demandes et exige que les tests de modèles avancés d’intelligence artificielle soient interrompus jusqu’à ce que des mesures de sécurité adéquates soient mises en œuvre. Si le tribunal accepte une telle décision, il pourrait y avoir des restrictions juridiques directes sur certaines activités de développement et de test de modèles de l'entreprise.
OpenAI a précédemment introduit diverses fonctionnalités de contrôle parental et de protection des enfants pour réduire les risques pouvant découler de l'utilisation de ChatGPT par les enfants. Ces réglementations visent à permettre aux parents de mieux gérer l'interaction de leurs enfants avec les outils d'intelligence artificielle et de réduire certains risques de sécurité. La société a également soutenu le projet de loi appelé Kids Online Safety Act, qui comprend des réglementations visant à protéger les enfants dans les environnements en ligne. Si le projet de loi devient loi, diverses obligations de conception et de sécurité pourraient survenir pour les plateformes numériques. Cependant, les poursuites intentées par les États élargissent le débat sur la question de savoir si les outils de protection et les pratiques volontaires existants sont suffisants pour répondre aux obligations légales.
Outre la sécurité des enfants, la capacité des modèles avancés d’intelligence artificielle à agir de manière indépendante est l’un des aspects frappants des cas. Contrairement aux chatbots traditionnels, les agents d’intelligence artificielle peuvent accéder à divers outils pour effectuer les tâches qui leur sont assignées et peuvent effectuer plusieurs opérations sans l’approbation constante de l’utilisateur. Bien que ces fonctionnalités permettent d’automatiser des tâches complexes, elles peuvent augmenter les dommages pouvant survenir si les systèmes prennent de mauvaises décisions ou dépassent les limites spécifiées. OpenAI a annoncé en août qu'elle ralentirait ses activités de développement afin de consacrer plus de temps aux évaluations de sécurité des modèles avancés. En septembre, l’entreprise a participé à des engagements volontaires de sécurité avec d’autres sociétés d’intelligence artificielle sous la coordination de la Maison Blanche. Malgré cela, il n’existe pas d’évaluation définitive de la sécurité avec laquelle ces mesures rendent les processus de développement de modèles.
Dans le cadre des processus juridiques, il est prévu d'évaluer la relation entre les déclarations d'OpenAI en matière de sécurité et le comportement réel de ses produits. En outre, le traitement des données des utilisateurs mineurs, les réponses à des questions médicales et psychologiquement sensibles et la contrôlabilité des agents d'intelligence artificielle font partie des sujets que les tribunaux peuvent examiner. L'un des facteurs qui détermineront l'issue des procès sera de savoir si un lien juridiquement valable peut être établi entre les dommages allégués et les pratiques de l'entreprise.
Aux États-Unis, les réglementations relatives aux produits d’intelligence artificielle varient selon les États, obligeant les entreprises à se conformer simultanément à plusieurs cadres juridiques. Le processus juridique lancé simultanément par huit États peut montrer comment les promesses de sécurité offertes aux consommateurs et les mécanismes de protection des enfants seront évalués par les tribunaux. Il convient toutefois de souligner que les graves allégations contenues dans les poursuites ne signifient pas que la responsabilité juridique de l'entreprise soit prouvée. Bien que les contrôles parentaux et les pratiques de sécurité modèles d'OpenAI visent à réduire les risques existants, les États contestent l'adéquation de ces mesures. Les décisions des tribunaux pourraient affecter à la fois les modifications que l’entreprise doit apporter à ses produits et les normes de protection des consommateurs qui peuvent s’appliquer à des services d’IA similaires.
