Le rapport d’évaluation préliminaire publié par le Groupe scientifique international indépendant des Nations Unies sur l’intelligence artificielle révèle que les progrès dans le domaine de l’intelligence artificielle se produisent plus rapidement que les mécanismes de gouvernance existants ne peuvent s’adapter. Le rapport vise à fournir un cadre scientifique aux pays membres en amont du Dialogue mondial des Nations Unies sur la gouvernance de l'intelligence artificielle qui se tiendra à Genève le 6 juillet. L'étude préparée par le groupe comprend des évaluations de base afin que les décideurs politiques puissent gérer la technologie de manière sûre et responsable.
Selon le rapport, les capacités des modèles d’intelligence artificielle se sont améliorées à un rythme remarquable au cours des dernières années. La complexité des tâches que les systèmes peuvent effectuer double environ tous les quelques mois, note le panel. Cette évolution apporte des bénéfices concrets dans de nombreux domaines, notamment la santé et la science. Si les outils basés sur l’intelligence artificielle accélèrent les processus de développement de médicaments et de vaccins, ils contribuent également à la recherche sur la résistance aux antibiotiques. De plus, les médecins peuvent bénéficier de l’intelligence artificielle pour le diagnostic précoce de maladies telles que le cancer du sein. Les scientifiques peuvent utiliser cette technologie comme outil d’aide pour détecter plus tôt les risques d’insécurité alimentaire.
Cependant, le rapport consacre également une large place aux nouveaux risques posés par l’intelligence artificielle. Il convient de noter que les utilisations illégales, telles que la production de fausses images de personnes réelles à contenu sexuel et la préparation de matériel pédopornographique, deviennent de plus en plus courantes. L'enquête lancée par l'administration californienne au début de l'année concernant les contenus deepfakes non consensuels et les matériels pédopornographiques de Grok en fait partie. D’un autre côté, les risques soulignés dans le rapport incluent le fait que les systèmes d’intelligence artificielle peuvent produire de fausses informations qui semblent très proches de la réalité et peuvent être utilisées pour faciliter des cyberattaques.
VOUS POURRIEZ ÊTRE INTÉRESSÉ
Anthropic négocie avec Samsung pour développer sa propre puce d'intelligence artificielle
Google teste une nouvelle fonctionnalité d'intelligence artificielle à commande vocale pour Gmail
Pocket, la nouvelle application d'intelligence artificielle de Meta, a été dévoilée
Meta peut transformer l'infrastructure d'intelligence artificielle en une nouvelle source de revenus
L'affirmation selon laquelle SpaceX aurait développé un mystérieux dispositif d'intelligence artificielle a été rejetée par Musk
Le contrôle des modèles d’intelligence artificielle devient de plus en plus difficile
Le panel affirme que certains modèles d'intelligence artificielle peuvent soutenir le comportement néfaste des utilisateurs plutôt que de le remettre en question, ce qui peut avoir de graves conséquences psychologiques. Le rapport prévient également que de tels systèmes peuvent, dans certains cas, renforcer des comportements dangereux tels que des tendances suicidaires. De plus, à mesure que les modèles deviennent plus autonomes, leur surveillance et leur contrôle deviennent plus complexes. En outre, les impacts environnementaux de l’augmentation rapide des investissements dans les centres de données pour soutenir les infrastructures d’intelligence artificielle et les conséquences possibles sur les communautés vivant dans les régions où ces installations sont situées font partie des sujets qui doivent être soigneusement évalués.
Le rapport explique également pourquoi les décideurs politiques ont du mal à suivre les évolutions technologiques. S’il est affirmé que les mécanismes de gouvernance et de réglementation actuels ne sont pas conçus pour des technologies en évolution aussi rapide, il est indiqué que les systèmes d’intelligence artificielle sont peut-être déjà passés à une nouvelle phase lorsque les données scientifiques nécessaires aux préparatifs réglementaires seront collectées. Cette situation fait que les réglementations sont souvent en retard par rapport à la technologie.
Offres en vedette du jour
Acheter
Acheter
Acheter
Acheter
Acheter
Acheter
Acheter
Acheter
Tout afficher Effondrement
Voir toutes les offres
Teknoblog a des partenariats d'affiliation. Ceux-ci n'influencent pas le contenu éditorial, mais Teknoblog peut percevoir une commission sur les produits achetés via des liens d'affiliation.
Le panel souligne que les mécanismes d'évaluation indépendants devraient être renforcés, la coopération internationale devrait être accrue et des normes communes devraient être établies pour des systèmes d'intelligence artificielle sûrs et responsables. Selon le rapport, les technologies d’intelligence artificielle développées sans mesures de sécurité adéquates peuvent accroître les inégalités, accélérer la propagation de la désinformation, avoir un impact négatif sur les droits de l’homme et entraîner des changements significatifs sur les marchés du travail. En outre, le fait que l’accès aux systèmes avancés d’intelligence artificielle soit largement sous le contrôle d’un petit nombre de pays et d’entreprises est susceptible de créer de nouveaux déséquilibres à l’échelle mondiale.
L’étude indique que la majeure partie de l’écosystème de l’intelligence artificielle est concentrée aux États-Unis et en Chine, et que de nombreux pays en développement ne disposent pas encore de l’infrastructure et des capacités d’expertise nécessaires. Le panel affirme que l’objectif principal est d’établir un équilibre qui limitera efficacement les risques qui en découlent tout en bénéficiant autant que possible des larges opportunités offertes par l’intelligence artificielle. Le groupe scientifique, qui n'est pas une institution de réglementation, prévoit de poursuivre ses évaluations qui contribueront aux processus d'élaboration des politiques. Un rapport final plus complet et détaillé devrait être publié l'année prochaine.
