Le président de Microsoft, Brad Smith, a lancé un sévère avertissement aux gouvernements concernant la sécurité des technologies d'intelligence artificielle. Même les machines à laver et le lait vendus dans les épiceries sont soumis à des règles de sécurité plus strictes que l'intelligence artificielle, a déclaré Smith. Il a également demandé que des réglementations juridiques contraignantes soient élaborées contre le risque que les systèmes avancés d’intelligence artificielle échappent au contrôle humain.
la BBC Entretien avec le grand patron En participant au programme, Smith a évalué les responsabilités actuelles en matière de sécurité des sociétés d'intelligence artificielle. Selon les informations de Reuters du 12 octobre, le dirigeant de Microsoft a déclaré que les engagements volontaires en matière de sécurité ne suffisent pas à eux seuls. Au lieu de cela, il a proposé des tests de sécurité indépendants, des notifications d'incidents obligatoires et des règles d'intervention dans les systèmes dangereux.
Au centre des avertissements de Smith se trouvent des agents d'intelligence artificielle capables d'effectuer des actions indépendantes au nom de l'utilisateur. Ces systèmes peuvent se connecter à divers services numériques et effectuer les tâches qui leur sont assignées sans intervention humaine. Cependant, Smith note que le comportement inattendu des agents peut entraîner des problèmes de sécurité dans l'entreprise et des tentatives d'accès non autorisées.
D'autre part, le président de Microsoft souhaite que les possibilités d'abus de l'intelligence artificielle soient évaluées ainsi que ses applications bénéfiques. Il se concentre particulièrement sur l’utilisation de modèles avancés dans les cyberattaques et leur séparation du contrôle humain. Selon Smith, les règles que doivent élaborer les gouvernements devraient définir clairement les responsabilités des développeurs et offrir la possibilité d'intervenir contre les violations de la sécurité.
Brad Smith appelle à des mesures de sécurité obligatoires pour les systèmes d'IA
Les suggestions de Smith incluent des mécanismes d'arrêt d'urgence qui pourraient empêcher les systèmes d'IA de présenter un comportement dangereux ou ralentir leur travail. Ainsi, lorsqu’un agent d’intelligence artificielle effectuera une transaction hors de son autorité, l’organisation concernée pourra intervenir dans le système. Il souhaite également que des obligations légales soient introduites pour informer les parties concernées dans des cas tels que l'accès non autorisé aux systèmes de l'entreprise.
Cependant, Smith soutient que les incidents de sécurité ne devraient pas se limiter aux enquêtes internes des entreprises. Elle oblige les développeurs à signaler les incidents graves aux autorités compétentes et à en créer des registres officiels. Il recommande également que les modèles d’IA avancés soient soumis à des évaluations de sécurité indépendantes avant d’être mis à disposition.
Le président de Microsoft estime que le Royaume-Uni peut jouer un rôle de premier plan dans l'élaboration de ces réglementations. L'Institut de sécurité de l'intelligence artificielle, créé dans le pays en 2023, examine certains modèles avancés dans le cadre d'accords volontaires avec les développeurs. Smith estime toutefois que des sanctions juridiques devraient être prises contre les entreprises qui ne remplissent pas leurs obligations en matière de sécurité.
La ministre britannique de l'Intelligence artificielle, Kanishka Narayan, a également annoncé qu'elle pourrait envisager des réglementations supplémentaires si les inspections volontaires s'avèrent insuffisantes. En revanche, le président américain Donald Trump préconise que l’industrie crée ses propres règles pour garantir que les entreprises américaines restent compétitives face à leurs rivales chinoises. En Europe, il existe différentes obligations selon le niveau de risque dans le cadre de la loi de l'Union européenne sur l'intelligence artificielle.
Le PDG de Microsoft, Satya Nadella, soutient également que les systèmes avancés d'intelligence artificielle devraient être auditables. Nadella soutient la divulgation rapide des incidents de sécurité et les enquêtes indépendantes. Les dernières déclarations de Brad Smith révèlent les exigences de la direction de Microsoft concernant les audits de sécurité obligatoires et les responsabilités juridiques des entreprises.
