Le fondateur et PDG de Nvidia, Jensen Huang, a fait des déclarations remarquables sur la sécurité de l'intelligence artificielle et la réglementation du secteur lors de la conférence Dreamforce de Salesforce. Selon Huang, l’intelligence artificielle est un système informatique complexe composé de matériel et de logiciels conçus par des humains, plutôt qu’un autre type d’intelligence qui se développe en dehors du contrôle humain. Pour cette raison, il soutient que la solution en matière de sécurité devrait provenir d’études d’ingénierie et non de nouvelles réglementations juridiques. Le PDG de Nvidia estime que les lois et les mécanismes de marché existants pourraient suffire à garantir que les entreprises développent des produits sûrs. Cette approche révèle le point de vue de l'un des dirigeants les plus influents du secteur sur le sujet, à l'heure où les discussions se poursuivent sur la manière dont l'intelligence artificielle doit être contrôlée, notamment aux États-Unis et en Europe.
Dans son discours, Huang a déclaré que si une entreprise n'est pas sûre des fonctions, des capacités ou de la sécurité du produit qu'elle a développé, elle ne devrait pas le commercialiser. En affirmant que les entreprises peuvent garantir que le produit est suffisamment sûr en ralentissant la vitesse de développement si nécessaire, le responsable estime que le marché fera également pression sur les fabricants dans ce sens. Selon lui, il n'y a pas nécessairement de choix entre la rapidité de l'innovation et le développement de produits sûrs, et les entreprises peuvent offrir les deux en même temps. Il reconnaît toutefois que si un produit est jugé hors de contrôle ou pas suffisamment sûr, les entreprises devraient ralentir le processus. Pour ces raisons, Huang conclut que de nouvelles lois ou réglementations spécifiques au domaine de l’intelligence artificielle ne sont pas nécessaires.
Jensen Huang considère la sécurité de l'IA comme un problème d'ingénierie
La position de Nvidia dans le secteur de l'intelligence artificielle est également à l'origine de l'approche de Huang. Les GPU de l'entreprise font partie des composants clés de l'infrastructure du centre de données utilisé pour former et exécuter de grands modèles d'IA. De plus, Nvidia ne se limite pas au matériel, mais propose également des modèles d'intelligence artificielle, des outils logiciels et diverses plates-formes pour les développeurs. Huang souligne que la base de cette technologie reste les systèmes de traitement de l'information conçus par des humains et fonctionnant selon certaines règles. Cette perspective diffère sensiblement de l’approche de certains chercheurs en sécurité, qui affirment que l’intelligence artificielle pourrait évoluer vers une forme d’intelligence complètement différente et difficile à contrôler.
Cependant, la question de savoir si la pression du marché peut à elle seule garantir la sécurité des produits est une question débattue depuis longtemps dans l’industrie technologique. Même si les éditeurs de logiciels effectuent des tests approfondis, des erreurs peuvent survenir et entraîner de graves conséquences. Un exemple récent en est la mise à jour défectueuse publiée par CrowdStrike en 2024 qui a affecté les systèmes Windows du monde entier. La mise à jour a provoqué des perturbations dans de nombreux services, des compagnies aériennes aux banques en passant par différents systèmes d'entreprise, entraînant la perturbation de milliers de vols. Cet exemple peut être utilisé dans les discussions réglementaires comme l'un des cas qui montrent que même lorsque les fabricants de logiciels ont de bonnes intentions en matière de sécurité, les conséquences inattendues ne peuvent pas être complètement éliminées.
De même, dans les systèmes d’intelligence artificielle, il se peut que s’intéresser uniquement aux intentions initiales des développeurs ne suffise pas. Divers événements, recherches et procès ont été mis à l'ordre du jour dans différents domaines, depuis les vulnérabilités de sécurité des modèles jusqu'à leurs effets possibles sur la santé mentale. Le texte source met également en avant des incidents de sécurité liés aux modèles OpenAI et des poursuites intentées contre l'entreprise suite à la mort de jeunes qui communiquaient longtemps avec des chatbots. La manière de déterminer la responsabilité juridique dans de tels cas reste l’un des principaux sujets de discussion de la réglementation sur l’intelligence artificielle. La mesure dans laquelle les lois existantes sur la responsabilité du fait des produits et sur la protection des consommateurs couvrent les dommages causés par l’intelligence artificielle pourrait devenir plus claire grâce à la jurisprudence des tribunaux.
Une option que Huang n’a pas mentionnée est que l’industrie crée ses propres normes de sécurité. Demander aux entreprises d’IA d’établir des méthodes de test communes, des normes d’évaluation de modèles et des protocoles de sécurité pourrait constituer un mécanisme de surveillance différent de celui d’une réglementation gouvernementale directe. Dans ses déclarations lors du All-In Summit, le PDG de Microsoft, Satya Nadella, a souligné que la sécurité de l'intelligence artificielle n'est pas une question qui concerne uniquement les États-Unis. Nadella a déclaré que les pays développant l'intelligence artificielle, y compris la Chine, seront confrontés à des problèmes similaires tels que les cyberattaques et l'utilisation sûre de la technologie par les citoyens. Le débat ne consiste donc pas seulement à savoir si une nouvelle loi doit être promulguée ou non, mais également à déterminer quelles normes de sécurité peuvent être appliquées à l’échelle internationale.
Pour Nvidia, l'accélération des investissements en intelligence artificielle soutient directement la croissance de l'entreprise. Dans son discours à Dreamforce, Huang a déclaré que les objectifs de son entreprise se sont élargis grâce à l'augmentation de la productivité fournie par l'intelligence artificielle, et a fait valoir que la technologie a un large potentiel en termes de secteurs et de pays. En outre, Huang, qui soutient les modèles ouverts, estime depuis longtemps qu'ils peuvent renforcer la concurrence contre les laboratoires d'intelligence artificielle qui développent des systèmes fermés. Les points de vue de Huang sont également discutés dans le contexte des intérêts commerciaux, car la portée de la nouvelle réglementation peut affecter directement ou indirectement les entreprises qui fournissent une infrastructure d'intelligence artificielle, comme Nvidia. La question de savoir si la sécurité de l'intelligence artificielle doit être gérée uniquement par les processus d'ingénierie des entreprises et par la pression du marché, ou si des règles juridiques spéciales doivent également y être ajoutées, reste l'un des principaux désaccords dans les politiques technologiques.
