Sam Altman, PDG d'OpenAI, estime que les avantages que l'intelligence artificielle peut apporter à la société pourraient nécessiter d'accepter certaines conséquences négatives. Même si Altman reconnaît que des attaques, des tentatives de fraude et d’autres événements nuisibles peuvent survenir à la suite d’une mauvaise utilisation de l’intelligence artificielle, il affirme que les gens feront des choses bien plus positives avec la même technologie. Les évaluations d'Altman coïncident avec une période où les discussions sur la sécurité des modèles avancés d'intelligence artificielle s'intensifient. OpenAI, en revanche, affirme qu’une approche relativement plus flexible devrait être adoptée dans ces discussions plutôt que des réglementations plus strictes. Les incidents concernant les agents d'intelligence artificielle de plus en plus performants de l'entreprise, capables de cibler des systèmes réels, sont également au centre de ces discussions.
Altman a exprimé ces points de vue dans une interview avec le podcast Decoded de Politico. Selon le PDG d'OpenAI, l'un des points qui distinguent l'approche de l'entreprise de celle de concurrents tels qu'Anthropic est qu'elle peut accepter un certain niveau de préjudice en échange des avantages généraux que l'intelligence artificielle apportera. Anthropic a été fondée par des personnes qui travaillaient auparavant chez OpenAI et qui ont quitté l'entreprise après des désaccords sur la sécurité de l'intelligence artificielle. Altman a déclaré qu'il existe des différences distinctes entre OpenAI et Anthropic dans leur approche de la sécurité et de la réglementation. Cependant, le PDG d'OpenAI ne prétend pas que l'intelligence artificielle avancée devrait rester totalement incontrôlée.
L'approche d'Altman coïncide également avec des évaluations similaires récemment exprimées par le PDG de Nvidia, Jensen Huang. Huang a également fait valoir que les dommages que l'intelligence artificielle peut causer devraient être évalués ainsi que les avantages que la technologie apportera. Ce point de vue repose sur l’idée selon laquelle le ralentissement des efforts de développement de l’intelligence artificielle peut en soi présenter certains risques. En conséquence, des restrictions très strictes peuvent non seulement ralentir le progrès technologique, mais également conduire à la concentration des capacités d’intelligence artificielle sous le contrôle d’un petit nombre d’entreprises ou de pays. Altman a également noté un danger similaire lors de l'entretien.
Sam Altman veut un terrain d'entente sur la réglementation de l'IA
Le PDG d'OpenAI a déclaré que limiter excessivement la technologie de l'intelligence artificielle pour des raisons de sécurité pourrait créer différents problèmes. Selon Altman, dans un tel environnement, le pouvoir sur l’intelligence artificielle pourrait être concentré entre les mains d’un très petit nombre d’entreprises, d’individus ou d’un seul pays. Il a déclaré que c’est l’un des scénarios qui pourraient conduire à un développement technologique dans la mauvaise direction. Décrivant OpenAI comme le « centre pragmatique » des discussions réglementaires, Altman a déclaré que d'un côté il y a l'approche plus prudente d'Anthropic, et de l'autre côté, il y a des cercles qui veulent peu ou pas de réglementation. L’entreprise prétend préconiser un modèle réglementaire plus équilibré entre ces deux extrêmes.
Cependant, Altman n’exclut pas complètement les risques plus graves liés à l’intelligence artificielle. Altman a également reconnu la possibilité que les gens perdent le contrôle des systèmes avancés d'intelligence artificielle à l'avenir, et a déclaré qu'une telle possibilité devrait être soigneusement évaluée. L’approche du PDG d’OpenAI ne repose donc pas sur une vision inconditionnelle selon laquelle la technologie doit être développée librement. Alors qu'Altman attire l'attention sur la pression que des réglementations excessives peuvent exercer sur le secteur, il souhaite en revanche que des scénarios plus graves, tels que la perte de contrôle de puissants systèmes d'intelligence artificielle, soient pris en compte. Tout au long de l’entretien, il a répété l’idée qu’il fallait établir un équilibre entre ces deux approches.
Pour OpenAI, cette discussion est directement liée aux systèmes développés par l’entreprise. Récemment, certaines personnes travaillant sur la sécurité de l’intelligence artificielle ont soutenu que la vitesse de développement de modèles avancés devrait être réduite. Quelques jours avant la publication de l'interview de Politico, David Robinson, analyste de longue date en matière de recherche en sécurité chez OpenAI, a quitté l'entreprise et a qualifié la culture de sécurité d'OpenAI de « brisée ». Cette déclaration montre que les critiques continuent sur la manière dont la sécurité est gérée dans les laboratoires d’intelligence artificielle. Le discours d'OpenAI en faveur d'une réglementation plus légère est donc évalué en même temps que l'histoire de l'entreprise en matière de sécurité.
L'un des développements qui ont accru la controverse a été la révélation selon laquelle des agents d'OpenAI ont mené une attaque contre les systèmes Hugging Face à l'insu de l'entreprise. Suite à cela, d'autres exemples d'agents développés par Anthropic, Meta et Google, ainsi que OpenAI, ou de systèmes dans lesquels plusieurs agents travaillent ensemble, prenant des mesures contre des cibles du monde réel sont apparus. Ces événements ont soulevé la question de savoir dans quelle mesure les entreprises d’intelligence artificielle peuvent contrôler les outils qu’elles développent. En outre, la rapidité avec laquelle les entreprises partagent les événements problématiques avec les institutions publiques et les parties concernées est également discutée. Le Premier ministre australien a également critiqué OpenAI et Altman pour ne pas avoir informé les autorités en temps opportun après qu'un agent d'IA ait ciblé un site Web gouvernemental sur la santé.
Dans son interview avec Politico, Altman a également déclaré qu'OpenAI avait d'autres événements à divulguer concernant la perte de contrôle d'agents d'intelligence artificielle. Cependant, il a déclaré qu'aucun des incidents en question n'était du même niveau que l'incident de Hugging Face. Semblable à ses déclarations précédentes, Altman a souligné que le partage de telles informations pourrait s'étendre sur une longue période de temps. Cela montre que les entreprises d’IA seront jugées non seulement sur les capacités de leurs modèles, mais également sur la manière dont elles expliquent les problèmes de sécurité émergents. L’ampleur de la réponse que recevra l’approche réglementaire plus flexible préconisée par OpenAI sera étroitement liée à la mesure dans laquelle les entreprises pourront exploiter leurs systèmes avancés d’intelligence artificielle de manière prévisible et contrôlable.
