L'ancien PDG de Google, Eric Schmidt, a souligné que le développement rapide des technologies d'intelligence artificielle pouvait comporter de graves risques. Selon Schmidt, une fois qu’un système d’IA atteint la capacité de s’améliorer, il peut être nécessaire d’envisager sérieusement d’arrêter cette technologie. Ces déclarations ajoutent une nouvelle dimension au débat de longue date sur l’avenir de l’intelligence artificielle. Même si le potentiel de l’intelligence artificielle semble prometteur, les dangers possibles doivent être soigneusement évalués.
Eric Schmidt a déclaré dans une émission à laquelle il a assisté sur la chaîne de télévision ABC aux États-Unis : « Ce n'est qu'une question de temps avant que les ordinateurs atteignent le niveau où ils peuvent prendre leurs propres décisions. » Il a souligné que lorsque ces systèmes atteignent la capacité de s'améliorer eux-mêmes, il peut être difficile de garder la technologie sous contrôle. Schmidt a déclaré que si l'intelligence artificielle atteint un point aussi puissant, quelqu'un devrait toujours être en mesure de « débrancher ». Selon lui, si l’intelligence artificielle devient incontrôlable, il ne faut pas ignorer la possibilité que ces systèmes dépassent l’intervention humaine.
Ces déclarations de Schmidt peuvent être considérées comme une réponse aux questions complexes créées par l’innovation rapide et continue dans le domaine de l’intelligence artificielle. L’autonomie croissante des systèmes d’intelligence artificielle n’est pas seulement une réussite technologique, mais aussi un défi éthique et sécuritaire. Réduire l’intervention humaine dans les processus décisionnels de ces systèmes peut conduire à des résultats inattendus. Ces évolutions concernent donc non seulement les entreprises technologiques, mais également les gouvernements et les institutions de régulation.
Selon Schmidt, les États-Unis devraient devancer la Chine dans la course à l'intelligence artificielle
Schmidt estime qu’il est vital que les États-Unis maintiennent leur leadership dans la course au développement de l’intelligence artificielle. En soulignant que la Chine a fait de grands progrès dans ce domaine au cours des six derniers mois, Schmidt a souligné que les États-Unis ne devraient pas être laissés pour compte dans cette course. Selon lui, le leadership dans le domaine de l’intelligence artificielle assurera non seulement une supériorité technologique, mais jouera également un rôle essentiel dans l’équilibre des pouvoirs mondial. Schmidt soutient que pour garantir la victoire de l’Occident dans cette course, davantage de ressources doivent être allouées, une main-d’œuvre qualifiée doit être formée et une coopération stratégique doit être établie.
Cependant, Schmidt souligne souvent que l’intelligence artificielle doit rester sous contrôle humain. Dans ce contexte, il affirme que afin de réduire les risques possibles des systèmes autonomes, il faudrait concevoir un deuxième système d'intelligence artificielle pour contrôler le premier. Cette idée indique qu’il peut être nécessaire que l’intelligence artificielle atteigne la capacité de maîtrise de soi. Selon Schmidt, même si les humains ne peuvent pas contrôler l’intelligence artificielle, un autre système d’intelligence artificielle peut assurer ce contrôle.
Les déclarations de Schmidt révèlent une fois de plus qu'à l'heure où la technologie évolue rapidement, des réglementations plus complètes sont nécessaires pour garantir la sécurité des systèmes d'intelligence artificielle. Le fait que l’intelligence artificielle soit devenue capable de mener ses propres recherches peut être considéré comme un grand pas en avant en termes de science et de technologie. Mais cette évolution nécessite également une analyse approfondie en termes d’impacts éthiques, sécuritaires et sociaux.
L’intelligence artificielle atteignant sa capacité d’auto-amélioration présente à la fois de grandes opportunités et des menaces importantes pour l’humanité. Il semble donc nécessaire d’établir des mécanismes de contrôle stricts avant que la technologie n’atteigne ce stade. L’avertissement d’Eric Schmidt de « débrancher » s’impose comme un débat critique qui façonnera l’avenir de la technologie.
