Google et les chercheurs de Google DeepMind ont annoncé la création d'une nouvelle formation appelée DeepMind Institute, qui vise à élargir les discussions sur l'avenir de l'intelligence artificielle générale. L'équipe de direction de l'institut comprend le cofondateur de DeepMind, Shane Legg, le directeur de Google, James Manyika, et le président de Google DeepMind, Demis Hassabis. Legg sera également rédacteur en chef de l'organisation. Le DeepMind Institute vise à ouvrir un espace aux différentes approches émergentes dans la communauté mondiale de recherche sur l’intelligence artificielle générale, plutôt que de simplement partager les points de vue façonnés au sein de Google et de Google DeepMind. L’annonce fondatrice indique spécifiquement que les chercheurs contributeurs pourraient ne pas être d’accord sur tout et que les points de vue actuels pourraient changer à mesure que de nouvelles données proviennent de l’avancement rapide de la recherche sur l’intelligence artificielle.
La première publication de l'institut se compose de quatre articles distincts, chacun se concentrant sur différents problèmes que peut poser l'intelligence artificielle générale. Les sujets abordés incluent les politiques qui peuvent être mises en œuvre contre les transformations économiques induites par l'AGI, la préservation des processus de raisonnement lisibles par l'homme des modèles d'IA, les principes visant à soutenir le développement et le bien-être humain, et un cadre sur la manière dont les modèles d'IA les plus avancés peuvent être évalués. Ce choix de thème montre que le débat ne se réduit pas à la seule capacité technique des modèles. Allant des impacts économiques à la surveillance de la sécurité, le cadre général aborde les problèmes auxquels les entreprises, les chercheurs et les régulateurs peuvent être confrontés à mesure que l'AGI évolue. En outre, au lieu de présenter des recommandations politiques définitives dans des textes publiés, il est préférable de discuter des avantages et des limites des différentes options.
DeepMind Institute met l’auditabilité des modèles d’intelligence artificielle à l’ordre du jour
L'un des articles rédigés par Rohin Shah et Anca Dragan, chercheurs en sécurité chez Google DeepMind, se concentre sur le problème selon lequel il peut devenir de plus en plus difficile de comprendre comment pensent les modèles avancés d'intelligence artificielle et quelles étapes intermédiaires ils suivent. Les chercheurs affirment que la diminution de la transparence dans les processus de raisonnement des modèles n’est pas une conséquence inévitable. Si les nouvelles architectures créent des modèles plus puissants, il peut également devenir plus difficile d'observer et de contrôler les processus internes de ces systèmes. Selon Shah et Dragan, les développeurs et les régulateurs doivent à ce stade clairement considérer les compromis entre la sécurité et la capacité du modèle. Les auteurs discutent d’options telles que limiter le niveau de « profondeur de série opaque », c’est-à-dire la quantité de calculs séquentiels effectués sans produire de raisonnement lisible par l’homme, ou exiger des entreprises qui développent des modèles moins transparents qu’elles prouvent que ces systèmes sont également auditables.
Dans un autre article rédigé par Demis Hassabis, un organisme de normalisation basé aux États-Unis est proposé pour l'évaluation indépendante des modèles d'intelligence artificielle les plus avancés. Selon le cadre de Hassabis, les entreprises peuvent volontairement soumettre les modèles haut de gamme qu'elles développent lors de la première étape pour évaluation jusqu'à 30 jours avant leur lancement. Une fois que le système d’évaluation se sera révélé fiable et efficace, la réussite de ces tests pourrait devenir l’une des conditions pour introduire des modèles avancés d’intelligence artificielle aux États-Unis. Un tel système pourrait permettre aux entreprises d'établir des références communes au-delà de leurs propres tests de sécurité. Cependant, des détails tels que la portée des évaluations indépendantes, les modèles qui seront soumis à ce processus et la manière dont les secrets commerciaux seront protégés seront déterminants pour la faisabilité d'une telle approche.
Il est prévu que l'institution proposée concevra ses tests en collaboration avec des sociétés d'intelligence artificielle dans un premier temps, puis préparera ses propres évaluations indépendantes et non divulguées dans la période ultérieure. L'objectif principal de ces tests, appelés « hold-out » dans l'article, est d'empêcher les développeurs d'optimiser spécifiquement leurs modèles selon des critères préalablement connus. De cette manière, les vulnérabilités réelles en matière de capacité et de sécurité d'un modèle peuvent être examinées dans des conditions où les entreprises ne connaissent pas à l'avance le contenu du test. Hassabis déclare également que si les risques augmentent, le cadre d'évaluation peut être rendu plus strict. Au stade le plus avancé de cette approche, si les mesures de sécurité sont à la traîne par rapport au développement technologique, les principaux développeurs d’intelligence artificielle ont également la possibilité de ralentir leur travail de manière coordonnée.
Les premiers articles du DeepMind Institute sont publiés à un moment où le débat sur la sécurité de l'IA passe des avertissements généraux sur les risques à des recommandations plus concrètes en matière d'audit et d'évaluation. Récemment, des options telles que la divulgation par les développeurs de modèles de davantage d'informations, la possibilité pour les organisations externes d'examiner les systèmes et le ralentissement de la vitesse de développement dans les cas où les mécanismes de sécurité ne sont pas suffisants ont été plus fréquemment mises à l'ordre du jour dans l'industrie. Selon le texte source, ce débat est devenu plus visible ces derniers jours, avec l'appel du PDG d'Anthropic, Dario Amodei, à un ajustement contrôlé du rythme de développement des systèmes d'intelligence artificielle les plus avancés, bénéficiant du soutien de certains noms du secteur. Malgré cela, on ne sait pas encore clairement comment trouver un équilibre entre les engagements volontaires des entreprises en matière de sécurité et les réglementations contraignantes. Dès ses premières publications, le DeepMind Institute vise à créer un terrain de discussion où différentes approches allant de la sécurité technique aux politiques économiques peuvent être comparées, plutôt que de présenter une vision institutionnelle unique sur l’AGI.
