Google Gemini sera désormais utilisé sur les données classifiées de l'armée américaine

L'accord mis à jour entre Google et le ministère américain de la Défense permet aux modèles d'intelligence artificielle Gemini de l'entreprise d'être utilisés à toute fin jugée « légale » par le gouvernement. Selon les informations fournies par The Information, cette portée ne se limite pas aux données accessibles au public ; Il comprend également des études menées sur des données classifiées.

Auparavant, Google avait collaboré pour permettre l'utilisation des modèles Gemini sur des données gouvernementales non classifiées. Cependant, le nouveau règlement étend la portée de l'accord existant, ouvrant la voie aux employés du Pentagone pour utiliser ces systèmes d'intelligence artificielle dans des tâches liées aux données classifiées. Il est particulièrement souligné que l'utilisation en question doit rester dans le cadre « légal » ; Cependant, cette déclaration a déjà suscité une controverse dans les collaborations entre les entreprises technologiques et les institutions de défense.

Il y a eu une sérieuse vague d’opposition à cette évolution au sein de l’entreprise. Selon les informations parues dans l'actualité, plus de 600 employés de Google ont exigé le rejet de l'accord dans une lettre adressée au PDG Sundar Pichai. Les employés affirment que travailler avec des données classifiées, en particulier, peut augmenter le risque d'utilisation abusive des technologies d'intelligence artificielle. En conséquence, il serait plus sûr de rester à l’écart de tels projets.

Discussions sur la sécurité et le contrôle dans les collaborations de défense de Google

Dans la déclaration faite par Google, il est indiqué que l'entreprise fait partie d'un grand groupe de fournisseurs de technologies et d'intelligence artificielle servant dans le domaine de la sécurité nationale. En outre, l'entreprise rappelle que certaines limites doivent être maintenues dans l'utilisation de l'intelligence artificielle et attire l'attention sur l'importance du contrôle humain, notamment dans des domaines tels que la surveillance de masse et les systèmes d'armes autonomes. Toutefois, le contenu de l’accord soulève des questions sur la manière dont ces principes seront mis en œuvre dans la pratique.

L'un des articles marquants de l'accord est que Google est obligé d'adapter les paramètres de sécurité et les filtres de l'intelligence artificielle en fonction des demandes du gouvernement. Cette situation soulève la possibilité que les limites éthiques et techniques fixées par l'entreprise elle-même soient repoussées. Cependant, il est également indiqué que Google n'a aucun contrôle ni pouvoir de veto sur les opérations gouvernementales considérées comme légales.

En plus de tout cela, l’intégration des technologies d’intelligence artificielle au sein des institutions publiques s’est accélérée ces dernières années. Aux États-Unis notamment, les collaborations avec de grandes entreprises technologiques dans les domaines de la défense et du renseignement sont de plus en plus courantes. Malgré cela, les réactions des salariés et les débats publics montrent que de tels accords ont des dimensions non seulement techniques mais aussi éthiques et politiques.