Google a annoncé avoir engagé une procédure judiciaire contre une opération de fraude à grande échelle, qui aurait été réalisée en utilisant abusivement la plateforme d'intelligence artificielle Gemini. La société affirme qu'un réseau de cybercriminalité, apparemment basé en Chine, utilise Gemini pour créer de faux sites Web et des campagnes frauduleuses ciblant les utilisateurs. Selon la déclaration de Google, les effets de l'opération ont touché des centaines de milliers de personnes et les pertes financières qui en ont résulté ont atteint des millions de dollars. La société a déclaré qu'en plus du processus contentieux, elle travaillait avec les forces de l'ordre et les opérateurs de télécommunications pour tenter d'arrêter le réseau en question.
DeLaine Prado, directeur juridique de Google, a déclaré au New York Times qu'il s'agissait du premier effort judiciaire coordonné de l'entreprise à cette échelle. Selon Prado, l'ampleur de l'opération en question et l'impact qu'elle a généré ont conduit Google à agir conjointement avec différentes institutions. Si l'entreprise a collaboré avec le Federal Bureau of Investigation (FBI) des États-Unis dans le cadre de l'enquête, elle a également coopéré avec de grands opérateurs de téléphonie mobile tels qu'AT&T, T-Mobile et Verizon.
Dans le procès intenté par Google, il est affirmé qu'une organisation basée en Chine appelée « Outsider Enterprise » mène des activités frauduleuses en utilisant la technologie et la valeur de la marque de l'entreprise. L'entreprise a demandé au tribunal une injonction qui mettrait fin aux opérations du réseau en question. Le groupe aurait profité des capacités productives d'intelligence artificielle de Gemini pour créer des sites Web imitant diverses institutions, notamment Google et YouTube. En outre, de fausses plateformes ont été créées qui copient l'apparence d'institutions publiques telles que le service postal américain et le système de péage E-ZPass à New York.
VOUS POURRIEZ ÊTRE INTÉRESSÉ
Google Gemini 3.5 traduira instantanément les conversations avec Live Translation
Le simulateur de vol Google Earth est disponible gratuitement sur le Web
Google pourra désormais sauvegarder vos photos et enregistrements audio Lens pour l'intelligence artificielle
Le mode Google AI répondra désormais non seulement mais restituera également les images
Google double le stockage tout en rendant l'abonnement à l'IA moins cher
L’ampleur de l’opération frauduleuse soutenue par Gemini attire l’attention
Selon les données partagées par Google, l’opération reposait sur une infrastructure très étendue. La société a annoncé qu'environ 9 000 faux sites Web et plus d'un million de fausses URL avaient été créés par le réseau frauduleux. De plus, 55 000 messages texte ont été détectés comme spam par les utilisateurs d'Android. Il a été indiqué qu'environ 2,5 millions de messages contenant des liens vers de faux sites ont été diffusés en seulement deux semaines.
Même si Google souligne que toutes ces activités sont menées par une seule organisation, il souligne que les tentatives de fraude basées sur l'intelligence artificielle pourraient se généraliser à l'avenir. C’est pour cette raison que l’entreprise a annoncé qu’elle soutenait divers projets de loi visant à lutter contre la fraude basée sur l’intelligence artificielle aux États-Unis. Les réglementations prises en charge comprennent des initiatives telles que la loi sur la stratégie nationale de lutte contre les escroqueries, la loi sur le groupe de travail stratégique sur la prévention des escroqueries, la loi STOP aux escroqueries contre les personnes âgées et la loi sur le plan d'IA.
Commentant la question, le représentant de Pennsylvanie, Brian Fitzpatrick, a déclaré que ce qui s'est passé ne devrait pas être considéré comme une campagne de spam ordinaire. Fitzpatrick a déclaré que les réseaux du crime organisé opérant à l'échelle internationale opèrent via des canaux de communication mobiles et qu'une lutte coordonnée à une échelle similaire est nécessaire contre cela.
Le directeur adjoint du FBI, Brett Leatherman, a déclaré que l'intelligence artificielle rend les méthodes de fraude plus convaincantes et plus difficiles à détecter. Selon Leatherman, l'utilisation par les criminels d'outils productifs d'intelligence artificielle nécessite que les institutions de sécurité et les entreprises technologiques développent des mesures plus complètes. Le procès intenté par Google attire également l'attention comme l'une des premières initiatives majeures dans ce domaine. Cependant, la société n'a pas partagé d'informations détaillées sur les mesures de sécurité internes qu'elle a mises en œuvre pour empêcher toute utilisation abusive de Gemini. Malgré cela, le processus contentieux montre que les entreprises technologiques commencent à adopter une position plus active contre l’utilisation abusive des outils d’intelligence artificielle.
🌡️❄️ BONNE NOUVELLE POUR CEUX QUI RECHERCHENT DU COOL : LES OFFRES CLIMATISEURS CONTINUENT ! ❄️🌡️
Teknoblog a des partenariats d'affiliation. Ceux-ci n'influencent pas le contenu éditorial, mais Teknoblog peut percevoir une commission sur les produits achetés via des liens d'affiliation.
