Les pirates utilisent Gemini dans leurs opérations

Dans son dernier rapport de renseignements sur les menaces, Google a déclaré que les cybergroupes parrainés par l'État Gémeaux Il a expliqué qu'il utilise le modèle à différentes étapes de ses opérations. L'entreprise ne parle pas seulement de textes de phishing ; Il définit un large éventail d'usages, depuis la recherche de cibles jusqu'aux déplacements intra-système. Ainsi, la portée des attaques basées sur l’intelligence artificielle devient plus claire.

Rapport préparé par Groupe de renseignement sur les menaces Google (GTIG)a examiné les clusters liés à la Chine, à l’Iran, à la Corée du Nord et à la Russie. Les résultats montrent que les acteurs profilage, Création d'un texte d'ingénierie sociale, traduction, écrire du code, tests de vulnérabilité Et débogage Cela montre qu'il utilise les Gémeaux dans des tâches telles que. L’équipe souligne toutefois que cette utilisation ne crée pas une nouvelle technique d’attaque.

Cependant, le point critique ici est la rapidité. Les attaquants peuvent désormais effectuer en quelques secondes des tâches répétitives, qu’ils effectuaient auparavant manuellement. D’un autre côté, des corrections rapides du code et des adaptations linguistiques réduisent les retards dans le flux opérationnel. Ainsi, le temps dont dispose le côté défensif pour capter les premiers signaux est raccourci.

Il est rapporté qu'un acteur connecté à la Chine a demandé une analyse automatique des vulnérabilités à Gemini, se faisant passer pour un expert expérimenté en cybersécurité. En outre, il est précisé qu'il crée des plans de tests spécifiques à des objectifs et produit des scénarios techniques. Dans un autre cas, il est à noter qu’un opérateur basé en Chine a reçu un débogage constant et des conseils techniques du modèle.

Les groupes soutenus par l’État accélèrent leur rythme opérationnel avec Gemini

Google rapporte que ces activités n'ont pas radicalement modifié les tactiques d'attaque, mais ont considérablement augmenté le rythme des opérations. En particulier pendant la phase de ciblage, une production rapide de textes et une assistance technique en matière de recherche sont fournies. De plus, des suggestions de correctifs instantanés peuvent être reçues lorsque les outils malveillants ne fonctionnent pas.

En outre, le rapport aborde un autre risque qui va au-delà des scénarios de fraude classiques. Il est indiqué que certains acteurs tentent de copier le fonctionnement de Gemini grâce à des méthodes d'« extraction de modèles » et de « distillation d'informations ». Il est indiqué qu'au cours de ce processus, un trafic de requêtes intense a été généré via des comptes avec un accès API autorisé.

Dans un exemple, Google rapporte que plus de 100 000 requêtes ont été envoyées pour imiter le comportement d’un modèle dans des tâches non anglophones. Cette initiative présente des risques commerciaux et de propriété intellectuelle. De plus, on considère que lorsque l’échelle augmente, elle peut devenir une source de données indirecte pour entraîner différents modèles.

La société a annoncé avoir désactivé les comptes et l'infrastructure liés à des cas d'abus documentés. De plus, il a expliqué que Gemini avait ajouté des mesures de défense ciblées à ses couches de classification. Il a également été indiqué que les tests de sécurité se poursuivent et que les barrières de protection sont mises à jour.

Le tableau devient clair pour les équipes de cybersécurité. Les attaques basées sur l’IA deviennent plus rapides que sophistiquées. C'est pourquoi les équipes de sécurité doivent surveiller de près les textes de phishing qui montrent une augmentation soudaine de la qualité, des boîtes à outils rapidement mises à jour et des modèles d'utilisation inhabituels des API. Il est recommandé que les procédures d'intervention soient mises à jour pour tenir compte de ce facteur de rapidité.