OpenAI, en collaboration avec Microsoft Threat Intelligence, a récemment mis fin à 5 comptes liés à des acteurs étatiques malveillants qui cherchaient à exploiter les services d’IA génératives à des fins de cyberactivités nuisibles. Les groupes concernés étaient affiliés à la Chine (Charcoal Typhoon et Salmon Typhoon), à l’Iran (Crimson Sandstorm), à la Corée du Nord (Emerald Sleet), et à la Russie (Forest Blizzard).
Le nouveau combat d’OpenAI : la lutte contre l’usage de l’IA à des fins malveillantes
Les comptes associés à ces acteurs ont été résiliés après avoir été utilisés pour des tâches telles que la recherche d’informations, la traduction, la détection d’erreurs de code et des tâches de codage de base. Les activités spécifiques incluent la recherche sur des entreprises, la traduction de documents techniques, le soutien au codage, la rédaction de contenus pour des campagnes de phishing, et la recherche de vulnérabilités dans des domaines tels que la communication par satellite et la technologie d’imagerie radar.
Bien que les capacités actuelles des modèles d’IA de OpenAI pour des tâches de cybersécurité malveillantes soient limitées, l’entreprise adopte une approche à plusieurs volets pour assurer la sécurité. Cela inclut la surveillance et la perturbation des acteurs malveillants, la collaboration avec l’écosystème de l’IA, l’itération des mesures de sécurité, et la transparence publique.
L’IA, de plus en plus utilisé à des fins de cyberattaques illégales
Il faut savoir que les technologies d’intelligence artificielle peuvent être détournées et utilisées à des fins illégales : cette menace concerne tous les acteurs, aussi bien Mistral AI, l’acteur français, que les leaders comme OpenAI. D’ailleurs, OpenAI insiste sur son engagement envers la promotion de l’utilisation responsable de l’IA et continuera à informer le public des activités malveillantes détectées, renforçant ainsi la défense collective contre les menaces émergentes. Malgré les défis persistants, l’innovation, la collaboration et la transparence demeurent des piliers essentiels dans la lutte contre les acteurs malveillants au sein de l’écosystème numérique.
Source : https://openai.com/blog/disrupting-malicious-uses-of-ai-by-state-affiliated-threat-actors