Rapport ANTHROPIC sur les mésusages de ses solutions

· IA,LLM,ANTHROPIC

Le rapport publié le 10 septembre 2026, couvrant la période décembre 2025 – août 2026 documente des opérations malveillantes détectées et neutralisées par l'équipe Threat Intelligence d'Anthropic, réparties en sept catégories :

  • opérations cyber,
  • opérations d'influence,
  • surveillance,
  • arnaques/fraude,
  • mésusage biologique,
  • armes conventionnelles,
  • distillation illicite.

Les modèles concernés sont Claude Haiku, Sonnet et Opus ; aucun cas notable n'impliquait Claude Fable ou Mythos, à l'exception d'un cas de distillation illicite.

Cyber operations

L'IA a effacé l'écart entre attaquants isolés et groupes étatiques bien dotés. Cas marquants :

  • GTG-20006 (Russie, lié à Midnight Blizzard) : espionnage contre plus de 20 organisations ukrainiennes/européennes (ministères, défense, fabricants de drones), avec reconstruction automatique de malwares détectés.
  • GTG-50014 (affiliés ShinyHunters) : vol massif de données via credentials compromis, extorsion de compagnies aériennes, énergéticiens, fournisseurs SaaS.
  • GTG-10007 (étudiants chinois) : recherche autonome de failles zero-day sur des équipements de sécurité réseau.
  • GTG-50020/50029 : ciblage direct des clés API de l'écosystème IA lui-même — dont une tentative échouée d'accéder à un modèle Claude pré-sortie ; un hacktiviste français a construit seul une plateforme de doxxing.

Constat général : les techniques restent classiques (phishing, identifiants volés), mais l'IA en accélère massivement l'exécution et la portée.

Opérations d'influence

Neuf opérations de désinformation (Russie, Iran, Chine, Malaisie, Bangladesh, mouvement d'opposition MEK/NCRI, agence française) utilisant Claude pour générer faux médias, personas, dossiers fabriqués, souvent calées sur des échéances électorales (Moldavie, Kenya). Exemples : propagande pro-Wagner en Centrafrique via une radio locale ; réseau de 70 faux sites d'actualité sur six continents ; plateforme malaisienne de manipulation électorale ciblant les tensions ethniques/religieuses ; clonage du compte Telegram d'un militant réel pour tromper ses contacts en Iran. La plupart de ces opérations ont eu peu d'audience réelle, sauf relayées par des médias d'État (Sputnik, RT).

Surveillance operations

Acteurs étatiques (Chine, Iran, Mali) et vendeurs commerciaux ont utilisé Claude comme substitut à une main-d'œuvre d'ingénieurs/analystes pour bâtir des systèmes de surveillance de masse. Exemples : profilage de la diaspora iranienne par un vendeur israélo-singapourien ; recrutement/surveillance de Ouïghours en Syrie ; dossiers sur des cardinaux catholiques, bouddhistes tibétains et pratiquants du Falun Gong ; répression transnationale visant des dissidents hongkongais et manifestants. Cas le plus grave : une plateforme malienne (« Lakana 360 ») surveillant 25 millions de cartes SIM, conçue pour contourner l'exigence légale de mandat judiciaire.

Armes conventionelles

Six cas (Yémen, Chinex3, Russiex2) répartis en développement d'armes et en renseignement/approvisionnement :

  • Une cellule yéménite a utilisé Claude Code pour développer le logiciel de guidage d'une roquette guidée, testée en tir réel (échec).
  • Un acteur chinois a rédigé une spécification et une proposition d'acquisition pour un système anti-torpille destiné à la marine chinoise.
  • Des Russes ont construit un essaim de drones kamikazes FPV autonomes capable de sélectionner des cibles humaines et de déclencher la détonation sans humain dans la boucle.
  • Un autre acteur chinois a bâti un logiciel de guerre électronique/suppression de défenses aériennes, dont le scénario de simulation a été changé pour cibler 12 sites à Taïwan.
  • Deux cas d'approvisionnement : biens à double usage pour la défense russe (contournement de sanctions européennes) ; renseignement sur une arme à énergie dirigée américaine et sa chaîne d'approvisionnement.

Mésusage biologique

Cinq cas illustrant la difficulté du double usage en biologie :

  • Une plateforme de revente a évité les blocages régionaux pour servir des virologues menant des recherches de gain de fonction sur le chikungunya (institut de recherche militaire), avec bascule vers des modèles concurrents plus permissifs en cas de refus.
  • Un chercheur a planifié pendant des semaines des expériences d'adaptation aux mammifères de la grippe aviaire : mais les classificateurs ont confiné ces échanges aux modèles les plus faibles (Sonnet 4/Haiku 4.5), limitant l'apport réel de Claude.
  • Un relai servant une douzaine de clients a fait rédiger par Opus 5, en une heure, une demande complète de subvention sur l'évasion immunitaire des orthopoxvirus.
  • Deux chercheurs liés à des programmes étatiques ont utilisé Claude pour concevoir des peptides de venin et rediscuter des toxines, dans un cadre présenté comme thérapeutique mais à fort potentiel de double usage.
    Un balayage de 30 jours a révélé environ 35 recherche distincts liés à des institutions étatiques, la plupart légitimes, certains préoccupants.

Arnaques et fraude

GTG-15001 : un studio chinois a construit un réseau de plus de 20 fausses applications de rencontres, avec plus de 4 700 personas IA ayant conversé avec au moins 25 000 utilisateurs en deux semaines. Des travailleurs humains réels étaient mêlés aux bots (ratio 3 IA pour 1 humain) pour renforcer la crédibilité (appels vidéo, réseaux sociaux). Les applications étaient conçues pour échapper à la revue des stores d'applications.

Distillation illicite

Un modèle de distillation, c'est une technique d'entraînement où l'on utilise un modèle d'IA existant (le « professeur ») pour en entraîner un autre (l'« élève »), généralement plus petit ou moins coûteux à faire tourner.

Plusieurs laboratoires chinois ont utilisé des réseaux de faux comptes pour extraire massivement les capacités de raisonnement de Claude :

  • Alibaba (Qwen) : la plus grande attaque jamais mesurée par Anthropic — jusqu'à 3 millions d'échanges/jour, plus de 151 millions d'échanges entre mai et juillet 2026.
  • Moonshot (Kimi) et DeepSeek : ont silencieusement relayé les requêtes de leurs propres utilisateurs vers Claude sans les en informer, exposant au passage des données sensibles (dont une activité de surveillance liée à l'armée chinoise, et des identifiants d'une base de données gouvernementale russe).
  • Zhipu (Z.ai) : a d'abord tenté de cibler Claude Fable avant d'abandonner face à ses garde-fous cyber renforcés, puis s'est tourné vers Opus 4.6, jugé plus vulnérable.
  • Xiaomi, SenseTime, MiniMax : autres campagnes de distillation, l'une via une société écran dédiée exclusivement à l'extraction de capacités de modèles américains.

Anthropic a renforcé ses défenses : résumé automatique du raisonnement interne avant réponse, chiffrement renforcé du raisonnement (« preserved thinking » sur Fable 5.1), et vérification d'identité pour les comptes suspects.