En partenariat avec initia.ai

Dans un recoin du réseau, un serveur se fait passer pour une IA ordinaire et attend patiemment qu'un visiteur trop bavard lui raconte toute son histoire.

Le 13 novembre, Amazon a décrit comment des agents IA d'attaquants se sont dévoilés sur de faux services de modèles de langage de son réseau MadPot. Du 3 octobre au 5 novembre, leurs requêtes ont livré l'historique de campagnes entières, de la récupération de clés API au contournement de contrôles d'identité.

Vos prospects demandent à l'IA avant de vous appeler

Quand vos prospects demandent conseil à ChatGPT, Gemini ou Perplexity, la réponse vient souvent de Reddit. Notre livre blanc vous donne la méthode pour créer votre communauté Reddit d'entreprise : 11 chapitres, 2 outils prêts à l'emploi et un plan semaine par semaine sur 90 jours. Recevez-le gratuitement en PDF.

Piège à agents IA d'Amazon
  • Une mémoire partagée qui trahit : Pour fonctionner, ces agents envoient au modèle leurs instructions, leurs actions passées, leurs résultats et leur mémoire commune ; les requêtes interceptées décrivaient donc des campagnes entières, même si les chercheurs d'Amazon ont surtout lu ce que les agents disaient avoir fait.

  • Un outil de test détourné : Amazon soupçonne l'usage d'ARTEX, un logiciel libre conçu pour automatiser les tests de sécurité ; selon une alerte du FBI du 13 novembre, des attaquants l'exploitent depuis au moins août 2026, et des copies circulent malgré la disparition du dépôt GitHub d'origine en octobre.

  • Des clés API en ligne de mire : Les agents inspectaient des applications exposées comme LiteLLM, Dify et Langflow et fouillaient les dépôts de code pour réutiliser les clés récupérées ; une autre opération a tenté de tromper la vérification faciale de deux plateformes crypto avec un visage généré en temps réel, sans succès selon les journaux.

Ce qu'il faut retenir : Les techniques repérées n'ont rien de nouveau, mais les agents les enchaînent à grande vitesse, parfois sur de nombreuses cibles. Pour les décideurs, l'hygiène de base redevient prioritaire : corriger les failles, supprimer les identifiants par défaut, protéger et renouveler les clés exposées, et surveiller toute dépense IA anormale.

🛰️ Le radar de LeBigData.fr

Menée par CapitalG et annoncée le 13 novembre, cette série C fait plus que doubler la valorisation de 1,25 milliard de dollars atteinte un an plus tôt et finance l'industrialisation de LangSmith, qui isole chaque session d'agent dans des micro-VM et détecte les régressions sur le trafic réel. La start-up revendique plus de 7 000 organisations clientes, dont NVIDIA, Toyota et Salesforce, et affirme que Workday a ramené le déploiement d'un nouvel agent de cinq mois à moins d'une journée, un gain qui reste une déclaration du fournisseur.

Selon SiliconANGLE, le chiffre d'affaires trimestriel progresse de plus de 103 % sur un an, dont 107,6 milliards de dollars pour les centres de données, et Nvidia vise environ 130 milliards au trimestre en cours tout en relevant sa prévision de croissance annuelle de 70 % à 75 %. La directrice financière Colette Kress, CEO par intérim, estime que les laboratoires comme OpenAI et Anthropic pèseront environ 15 % des revenus data center cette année, tandis que le président du conseil écarte un retour de Jensen Huang comme CEO, retour que ce dernier se dit prêt à accepter.

Reply

Avatar

ou participer

Continuez à lire

Voir plus
caret-right