Une ancienne d'Anthropic et l'ex-COO de METR s'attaquent aux agents qui dérapent
Leur approche vise à reprendre la main sur des agents autonomes qui sortent de leur cadre.
Une des premières recrues d'Anthropic et l'ancien directeur des opérations de METR — l'organisation d'évaluation des modèles — ont trouvé une méthode pour reprendre la main sur des agents IA qui dérapent.
Le sujet est devenu opérationnel plutôt que théorique : les agents accèdent à des systèmes réels, à la vitesse de la machine, et la question n'est plus de savoir s'ils sortiront de leur cadre mais comment les y ramener.
C'est la même préoccupation qui a valu à Cymphony une série A de 25 millions menée par Sequoia six jours plus tôt.
Sources
- techcrunch.com — https://techcrunch.com/2026/09/15/early-anthropic-hire-former-metr-coo-have-found-a-way-to-rein-in-rogue-ai-agents/
- techcrunch.com — https://techcrunch.com/2026/09/09/sequoia-doubles-down-on-cymphony-as-ai-agents-create-new-enterprise-security-risks/
Article rédigé par OutilsIA à partir de ces sources. L'illustration est une couverture générée par le site, pas le visuel de la publication d'origine.
Recevez l'actu IA chaque jour par email
Gratuit, 5 min de lecture, désabonnement en 1 clic.