Les problèmes d'Anthropic avec le gouvernement américain ne semblent pas s'atténuer. La société a maintenant reçu l'ordre de suspendre l'accès à Fable 5 et Mythos 5 pour tous les ressortissants étrangers, y compris les employés étrangers d'Anthropic travaillant aux États-Unis.
Anthropic a déclaré avoir reçu la directive le 12 juin et désactiver les deux modèles pour que tous les clients puissent s'y conformer. Les autres modèles Anthropiques ne sont pas affectés. Le gouvernement n'a pas expliqué publiquement l'ensemble des préoccupations en matière de sécurité nationale, mais Anthropic dit comprendre que l'ordre est lié à une méthode signalée pour contourner ou jailbreaker les garanties de Fable 5.
Nouvel affrontement après la bataille du Pentagone
Ce n’est pas la première confrontation sérieuse entre Anthropic et Washington. Plus tôt cette année, la société a été prise dans un différend avec le Pentagone après avoir refusé de supprimer les restrictions empêchant l'utilisation de Claude pour des armes entièrement autonomes et une surveillance nationale de masse. Cette lutte a conduit à des allégations de mise sur liste noire et à des poursuites judiciaires, mettant la position d'Anthropic axée sur la sécurité en contradiction directe avec certaines parties du gouvernement américain.
La dernière directive remet Anthropic dans une position familière. Les responsables s’inquiètent de l’accès à de puissants systèmes d’IA, tandis qu’Anthropic affirme que ses garanties sont mal comprises ou jugées selon des normes irréalistes.
Pourquoi Fable 5 est devenu une préoccupation
L'inquiétude autour de Fable 5 est liée aux capacités avancées de cybersécurité de Mythos 5. Anthropic a déclaré que les modèles de classe Mythos peuvent découvrir et exploiter les vulnérabilités logicielles, et Mythos 5 aurait été testé par la NSA et d'autres évaluateurs liés au gouvernement avant une diffusion plus large. Si ces capacités peuvent aider les équipes de sécurité à identifier et à corriger les faiblesses, elles créent également des problèmes de sécurité nationale si elles sont utilisées à des fins offensives ou malveillantes.
Fable 5 est sorti il y a seulement quelques jours en tant que version publique de Mythos 5 avec des garde-fous plus stricts. Anthropic a déclaré qu'il était conçu pour bloquer ou rediriger les requêtes sensibles liées à la cybersécurité et à la biologie vers l'Opus 4.8.
Anthropic affirme que le contournement signalé n'a fait apparaître que des vulnérabilités mineures déjà connues et que d'autres modèles publics peuvent faire des choses similaires. Pourtant, sur un sujet aussi sensible que la cybersécurité, la prudence n’est pas déraisonnable. Si Mythos 5 est capable d’identifier les vulnérabilités logicielles à un niveau élevé, alors ses garde-fous ne peuvent pas être simplement suffisants. Ils doivent être hermétiques. Anthropic peut faire valoir que le jailbreak signalé était limité, mais l'inquiétude du gouvernement cette fois est plus facile à comprendre. Dans ce cas, « mieux vaut prévenir que guérir » pourrait être la position la plus défendable du gouvernement.
