Anthropic publie un Mythos AI restreint après que des tests ont révélé sa capacité à détecter des failles logicielles cachées
Le challenger d'OpenAI a publié aujourd'hui Claude Fable 5, bloquant son utilisation dans les domaines de la cybersécurité et de la biotechnologie, après que des tests antérieurs ont montré que le modèle pouvait trouver des vulnérabilités logicielles vieilles de plusieurs décennies.
La publication
Anthropic a publié aujourd'hui Claude Fable 5, une première version publique de son modèle Mythos AI, avec des restrictions explicites. L'entreprise de San Francisco a indiqué que le modèle contient des fonctions de sécurité qui l'empêchent de répondre à certains types de requêtes, notamment celles liées à la cybersécurité et à la biologie. Anthropic a souligné que Fable 5 est également meilleur que les modèles précédents en programmation, suggérant que les mesures de sécurité n'ont pas nui à ses capacités générales. Mythos est la série de modèles la plus avancée d'Anthropic, d'abord testée en avril dans le cadre d'un programme limité avec des partenaires.
Un modèle qui a révélé des failles cachées
La nécessité de ces restrictions est devenue évidente lorsque Mythos Preview, une variante antérieure, a démontré sa capacité à identifier et à exploiter des vulnérabilités vieilles de plusieurs décennies dans des systèmes d'exploitation et des navigateurs web largement utilisés. Sa rapidité et sa précision ont alarmé les professionnels de la cybersécurité, qui craignent qu'une telle IA ne permette des attaques dévastatrices.
Mythos peut identifier et exploiter des vulnérabilités dans tout système d'exploitation ou navigateur web courant si un utilisateur le lui demande.
Accès gouvernemental et industriel
Malgré la publication d'une version édulcorée, le Mythos Preview complet reste accessible au gouvernement américain et à certaines entreprises via un programme appelé « Glasswing ». Cette initiative vise à utiliser les capacités offensives de l'IA pour tester et renforcer les défenses. Anthropic a indiqué que le prochain modèle, Mythos 5, étendra cette collaboration.
Mises en garde de l'Allemagne
Des responsables des services de renseignement intérieur allemands et des responsables politiques de la sécurité ont averti qu'un accès non contrôlé à Mythos pourrait permettre à des criminels ou à des acteurs étatiques de cibler des infrastructures critiques telles que les banques et les systèmes énergétiques. Ces avertissements ont contribué à la décision de ne pas inclure les fonctionnalités les plus dangereuses dans la version publique.
Course à la cotation en Bourse
Anthropic et son rival OpenAI, créateur de ChatGPT, se préparent tous deux à leurs introductions en Bourse. La pression commerciale ajoute une couche supplémentaire au débat sur la rapidité avec laquelle les modèles d'IA avancés doivent être déployés.
