Le PDG d'Anthropic, Dario Amodei, clarifie sa position sur l'IA open-weight après les critiques du secteur

La lettre ouverte et les réactions

Le 24 juillet, le PDG de Nvidia, Jensen Huang, a publié une lettre ouverte intitulée « Open Weights and American AI Leadership » sur X, son premier message sur la plateforme. La lettre, signée par 25 entreprises dont Meta, Microsoft, Hugging Face, Mistral et Palantir, exhortait les décideurs à ne pas imposer de « restrictions prématurées » générales aux modèles d'IA open-weight. Au cours du week-end, OpenAI, Google, SpaceX, Amazon, Cohere et d'autres ont ajouté leurs noms, laissant Anthropic comme le seul grand laboratoire d'IA à ne pas avoir signé.

La Silicon Valley l'a remarqué. Le capital-risqueur David Sacks, ancien conseiller en IA de l'administration Trump, a écrit sur X que « toute l'industrie technologique (sauf Anthropic) s'est prononcée en faveur de l'IA open source ». Bill Gurley, associé général chez Benchmark, a suggéré que la réticence d'Anthropic reflétait le fait que les poids ouverts concurrencent « leur stratégie économique d'entreprise ». Kai-Fu Lee, fondateur de la startup chinoise 01.AI, a posté que « ceux qui N'ONT PAS signé la lettre sur les poids ouverts sont bien plus intéressants que ceux qui l'ont fait ».

La réponse d'Amodei

Dimanche, Dario Amodei a publié un article de blog brisant le silence. « Anthropic n'a jamais préconisé l'interdiction des modèles à poids ouverts », a-t-il écrit, ajoutant que « les modèles à poids ouverts qui n'ont pas de capacités dangereuses sont un bien public ». Il a déclaré que ses craintes concernant l'IA ne s'étendent pas aux entreprises utilisant des modèles open-weight, même chinoises, mais plutôt aux gouvernements autoritaires construisant des modèles plus puissants que ceux des États-Unis pour parvenir à une « supériorité militaire permanente » ou réprimer leur propre peuple. Le Parti communiste chinois, a-t-il noté, est le gouvernement le « plus capable » en la matière.

Amodei a également averti que les modèles open-weight présentent un risque plus important dans les scénarios d'attaques biologiques car les garde-fous ne peuvent pas être appliqués et, citant un rapport de l'Agence britannique de sécurité de l'IA, une fois les poids publiés, ils ne peuvent pas être retirés.

Trois mesures au lieu d'une interdiction

Au lieu d'interdire les modèles open-weight, Amodei a présenté trois mesures politiques. Premièrement, renforcer les contrôles des exportations de puces et réprimer la « contrebande endémique » utilisée pour acheminer des puces avancées vers la Chine, car sans puces américaines, les lois de mise à l'échelle empêchent la Chine de former des modèles plus puissants que ceux des États-Unis. Deuxièmement, stopper les opérations de distillation à l'échelle industrielle qui permettent aux laboratoires chinois de construire des modèles capables bien moins cher que de les entraîner de zéro. Troisièmement, des tests de sécurité obligatoires pour tous les modèles suffisamment capables, ouverts et fermés, quel que soit leur pays d'origine, les modèles moins capables des startups et du milieu universitaire étant exemptés.

L'accusation de distillation

Le point sur la distillation est commercialement chargé. Anthropic a accusé le laboratoire Qwen d'Alibaba de mener la plus grande campagne de distillation jamais vue contre Claude, en utilisant 25 000 faux comptes pour 29 millions d'échanges. Amodei a reconnu que la lutte contre la distillation est « difficile » car les comptes ne peuvent souvent être identifiés qu'après une distillation substantielle, et a appelé à une intervention politique plutôt qu'à la seule application d'une entreprise.

Le précédent Fable 5

La prudence d'Anthropic a un précédent récent. Le 12 juin, trois jours après le lancement de Fable 5 comme modèle public le plus puissant, le gouvernement américain a ordonné à l'entreprise d'interdire l'accès aux étrangers à Fable 5 et Mythos 5. Appliquer une règle de nationalité sur un service cloud partagé était peu pratique, donc Anthropic a complètement coupé l'accès. L'épisode a souligné la conviction de longue date de l'entreprise que les développeurs perdent le contrôle d'un modèle de pointe dès que ses poids sont publiés, une position qu'elle a maintenue à travers des programmes d'accès restreint comme Project Glasswing.