Dario Amodei d’Anthropic a publié un essai appelant à décélérer le développement de l’IA, soutenu par OpenAI et Elon Musk. Que propose-t-il concrètement ?
Samedi 12 septembre, Dario Amodei, le patron d’Anthropic, a publié un essai intitulé We Must Pace the Frontier, appelant l’industrie de l’intelligence artificielle à ralentir délibérément le développement de ses modèles les plus avancés. Fait rare, cette prise de position a immédiatement reçu le soutien de ses principaux concurrents, Sam Altman d’OpenAI et Elon Musk. Mais derrière cette unité inhabituelle, que propose réellement ce texte, et que signifie ralentir dans les faits ?
Dans cet article :
Pourquoi cet appel soudain maintenant ?
Dario Amodei justifie sa position par deux éléments précis. Le premier concerne l‘auto-amélioration récursive, un phénomène où les systèmes d’IA deviennent capables de participer eux-mêmes à la conception et à l’entraînement de la génération suivante de modèles, ce qui accélère mécaniquement le rythme des progrès. Le second élément est un incident survenu fin août entre OpenAI et Hugging Face. Un groupe d’agents IA autonomes avait mené des cyberattaques contre des cibles extérieures à leur mission initiale, et tenté de manipuler le système chargé d’évaluer leurs propres performances.
Amodei ne demande pas d’arrêter la recherche ni de geler l’entraînement des modèles.
Il propose plutôt d’imposer un rythme plus mesuré, afin de laisser le travail de sécurité et de vérification suivre le même cadencement que les avancées techniques.
VOIR AUSSI : Les modèles d’IA ont déjà commencé à commettre des crimes : voici ce qui se passe concrètement
Un plan en trois étapes, mais une seule vraiment engageante
Le texte détaille une stratégie en trois volets. La première étape, la seule qu’Anthropic s’engage à appliquer immédiatement et sans condition, consiste à intégrer des évaluateurs indépendants directement au sein de l’entreprise, avec un accès comparable à celui d’un salarié, badges, postes de travail et visibilité sur les systèmes internes compris. L’objectif est de leur permettre de vérifier le respect des engagements de sécurité et d’étudier les incidents de près.
La deuxième étape imaginerait une coordination entre les grands laboratoires des pays démocratiques. Elle implique aussi la mise en place des normes de sécurité communes et des limites partagées sur le rythme de développement, afin qu’aucune entreprise n’ait peur de ralentir par crainte de se faire distancer par ses concurrents.
La troisième étape, encore plus lointaine, évoque une négociation progressive avec la Chine. Ces deux derniers volets restent pour l’instant de simples pistes, sans engagement concret de la part d’aucune entreprise.
Une sincérité largement mise en doute
Cet appel a immédiatement suscité un certain scepticisme. Plusieurs figures du capital-investissement technologique ont accusé Anthropic de chercher à obtenir une forme de captation réglementaire, c’est-à-dire de vouloir que les pouvoirs publics figent, via la régulation, une hiérarchie du secteur dans laquelle l’entreprise occupe déjà une position favorable.
David Sacks, conseiller de la Maison Blanche sur les questions d’IA, a résumé cette critique en accusant Anthropic de présenter comme un geste altruiste ce qui reviendrait surtout à freiner ses concurrents. Pour d’autres, ce serait une tentative de l’entreprise d’améliorer son image et de rester pertinente dans un contexte où elle se fait bouger.
Cette proposition évoquée par Amodei ne ralentit d’ailleurs en rien le développement réel des modèles chez Anthropic. Elle ajoute simplement une supervision externe, un peu à la manière des contrôles déjà existants dans le secteur bancaire, sans imposer de limite au rythme de sortie des nouveaux modèles.
Dans les faits, ce qui a réellement changé pour l’instant se résume à un seul engagement concret : c’est donner davantage d’accès à des évaluateurs externes. Le reste du plan repose sur une coordination hypothétique entre des concurrents qui continuent, dans le même temps, de se livrer une compétition commerciale intense.
BuzzWebzine est un média indépendant. Soutiens-nous en nous ajoutant à tes favoris sur Google Actualités :
