Un ex-chercheur d’Anthropic qui démissionne, l’ONU qui réclame des lignes rouges, des incidents impliquant des IA : plusieurs voix appellent à mieux encadrer l’IA, face au risque d’une perte de contrôle.

L’IA avance-t-elle trop vite pour rester sous contrôle ? La question a pris de l’ampleur ces dernières semaines. Elle est portée par plusieurs mises en garde venues de l’intérieur du secteur comme des institutions internationales. Entre la démission remarquée des chercheurs et un appel solennel des Nations unies, le débat sur les dangers des systèmes les plus puissants est relancé.
Un chercheur quitte Anthropic et tire la sonnette d’alarme
Le parcours de Jacob Coxon prouve le malaise que vit une partie des spécialistes en intelligence artificielle. Il s’agit d’un chercheur britannique qui a d’abord contribué au développement des modèles d’OpenAI avant de rejoindre son concurrent direct, Anthropic. Il a finalement choisi de quitter cette dernière, en expliquant publiquement ses raisons dans une série de publications sur le réseau social Twitter, début septembre.
Son constat est sévère. Selon lui, les dirigeants des principaux laboratoires foncent vers une forme de superintelligence capable de se perfectionner elle-même, et donc, à terme, de se passer de l’humain. Il reproche à ces acteurs de prendre des risques considérables au nom de la course technologique. Coxon affirme même qu’une partie de ceux qui conçoivent ces systèmes redoutent sincèrement qu’ils puissent provoquer des catastrophes majeures d’ici la fin de la décennie.
VOIR AUSSI : Les géants de l’IA appellent à ralentir : mais cela veut dire quoi concrètement ?
L’ONU réclame des lignes rouges
Si pour l’instant les grandes voix ne proviennent des, des sons proviennent également des grandes institutions. Le 7 septembre 2026, à l’ouverture de la 63e session du Conseil des droits de l’homme à Genève, le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, a appelé à bâtir sans tarder une gouvernance internationale de l’IA. Il a déclaré partager les inquiétudes de certains professionnels du secteur.
Le Haut-Commissaire estime que les systèmes les plus avancés pourraient faire peser un risque existentiel sur l’humanité.
Pour Volker Türk, les entreprises ne peuvent pas rester seules juges de la sûreté de leurs propres technologies. Il plaide pour que les pays qui hébergent le développement de l’IA et ceux qui participent à sa chaîne d’approvisionnement s’accordent sur des limites communes, qu’il nomme des lignes rouges. Il a par ailleurs annoncé son intention d’écrire directement aux grandes sociétés du secteur pour les presser d’agir dès maintenant.
Une perte de contrôle plutôt qu’une machine méchante
Le scénario que l’on redoute n’est pas celui d’une IA qui deviendrait soudainement malveillante, comme dans la science-fiction. La crainte porte davantage sur une délégation excessive de pouvoir à des machines très compétentes, dont on ne maîtriserait plus ni les objectifs réels ni le comportement. Plus simplement, c’est l’hypothèse d’une perte de contrôle progressive qui inquiète.
Des incidents concrets nourrissent ces craintes. Des cas d’agents IA ayant outrepassé les consignes qui leur étaient fixées pour accomplir leur mission ont été rapportés ces derniers mois. Dans certaines situations, un système censé viser une cible fictive lors d’un test a fini par s’en prendre à un environnement réel, en poussant son action au-delà des limites prévues. Le problème c’est que, plus les modèles gagnent en capacités, plus leur surveillance devient complexe.
Entre régulation et marketing de la peur
Face à ces alertes, plusieurs pistes se présentent. L’une d’elles consiste à créer une organisation internationale dédiée au suivi de l’IA, sur le modèle des instances qui encadrent l’énergie nucléaire. L’idée est défendue par divers acteurs de la tech, y compris, parfois, par des dirigeants du secteur eux-mêmes.
Toutes les voix ne partagent pas ce niveau d’inquiétude. Certains jugent ces avertissements exagérés et dénoncent ce qu’ils qualifient de marketing de la peur. Leur argument comporte une part de paradoxe. Présenter ces systèmes comme des machines bientôt surpuissantes contribue aussi, qu’on le veuille ou non, à les mettre en valeur et celle des entreprises. Nous pouvons prendre l’exemple d’Anthropic qui, malgré les alertes de son dirigeant, continue de développer des modèles.
BuzzWebzine est un média indépendant. Soutiens-nous en nous ajoutant à tes favoris sur Google Actualités :






![Tweet Pee : une couche connectée qui envoie des alertes [Huggies] tweet-pee-couche-connectee-huggies](https://www.buzzwebzine.fr/wp-content/uploads/2013/05/tweet-pee-couche-connectee-huggies-450x166.jpg)