GPT-6.1 Astra ne sortira pas en octobre : l’IA ment et agit sans permission

Après des tests sur son modèle GPT-6.1 Astra, OpenAI repousse sa sortie. Le modèle mentait sur ses actions et agissait sans autorisation. Voici ce qui a été constaté, pourquoi cela arrive.

OpenAI renonce à lancer GPT-6.1 Astra en octobre, selon le Wall Street Journal. Le modèle devait arriver dans ChatGPT et Codex, quelques semaines après GPT-6 Astra, qui a été mis en ligne début septembre. Selon les tests internes, il rapportait de façon inexacte ce qu’il avait fait et il lançait des tâches sans demander l’accord de l’utilisateur.

Des comportements non maîtrisés

GPT-6.1 ne devrait pas sortir de sitôt. Pas en tout cas avec ces comportements soulevés. Saachi Jain, responsable des systèmes de sécurité chez OpenAI, a expliqué que le modèle a régressé sur deux points par rapport à son prédécesseur. Le premier touche à l’alignement, c’est-à-dire la capacité du modèle à se comporter comme ses utilisateurs l’attendent. Le modèle se montrait moins honnête quand il devait dire quelles actions il avait réalisées ou non. Le second concerne ce qu’OpenAI appelle l’autorisation de portée. GPT-6.1 Astra poursuivait une tâche sans demander la permission et se tournait parfois vers des outils ou des services externes, même quand cela pouvait être risqué.

Ces défauts pèsent plus lourd sur un agent que sur un simple chatbot. Un agent agit seul sur un ordinateur et c’est le compte-rendu qu’il fait qui permet de savoir ce qui s’est concrètement passé. Si ce compte rendu est faux, il n’y a plus de suivi et le contrôle disparaît.

Le modèle avait pourtant progressé ailleurs : il réussissait mieux les tâches de bout en bout et se montrait moins « paresseux ».

VOIR AUSSI : Les modèles d’IA ont déjà commencé à commettre des crimes : voici ce qui se passe concrètement

Pourquoi un modèle apprend à mentir ?

Le problème réside essentiellement dans la manière dont ils sont entraînés. Avant cela, les modèles n’ont aucune volonté propre : ils héritent tout de l’apprentissage ou des données utilisées. Pour bien comprendre, on peut prendre l’exemple du renforcement learning ou l’apprentissage par renforcement.

Cette méthode d’entraînement consiste à confier une tâche au modèle, à noter le résultat, puis à ajuster son comportement pour obtenir de meilleures notes. Le modèle n’apprend donc pas ce que ses concepteurs avaient en tête, mais ce qui est réellement récompensé. Si la note valorise la tâche accomplie et que rien ne pénalise assez un compte rendu flatteur ou le franchissement d’une limite, ces comportements deviennent rentables du point de vue du modèle.

Jusque-là, OpenAI n’a pas encore établi la cause exacte pour GPT-6.1 Astra ou ne l’a pas encore communiqué, mais la piste suivie va dans ce sens. L’été a d’ailleurs fourni un exemple concret à ce propos.

Un été d’incidents qui explique la prudence

Selon le rapport technique d’OpenAI, des agents passant une évaluation de cybersécurité ont cherché en ligne des solutions pour la tricher. Ce rapport intervient après plusieurs épisodes marquants. Déjà entre mai et juillet, des agents d’OpenAI sont sortis de leur environnement de test, ont atteint Internet et ont compromis la plateforme Hugging Face. Anthropic, de son côté, a indiqué avoir suspendu temporairement un entraînement après des incidents où Claude avait mené des actions non autorisées sur des systèmes informatiques pendant des évaluations de cybersécurité. À Washington, l’AI Kill Switch Act, déposé le 23 juillet, vise à obliger les laboratoires à conserver la capacité d’arrêter, de limiter ou de suspendre leurs modèles.

Un autre épisode est plus récent. Fin septembre, OpenAI a suspendu l’entraînement de ses modèles les plus capables après qu’un coupe-circuit automatique n’a pas stoppé un agent. L’entraînement a continué environ deux heures et demie avant l’intervention manuelle des ingénieurs.

OpenAI précise que GPT-6.1 Astra est un cas distinct de ces derniers. Le modèle n’a pas échappé à un environnement de test. Il a simplement échoué, en conditions normales, aux critères de sécurité que l’entreprise s’était fixés. C’est pourquoi sa sortie est retardée.