Meta AI : Galactica est retiré peu après son lancement

Récemment, Meta AI a lancé la démo d’une intelligence artificielle, baptisée « Galactica ». Malheureusement, cette période d’essai n’a pas fait long feu.

Meta AI a commencé la démonstration de Galactica le 15 novembre pour la retirer à peine trois jours après. Pourtant, ce nouveau modèle de langage avait suscité l’intérêt du public, dont des hommes de science. En effet, il est censé pouvoir créer des articles scientifiques à partir d’une invite textuelle. Ce qui peut rappeler une IA génératrice d’images. Malgré l’engouement autour du générateur de textes, les retours ne sont pas concluants.

Une aide dans la rédaction de documents scientifiques

Meta AI et Papers with Code ont travaillé de concert pour créer Galactica. Ils ont exploité une grande quantité de données scientifiques pour alimenter ce générateur d’articles scientifiques. L’équipe a réuni près de 50 millions de références uniques provenant de plusieurs sources. Grâce à son entraînement, l’intelligence artificielle peut suggérer des citations et des articles en lien avec le sujet abordé.

Concrètement, Galactica peut fournir un document de recherche complet qui contiendra non seulement des références, mais aussi des formules. Toutefois, il faut garder à l’esprit que l’article en question n’a pas été fait par des experts. D’ailleurs, Meta a donné un avertissement à ce sujet :

« Certains textes générés par Galactica peuvent sembler très authentiques et très sûrs d’eux, mais peuvent être subtilement faux sur des points importants. C’est notamment le cas pour les contenus très techniques. »

Meta AI

Afin d’éviter les malentendus concernant cette intelligence artificielle, Yann LeCunn a donné de plus amples explications. Il convient de noter qu’il est le scientifique en chef de l’IA chez Meta AI.

« Cet outil est à la rédaction de documents ce que l’aide à la conduite est à la conduite. Il ne rédigera pas automatiquement des articles à votre place, mais il réduira considérablement votre charge cognitive pendant que vous les rédigerez. »

Yann LeCunn

VOIR AUSSI : Comment protéger les résultats d’une recherche scientifique ?

Les défauts de l’intelligence artificielle de Meta AI

Dans son style d’écriture, Galactica a encore du chemin à faire. Cependant, ce n’est pas la raison pour laquelle Meta AI l’a suspendu. Si l’ergonomie est importante pour l’expérience utilisateur, cette raison ne suffit pas pour invalider l’IA. De plus, il s’agit encore d’une démo.

En fait, les utilisateurs ont remarqué que l’intelligence artificielle avait un défaut non négligeable. Michael Black a notamment qualifié certains résultats comme « faux ou biaisés ». Le réel problème est que ces textes « sonnaient juste et avec autorité ». Notons que Michael Black travaille sur le deep learning. Il est directeur fondateur du Max Planck Institute for Intelligent Systems en Allemagne.  

En effet, Meta AI avait déjà prévenu sur ce sujet. Toutefois, le modèle de langage permet aussi de générer des contenus à partir d’invites éventuellement offensantes ou racistes. Il peut même s’attaquer à des faits scientifiques déjà établis. Sans compter les inexactitudes qui concernent, par exemple, les dates ou les noms d’animaux. Pourtant, tous ces textes sont rédigés « avec autorité ».