Et si la meilleure IA était celle qui pousse l’humain à réfléchir ?

Après un moment d’émerveillement est arrivé celui des inquiétudes : et si l’IA nous arrachait la capacité à réfléchir,  que deviendrons-nous ?

Tous les chercheurs s’accordent à dire aujourd’hui que le grand danger que court l’humain est la perte de sa capacité à réfléchir.  Si les réseaux sociaux ont déjà porté un coup à cette capacité (la consommation constante et excessive donnant peu de temps à la réflexion), l’IA pourrait finir de l’achever.  Tous les chatbots IA se contentent de répondre directement à la question qu’on leur pose. Plus encore, ils se rendent disponibles pour expliquer davantage le point de vue, rendant ainsi l’humain passif. Alors, et si faire réfléchir devenait la caractéristique d’une meilleure IA ?

Le confort dangereux de l’IA réponse-minute

Dans le cadre d’un projet universitaire, je devrais comprendre les opérations bit à bit. En moins d’une minute,  ChatGPT me sort la réponse et voulait savoir si je souhaitais des démonstrations précises. Un simple « Oui » suffirait pour avoir une démonstration potentiellement vraie et précise.

C’est le propre des chatbots IA depuis leur avènement. Pour de nombreux utilisateurs,  l’outil IA ne se serait jamais arrêté pour savoir s’ils souhaiteraient une démonstration ou non : elle aurait enchaîné avec ladite démonstration et une application. Il me suffirait alors de copier le résultat et j’aurais fait mon projet universitaire. Mais au fond, qu’aurais-je réellement appris ? La compréhension que j’en aurais conçue, je l’oublierais probablement dans quelques semaines et un prochain projet me ramènerait au même endroit. Ainsi se développe l’addiction à la facilité : pourquoi chercher quand l’IA trouve pour nous ?

La capacité de l’IA à fournir des réponses instantanées réduit ainsi l’incitation à s’engager dans des processus de recherche plus approfondis, souvent nécessaires pour développer une compréhension nuancéedes sujets complexes. Plus encore, ceci entraîne une diminution des compétences cognitives telles que l’analyse critique et la pensée indépendante. Car nous devenons passifs dans notre approche de l’apprentissage, préférant accepter les résultats fournis par l’IA sans évaluation critique approfondie.

Ce phénomène peut également affecter la capacité à résoudre des problèmes. En acceptant les réponses toutes faites, le muscle de la réflexion s’atrophie. On ne développe plus les compétences nécessaires pour naviguer dans des situations non standards où l’IA n’est pas disponible ou efficace.

VOIR AUSSI : Entre erreurs et désinformations, voici les IA les plus fiables et les moins fiables

Un terrain que les réseaux sociaux et les médias sociaux ont déjà miné

Ce que nous observons actuellement avec les IA n’est qu’une continuité de ce que les réseaux sociaux et les médias numériques ont déjà entamé. Facebook, YouTube et la dernière percée de TikTok ont fini d’accentuer un phénomène entièrement en déphasage avec le fonctionnement naturel du cerveau humain : une consommation rapide vs pensée lente.

Ce fonctionnement qui a contribué à de grandes révolutions est perçu aujourd’hui plus lent comparativement à la vitesse des réseaux sociaux et la vélocité à laquelle circulent les infos. L’humain est donc enclin à adopter des méthodes plus faciles que de subir la longue et lente pente de la réflexion. En conséquence, on se retrouve avec une génération qui sait demander, mais ne sait plus rechercher. Une transformation de l’IA qui risque peut-être d’entraîner d’autres cas plus désastreux qui restent encore à déterminer.

Et si alors la meilleure IA était celle qui amène à réfléchir ?

La popularité grandissante de ChatGPT et ses compères a vite fait basculer le système éducatif mondial. Donner des devoirs de maison ne servait plus à grand-chose, car le chatbot IA servait à obtenir les réponses plutôt qu’à aiguiser la réflexion des apprenants. OpenAI et consorts ont tenté de désamorcer la bombe à retardement en intégrant une option “Etudier” à leur outil. Pourtant, seul un élève conscient l’activerait avant de lui soumettre son devoir. Ce qui n’est pas gagné d’avance.

La meilleure des IA aujourd’hui, qui ne pousse pas l’humain à la passivité, au point de lui retirer ce qui fait de lui le couronnement de la création, serait une IA socratique.

Le philosophe athénien était connu pour sa méthode dite la “maieutique” qui consistait à faire accoucher du savoir à ses interlocuteurs par des questions.

Cette IA “socratique” ne se contenterait donc pas de répondre ; elle renverrait les questions sous un autre angle, obligerait à reformuler, à préciser les idées. L’outil déclencherait alors une réflexion active. Il ne fournirait pas la solution toute cuite, mais proposerait des chemins, des hypothèses, des paradoxes. Cette nouvelle IA pousserait alors l’humain à grandir intellectuellement, comme un professeur qui préfère poser des questions plutôt que donner des réponses.