Les grosses limites de l’intelligence artificielle

Je me suis retrouvé dans une réunion dans laquelle une maman évoquait que son fils voulait faire réparateur vélo. Demandons à l’intelligence artificielle, comment on devient réparateur vélo !

L’intelligence artificielle, la solution de facilité

Contrairement à nos élèves qui désormais prennent l’habitude de nous pondre des devoirs en utilisant ChatGPT, je n’ai pas le réflexe. Pourtant, dans le cas présent, face à un parent, c’est pratique. Pas le temps de recouper les informations, pas le temps de trouver le site qui va bien. Les résultats Google sont souvent biaisés, il faut chercher un peu.

Voici les réponses de ChatGPT et de Bard.

Bard est directement hors course puisqu’il ne propose pas de diplôme. Il faut comprendre que lorsque votre enfant a 15 ans et que vous lui cherchez une poursuite d’étude, vous cherchez un diplôme. Les réponses, apprendre sur le tas ne passent pas. J’ai fait une recherche tout de même sur le résultat, car il m’intriguait. En effet, mécanique, bateau, véhicule léger, lourd, agricole, moto, mais pas vélo à ma connaissance. Vous noterez d’ailleurs l’un des paradoxes de mon métier. Pas un jour sans réforme, mais dans un monde dans lequel la transition écologique nécessiterait des employés qualifiés pour le vélo, pas de diplôme.

Le diplôme qui sort est en fait « CAP Maintenance des véhicules option C motocycles« . Il existe aussi Certificat d’Aptitude Professionnelle MAINTENANCE des MATÉRIELS dans trois options différentes : Option A : Matériels agricoles. Option B : Matériels de construction et de manutention. Option C : Matériels d’espaces verts. Ce qui veut dire tout de même qu’il existe un CAP de réparateur de tondeuse à gazon mais pas de vélos.

On en revient à la méthode à l’ancienne, qui consiste à croiser les sources. Et là, force est de constater qu’à part des formations de type CQP (Certificat de Qualification Professionnelle) il ne sort rien ou presque. Si quelqu’un a la réponse avec un diplôme à la clé, je suis preneur.

Mais en fait, qu’est-ce qu’une IA ?

Derrière l’expression intelligence artificielle, on a l’impression d’avoir un superordinateur qui aurait réponse à tout. Ce n’est absolument pas le cas. L’intelligence artificielle n’est qu’un bête répétiteur qui raconte ce qu’on lui a appris avec les biais qui vont avec. Ainsi, il apparaît que la majorité des IA sont racistes, misogynes et j’en passe. Par exemple, un test a été réalisé avec Midjourney l’une des IA les plus utilisées pour générer des images. Il apparaît que Midjourney n’a pas été capable de générer un médecin noir s’occupant d’enfants blanc.

Et les exemples sont nombreux. Amazon avait entraîné son intelligence artificielle pour embaucher des candidats. Il apparaît que l’IA ne recrutait que des hommes. Pourquoi ? Tout simplement parce que l’intelligence d’Amazon a été entraînée par les recrutements des RH précédents. Et comme ces derniers recrutaient principalement des hommes, l’IA s’est mise à recruter des hommes. CQFD.

Ainsi, l’IA n’est qu’un outil de plus qui ne remplace pas le cerveau. Et c’est un outil qui est tout juste mal foutu pour une simple raison : l’absence de sources. Et paradoxalement, c’est aussi ce qui fait son charme chez les jeunes. L’intelligence artificielle vous débite un texte clair, comme si en fin de compte, elle l’exprimait avec une forme d’assurance. On tombe ainsi dans le piège, de si c’est écrit, si c’est dit distinctement, alors c’est vrai.

La seule façon de vérifier les sources, c’est de croiser l’information. Un travail malheureusement long, fastidieux. Avec des IA qui ne citent pas l’origine de leur source, difficile de faire confiance à ces programmes. En même temps, citer les sources serait un aveu de vol de l’information quand la majorité des sites internet se ferment aux IA. Sans sources, les IA seront de simples coquilles vides. On en revient alors à l’essence même de l’information, ceux qui la vivent, ceux qui la font qui sont encore les mieux placés pour l’expliquer.