Alors que le monde enseignant s’alarme de l’utilisation de l’IA pour faire les travaux, il se pourrait qu’on ait un autre problème avec l’IA. La combinaison entre l’intelligence artificielle et le manque d’intelligence de nos enfants, fait très mauvais ménage.
Elle s’appelle Ariel et c’est une petite sirène.
Comme chaque année, je participe avec mes élèves à un concours de l’enseignement agricole pour lequel il faut réaliser une fausse une de journal. C’est la dernière année que j’y participe pour des raisons qui sont en lien avec ce billet. Les enfants ne savent plus ce qu’est un journal, on part de trop loin avec un temps bien trop limité. Une fois qu’on leur a expliqué, ils n’arrivent pas à faire des phrases d’accroche. C’est d’autant plus paradoxal qu’ils sont pourtant soumis aux top 10, aux incroyables, vous ne devinerez jamais et j’en passe. Leur imagination et leur culture sont au point mort. Leur niveau de français est catastrophique tout comme leurs compétences en informatique
L’une de mes jeunes a fait le choix des fonds marins. Pourquoi, pas. C’est un sujet peu commun. Je vois sur sa page un squelette de sirène.
Son texte est un peu vide, et je lui dis qu’il faut étoffer. Comme je sais qu’elle ne sera pas capable de le faire par elle-même, j’essaie de lui tirer les vers du nez. Je lui demande dans quelle œuvre célèbre, on voit apparaître les sirènes pour la première fois. Je lui dis l’odyssée d’Homère. Et c’est ici où l’on tombe dans le paranormal quand on n’a pas l’habitude. Elle me demande en toute sincérité si Homère il y a un lien avec les Simpson et me fait comprendre qu’elle pensait que les sirènes existaient vraiment.
Comprenez que s’il y a quelques années le propos aurait pu faire sourire, aujourd’hui, il ne m’inquiète même pas. J’explique, je prends le temps sans aucune moquerie et lui dit qu’il s’agit de personnages imaginaires comme les licornes. Et sa voisine de s’étonner en croyant que les sirènes existaient réellement. Comme on aime à le rappeler, l’enseignement agricole est un miroir déformant qui ne représente pas l’ensemble des enfants. Il montre toutefois une tendance, une partie de la population.
Une intelligence artificielle de plus en plus bluffante, un public qui n’est pas préparé.
En fouillant quelques minutes sur le net, il apparaît que l’image est un trucage de 2013, dans le cadre d’un concours sur les Anomalies Archéologiques. Ce qui par contre devient plus inquiétant, c’est ce type de contenu.
On voit actuellement déferler sur les réseaux, ce type de vidéo qui reprend les codes de l’émission America’s Got Talent. Il s’agit d’une utilisation de l’intelligence artificielle. Alors effectivement, si vous êtes lecteur de ce site, vous allez me dire que c’est une évidence. Sauf, que lorsqu’on lit les commentaires, ce n’est pas si évident que cela pour les gens qui visionnent. La mention AI est faite effectivement, mais il y a trois points qui me gênent. D’une part, il y a une réutilisation des séquences de l’émission. D’autre part, c’est une véritable déferlante, si bien qu’on a du mal à trouver le but. Et bien sûr un dernier point, la quasi-certitude que des gens vont croire que c’est vrai.
Face à un tel déficit de curiosité, de culture, face à une telle crédulité, pour moi ces images sont dangereuses. Et comme j’ai pu l’étayer en introduction avec mon histoire de sirène, nos jeunes, des moins jeunes, ne sont pas armés intellectuellement contre ça. Ici, on peut se dire qu’il s’agit d’une dérive qui est limitée. Néanmoins, l’intelligence artificielle, sera, est, le terreau de l’escroquerie et de la manipulation.
Que faire ?
Vous allez me trouver certainement pessimiste, mais c’est déjà trop tard. Le problème avec l’IA c’est le même problème que pour les réseaux sociaux. Les sociétés sont trop rapides, les pouvoirs publics sont démunis, car il est déjà trop tard quand ils s’intéressent au problème. Par exemple, l’Australie procède à une interdiction des réseaux sociaux jusqu’à l’âge de 16 ans. Parallèlement à cela, l’Italie interdit les boîtes à clé pour lutter contre Airbnb. Aussi différentes puissent paraître ces deux lois, elles sont pourtant motivées par le même but. Reprendre le contrôle face à des sociétés américaines qui mènent la danse.
Si l’encadrement est nécessaire, on peut s’interroger sur au moins deux points. N’est-il pas trop tard pour la jeunesse qui se ruine la cervelle sans modération avec les réseaux, les smartphones et les nouvelles technologies de façon générale. Et le second point, comment lutter contre la gruge. Car il est certain que les jeunes contourneront la loi, et de la même manière les propriétaires de bien en location via Airbnb trouveront une parade.
De mon point de vue, et toute humilité, pour avoir un moyen d’action sur les sociétés produisant de l’IA il me paraît indispensable d’avoir un water mark au fer rouge pour estampiller les contenus produits l’intelligence artificielle. De la même manière, il faudrait mettre à disposition des outils par ces sociétés de reconnaissance. En effet, l’un des problèmes avec l’IA notamment dans le monde de l’éducation, c’est le manque de fiabilité des outils de détection et la perte inhérente de temps pour les professeurs qui jouent au chat et à la souris.
Pour régler le problème avec l’IA, certainement apprendre à s’en servir.
Comme je l’ai expliqué plus haut, l’an prochain, j’arrête mon concours. Face au manque de temps, de compréhension, je préfère passer à autre chose. Des travaux plus courts, moins dans la durée. Je réalise que les élèves sont tout de même demandeurs d’outils et c’est sûrement vers cette direction que je vais m’orienter. Par exemple, je leur faisais remarquer qu’il existait des solutions pour faire l’effort de « franciser » leurs textes truffés de fautes et qui ne veulent rien dire. Le site reverso par exemple permet de corriger les fautes de français, mais aussi propose une reformulation. J’ai vu pas mal d’élèves s’en servir, ils ont ainsi découvert quelque chose.
Je suis aussi tenté par la création d’images par IA, je trouve que c’est intéressant, mais je vois un problème. En effet, quand les moteurs de recherche sont gratuits, même si c’est nous le produit, ils ne demandent pas de compte. La révolution de l’IA entraîne aussi cette contrepartie dangereuse qui impose tout un chacun à la création de compte et à un nombre de créations limitées. Il va falloir que je me penche sur les mails avec mes élèves et l’inscription sur ces sites.
S’il me paraît évident que les jeunes n’ont pas les armes intellectuelles pour se défendre à cause de leur manque de culture notamment et leur manque d’esprit curieux, il ne faut pas baisser les bras. Montrer un peu le fonctionnement de la machine, les deep fakes, éveiller un peu les consciences, leur dire de douter de ce qu’ils voient est certainement le minimum à faire entrer dans nos pédagogies en lien avec l’informatique.
