Vos choix technologiques ne sont pas neutres

Dans les écoles, on voit arriver l’intelligence artificielle sous plusieurs angles. La crainte, parce qu’elle remet notre métier en question, la fascination, car on imagine une IA faire nos corrections, nos exercices et pourquoi pas nos cours, et enfin l’injonction de se l’approprier. J’avais déjà montré que pour générer une figure de géométrie pour le théorème de Thalès, le résultat était loin d’être satisfaisant, mais ce n’est pas pour cela qu’il faut jeter l’intelligence artificielle. Il est important de faire des tests de façon régulière, car l’intelligence artificielle évolue si bien qu’un mauvais résultat hier sera peut-être réussi demain.

Il y a toutefois dans tous les documents que pondent les formateurs, les professeurs et d’autres personnes qui gravitent autour de la pédagogie l’absence totale de réflexion, de philosophie quant à l’usage des intelligences artificielles.

On n’a pas attendu l’intelligence artificielle pour bafouer l’éthique

La bataille que je livre et que j’ai abandonnée depuis des années au sein de mon établissement scolaire, auprès de mes collègues c’est l’utilisation du logiciel libre. Je l’ai déjà écrit dans un précédent billet sur le fait de ne pas conseiller le passage à Linux pour la mort de Windows 10, conseiller un logiciel c’est s’engager. Les gens qui sont face à vous ne veulent pas faire d’effort, ils veulent bien se soumettre à une solution si vous les prenez par la main. Et pourtant, l’état lui-même fait la préconisation des logiciels libres. Vous pouvez trouver par exemple le SILL, le Socle Interministériel du Logiciel Libre, un catalogue qui liste les logiciels libres recommandés par l’état. On ne s’étonnera pas de trouver LibreOffice, pour ne citer que la suite bureautique libre.

Si LibreOffice n’est pas adoptée c’est parce que les gens de ma génération ont grandi en utilisant les produits Microsoft. C’est certainement pour cela que je pense que cela ne sert à rien de se battre surtout quand les institutions n’aident pas. On a pu le voir dernièrement avec les accords entre l’éducation nationale et Microsoft, une culture du paradoxe à la française qui cherche sa souveraineté tout en se mettant les chaînes. Finalement, plutôt que de tenter d’influencer les « vieux » avec certaines causes perdues, mieux vaut éduquer les jeunes et leur montrer qu’on peut télécharger LibreOffice gratuitement.

Il est plus simple d’expliquer que Katy Perry a flingué sa carrière en larguant autant de CO2 en 11 minutes que ce qu’elle aurait dû émettre en huit ans que de faire comprendre que derrière l’usage d’un logiciel il y a un enjeu politique, sécuritaire, économique fort. Il faut dire que dépenser des millions pour partir dans l’espace et cramer du kérosène c’est facilement compréhensible qu’il s’agit d’un caprice de riche. Faire comprendre qu’utiliser un logiciel propriétaire c’est le mal, c’est plus compliqué. Cela sera peut-être plus facile à faire comprendre si on dit que le logiciel est américain et que par les temps qui courent confier l’intégralité de nos données à des gens qui obéissent à Donald Trump, ce n’est pas une bonne idée.

La compréhension de l’éthique derrière le logiciel c’est compliqué, parce que les gens se contentent de voir l’usage sans s’interroger sur ce qu’il y a derrière. Et c’est encore plus compliqué quand l’usage est quotidien et qu’il faudrait changer ses habitudes de façon fondamentale pour changer cet usage. À titre d’exemple, on a beau savoir que la fast fashion c’est mal, que dans certains cas c’est fabriqué par des populations mises en esclavage, acheter Français c’est difficile, car ce n’est pas le même prix.

Par le fait, il est important par exemple qu’un logiciel comme LibreOffice assure la compatibilité au plus avec les fichiers issus de la suite bureautique de Microsoft afin que les gens ne soient pas dans l’obligation de tout reprendre.

L’intelligence artificielle et l’uniformisation

Avec l’arrivée de la création des images par intelligence artificielle, et plus particulièrement la « reprise à la Ghibli » on a réellement vu une montée de bouclier mais ici encore je pense que ça dépasse la compréhension des gens. Déjà les gens n’ont pas envie de comprendre parce que c’est cool. Quand vous regardez le panel d’images ci-dessous, la prouesse est vraiment extraordinaire. Nous sommes exactement dans le même constat qu’avec l’utilisation d’un logiciel privateur américain, il est difficile pour les gens d’imaginer que derrière l’usage, il y a un enjeu.

La première problématique c’est de comprendre que l’IA générative ne produit rien par elle-même, elle est formée. Elle est donc ici formée par les dessins des studios Ghibli sans leur autorisation. Et vous voyez, quand dans l’éducation on se borne aux usages, il me paraît fondamental d’expliquer aux enfants et l’usage, mais surtout les rouages. Parmi eux, le fait qu’une intelligence artificielle a besoin de données pour fonctionner et qu’elle n’a rien d’intelligent.

La première plainte qui apparaît quant à l’utilisation de ces dessins, c’est le manque de respect pour les créateurs. Car ici, OpenAI joue sur une zone grise. On n’est pas en train d’utiliser Totoro par exemple mais on utilise le style. On a le droit de dessiner dans le même style que, pas d’utiliser les personnages. OpenAI montre de cette façon plusieurs choses. D’une part sa puissance, d’autre part son mépris pour la création artistique et enfin sa force de frappe. En effet, Sam Altman a dit que l’utilisation était tellement importante que les processeurs se sont mis à fondre.

Pour les illustrateurs, on comprend que c’est la claque, une véritable question quant à leur utilité. Et pourtant aussi paradoxal que cela puisse paraître dans cette illustration de la force de l’AI, c’est la démonstration même que nous avons besoin des humains, des créateurs.

En effet, si tout le monde se met à produire des images façon Ghibli pour ses avatars par exemple, on aura tous le même type d’avatar. L’utilisation de l’intelligence artificielle c’est l’uniformisation des contenus. Si je prends l’exemple des cours, que j’évoquais plus haut, c’est exactement la même chose. Si on confie à ChatGPT la réalisation de nos cours, de nos appréciations, autant effectivement laisser les IA enseigner à notre place. Car c’est le même cours qui sera produit à travers le pays sans aucune personnalisation. L’intelligence artificielle vole le sel de la vie, et l’entraînement c’est bien du vol.

La véritable bataille pour demain c’est la rémunération des artistes ou des applications drastiques du copyright. Si d’ailleurs dans la même veine que ce que j’écris dans ce billet, si on devait pousser la réflexion plus loin, on se dit que l’IA soulève un véritable problème sur la propriété intellectuelle. En effet, comment faire valoir une rémunération sur la production de l’IA, prouver les sources qui ont permis d’arriver à cette production. Tout ceci promet de grandes batailles juridiques. En fin de compte la mise en commun, libre, permet d’éviter ce problème. Je n’irai pas plus loin dans la réflexion qui est facile à faire pour moi, je ne vis pas de mon art.

L’intelligence artificielle et la consommation d’énergie.

Il faut reconnaître à OpenAI la force du buzz. Une fois qu’on a passé la mode façon Ghibli, on a enchaîné sur le starter pack. Voici à quoi ressemble un starter pack.

Une fois de plus, les contestations des artistes quant à l’uniformisation de l’art et des artistes qui ont réalisé leur propre starter pack pour montrer qu’on pouvait faire autrement qu’avec l’IA. Et puis il y a aussi le bad buzz avec l’utilisation d’un starter pack à l’effigie de Gisèle Pelicot pour faire la promotion d’un site libertin. On notera que l’intelligence artificielle n’a pas eu l’intelligence de reconnaître la femme violée par plusieurs dizaines de personnes sous soumission chimique. De la même manière le créateur du pack est soit un idiot fini soit quelqu’un qui a joué la carte du buzz pour se faire connaître.

Et à cette polémique et aux autres se rajoute le critère écologique et c’est Thomas Pesquet qui s’y colle sur X.

Alors je trouve que c’est bien et à la fois étonnant que ce soit Thomas Pesquet qui dégaine mais cela permet toutefois de se poser les bonnes questions. Thomas Pesquet fait partie du top cinq des français préférés, il apporte donc une voix audible et qu’on aurait envie de dire crédible compte tenu des compétences intellectuelles. Si effectivement il est porteur du bon message, est-il pour autant le bon messager ? Concrètement quand on dénonce plus haut Katy Perry dans l’espace, qu’ont apporté les voyages de l’astronaute pour notre civilisation qui périclite ? C’est une autre histoire.

Pourtant Pesquet rappelle ici quelque chose de fondamental c’est que la fameuse dématérialisation n’a jamais été autant matérialisée. C’est un peu comme faire croire que la voiture électrique c’est le rêve car on décarbone, on oublie que la contrepartie c’est l’électricité et les minerais plus ou moins rares. Derrière chaque requête des data center avec des tas d’ordinateurs qui consomment de l’électricité toute la journée.

Alors effectivement tout se discute, et quand on condamne l’usage des IA pour tout et pour n’importe quoi, est-ce que poster une photo de ses vacances sur Instagram, un déhanché sur TikTok c’est mieux ? Il est très difficile de se rendre compte du coût énergétique d’une requête parce que c’est terriblement abstrait. Quand je demande à mes élèves où vont les photos qu’ils postent dans Instagram, la majorité pense qu’elles sont stockées dans le téléphone, d’autres qu’elles sont dans les fils électriques. Le manque de culture est colossal et je pense que pire, le manque de curiosité est encore plus important.

En fin de compte tant que ça marche, pourquoi se poser la question du comment ça marche et des implications.

Ne pas dire qu’on ne savait pas

Avec l’approche de la fin de Windows 10 et des articles comme celui du monde : Windows 11 : l’absurde politique de mise à jour de Microsoft j’étais tenté durant ces vacances d’envoyer un message global expliquant un peu ceci. Après tout nous sommes enseignants, nous devons sur le principe avoir un peu soif de connaissance. Je ne le ferai pas car j’ai quand même envie de dire que cela ne sert à rien. Quand un journal généraliste comme le Monde évoque le gâchis, j’ai envie de penser qu’on est forcément au courant. Le monde ne propose pas de solution mais il suffit de se pencher pour les trouver encore plus quand on a un Linuxien dans le lycée. Je lisais un article du site l’ADN qui expliquait que désormais faire de la réparation c’était quelque chose d’accessible pour tous. Passer de la consommation à la « consommaction ». Et c’est ici qu’on fait la différence entre les individus, ceux qui veulent tenter de changer leur pratique de ceux qui s’en moquent totalement ou qui tournent la tête parce que c’est trop compliqué.

La majorité des gens que je fréquente ne s’interrogent pas sur leurs pratiques numériques parce qu’ils sont complètement dépassés. Il faudrait faire un sondage pour interpeller les collègues pour savoir s’ils connaissent un peu le chemin d’une information du smartphone au data center, je ne suis pas sûr que beaucoup savent que potentiellement leurs données sont en Chine ou aux USA. Quand bien même, je ne pense pas que ça a une véritable importance pour eux, tant que ça marche.

Alors, je me contenterai de faire mon travail d’éducation auprès des jeunes puisqu’on a la chance dans l’enseignement agricole d’avoir une heure d’informatique par semaine et une certaine liberté pour faire un peu ce qu’on veut à l’intérieur.

En ce qui concerne l’éthique dans l’informatique, je pense que c’est un peu comme tout, c’est à l’état de réguler. Dernièrement on a vu que l’éducation nationale a fait pression sur Google pour ne plus afficher de notes pour les établissements scolaires. Cela veut dire que quand l’état veut, il peut. Quand l’état décidera de taxer à fond les IA pour pollution plutôt que de s’attaquer aux concitoyens dans les ZFE ou imposer le logiciel libre dans les écoles, il le fera. Je crois malheureusement que la pédagogie a ses limites et que si elle est indispensable pour ouvrir la voie, à un moment ou un autre c’est la loi qui fait la différence.