Photo © EHG

Par Delphine Genin

IA : entre pouvoir et faille narcissique, comment rester le maître de ses IA ?

Quel est le point commun entre : vidéos de 3 secondes, intelligence artificielle et chocolats de Pâques au mois de février ? L’accélération. Et quand le paysage défile trop vite, on n’y distingue rien. Dans la course à l’IA, difficile d’y voir clair.

L’IA sépare-t-elle vraiment les lents des performants ?

Cette constante injonction à la super vitesse est souvent synonyme de performance, de contrôle et d’efficacité. L’accélération sépare les lents des performants : vite, plus vite, encore plus vite, et remettez-nous un tour de manivelle sur les stratégies avant le 15 du mois. Et l’IA dans le rôle de super accélérateur, à l’image du LHC du CERN. Et nous, de nous demander : en vérité, quel est le rôle et la place de l’IA ?

La technologie est un bon serviteur, mais un maître dangereux

« La technologie est un bon serviteur, mais un maître dangereux », nous prévenait Lous Christian Lange en 1901. Le lauréat du prix Nobel faisait référence à l’industrialisation en général et à l’électricité en particulier. La question reste intacte en 2025 : comment être maître de l’IA ? Peut-on seulement ambitionner de l’être ? Ou, pour ma part, en tant que Directrice Académique : comment former nos étudiants à avoir la maîtrise de l’outil sans céder aux sirènes de la facilité et du ghostwriting ?

Et si le choix à faire était de privilégier une approche lente pour un outil ultra rapide ? Un peu à l’image du cerveau humain avec ses deux systèmes de pensée : le système 1 ultra rapide et son système 2 plus lent, réfléchi et complexe. Une dichotomie inspirante, je trouve.

Faille narcissique contre faille de confiance : un partout, balle au centre

ChatGPT, lors d’un concours de diagnostics médicaux, atteint 90 % de réussite, alors que, sur les mêmes données, nos médecins humains atteignent seulement 74 %. Dans l’absolu, c’est une merveilleuse nouvelle pour les patients, et pourtant cette performance nous blesse, nous, humains, là où ça fait très mal : l’ego. Et la faille narcissique qui s’ouvre est immense. Pourtant, pour le patient, si la précision du diagnostic est primordiale, l’accompagnement dans la décision des soins l’est tout autant, et elle ne pourrait se faire sans un contact humain, responsable et basé sur la confiance. Faille narcissique contre faille de confiance : un partout, balle au centre. Le bon serviteur IA est là, performant, fiable, et surtout secondaire.

« À votre service, Madame, Monsieur »… ou pas

À l’École Hôtelière de Genève, nous avons un projet d’intégration de l’IA avec nos majordomes digitaux. Un majordome est à votre service, son travail est de vous rendre la vie plus facile. En quelques mots, nos majordomes digitaux sont capables d’ajuster le contenu pédagogique en fonction des performances, du rythme et des spécificités cognitives de chaque étudiant. Un étudiant en carence dans une matière bénéficiera d’un tutorat personnalisé, tandis qu’un autre pourra se concentrer sur le développement de compétences avancées sur le même sujet. Les premiers majordomes digitaux s’occupent des cours théoriques, mais un second volet dédié au leadership et à la santé mentale est en cours d’élaboration. Le point clé est que les étudiants restent les maîtres de leurs majordomes digitaux, les décisionnaires et les responsables (de leurs notes).

Méthode et algorithmes : combat de silos ?

Si les IA prennent une place grandissante, quid de l’humain, quid des enseignants dans notre cas d’école ?
Ma conviction est que le rôle de la méthode est central. Définition : la méthode est un « ensemble de démarches que suit l’esprit pour découvrir et démontrer la vérité ». Découvrir et démontrer la vérité : l’IA est-elle en capacité d’appréhender la notion de vérité ? L’IA n’est pas une méthodologue, d’ailleurs on ne sait pas vraiment quelles méthodes elle utilise. Qui comprend les algorithmes ? Et rajoutez quelques scandales pour alimenter le doute : l’IA Perplexity et son instrumentalisation dans la course à la présidence américaine, ou encore le chatbot Tay de Microsoft devenu raciste, sexiste et malveillant en 24 h d’alimentation de données nauséabondes. Deux silos d’extraction possibles donc : la méthode et les algorithmes. Il est temps de choisir son camp.

Alors, demain tous méthodologues ?

Les leaders doivent devenir des spécialistes de la méthode et porter la responsabilité de décisions ancrées dans une recherche de vérité (oui, le profit est une vérité aussi, celle du marché). C’est aux leaders de garder la main sur l’ensemble des démarches. L’IA est une démarche parmi d’autres, au même titre que le dialogue socratique ou la démarche scientifique. L’IA est une démarche, éventuellement un majordome, ni un oracle, ni un leader. Alors, demain tous méthodologues ?

Sources :

Kahneman, Daniel, 1934-2024, author. Thinking, Fast and Slow. New York :Farrar, Straus and Giroux, 2011.

Goh E., Gallo R., Hom J., et al. (2024) ‘Large language model influence on diagnostic reasoning: A randomized clinical trial’, Journal of Clinical Medicine, 28 October.

Retrouvez l’ensemble de nos Chronique