ELEARNINGLETTER
ACTUALITE & STRATEGIES DIGITAL LEARNING
ÉVÉNEMENTS OFFRES D'EMPLOIS COMMUNIQUÉS DE PRESSE ANNUAIRE DES PREMIUM
Leaders du Digital Learning
CONTRIBUTEURS S'ABONNER
À la newsletter
L’IA : la vérité si elle ment !
25 JANVIER 2024 / ia générative
Florent Grisaud Verrier
group head of digital learning & innovation
mbda
Jean-Roch Houllier
head of operations, learning & digital
groupe safran
Trop heureux de gagner du temps lorsque l’on utilise des IA génératives, on prend souvent les résultats soufflés par la machine pour argent comptant : copier-coller : gain de 30 minutes… À quel prix ? Celui de la vérité peut-être ? On sait que 30 % des réponses données par ChatGPT sont fausses ou incorrectes ! Parce que l’IA n’est pas un deus ex machina : elle produit des résultats depuis sa base des données qu’elle considère la plus proche de votre requête. Prudence de rigueur !

Les savoirs ubiquistes : la puissance de l’IA pour exploiter un énorme volume de savoirs

Avec une base de données de 300 milliards de mots (extraits du web, de Wikipédia, de nombreux livres…), ChatGPT est plus gorgé de « savoirs » que n’importe quelle autre technologie. Ces contenus ne sont plus simplement accessibles à l'instar des articles d’une encyclopédie. Les algorithmes et l'apprentissage profond permettent aux IA génératives de générer des résultats extrêmement précis et fiables : textes cohérents et informatifs, images et œuvres d'art, musique qui respecte des styles spécifiques. Les savoirs n’ont jamais été aussi ubiquistes, à portée d’un simple clic de souris !

La précision des résultats donnés par les IA suffit dans de nombreux domaines, avec parfois même plus de précision que les résultats donnés par les Humains . Par exemple, dans le domaine de l’oncologie (interprétation de radios ou analyse cancéreuse des mélanomes) ou de l’architecture (où elles permettent de voir des designs complexes, procurant de nouvelles perspectives créatives). Appliquées à la formation, elles fournissent du contenu personnalisé aux apprenants, pour un apprentissage plus interactif et adaptatif, aussi bien dans le champ des technologies au cœur de certaines plateformes de formation (pour procurer un contenu adapté aux besoins des apprenants) que dans celui des outils auteurs (création quasi instantanée de contenu e-learning sur la base d’un prompt ou d’un corpus de sources). 

Les IA génératives, par leur fiabilité technique, permettent d’exploiter plus de données que n’importe quel être humain, avec une rapidité d’exécution et une précision qui en font un outil précieux à utiliser en formation.

La fiabilité des IA génératives : limites et risques associés

Cependant, ne pas confondre quantitatif et qualitatif : les indéniables avantages des IA génératives ne doivent pas nous faire oublier leurs limites ni les risques pris à les utiliser.

Certes capable de générer des informations sur presque tous les sujets, l’IA s'appuie toutefois sur un corpus de données et de contenus non qualifiés : informations erronées, dépassées, « fake news », etc. Le problème est de taille : les résultats produits par une IA générative sont parfois faux ; les réponses de ChatGPT doivent être maniés avec des pincettes, si précis semblent-ils.

Outre la qualité interrogeable des sources, le fonctionnement inductif et probabiliste des algorithmes est aussi en cause. En effet, l’IA se comporte comme un perroquet : incapable de comprendre réellement le sens des mots, elle se contente de copier le style et la structure des phrases en sélectionnant les mots les plus probables. Or, le plus probable n’est pas forcément vrai ! Les hallucinations algorithmiques débouchent sur un taux de résultats erroné de 30 % (ChatGPT)… Ce n’est pas rien ! On se souviendra de la mésaventure d’un avocat radié du Barreau de New York pour avoir cru bon de rédiger sa plaidoirie à l’aide de ChatGPT sans vérifier la véracité des jurisprudences utilisées par l’IA. On n’oubliera pas, non plus, les biais de l’IA résultant de la façon dont elle a été entraînée et habilitée à répondre, en particulier sur des terrains sensibles…

Deux pistes pour une utilisation raisonnée des productions des IA génératives

Pour que l’IA puisse devenir un assistant pertinent dont on aura réduit les risques d’hallucinations et de faux, deux pistes restent à explorer.

Puisqu’un des facteurs de la génération de « faux véridiques » relève de la véracité et de la qualification des sources, il vaut mieux privilégier les IA utilisant des corpus de données définis, à l’instar d’entreprises (par exemple, Safran, L’Oréal ou Axa) disposant déjà de leur propre GPT interne. D’autres entreprises y viennent : MBDA, Thales… Ces IA d’entreprise ou GPT internes produiront plus probablement des résultats pertinents. Mais, nous n’en sommes pas toujours protégés des hallucinations liées à la production probabiliste de résultats.

Seconde piste : puisqu’il est impossible d’obtenir des résultats « absolument » vrais, vigilance et sens critique doivent fortement être mobilisés dans l’usage des IA génératives. Ne rien prendre pour exact, sans qu’aient été préalablement recoupées et analysée les sources : c’est à l’Humain de décider de la véracité des réponses fournies par les IA génératives. Douter, ne considérer comme vrai que ce qui est certain. Cette posture requiert du temps, une éducation, un effort véritable (nous y reviendrons dans le dernier opus de cette série d’articles). Descartes reste plus que jamais d’actualité !

Déjà parus :

5 mythes de l’Intelligence Artificielle (en formation, comme ailleurs)

L’IA : destruction créatrice des métiers de formation ?

L’IA : pour tous ? Sous réserve…

Les IA génératives en formation : il faudrait toutes les tester !

ARTICLES RÉCENTS DANS LA MÊME RUBRIQUE | ia générative
Gemini 2.0 et NotebookLM Plus : Google change la donne pour les professionnels de la formation •SUITE L’IA générative : priorité 2025 des fournisseurs… comme des Directions Formation •SUITE
L’intelligence artificielle en formation, c’est pour tous ! •SUITE Embarquez dans l'IA ! C'est maintenant… •SUITE
La fracture numérique : soluble dans l’Intelligence Artificielle ? •SUITE Élever l’intelligence humaine grâce à l’IA ? Déjà une réalité •SUITE
Évaluer quoi et comment à l’ère des IA génératives ? Retour d’expérience (fondé sur l’usage de deux plugins Moodle) •SUITE Gamification et IA : une synergie prometteuse pour la formation ? •SUITE
Le « Care Management » : une nouvelle responsabilité pour la fonction Learning à l’heure de l’IA générative •SUITE Réinvention de la formation et du coaching autour de l’IA •SUITE
page précédente retour à l'accueil tous les articles
À LIRE CETTE SEMAINE
Simplifier pour mieux former : l’équation complexe des... •SUITE
Gemini 2.0 et NotebookLM Plus : Google change la donne pour... •SUITE
Célébrons les réussites du Digital Learning ! •SUITE
Klaxoon : une innovation qui voulait révolutionner les... •SUITE
Jouez aux Trophées 2025 ! •SUITE
Le CPF fête ses 10 ans : pas de quoi se réjouir ! •SUITE
OFFRES D'EMPLOI
Business Developer / Account Manager F/H
Aptilink
Business Developer Digital Learning
UPANDGO
ILS INFORMENT
DGT Concept : Avis Utilisateurs sur DGTLMS : Ce que Nos Clients Disent de Notre...
Elearnis : IA et Digital Learning : quelles opportunités et limites ?
PROCHAINS ÉVÉNEMENTS
Expérience Apprenant : les leviers logistiques et administratifs
07 JANVIER 2025 / ISTF
Produire des contenus e-learning en méthode Agile (EDAT)
09 JANVIER 2025 / ISTF
LES PLUS LUS
Évaluation de la formation : portrait-robot d'une solution...
Gamification et IA : une synergie prometteuse pour la...
Avec l'intelligence artificielle, l'évaluation des...
Le télétravail serait en déclin : vers une réhabilitation...
Élever l’intelligence humaine grâce à l’IA ? Déjà une...
Évaluer quoi et comment à l’ère des IA génératives ? Retour...
Micro-certifications (et micro-formations) ont le vent en...
Réinvention de la formation et du coaching autour de l’IA
• SUIVRE ELL
INSCRIPTION NEWSLETTER CONTACTEZ NOUS PUBLIEZ OFFRE D'EMPLOI PUBLIEZ ACTUALITÉ MENTIONS LÉGALES CENTRE DE PRÉFÉRENCES
www.e-learning-letter.com - © copyright e-learning Media 2024 - tous droits réservés - déclaration CNIL n°1717089 - email : informations@e-learning-letter.com - création : Fair Media ®