Chat GPT - Miroir aux alouettes

Jérôme Berthier, fondateur de Deeplink

Voilà, nous y sommes. Il n’aura fallu que deux mois de mise en service avant qu’un bouclier ne se dresse contre ChatGPT : les interdictions d’utilisation florissent. Mais est-ce là la bonne solution pour dompter cette avancée technologique ?

IA générative : fonctionnement

Je sais que je l’ai déjà martelé, mais il est important de bien comprendre le fonctionnement de cet outil pour pouvoir débattre de la question. ChatGPT fait partie d’une catégorie d’intelligence artificielle dite générative. Son algorithme sert à générer du texte et, à ce titre, sa performance est incontestable : il crée l’illusion d’une encyclopédie inépuisable, accessible par une simple question. C’est très à la mode : Microsoft lance une nouvelle version de son moteur de recherche Bing avec ChatGPT intégré… et Google veut l’imiter avec Bard.

Mais attention à ce miroir aux alouettes : ChatGPT aura toujours quelques choses à vous dire, et ce d’une manière très convaincante ! En effet, son algorithme génératif basé sur le principe de « prédiction du prochain mot » lui permet de générer un texte sur le sujet que vous lui demandez, et peu importe si le contenu est vrai ou faux : ce n’est pas son objectif. Voilà pourquoi il peut vous dire que la peine de mort en Suisse est, soit encore pratiquée, soit qu’elle a été abolie, en 1874 ou en 1942 (qui est la bonne réponse), et qu’il puisse se tromper dans un calcul mathématique qu’Excel saurait faire sans problème.

Pourquoi donne-t-il quand même des réponses justes ? C’est un hasard ! Lors de la génération du texte, il fait un choix de probabilité qui varie selon le chemin qu’il a pris, même en posant exactement la même question. De ce fait s’il part dans une direction « juste » il continuera à compléter cette réponse avec les bons arguments. Et s’il part sur une réponse « fausse », idem. Un brin têtu, n’est-ce pas ?