Passé la vague d’engouement autour de chatGPT, il est temps de se pencher dessus afin de voir qu’est ce que chatGPT dans les grandes lignes et ce dont il est capable, et ce dont il n’est pas capable. Sommes-nous vraiment à l’ère d’une révolution d’un genre nouveau ?
Un effet Waouw !
Je ne suis pas forcément les actualités autour des IA tout simplement car ça ne m’intéresse pas plus que ça de prime abord, mais fin d’année 2022 il fallait être dans une grotte pour ne pas entendre parler ou tester chatGPT dans sa nouvelle mouture, et force est de constater qu’on se prend vite au jeu et que le résultat est surprenant. On pose des questions, le chat répond, c’est cohérent, il se souvient des questions posées, il peut aider dans du code, il semble capable de tout. C’est vraiment un effet waouw et on se dit que nous sommes arrivés à un niveau de technologie très avancé qu’on imaginait pas voir arriver aussi vite !
Et puis c’est aussi la révolution chez les étudiants qui n’auront plus à écrire leur dissertation ! C’est la fête !
Et puis on voit les limites
A force d’utilisation on se rend compte des limites de l’outil, mais pour vous donner une idée globale du soucis je vous dirait : chatGPT ne sait pas, chat GPT prédit.
Comment est-ce possible me direz vous ? C’est bien simple, et là je suis désolé de vous enlever les étoiles des yeux, chatGPT n’est rien de plus qu’un algorithme qui suggère le prochain mot d’une phrase comme vous avez sur votre clavier de smartphone, en plus évolué.
Il faut donc faire attention au contenu généré par chatGPT, car il n’a pas vocation à être factuel et à servir de source, ce n’est pas son objectif ! Son apprentissage est certes basé sur du contenu factuel sourcé et vérifié (en grande majorité), mais le contenu généré lui, n’est pas “vérifié” auprès de ces mêmes sources.
En somme, sa “connaissance” lui permet de prédire avec un certain taux de probabilité le prochain mot d’une phrase formant un ensemble cohérent qui ne dénote pas avec ce qu’il connaît, rien de plus.
Ne pas croire chatGPT
Il faut même être prudent et ne pas croire sur parole ce que vous répond l’IA, puisque de par son fonctionnement, il ne peut rien sourcer, et pourtant il ne vous dit jamais qu’une information pourrait ne pas être juste. il vous répond avec un aplomb tel qui ferait croire que toutes les informations sont justes.
Pour vous donner un exemple concret voici ce que m’a répondu chatGPT à propos de Jean d’Ormesson :
(Note : ceci est moins vrai au fur et à mesure du temps non pas grâce à l’IA, mais avec des vérifications manuelles et corrections apportées par … l’humain. Wikipédia vous avez dit ?)
(Note 2: Pour cet exemple quelques mois après il n’y a plus d’erreur, mais on en trouve toujours sur d’autres personnes, amusez vous !)
Alors je vous laisse le soin de tout vérifier si vous ne me croyez pas sur parole, mais à part la date de décès, l’intégration à l’académie française, le livre “La gloire de l’empire” et le fait qu’il ait travaillé au Figaro, toutes les autres références sont fausses à savoir : Date de naissance (pourtant pas dur à priori à trouver), tous les autres livres soit n’existent pas soit sont écrits par d’autres personnes, il n’a pas travaillé à l’Express et n’a jamais animé les émissions “Apostrophes” et “Les rendez-vous du dimanche”. Maintenant si vous voulez vous en servir pour un devoir de français ou de Philosophie, c’est à vos risques et périls !
Un super outil mais restons mesurés
Au final chatGPT se révèle être un bel outil mais il faut savoir dans quelles situations. Un outil à la connaissance c’est un grand NON, il va vous induire en erreur et vous n’aurez aucun moyen de le savoir si vous ne vérifiez pas vous même ou si vous n’avez pas déjà vous même la connaissance en question, et encore une fois je le rappelle mais c’est tout à fait normal puisque l’objectif de l’outil n’est pas de délivrer une information “juste” mais plutôt une suite de mots cohérents.
En revanche ce chatbot s’avère être un excellent outil créatif et donc pour trouver de l’inspiration pour un sujet quelconque, ou tenter de mélanger deux univers pour créer quelque chose d’original ou que sais-je encore, seule votre imagination limitera votre créativité et donc celle de chatGTP.
Pour finir, attention aux petits malins qui voudraient s’en servir pour au hasard, faire une dissertation de philo, des articles SEO, une biographie sur une personne à la va vite, puisque vous risquez d’avoir des éléments qui n’existent tout simplement pas d’une part, et d’autre part la structure textuelle et grammaticale de chatGPT est facilement détectable par d’autres algorithmes (dont Google) :).
article 100% made by Human
