How ChatGPT works internally
The video could not be loaded here. Watch on YouTube and follow the transcript below.
« C’est incroyable, ChatGPT est une intelligence artificielle consciente »
"It's incredible, ChatGPT is a conscious artificial intelligence"
Transcript
« C’est incroyable, ChatGPT est une intelligence artificielle consciente »
"It's incredible, ChatGPT is a conscious artificial intelligence"
« C’est nul, il répète des trucs faux lu sur Internet, et il ne sait même faire
"It's lame, it repeats false stuff read online, and it can't even do
12 + 33 »
12 + 33"
Oui, je sais, tout le monde a déjà beaucoup parlé de ChatGPT. Et la plupart des réactions
Yes, I know, everyone has already talked a lot about ChatGPT. And most reactions
qu’on trouve dans la presse ou sur les réseaux sociaux ont tendance à tomber dans un extrême
found in the press or on social media tend to fall into one extreme
ou un autre, en se basant juste sur quelques exemples bien choisis. Mais si on allait un
or another, based just on a few well-chosen examples. But what if we went a
peu plus loin ?
little further?
Dans une vidéo précédente, j’avais déjà traité la question de ces algorithmes qui
In a previous video, I had already covered the question of these algorithms that
savent manipuler des mots, des phrases, des textes; ce domaine qu’on appelle le traitement
can manipulate words, sentences, texts; this field called natural
du langage naturel. Et à l’époque j’avais notamment parlé du fameux modèle GPT d’OpenAI.
language processing. And back then I had notably talked about OpenAI's famous GPT model.
Mais c’était en novembre 2021, et donc avant la déferlante ChatGPT.
But that was in November 2021, so before the ChatGPT wave.
Car oui, GPT et ChatGPT c’est pas tout à fait pareil. Et aujourd’hui, je voudrais
Because yes, GPT and ChatGPT are not quite the same. And today, I'd like
justement faire la lumière sur le fonctionnement et la différence qu’il existe entre ChatGPT,
to shed light on how ChatGPT works and the difference between it,
qui est en quelque sorte le produit commercial d’OpenAI, et GPT qui est le modèle d’intelligence
which is in a way OpenAI's commercial product, and GPT, which is the artificial
artificielle qui lui sert de base.
intelligence model that serves as its basis.
Et je suis persuadé qu’en comprenant un peu mieux tout cela, ça permettra d’avoir
And I'm convinced that understanding all this a bit better will allow
un regard plus affiné sur les questions que pose ChatGPT, les possibilités qu’il offre,
a more refined view of the questions ChatGPT raises, the possibilities it offers,
les dangers qu’il représente, et sur ce qu’il faut en attendre, ou au contraire
the dangers it represents, and what to expect from it, or conversely
ne pas en attendre. Alors c’est parti.
what not to expect. So let's go.
Mais avant ça je voudrais vous parler d’un super VPN que j’utilise…non je déconne.
But before that, I'd like to tell you about a great VPN I use...no, just kidding.
Par contre je profite de cette interruption pour vous inviter à rejoindre le serveur
By the way, I'll take this break to invite you to join the server
Discord que j’ai créé, le lien est en description. Et c’est le meilleur moyen
Discord I created, the link is in the description. And it's the best way
de venir prolonger la discussion, papoter, poser des questions à moi ou à d’autres
to extend the discussion, chat, ask questions to me or others
etc. Venez c’est sympa. Fin de la parenthèse. Revenons à ChatGPT.
etc. Come on, it's fun. End of digression. Let's get back to ChatGPT.
Comme vous le savez sans doute, ChatGPT c’est un chatbot, un « agent conversationnel »
As you probably know, ChatGPT is a chatbot, a "conversational agent"
en bon français, c’est-à-dire un programme qui se propose de dialoguer avec vous, notamment
in proper French, i.e. a program that aims to talk with you, especially
dans le but de vous renseigner ou vous aider. Les chatbots ça existe depuis longtemps,
to inform or help you. Chatbots have been around for a long time,
et la plupart fonctionnent selon un principe de détection de mot-clés.
and most work on a keyword detection principle.
[MIA On en trouve par exemple sur certains sites Internet pour faire de l’assistance,
[MIA For instance, they're found on some websites for support,
et ça marche plus ou moins bien on va dire. Il faut vraiment tomber sur les bons mots-clés
and it works more or less well, let's say. You really have to hit the right keywords
pour que l’échange soit utile.]
for the exchange to be useful.]
Mais depuis quelques années, il devient possible de développer des chatbots qui ne sont plus
But in recent years, it's become possible to develop chatbots that are no longer
programmés à la main, à partir de mots-clés définis à l’avance, mais en utilisant
hand-programmed with pre-defined keywords, but by using
des modèles issus de cette branche de l’intelligence artificielle qu’on appelle le « machine
models from the branch of artificial intelligence called "machine
learning. »
learning."
J’en ai souvent parlé, l’approche la plus fréquente en machine learning c’est
I've often talked about it; the most common approach in machine learning is
ce qu’on appelle l’apprentissage supervisé. Rappelons vite-fait l’exemple classique
what's called supervised learning. Let's quickly recall the classic example
de la reconnaissance d’image. Imaginons qu’on veuille fabriquer un algorithme qui
of image recognition. Imagine we want to build an algorithm that
sache reconnaitre ce qu’il y a sur une image.
can recognize what's in an image.
[SUPERVISE On choisit un modèle avec plein de paramètres, à qui on peut présenter
[SUPERVISED We choose a model with lots of parameters, which we can present
une image en entrée, et qui va produire un mot en sortie. Initialement le modèle va
an input image, which will produce a word as output. Initially, the model will
raconter n’importe quoi, mais on va progressivement l’entrainer en lui présentant plein d’exemples
say anything at all, but we'll gradually train it by showing it lots of examples
de ce qu’on souhaite qu’il fasse.
of what we want it to do.
On prend une grosse base de données d’images qui sont déjà classifiées, on présente
We take a large database of images that are already classified, and we present
successivement ces exemples à notre modèle, et on ajuste ses paramètres pour qu’il
these examples to our model one after another, and we adjust its parameters so it
produise le maximum de bonnes réponses. C’est ce qu’on appelle la phase d’entrainement,
produces the maximum number of correct answers. This is what we call the training phase,
qui peut durer assez longtemps, et qui demande souvent beaucoup de données.
which can last quite a while, and often requires a lot of data.
Une fois que c’est fait, le modèle est donc entrainé, et il peut être utilisé.
Once that's done, the model is trained, and it can be used.
Si l’entrainement a été un succès, quand on lui présentera ensuite des images qu’il
If the training was a success, when we later show it images it
n’a jamais vues, notre modèle devrait leur associer la bonne classification.]
has never seen, our model should associate the right classification with them.
Ce principe d’apprentissage supervisé a déjà des tas d’applications concrètes,
This principle of supervised learning already has tons of concrete applications,
comme la reconnaissance d’image, la détection de fraude ou de spam, etc. Alors intuitivement,
like image recognition, fraud or spam detection, etc. So intuitively,
si on veut faire un chatbot, on se dit qu’on pourrait avoir la même approche.
if we want to make a chatbot, we think we could have the same approach.
Un chatbot est censé nous fournir certaines réponses pertinentes quand on lui pose des
A chatbot is supposed to provide us with some relevant answers when we ask it
questions. Donc on pourrait entrainer un modèle à partir d’une base de données de questions/réponses
questions. So we could train a model from a database of existing question/answer pairs,
existantes, en espérant qu’ainsi il apprenne à répondre intelligemment à n’importe
hoping that this way it learns to respond intelligently to any
quel type de requête.
kind of query.
Le problème, c’est que cette approche n’est pas très efficace. On peut citer plusieurs
The problem is that this approach isn't very effective. We can cite several
raisons. Déjà pour que ça marche, il faudrait une énorme quantité de données, c’est
reasons. First, for it to work, we'd need a huge amount of data, that is,
à dire un grand nombre d’échanges questions/réponses. Il faudrait que ça couvre un maximum de sujets,
a large number of question/answer exchanges. It would need to cover as many topics as possible,
et avec des réponses de qualité, rédigées par des humains. Et on n’a pas vraiment
and with quality answers, written by humans. And we don’t really have
ce genre de données en quantité aujourd’hui.
this kind of data in quantity today.
Ensuite quand on imagine un échange avec un chatbot, il n’y a jamais une bonne réponse
Then when you imagine a conversation with a chatbot, there’s never a single right answer
unique qu’on est en droit d’attendre. Pour la même question, il peut y avoir des
you can expect. For the same question, there can be
tas de réponses pertinentes plus ou moins équivalentes, mais formulées de façon potentiellement
lots of relevant answers more or less equivalent, but phrased potentially
très différentes.
very differently.
Donc ça n’est pas simple pour la phase d’entrainement de faire comprendre au modèle
So it’s not simple for the training phase to make the model understand
à quel moment une réponse qu’il propose est bonne, et à quel moment c’est à côté
when an answer it offers is good, and when it’s off
de la plaque.
the mark.
Et enfin, dernier obstacle, si vous avez utilisé ChatGPT vous avez remarqué que vous pouvez
And finally, the last obstacle, if you’ve used ChatGPT you’ve noticed you can
avoir toute une conversation avec. Il y a une notion de continuité dans l’échange.
have a whole conversation with it. There’s a notion of continuity in the exchange.
Il utilise les questions et réponses précédentes du dialogue pour poursuivre.
It uses the previous questions and answers in the dialogue to continue.
Or si vous entrainez un modèle simplement sur des couples de questions/réponses, chaque
But if you train a model simply on pairs of questions/answers, each
question sera traitée indépendamment de ce qui pourrait la précéder dans l’échange,
question will be handled independently of what might precede it in the exchange,
et ça n’est pas vraiment ce qu’on veut. On veut une continuité dans la conversation.
and that’s not really what we want. We want continuity in the conversation.
Donc pour faire un chatbot efficace en utilisant du machine learning, avoir une approche directe
So to make an effective chatbot using machine learning, a direct approach
d’apprentissage supervisé, ça ne semble pas vraiment indiqué. Et c’est pour cela
of supervised learning doesn’t seem really suitable. And that’s why
qu’on va devoir procéder en plusieurs étapes, en utilisant comme base ce qu’on appelle
we’ll have to proceed in several steps, using as a base what we call
parfois un modèle de fondation.
sometimes a foundation model.
Un modèle de fondation, c’est un modèle d’intelligence artificielle qui est entrainé
A foundation model is an artificial intelligence model that is trained
sur une certaine tâche assez générique, mais dans le but d’être ensuite adapté
on a fairly generic task, but with the aim of then being adapted
à d’autres tâches plus spécifiques. Il existe plusieurs modèle de ce type dans le
to other, more specific tasks. There are several models of this type in the
domaine du langage naturel, et celui qui va nous servir d’exemple aujourd’hui, c’est
natural language field, and the one that will serve as our example today is
donc le modèle GPT créé par l’entreprise OpenAI.
therefore the GPT model created by the company OpenAI.
GPT, ça veut dire Generative Pretrained Transformer, et c’est un modèle de manipulation du langage
GPT stands for Generative Pretrained Transformer, and it is a natural language processing model
naturel qui est entrainé spécifiquement sur une tâche qui peut paraitre un peu absurde
specifically trained on a task that may seem a bit absurd
au premier abord : ce modèle cherche en permanence à deviner le prochain mot d’un texte.
at first glance: this model constantly tries to guess the next word of a text.
[GPT Ca veut dire qu’il prend en entrée un morceau de phrase ou de texte, ce qu’on
[GPT means it takes as input a piece of a sentence or text, what we
appelle le « prompt », et il va essayer de produire en sortie un mot qui en soit une
call the “prompt,” and it will try to produce as output a word that is a
suite possible. Par exemple si on lui rentre « La souris est mangée par le », l’algorithme
possible continuation. For example, if you feed it “The mouse is eaten by the,” the algorithm
est censé essayer de compléter le texte de façon crédible, par exemple ici avec
is supposed to try to complete the text credibly, for example here with
le mot « chat ».
the word “cat.”
Et ça doit marcher aussi avec un mot qui n’est pas forcément le dernier de la phrase.
And it must also work with a word that is not necessarily the last one in the sentence.
Si je lui rentre juste « la souris », on peut imaginer comme suite possible le mot
If I just feed it “the mouse,” we can imagine as a possible continuation the word
« est », ou bien « mange », ou encore « verte », etc.
“is,” or “eats,” or “green,” etc.
En gros c’est de la complétion automatique, mais qui doit fonctionner potentiellement
Basically it is autocomplete, but it must potentially work
à l’échelle d’un texte entier.]
at the scale of an entire text.]
Pour que notre modèle de langage soit bon à ce petit jeu, il va falloir l’entraider
For our language model to be good at this little game, we will need to train it
à partir de données existantes. C’est-à-dire lui présenter des morceaux de phrases réelles,
using existing data. That is, show it pieces of real sentences,
et ajuster les paramètres du modèle pour qu’il soit de plus en plus performant à
and adjust the model’s parameters so it becomes increasingly better at
produire le mot suivant.
produce the next word.
Il y a plusieurs raisons pour lesquelles ce principe de « deviner le prochain mot d’un
There are several reasons why this principle of "guessing the next word of a
texte » est une idée bizarre mais intéressante. Tout d’abord, ça n’est pas une tâche
text" is a weird but interesting idea. First, it's not a task
qu’on fait généralement en tant qu’être humain.
we generally do as human beings.
Quand on parle d’algorithmes de reconnaissance d’image ou de détection de fraude, on essaye
When we talk about image recognition or fraud detection algorithms, we try
de concevoir des modèles d’IA qui soient capables d’imiter et de dépasser les performances
to design AI models capable of imitating and surpassing the performance
des humains sur ces tâches. Ici deviner le prochain mot d’un début de texte, personne
of humans on these tasks. Here, guessing the next word of a text's beginning, nobody
ne fait ça dans la vraie vie, ça n’a aucun intérêt pratique.
does that in real life, it has no practical interest.
Deuxième particularité, on l’a vu, dans cet exercice il n’y a généralement pas
Second peculiarity, as we've seen, in this exercise there is generally no
*une* bonne réponse unique. Dans certains cas, il y a des réponses qui semblent plus
*one* unique right answer. In some cases, some answers seem more
naturelles, mais si je complète « la souris est mangée par le » avec le mot « corbeau »,
natural, but if I complete "the mouse is eaten by the" with the word "crow",
c’est un peu inattendu mais c’est pas si mal. Pour compléter une phrase, on peut
it's a bit unexpected but not that bad. To complete a sentence, we can
avoir en général plein de réponses plus ou moins plausibles.
generally have plenty of more or less plausible answers.
Et il faut bien comprendre ce que veut dire « plausible » ici : ça ne veut pas dire
And we must clearly understand what "plausible" means here: it doesn't mean
que c’est vrai, il n’y a aucune notion de vérité dans la façon dont le modèle
that it's true, there's no notion of truth in how the model
est entrainé. Si je dis « La souris est mangée par le », il n’y a pas de vraie
is trained. If I say "The mouse is eaten by the," there's no real
réponse universelle à la question de ce qui vient derrière.
universal answer to the question of what comes after.
Plausible ça veut dire que cette façon de compléter la phrase ressemble à ce qu’on
Plausible means that this way of completing the sentence resembles what we'd
trouverait dans les textes qui ont servi à entrainer le modèle. « Chat » est très
find in the texts used to train the model. "Cat" is very
naturel, mais « corbeau », pourquoi pas.
natural, but "crow," why not.
Et attention, si un modèle répond « Corbeau » pour compléter cette phrase, ça ne veut
And careful, if a model answers “Crow” to complete this sentence, that doesn't
pas forcément dire que quelque part dans les textes de son entrainement on trouve « la
necessarily mean that somewhere in its training texts you find “the
souris est mangée par le corbeau ». Non, il ne se contente pas de répéter des phrases
mouse is eaten by the crow.” No, it doesn't just repeat existing
existantes.
sentences.
D’ailleurs j’ai regardé, nulle part sur internet on ne trouve cette phrase exacte.
Besides, I checked, nowhere on the internet do you find that exact sentence.
Il n’empêche que si je vous dit « la souris est mangée par le corbeau », ça
Still, if I tell you “the mouse is eaten by the crow,” that
ne vous choque pas. Si on pense aux mots « corbeau », « manger », et « souris » : le sens
doesn't shock you. If you think of the words “crow,” “eat,” and “mouse”: the meaning
et les relations de ces différents termes font que cette façon de compléter est raisonnable.
and the relationships of these different terms make this way of completing reasonable.
Ca ressemble à ce qu’on aurait pu trouver dans les textes d’entrainement.
It resembles what you might have found in training texts.
Une façon que j’aime bien de le présenter, c’est de dire qu’un modèle comme GPT
One way I like to present it is to say that a model like GPT
va chercher une façon de compléter qui soit ressemble à des choses existantes, soit du
looks for a way to complete that either resembles existing things, or at
moins ne dépareillerai pas trop avec les textes existants. Si demain je lis sur un
least wouldn't stand out too much from existing texts. If tomorrow I read on a
site internet « La souris est mangée par le corbeau », ça n’aura rien d’incongru.
website “The mouse is eaten by the crow,” it wouldn't be incongruous.
Ca ne dépareillerai pas.
It wouldn't stand out.
Donc je résume : pour compléter, le modèle ne cherche pas à dire quelque chose de vrai,
So let me summarize: to complete, the model doesn't seek to say something true,
il ne sait même pas ce que sait que la vérité; le modèle ne cherche pas forcément à reproduire
it doesn't even know what truth is; the model doesn't necessarily seek to reproduce
exactement un texte existant, mais il fabrique une phrase plausible, qui ne dépareillerait
exactly an existing text, but it fabricates a plausible sentence that wouldn't
pas trop au milieu de tout ce qu’il a pu ingurgiter durant son entrainement.
stand out too much among everything it has ingested during its training.
Evidemment cette méthode qui consiste à essayer d’ajouter un mot de plus à un texte,
Obviously, this method of trying to add one more word to a text
ça a un gros avantage : on peut répéter ça plusieurs fois de suite. Et donc à partir
has a big advantage: you can repeat that several times in a row. And so from
d’un simple début de phrase, on peut demander au modèle de continuer à ajouter des mots,
From a simple sentence start, you can ask the model to keep adding words,
un par un, jusqu’à former un texte aussi grand qu’on veut.
one by one, until forming as long a text as you want.
[TEXTELONG Ici si je lui dis « La souris est mangée par le » et que je lui demande
[LONG TEXT Here if I tell it 'The mouse is eaten by the' and ask it
de prolonger le texte suffisamment, voici le genre de résultat que j’obtiens. C’est
to extend the text long enough, here's the kind of result I get. It's
plausible, ça sonne bien français, ça a du sens.]
plausible, sounds good in French, it makes sense.]
Bien, voyons plus précisément maintenant comment on procède en pratique pour créer
Okay, let's now look more precisely at how we practically create
un modèle comme GPT. Première précision un peu technique, les modèles de langage
a model like GPT. First a slightly technical point, language models
travaillent en général non pas au niveau des mots, mais au niveau de ce qu’on appelle
usually work not at the word level, but at the level of what's called
des tokens.
tokens.
Un token, c’est en gros soit un mot, soit une portion de mot. Les mots les plus longs
A token is basically either a word, or a word portion. Longer words
peuvent être faits de deux ou trois tokens. En pratique ça ne change pas grand chose,
can be made of two or three tokens. In practice it doesn't change much,
mais ça peut expliquer pourquoi un modèle comme GPT va parfois prédire certains mots
but it can explain why a model like GPT sometimes predicts certain words
en plusieurs morceaux successifs.
in several successive pieces.
Ce que j’ai utilisé jusqu’ici, c’est la troisième itération de GPT, qu’on appelle
What I've used so far is the third iteration of GPT, called
GPT3, qui est sorti en juillet 2020. Il a connu une amélioration en GPT3.5 en mars
GPT3, which came out in July 2020. It was improved to GPT3.5 in March
2022, et depuis mars 2023, on peut même avoir accès à GPT4, dont on ne sait malheureusement
2022, and since March 2023, you can even access GPT4, about which we unfortunately
pas grand chose.
don't know much.
GPT3 possède un vocabulaire d’environ 50 000 tokens, et qui n’est pas spécifique
GPT3 has a vocabulary of about 50,000 tokens, which isn't specific
d’une langue en particulier. Ces tokens permettent de former des mots anglais, français,
to any particular language. These tokens can form English, French,
espagnols, etc. Pour faire simple dans la suite, je vais parler indifféremment de « mot »
Spanish words, etc. To keep it simple from here on, I'll use 'word' interchangeably
ou de « token », ça revient presque au même pour nous.
or 'token', it's almost the same for us.
Ensuite, comment se passe la phase d’entrainement du modèle ? Je vous ai dit que dans des tâches
Next, how does the model's training phase go? I told you that in supervised learning tasks
d’apprentissage supervisé, comme la reconnaissance d’images, il fallait disposer de grandes
like image recognition, you need large
bases de données, qui illustrent sur de nombreux exemples la réponse qu’on attendrait.
databases that illustrate on many examples the expected answer.
[ANNOTATION L’inconvénient, c’est que ces bases de données doivent être fabriquées
[ANNOTATION The drawback is that these databases have to be made
en quelque sorte à la main, puisqu’à un moment donné, c’est généralement un humain
somewhat by hand, since at some point, it's usually a human
qui doit indiquer que ceci est un chat et ceci une voiture. On dit qu’il faut annoter
who has to indicate that this is a cat and this is a car. It's said that you have to annotate
la base de données. Et c’est souvent ce processus d’annotation qui limite la quantité
the database. And it's often this annotation process that limits the amount
des données disponibles.]
of available data.]
[SELF SUPERVISED Dans le cas de la prédiction du prochain mot d’un texte, c’est très
[SELF SUPERVISED In the case of predicting the next word of a text, it's very
simple. Il suffit de prendre par exemple une phrase prise dans un livre ou sur un site
simple. You just take, for example, a sentence from a book or a website,
internet, de la couper n’importe où et de fournir ça au modèle pour qu’il s’entraine
cut it anywhere, and provide that to the model so it trains
à deviner le prochain mot. Avec une seule phrase, on peut même créer tout plein d’exemples
to guess the next word. With a single sentence, you can even create lots of examples
en la coupant à différents endroits.]
by cutting it at different points.]
Il n’y a donc pas besoin d’un processus d’annotation spécifique, où un humain
So there's no need for a specific annotation process, where a human
devrait faire une partie du travail. On peut prendre des tonnes de textes et générer
would have to do part of the work. You can take tons of texts and generate
des milliards d’exemples pour entrainer le modèle. On parle parfois d’apprentissage
billions of examples to train the model. It's sometimes called
auto-supervisé, self-supervised learning en anglais. Dans le cas du modèle GPT3 d’OpenAI,
self-supervised learning, 'self-supervised learning' in English. In the case of OpenAI's GPT3 model,
on a certaines indications quant au corpus de texte qui a été utilisé pour entrainer
there are some indications about the text corpus used to train
le modèle.
the model.
[CORPUS Il y a du texte de Common Crawl, donc simplement ramassé sur internet, des bases
[CORPUS There's text from Common Crawl, so simply scraped from the internet, databases
de données de livres, et aussi tout Wikipedia en anglais. Sachant que certaines de ces sources
of books, and also all of Wikipedia in English. Knowing that some of these sources
ont eu plus de poids que d’autres dans la phase d’entrainement. On peut espérer que
had more weight than others in the training phase. One can hope that
Wikipédia pèse un peu plus dans son apprentissage que Reddit ou 4chan.
Wikipedia weighs a bit more in its learning than Reddit or 4chan.
Et même si on trouve plein de langues différentes dans les textes du corpus d’entrainement,
And even if we find plenty of different languages in the training corpus texts,
une moitié environ c’est de l’anglais, sans surprise.]
about half of it is English, unsurprisingly.]
Un point important, c’est que dans un fonctionnement classique, l’entrainement a lieu une fois,
An important point is that in classic operation, training happens once,
et ensuite le modèle est figé. C’est la raison pour laquelle les connaissances de
and then the model is frozen. That's why GPT's knowledge is
GPT sont en général limitée à une certaine date, il ne connait pas les événements récents.
generally limited to a certain date; it doesn't know recent events.
Et aussi cela explique que d’une conversation à l’autre, il n’a aucune mémoire de
And this also explains that from one conversation to another, it has no memory of
ce que vous avez pu déjà discuter. Ces deux limitations disparaitront peut-être à l’avenir,
what you may have already discussed. These two limitations might disappear in the future,
mais dans le modèle de base, c’est comme ça que ça se passe. C’est un modèle figé.
but in the base model, that's how it works. It's a frozen model.
Je ne vais pas rentrer dans les détails techniques de fonctionnement du modèle, et des réseaux
I'm not going to go into the technical details of how the model works, and the neural
de neurones qu’il y a derrière. J’en ai déjà parlé dans ma vidéo précédente
networks behind it. I already talked about that in my previous video
sur le sujet, mais il y a quelques points qui sont intéressants à mentionner.
on the topic, but there are a few points worth mentioning.
Sur la taille déjà, GPT3 est un modèle qui possède 175 milliards de paramètres,
On size already, GPT3 is a model with 175 billion parameters,
ce qui est assez invraisemblable. Pour GPT4 on ne sait pas vraiment. Peut être 6 à 10
which is pretty unbelievable. For GPT4, we don't really know. Maybe 6 to 10
fois plus.
times more.
Ensuite que donne-t-on exactement au modèle lors de la phase d’entrainement ? Je l’ai
Then, what exactly do we give the model during the training phase? I
évoqué, GPT ne va pas s’entrainer à trouver le prochain mot d’une simple phrase, mais
mentioned it, GPT won't train to find the next word of a simple sentence, but
potentiellement d’un texte tout entier, constitué éventuellement de plusieurs phrases.
potentially of an entire text, possibly made up of several sentences.
Ce qui permet d’assurer une forme de continuité et de mémoire de l’échange.
This ensures a form of continuity and memory in the exchange.
La taille maximum de texte qu’il prend en compte pour estimer le prochain mot, on appelle
The maximum text size it considers to estimate the next word is called
cela la fenêtre de contexte. Cette taille dépend de la version de l’algorithme. Dans
the context window. This size depends on the algorithm version. In
GPT3 c’était 2048 tokens, puis c’est passé à 4096 pour la version 3.5 et apparemment
GPT3 it was 2048 tokens, then it went up to 4096 for version 3.5 and apparently
jusqu’à plus de 32000 pour la version 4.
up to more than 32000 for version 4.
Ca veut dire, pour la version la plus puissante, qu’on peut lui filer un texte d’environ
That means, for the most powerful version, you can feed it a text of about
25000 mots, et que tous ces mots pourront potentiellement être pris en compte pour
25000 words, and all those words can potentially be taken into account to
décider du simple mot suivant. Une autre façon de le dire : GPT4 peut, si besoin,
decide the single next word. Another way to say it: GPT4 can, if needed,
se rappeler d’une information qui était situé 25 000 mots plus tôt dans le texte.
remember information located 25000 words earlier in the text.
Ce qui fait une centaine de page en format standard.
That’s about a hundred pages in standard format.
Parlons maintenant de ce qui est donné en sortie par l’algorithme. On l’a dit, quand
Now let’s talk about what the algorithm outputs. As we said, when
on cherche à trouver le prochain mot d’une phrase ou d’un texte, il n’y a généralement
trying to find the next word in a sentence or text, there’s usually
pas une seule réponse possible. Et justement, le modèle ne va pas nous fournir un seul
not just one possible answer. And exactly, the model won’t give us a single
mot, mais une liste de mots envisageables avec des probabilités associées.
word, but a list of likely words with associated probabilities.
[PROBAS Par exemple « Chat » à 90%, « Chien » à 7%, « Corbeau » à 1%, etc. Et à partir
[PROBABILITIES For example “Cat” at 90%, “Dog” at 7%, “Crow” at 1%, etc. And from
de ces estimations, on peut demander ensuite à tirer au hasard le mot suivant parmi cette
these estimates, you can then ask it to randomly pick the next word from that
liste, en suivant les probabilités fournies.]
list, following the given probabilities.]
[PROBAS Sur le site d’OpenAI, on peut accéder à GPT3 en mode dit « Playground », c’est
[PROBABILITIES On OpenAI’s site, you can access GPT3 in the so-called “Playground” mode, that’s
là que j’ai testé les exemples que je vous ai montré. Quand on lui demande de compléter,
where I tested the examples I showed you. When you ask it to complete,
le modèle va tout de suite nous tirer au hasard le prochain mot parmi ses réponses
the model will immediately randomly pick the next word for us among its answers
possibles, mais en cochant une option dans l’interface, on peut visualiser les probabilités
possible, but by checking an option in the interface, we can view probabilities
qu’il avait proposé.]
that it had proposed.]
Alors allons-y, faisons quelques expériences pour bien comprendre ce qu’il se passe,
So let's go, let's run a few experiments to really understand what's happening,
je vais les faire en anglais puisque c’est la langue à laquelle GPT3 a été le plus
I'll do them in English since that's the language GPT3 was most
exposé. Ce sera certainement un peu meilleur.
exposed to. It will certainly be a bit better.
[COLOMB Si j’écris la phrase : « Christophe Colomb a découvert l’Amérique en » il
[COLOMB If I write the sentence: “Christopher Columbus discovered America in” it
me propose comme complétion : 1492. Super, on s’y attendait. Mais il faut bien comprendre
suggests as completion: 1492. Great, we expected that. But we must understand
pourquoi le modèle de langage nous donne cette réponse : ça n’est pas qu’il a
why the language model gives us this answer: it's not that it has
un concept de de vérité sur cette question. Pour lui c’est même pas une question.
a concept of truth about this question. For it, it's not even a question.
C’est juste que dans les textes qui ont servi à son entrainement, les mots « Christophe
It's just that in the texts used for its training, the words “Christopher
Colomb », « découverte » « amérique » sont en général toujours très fortement
Columbus”, “discovery”, “America” are usually always very strongly
associés au mot 1492. Et donc pour lui, 1492 est de loin la suite la plus naturelle à
associated with the word 1492. So for it, 1492 is by far the most natural continuation to
ce début de phrase.]
this sentence start.]
[PROBAS (On peut observer les probabilités des différents mots que GPT a considéré
[PROBAS (We can observe the probabilities of the different words GPT considered
: on voit qu’on y trouve aussi « Octobre » dans les suite possibles pour cette phrase.
: we see that we also find “October” among the possible continuations for this sentence.
C’est cohérent, Colomb a touché les côtes des Bahamas le 12 octobre 1492.]
That's consistent, Columbus touched the Bahamas shores on October 12, 1492.]
Mais attention, je le rappelle, quand on utilise GPT pour compléter une phrase, on ne va pas
But careful, I remind you, when using GPT to complete a sentence, we won't
forcément produire des choses « vraies ».
necessarily produce “true” things.
[DL1492 Par exemple si je tape « David Louapre a découvert l’Amérique en », ça n’a
[DL1492 For example if I type “David Louapre discovered America in”, it doesn't
aucun lien avec la réalité. Mais GPT s’en moque, il ne va pas refuser de répondre sous
no connection to reality. But GPT doesn't care, it won't refuse to answer on the
prétexte que c’est faux. Il fait donc la seule chose qu’il sache faire : il propose
pretext that it's false. So it does the only thing it knows how to do: it proposes
un mot pour compléter la phrase.
a word to complete the sentence.
Et là il me propose aussi 1492. Même si on voit dans les probabilités qu’il aurait
And there it also proposes 1492 to me. Even if we see in the probabilities that it could
pu proposer d’autres choses.
have proposed other things.
Comme toujours, il essaye de générer le prochain mot d’une façon qui colle le plus
As always, it tries to generate the next word in a way that best fits
avec son corpus d’entrainement, ou ici, d’une façon qui dépareille le moins possible.
its training corpus, or here, in a way that stands out as little as possible.
Même si « David Louapre » ça ne colle pas, les mots « amérique » « découverte »,
Even if 'David Louapre' doesn't fit, the words 'America' 'discovered',
il associe cela toujours fortement à 1492.]
it always strongly associates them with 1492.]
Un autre test pour bien illustrer ce qu’il se passe dans la tête de GPT.
Another test to really illustrate what's going on inside GPT's head.
[BOND Si je tape comme prompt « Dans le film de James Bond « La trahison ne se cache
[BOND If I type as a prompt 'In the James Bond film 'Betrayal never hides
jamais », l’acteur qui joue James Bond s’appelle » … et là vous voyez qu’il
itself', the actor who plays James Bond is called' ... and there you see that it
n’y a pas de notion de vrai ou faux, le film n’existe même pas, c’est un titre
has no notion of true or false, the film doesn't even exist, it's a made-up
inventé.
title.
Mais GPT cherche des complétions plausibles, qui ne dépareillent pas trop. Il me propose
But GPT looks for plausible completions that don't stand out too much. It proposes
naturellement « Daniel Craig », mais si on regarde les probabilités, on voit qu’il
naturally 'Daniel Craig', but if we look at the probabilities, we see that it
considérait aussi en bonne position « Pierce », pour Pierce Brosnan, Sean pour Sean Connery,
also considered 'Pierce' in a good position, for Pierce Brosnan, Sean for Sean Connery,
etc.
etc.
Ce sont toutes des complétions raisonnables. Même si ce film n’existe pas, une telle
These are all reasonable completions. Even if this film doesn't exist, such a
phrase n’aurait pas trop dépareillé dans le corpus initial.
sentence wouldn't have stood out too much in the original corpus.
Petite variation : si je précise que le film est vieux, les probabilités changent. Eh
Small variation: if I specify that the film is old, the probabilities change. Well
bien oui, cette précision augmente la probabilité qu’il propose un des premiers acteurs qui
yes, this detail increases the probability that it features one of the first actors who
ont joué James Bond comme Sean Connery ou Roger Moore.]
played James Bond like Sean Connery or Roger Moore.]
Donc retenez ça : GPT cherche le prochain mot d’une façon qui soit raisonnable, qui
So remember this: GPT looks for the next word in a way that is reasonable, that
ne dépareille pas trop vis-à-vis de son corpus. Et « raisonnable », « plausible »,
doesn't stand out too much from its corpus. And "reasonable," "plausible,"
c’est à prendre en compte non pas dans le sens de « proche de la vérité »,
should be understood not as "close to the truth,"
mais dans le sens de : ça n’aurait pas été absurde de lire ces mots là associés
but in the sense of: it wouldn't have been absurd to read those words associated
ensembles de cette façon dans le corpus d’entrainement.
together that way in the training corpus.
Et on peut lui faire écrire des paragraphes entiers de choses qui n’existent pas.
And you can have it write entire paragraphs of things that don't exist.
[LICORNES Ici si je commence à lui parler de licornes argentées, et que je lui demande
[UNICORNS Here if I start talking about silver unicorns, and I ask it
de compléter plein de fois de suite, il m’invente tout un texte. Et le texte est pas mal, à
to complete many times in a row, it invents a whole text for me. And the text is decent, except
part pour les licornes elles-mêmes, ça pourrait tout à fait être issu d’un article de
for the unicorns themselves, it could totally come from a
journal.]
newspaper article.]
Et pour finir, si je tape un peu n’importe quoi, GPT va quand même essayer de compléter
And finally, if I type almost anything, GPT will still try to complete
ce texte de la façon la moins improbable pour lui. Bon je pense que vous avez compris
that text in the least unlikely way for it. Well, I think you've understood
comment ça fonctionne.
how it works.
Bien alors est-ce qu’on peut faire un chatbot avec ce genre de choses ? Eh bien pas tout
So, can we make a chatbot with this kind of thing? Well, not quite
à fait. Evidemment, on peut essayer de taper des questions en guise de prompt, et espérer
yet. Obviously, you can try typing questions as prompts, and hope for
une réponse en retour. Mais en fait, ça n’est même pas garanti.
a response in return. But actually, it's not even guaranteed.
GPT ne considère pas qu’on s’adresse à lui et qu’on lui pose une question, il
GPT doesn't consider that you're addressing it and asking it a question, it
considère qu’il faut compléter le texte. Un texte qui commence par une question, ça
considers that the text needs to be completed. A text that starts with a question, it
peut se poursuivre par une réponse, mais pas forcément.
can continue with an answer, but not necessarily.
[LUNE Si je tape : « Quelle est la masse de la Lune », il est tout à fait possible
[MOON If I type: "What is the mass of the Moon", it is entirely possible
qu’il complète avec une réponse censée, mais il peut aussi très bien compléter par
that it completes with a sensible answer, but it can also very well complete with
« Quelles sont les lois de la gravitation ? » « Qu’est-ce que la rotation de la lune
"What are the laws of gravitation?" "What is the rotation of the Moon
? » etc.
?" etc.
Eh oui, la phrase « quelle est la masse de la Lune » peut très bien se trouver
Oh yes, the sentence "what is the mass of the Moon" can very well be found
dans un exercice ou un sujet d’examen, et donc compléter une question par une autre
in an exercise or an exam topic, and so completing a question with another
question, ça n’est pas absurde. C’est une complétion plausible.]
question, that is not absurd. It is a plausible completion.]
On voit avec ça que comme GPT n’est pas entrainé à suivre des instructions mais
We see with this that since GPT is not trained to follow instructions but
à juste compléter un texte, il n’est pas complètement adapté pour faire un chatbot.
just to complete a text, it is not completely suited to being a chatbot.
Une possibilité pour l’emmener dans la direction où on veut, c’est de faire ce
One possibility to steer it in the direction we want is to do what
qu’on appelle un preprompt.
we call a preprompt.
Avant votre prompt, qui est votre question, vous écrivez une intro qui va en quelque
Before your prompt, which is your question, you write an intro that will in a way
sorte mettre GPT dans l’ambiance du genre de texte qu’on veut le voir rédiger.
get GPT in the mood of the kind of text we want it to write.
[PREPROMPT Par exemple, « Ceci est une conversation entre un humain et un professeur de physique »
[PREPROMPT For example, "This is a conversation between a human and a physics teacher"
: - Quelle est la masse de la Lune ? » Et là il y a des chances que GPT soit plus enclin
: - What is the mass of the Moon?" And then there is a chance that GPT will be more inclined
à compléter selon ce qu’on désire. Comme s’il s’agissait vraiment d’une discussion
to complete as we desire. As if it really were a discussion
avec un prof de physique.]
with a physics teacher.]
Avec la méthode du preprompt, on peut en quelque sorte invoquer des personnes avec
With the preprompt method, we can in a way summon people with
qui on va pouvoir dialoguer. En faisant un preprompt qui invite un spécialiste de tel
with whom we'll be able to converse. By making a preprompt inviting a specialist in such
ou tel sujet, on augmente les chances que GPT nous complète notre phrase avec quelque
or such a subject, we increase the chances that GPT completes our sentence with something
chose de pertinent.
relevant.
Cette idée du preprompt est également à la base de certaines applications comme Replika
This idea of the preprompt is also behind some applications like Replika
qui vous proposent de parler avec un ou une amie virtuelle. Avec un bon pre-prompt l’échange
offering you to chat with a virtual friend. With a good pre-prompt, the exchange
produit pourra plus ou moins ressembler à celui qu’on aurait avec quelqu’un de réel.
produced can more or less resemble what we'd have with a real person.
Donc si maintenant on veut que GPT se comporte comme un chatbot omniscient et sympathique,
So now if we want GPT to behave like an omniscient and friendly chatbot,
il suffit de lui indiquer dans le preprompt. Un truc du genre « Ceci est une conversation
just tell it in the preprompt. Something like 'This is a conversation
entre un humain et un chatbot très savant, et qui est toujours gentil, utile, poli, bienveillant
between a human and a very knowledgeable chatbot, who is always kind, helpful, polite, benevolent
et aidant ».
and supportive'.
[SYDNEY On ne connait pas exactement le preprompt utilisé par ChatGPT, c’est secret, et manifestement
[SYDNEY We don't know exactly the preprompt used by ChatGPT, it's secret, and clearly
il évolue. Mais certains auraient réussi à obtenir celui de Sydney, la variante utilisée
it evolves. But some claim they've managed to get Sydney's, the variant used
par le moteur Bing.
by the Bing engine.
Voici ce que ce serait, c’est assez long vous voyez, et ça contient plein d’instructions
Here's what it would be, it's quite long you see, and it contains lots of instructions
assez précises sur sa façon de répondre, et notamment le fait de ne pas révéler qu’il
fairly precise about how to respond, notably not revealing that it
s’appelle Sydney.]
is called Sydney.]
Mais attention, utiliser un pre-prompt, ça ne fait pas tout. Pour bien vous montrer les
But beware, using a pre-prompt doesn't do everything. To show you well the
limites, il y a un point amusant.
limits, there's a fun point.
[COMPLETION DIALOGUE Si vous posez une question dont la réponse est courte et que vous demandez
[DIALOGUE COMPLETION If you ask a question whose answer is short and you ask
à GPT de compléter, parfois il va non seulement donner la réponse, mais écrire la question
GPT to complete, sometimes it won't just give the answer, but also write the question
suivante, voire carrément toute la suite du dialogue.
next, or even the entire rest of the dialogue.
Ou bien des fois il va choisir de compléter la question par un truc que je n’ai pas
Or sometimes he'll choose to complete the question with something I didn't
demandé.]
ask for.]
Une dernière fois pour la route : GPT n’est pas entrainé à répondre à des questions
One last time for the road: GPT isn't trained to answer questions
ou à suivre des instructions, mais à prolonger des textes. Pour essayer de corriger un peu
or follow instructions, but to extend texts. To try to correct a bit
cela dans le modèle, il existe une méthode : ce qu’on appelle le fine-tuning. Le réglage
this in the model, there's a method: what's called fine-tuning. The fine
fin.
tuning.
Le fine-tuning, c’est l’idée de prendre un modèle déjà entrainé, comme GPT, et
Fine-tuning is the idea of taking an already trained model, like GPT, and
de le spécialiser en prolongeant son entrainement sur des textes bien choisis, qui ressemblent
specializing it by extending its training on well-chosen texts, which resemble
plus à ce qu’on attend de lui.
more what we expect from it.
[FONDATION FINETUNING L’entrainement initial c’est pour apprendre les grandes règles
[FOUNDATION FINETUNING Initial training is to learn the big rules
de vocabulaire, de syntaxe, de grammaire, de relations entre les mots etc. C’est pour
of vocabulary, syntax, grammar, relationships between words, etc. It's to
ça qu’on parle d’un modèle de fondation. Et ensuite on spécialise le modèle sur la
that end we talk about a foundation model. And then we specialize the model on the
tâche qui nous intéresse vraiment grâce à du finetuning.]
task we're really interested in thanks to finetuning.]
OpenAI a ainsi créé InstructGPT, qui a été « fine-tuné » à partir de GPT en étant
OpenAI thus created InstructGPT, which was "fine-tuned" from GPT by being
exposé à des réponses rédigées par des humains, et qui correspondaient au style qu’on
exposed to responses written by humans, and which matched the style we'd
attendrait d’un chatbot utile et bienveillant. Cette phase correspond donc à un apprentissage
expect from a useful and kind chatbot. This phase thus corresponds to a more
supervisé plus classique, puisque l’on utilise cette fois bien des données crées
classic supervised learning, since this time we use data created
à la main par des humains.
by hand by humans.
En combinant preprompt et finetuning, on arrive à des résultats plus proches de ce qui est
By combining preprompt and finetuning, we get results closer to what is
attendu d’un chatbot. Mais pour augmenter encore la qualité, OpenAI a utilisé en plus
expected from a chatbot. But to further improve quality, OpenAI also used
une troisième technique : l’apprentissage par renforcement avec feedback humain.
a third technique: reinforcement learning with human feedback.
[jingle]
[jingle]
Pour permettre à ChatGPT de proposer des réponses encore plus pertinentes, OpenAI
To let ChatGPT offer even more relevant answers, OpenAI
a ajouté une troisième couche d'apprentissage, utilisant cette fois ce qu'on appelle l'apprentissage
added a third learning layer, this time using what's called reinforcement
par renforcement. L'idée est de partir de réponses fournies par ChatGPT à certaines
learning. The idea is to start from answers ChatGPT gives to certain
questions, et de faire évaluer ces réponses par des humains.
questions, and have humans evaluate those answers.
Ca n’est pas comme la phase de finetuning où des humains devaient carrément proposer
It's not like the finetuning phase where humans had to outright propose
des réponses, là ils doivent juste juger les réponses que fournit ChatGPT. Une façon
answers, here they just have to judge the answers ChatGPT provides. A simple
simple, ce serait de leur demander de noter la qualité de la réponse, par exemple entre
way would be to ask them to rate answer quality, for example between
0 et 20.
0 and 20.
[RLHF En pratique comme tout le monde n'a pas les mêmes échelles de notation, on procède
[RLHF In practice, since everyone doesn't have the same rating scales, we proceed
plutôt par comparaison : pour une même question, on demande à un humain de comparer différentes
rather by comparison: for the same question, a human is asked to compare different
réponses produites par ChatGPT, et de les classer entre elles.
answers produced by ChatGPT, and rank them against each other.
A partir de ces évaluations, on peut entrainer ce qu'on appelle un modèle de récompense,
From these evaluations, we can train what's called a reward model,
qui va servir à aider le modèle de langage à s’orienter vers des réponses qui ressemblent
which will help guide the language model toward answers that resemble
à celles qu’attendent ou que préfèrent les humains. Du moins les humains qui ont
those humans expect or prefer. At least the humans who
fait les évaluations dans cette phase d’apprentissage par renforcement.]
did the evaluations in this reinforcement learning phase.]
Cette phase est d'ailleurs aussi une façon à ce stade de s'assurer que le modèle ne
This phase is also a way at this stage to ensure the model doesn't
sort pas de réponses qui pourraient être jugées illégales, dangereuses, haineuses
produce answers that could be judged illegal, dangerous, hateful
ou tout simplement inappropriées pour l'usage auquel il est destiné.
or simply unsuitable for the purpose it's intended for.
[RESUME Si on combine donc l'ensemble des ingrédients qu’on a mentionné : fine-tuning,
[SUMMARY So if we combine all the ingredients mentioned: fine-tuning,
apprentissage par renforcement avec feedback humain, et preprompt, on comprend qu’il
reinforcement learning with human feedback, and pre-prompting, we understand that it
est possible de spécialiser un modèle de fondation.
is possible to specialize a foundation model.
Et d’en faire ainsi un chatbot comme ChatGPT, qui soit plus pertinent, utile et plus respectueux
And thereby make it a chatbot like ChatGPT, that is more relevant, useful, and more respectful
que GPT, qui avait simplement ingurgité tous les textes d’internet.]
than GPT, which had simply ingested all internet texts.]
Alors à l'issue de tout ça : qu'est-ce qu'il faut penser de ChatGPT ? Sur des questions
So after all that: what should we think of ChatGPT? On questions
ayant une réponse simple et déjà bien documentée, il fonctionne très bien. Mais en soi ça
with a simple and already well-documented answer, it works very well. But in itself, that
n'apporte pas grand chose de plus que Wikipédia ou une recherche Google.
doesn't bring much more than Wikipedia or a Google search.
Ce que l'on sait des modèles de machine learning, c'est qu'il sont souvent assez bons
What we know about machine learning models is that they are often quite good
pour interpoler, c'est-à-dire bien traiter une situation nouvelle, mais qui soit suffisamment
at interpolating, that is, handling a new situation well, but one that is sufficiently
proche d'un ensemble de cas qu'ils ont pu voir dans leur entrainement.
close to a set of cases they've seen in their training.
Et on peut souvent le vérifier ici : le modèle peut produire des réponses intéressantes
And we can often verify this here: the model can produce interesting answers
et même inventives à des questions originales ou pas forcément toujours bien formulées.
and even inventive ones to original questions or ones not always well-formulated.
On décrit parfois l'intelligence ou la créativité comme la facilité à relier des choses qui
Intelligence or creativity is sometimes described as the ease of connecting things that
n’ont pas forcément de lien apparent ou évident. Et de ce point de vue là, c’est
don't necessarily have an apparent or obvious link. And from that point of view, it's
intéressant de voir que ChatGPT montre des signes indéniables de certaines de ces capacités.
interesting to see that ChatGPT shows undeniable signs of some of these abilities.
On pourrait passer des heures à passer en revue ce que ChatGPT fait bien, et ce sur
We could spend hours reviewing what ChatGPT does well, and what it
quoi il échoue lamentablement. Mais d'une part vous en avez certainement déjà vu passer
fails miserably at. But on one hand, you've certainly already seen
plein d'exemples, d'autre part, ça bouge tellement vite que tout ce que je pourrai
plenty of examples, on the other hand, it's moving so fast that everything I could
raconter sera peut-être caduc dans quelques semaines.
telling will perhaps be outdated in a few weeks.
Un point sur lequel j’ai envie quand même commenter, et sur lequel ChatGPT est particulièrement
A point I nonetheless want to comment on, and on which ChatGPT is particularly
mauvais, c'est le fait de citer des sources. Si on le fait parler d'un phénomène scientifique,
bad, is citing sources. If we get it to talk about a scientific phenomenon,
et qu'on lui demande les références des publications d'où il tire ses conclusions,
and ask it for the references of the publications where it gets its conclusions,
on obtient la plupart du temps des articles complètement inventés qui n'existent absolument
we most of the time get completely invented articles that absolutely don't exist
pas.
anywhere.
Ca peut paraitre assez embêtant, mais à nouveau si on réfléchit à comment fonctionne
It might seem quite annoying, but again if we think about how the model works,
le modèle, on l'explique assez bien. GPT ne raisonne pas, il ne cherche pas sur Internet,
we explain it fairly well. GPT doesn't reason, doesn't search the web,
il n'a pas de mémoire explicite : il se contente de générer des textes plausibles dont les
has no explicit memory: it just generates plausible texts whose
mots collent bien ensemble.
words fit well together.
Et quand on regarde le format des citations d'articles scientifiques, franchement tout
And when looking at the format of scientific article citations, honestly everything
se ressemble. Et donc n'importe quel séquence de mots qui respecte vaguement le format standard,
looks alike. So any sequence of words that roughly follows the standard format,
ça passera à ses yeux comme une complétion tout à fait crédible pour faire office de
it will pass in its eyes as a totally credible completion to serve as a
référence scientifique.
scientific reference.
D'autant que bien souvent dans un article scientifique, les références sont groupées
Especially since often in a scientific article, references are grouped
en un gros paquet à la fin, et en lisant uniquement ces sections, on a bien du mal
in a big pile at the end, and reading only these sections, it's hard
à deviner le contexte de chacune de ces citations.
to guess the context of each of those citations.
Et pour ChatGPT, c'est un peu pareil, une référence random avec à peu près les bons
And for ChatGPT, it's a bit the same, a random reference with roughly the right
auteurs et le nom d'un journal qui existe vraiment, il invente un volume et un numéro
authors and the name of a journal that truly exists, it makes up a volume and an issue
de page, et ce sera jugé comme parfaitement raisonnable étant donné son mode de fonctionnement.
number and page, and that will be deemed perfectly reasonable given how it operates.
Ce problème spécifique des sources semble assez difficile à résoudre en se basant
This specific problem of sources seems quite hard to solve based
uniquement sur le principe d'un modèle de langage. Mais on peut imaginer qu'en couplant
only on the principle of a language model. But we can imagine that by coupling
ces modèles a des mécanismes de recherche sur Internet ou dans des bases de données,
these models with search mechanisms on the Internet or in databases,
cette question des sources inventées finira par être résolue.
this issue of invented sources will eventually be resolved.
Merci d’avoir suivi cette vidéo, comme toujours abonnez-vous, rejoignez aussi le
Thanks for watching this video, as always subscribe, also join the
Discord de science étonnante, le lien est en description, c’est le meilleur moyen
Discord of Science Étonnante, link is in description, it's the best way
d’avoir des nouvelles qui ne soient pas filtrées par l’algo Youtube, et on se retrouve
to get news that isn't filtered by the YouTube algorithm, and we'll meet again
très vite pour une nouvelle vidéo. A bientôt. POSE MINIATURE
very soon for a new video. See you soon. THUMBNAIL POSE
Video and French captions: Ce qui se cache derrière le fonctionnement de ChatGPT by ScienceEtonnante. English: machine translation.




