Alors que l'utilisation de l'IA se généralise, notamment dans la création de textes, de contenus web, force est de constater que les alertes sur les erreurs possibles (appelées à tort "hallucinations" ...
A chaque mot, il calcule quelle est la probabilité du prochain token sachant tous les précédents. Par exemple, si on a « Le chat est monté sur le … », le modèle peut considérer que la suite est toit ...