« Suppression de jeton » : différence entre les versions
m (Arianne a déplacé la page Token Deletion vers Suppression de segment textuel) |
Aucun résumé des modifications |
||
| (7 versions intermédiaires par 3 utilisateurs non affichées) | |||
| Ligne 1 : | Ligne 1 : | ||
== Définition == | == Définition == | ||
Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où | Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où des '''[[jeton génératif|jetons génératifs]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées. | ||
== Français == | == Français == | ||
''' suppression de | ''' suppression de jeton génératif''' | ||
''' suppression de jeton''' | |||
''' destruction de jeton génératif''' | |||
''' destruction de | ''' destruction de jeton''' | ||
== Anglais == | == Anglais == | ||
| Ligne 18 : | Ligne 20 : | ||
[https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html Source : GitHub] | [https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html Source : GitHub] | ||
[[Catégorie: | [[Catégorie:GRAND_LEXIQUE_FRANÇAIS]] | ||
[[Catégorie:Publication]] | |||
Version du 29 septembre 2026 à 14:44
Définition
Technique utilisée pour le préentraînement d’un modèle où des jetons génératifs sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.
Français
suppression de jeton génératif
suppression de jeton
destruction de jeton génératif
destruction de jeton
Anglais
token deletion
Sources
Contributeurs: Arianne Arel, Claude Coulombe, Patrick Drouin, wiki
