« Suppression de jeton » : différence entre les versions

Version du 29 septembre 2026 à 14:44

Définition

Technique utilisée pour le préentraînement d’un modèle où des jetons génératifs sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.

Français

suppression de jeton génératif

suppression de jeton

destruction de jeton génératif

destruction de jeton

Anglais

token deletion

Sources

Source : arxiv

Source : GitHub

@@ Ligne 1 : / Ligne 1 : @@
-== en construction ==
 == Définition ==
-Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où les '''[[Segment textuel|segments textuels]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les segments à partir desquels les positions sont supprimées.
+Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où des '''[[jeton génératif|jetons génératifs]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.
 == Français ==
-''' suppression de segment textuel'''
+''' suppression de jeton génératif'''
+''' suppression de jeton'''
+''' destruction de jeton génératif'''
-''' destruction de segment textuel'''
+''' destruction de jeton'''
 == Anglais ==
@@ Ligne 18 : / Ligne 20 : @@
 [https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html   Source : GitHub]
-[[Catégorie:vocabulary]]
+[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]
+[[Catégorie:Publication]]

« Suppression de jeton » : différence entre les versions