« Suppression de jeton » : différence entre les versions

Dernière version du 29 septembre 2026 à 14:44

Définition

Technique utilisée pour le préentraînement d’un modèle où des jetons génératifs sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.

Français

suppression de jeton génératif

suppression de jeton

destruction de jeton génératif

destruction de jeton

Anglais

token deletion

Sources

Source : arxiv

Source : GitHub

@@ Ligne 1 : / Ligne 1 : @@
-== en construction ==
 == Définition ==
-Technique utilisée pour le '''[[préentraînement]]''' d’un modèle où les '''[[Segment textuel|segments textuels]]''' (tokens) sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les segments à partir desquels les positions sont supprimées.
+Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où des '''[[jeton génératif|jetons génératifs]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.
 == Français ==
-''' Suppression de segment'''
+''' suppression de jeton génératif'''
+''' suppression de jeton'''
+''' destruction de jeton génératif'''
+''' destruction de jeton'''
 == Anglais ==
-''' Token Deletion'''
+''' token deletion'''
 <!--''Token deletion takes the original sentence and randomly deletes a token from the sequence. Tokens are randomly removed from the documents. The model is pre-trained to determine tokens at which positions are removed.''-->
@@ Ligne 16 : / Ligne 20 : @@
 [https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html   Source : GitHub]
-[[Catégorie:vocabulary]]
+[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]
+[[Catégorie:Publication]]

« Suppression de jeton » : différence entre les versions