« Suppression de jeton » : différence entre les versions

Dernière version du 9 octobre 2026 à 10:09

Définition

Technique utilisée pour le préentraînement d’un modèle où des jetons génératifs sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.

Français

suppression de jeton génératif

suppression de jeton

destruction de jeton génératif

destruction de jeton

Anglais

token deletion

Sources

Source : arxiv

Source : GitHub

@@ Ligne 1 : / Ligne 1 : @@
 == Définition ==
-Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où les '''[[Segment textuel|segments textuels]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les segments à partir desquels les positions sont supprimées.
+Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où des '''[[jeton génératif|jetons génératifs]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.
 == Français ==
-''' suppression de segment textuel'''
+''' suppression de jeton génératif'''
-''' destruction de segment textuel'''
+''' suppression de jeton'''
+''' destruction de jeton génératif'''
+''' destruction de jeton'''
 == Anglais ==

« Suppression de jeton » : différence entre les versions