« Suppression de jeton » : différence entre les versions


m (Patrickdrouin a déplacé la page Suppression de segment textuel vers Suppression de jeton textuel)
Aucun résumé des modifications
 
(4 versions intermédiaires par 2 utilisateurs non affichées)
Ligne 1 : Ligne 1 :
== Définition ==
== Définition ==
Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où les '''[[jeton textuel|jetons textuels]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.
Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où des '''[[jeton génératif|jetons génératifs]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.


== Français ==
== Français ==
''' suppression de jeton textuel'''
''' suppression de jeton génératif'''


''' destruction de jeton textuel'''
''' suppression de jeton'''
 
''' destruction de jeton génératif'''
 
''' destruction de jeton'''


== Anglais ==
== Anglais ==

Dernière version du 29 septembre 2026 à 14:44

Définition

Technique utilisée pour le préentraînement d’un modèle où des jetons génératifs sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.

Français

suppression de jeton génératif

suppression de jeton

destruction de jeton génératif

destruction de jeton

Anglais

token deletion

Sources

Source : arxiv

Source : GitHub