moinsen / Software historyDE ↗
← 2017

Source record

Quellenhinweis · Transformer: Übersetzungsversuche und Fassungen

Nachweis in eigenen Worten

Die Konferenzfassung meldet für das große Transformer-Modell auf WMT-2014 Englisch–Deutsch 28,4 BLEU. Für Englisch–Französisch nennt sie 41,0 BLEU; der aktuelle arXiv-Abstract nennt dagegen 41,8. Diese Angaben werden nicht vermischt; ein direkter Fassungsvergleich zur Ursache steht aus. BLEU ist eine automatische Kennzahl für einen konkreten Übersetzungstest und keine allgemeine Prozentzahl für Sprachverständnis. Der zeitgenössische Google-Blog erläutert Self-Attention als Verfahren, das Beziehungen zwischen Bestandteilen einer Eingabesequenz gewichtet; der Decoder erzeugt die Übersetzung schrittweise unter Nutzung der Encoder-Repräsentation.