Source record
Quellenhinweis · Transformer: Übersetzungsversuche und Fassungen
- Vaswani u. a., „Attention Is All You Need“, Konferenzfassung NeurIPS 2017, Abstract und Abschnitt 6.1: https://papers.nips.cc/paper_files/paper/2017/file/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf
- Dieselben Autoren, arXiv-Eintrag und aktualisierte Fassung: https://arxiv.org/abs/1706.03762
- Jakob Uszkoreit, „Transformer: A Novel Neural Network Architecture for Language Understanding“, 31. August 2017: https://research.google/blog/transformer-a-novel-neural-network-architecture-for-language-understanding/
- Abruf: 20. November 2026
Nachweis in eigenen Worten
Die Konferenzfassung meldet für das große Transformer-Modell auf WMT-2014 Englisch–Deutsch 28,4 BLEU. Für Englisch–Französisch nennt sie 41,0 BLEU; der aktuelle arXiv-Abstract nennt dagegen 41,8. Diese Angaben werden nicht vermischt; ein direkter Fassungsvergleich zur Ursache steht aus. BLEU ist eine automatische Kennzahl für einen konkreten Übersetzungstest und keine allgemeine Prozentzahl für Sprachverständnis. Der zeitgenössische Google-Blog erläutert Self-Attention als Verfahren, das Beziehungen zwischen Bestandteilen einer Eingabesequenz gewichtet; der Decoder erzeugt die Übersetzung schrittweise unter Nutzung der Encoder-Repräsentation.