Ereignis
GPT-3 und Aufgaben mit wenigen Beispielen
Die Forschungsarbeit „Language Models are Few-Shot Learners“ stellte 2020 GPT-3 vor, ein autoregressives Sprachmodell mit 175 Milliarden Parametern. Untersucht wurde unter anderem, wie es Aufgaben anhand weniger Beispiele im Eingabetext bearbeitet; die Autoren beschrieben auch Grenzen. Quelle
Das 2019 vorgestellte GPT-2 ist eine frühere Modellreihe. Die API startete 2020 als private Beta; Forschungspublikation und Zugang zum Produkt sind getrennte Ereignisse.
Bei den Versuchen standen Aufgabenbeispiele im Eingabetext; die Forschenden änderten die Modellgewichte dafür nicht durch aufgabenspezifisches Nachtraining. Die Arbeit nennt auch Aufgaben mit schwachen Ergebnissen und mögliche methodische Probleme durch Trainingsdaten aus dem Web. Originalarbeit
Belege
Few-Shot und späterer API-Zugang: Originalarbeit und Anbieterankündigungen.
Forschungsarbeit: Modellgröße, Versuchsansatz und Grenzen.
Offen
Forschungsarbeit, Zugang und spätere ChatGPT-Veröffentlichung getrennt betrachten; Parameter sind kein Genauigkeitsmaß. / Distinguish the research paper, access and later ChatGPT release; parameters are not an accuracy metric.