Prompt Engineering ist die Suche nach dem richtigen Vektorprogramm
Große Sprachmodelle wie OpenAIs GPT-4 sind Depots für Millionen von Vektorprogrammen, die als Nebenprodukt der Sprachkompression gelernt wurden, sagt der KI-Forscher François Chollet. Beim Prompt-Engineering geht es dann um die Suche nach dem richtigen "Programmschlüssel" und den "Programmargumenten", um eine bestimmte Aufgabe genauer zu erfüllen. Chollet geht davon aus, dass Prompt-Engineering bei der Weiterentwicklung von LLMs weiterhin von entscheidender Bedeutung sein wird, aber für eine nahtlose Benutzererfahrung automatisiert werden kann. Dies steht im Einklang mit den jüngsten Ideen aus KI-Laboren wie Deepmind, die sich mit der automatisierten Erstellung von Prompts beschäftigen.
My interpretation of prompt engineering is this:
1. A LLM is a repository of many (millions) of vector programs mined from human-generated data, learned implicitly as a by-product of language compression. A "vector program" is just a very non-linear function that maps part of…
— François Chollet (@fchollet) October 3, 2023
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.