Maximilian Schreiner
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Read full article about: Prompt Engineering ist die Suche nach dem richtigen Vektorprogramm
Große Sprachmodelle wie OpenAIs GPT-4 sind Depots für Millionen von Vektorprogrammen, die als Nebenprodukt der Sprachkompression gelernt wurden, sagt der KI-Forscher François Chollet. Beim Prompt-Engineering geht es dann um die Suche nach dem richtigen "Programmschlüssel" und den "Programmargumenten", um eine bestimmte Aufgabe genauer zu erfüllen. Chollet geht davon aus, dass Prompt-Engineering bei der Weiterentwicklung von LLMs weiterhin von entscheidender Bedeutung sein wird, aber für eine nahtlose Benutzererfahrung automatisiert werden kann. Dies steht im Einklang mit den jüngsten Ideen aus KI-Laboren wie Deepmind, die sich mit der automatisierten Erstellung von Prompts beschäftigen.
My interpretation of prompt engineering is this:
1. A LLM is a repository of many (millions) of vector programs mined from human-generated data, learned implicitly as a by-product of language compression. A "vector program" is just a very non-linear function that maps part of…
— François Chollet (@fchollet) October 3, 2023
Read full article about: Dieser Mikro-Verbrennungsmotor treibt einen Insektenroboter an
Forschende der Cornell University haben einen winzigen vierbeinigen Roboter entwickelt, der von Verbrennungsmotoren mit Methan und Sauerstoff angetrieben wird. Der insektengroße Roboter, der im Wissenschaftsmagazin Science vorgestellt wurde, kann 59 Zentimeter hoch springen und laufen und dabei das 22-fache seines eigenen Gewichts tragen. Die Forschenden wollen die von den Verbrennungsaktuatoren erzeugte Energie nutzen, um in Zukunft beispielsweise künstliche Muskeln für stärkere und wendigere Roboter zu entwickeln. "Wenn wir Tausende dieser Aktuatoren in Bündeln auf einem starren Endoskelett anbringen, könnten wir geschickte und schnelle Hybridroboter entwickeln", sagt ein Forscher.
Read full article about: 7 von 10 kanadischen Arbeitnehmern nutzen ChatGPT
Eine kürzlich durchgeführte Umfrage zeigt, dass fast 7 von 10 kanadischen Arbeitnehmern ChatGPT bei der Arbeit nutzen, obwohl nur 4 % der kanadischen Unternehmen KI einsetzen. Die von GetApp unter 600 Voll- und Teilzeitbeschäftigten durchgeführte Studie zeigt, dass mehr als 80 % der Befragten glauben, dass generative KI-Tools ihre Produktivität gesteigert haben.
Textverarbeitung, Ideengenerierung, Datenanalyse und das Verfassen von E-Mails sind die wichtigsten Anwendungsbereiche für KI-Tools. Allerdings geben nur 42 % der Befragten an, dass sie "jede Antwort sorgfältig überprüfen und verifizieren", während 49 % angeben, dass sie einige Überprüfungen vorgenommen haben.
Auch wenn 600 Personen für eine Studie wie diese nicht viel sind, spiegelt sie doch den Trend wider, den andere Studien gezeigt haben. OpenAI prognostiziert, dass große Sprachmodelle die Arbeit von etwa 80 % der US-Arbeitnehmer beeinflussen werden.
Read full article about: Auch ein Chatbot muss mal durchatmen
Googles PaLM 2 wird besser in Mathe, wenn man das Sprachmodell erst einmal durchatmen lässt.
In einem Paper haben Forschende untersucht, ob sich Sprachmodelle wie GPT-4 oder PaLM 2 als Optimierer eignen, die automatisch Lösungen für vordefinierte Probleme finden, wie zum Beispiel Filmempfehlungen oder das Lösen von Grundschulmathematikaufgaben.
Dabei versuchten die Sprachmodelle, selbstständig die besten Prompts für ihre Aufgabe zu finden. Besonders kurios ist der Prompt, mit dem PaLM 2-L Matheaufgaben besonders gut löste: "Atme tief durch und arbeite Schritt für Schritt an diesem Problem". Ohne Durchatmen sank die Genauigkeit um fast zehn Punkte.