Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Das Start-up Perplexity.ai, bekannt für seine KI-Suchmaschine, veröffentlicht seine Online-Sprachmodelle über eine API.

Konventionelle LLMs bieten nur schwer aktuelle Informationen und liefern oft ungenaue oder falsche Antworten. Die Online-LLMs von Perplexity, pplx-7b-online und pplx-70b-online, sollen dieses Problem lösen, indem sie das Wissen aus dem Internet nutzen, um genauere und aktuellere Antworten zu liefern.

Auf diese Weise können die Modelle zeitkritische Fragen beantworten, die für Offline-Modelle nur schwer zu beantworten sind, wie Sportergebnisse vom Vorabend. Dieses Angebot bildet Perplexity auch mit seiner KI-Suchmaschine im Web ab.

Perplexity-Modelle sind nicht dein Standard-LLM

Die Online-LLMs von Perplexity basieren auf den Open-Source-Modellen mistral-7b und llama2-70b. Das Unternehmen verwendet seine eigene Such-, Indexierungs- und Crawling-Infrastruktur, um die LLMs mit den relevantesten und aktuellsten Informationen zu füllen.

Anzeige
Anzeige

Der Suchindex gibt qualitativ hochwertigen Websites, die nicht für Suchmaschinen optimiert sind, den Vorzug und liefert Auszüge aus Websites, sogenannte "Snippets", für bessere Antworten, schreibt Perplexity.

Darüber hinaus würden die Modelle unter Verwendung umfangreicher, qualitativ hochwertiger und vielfältiger Trainingsdatensätze feingetunt, die von den internen Datenverarbeitern von Perplexity zusammengestellt werden.

Durch diesen Optimierungsprozess soll sichergestellt werden, dass die Modelle eine hohe Leistungsfähigkeit in Bezug auf Hilfsbereitschaft, Faktentreue und Aktualität aufweisen.

Perplexity übertrifft GPT-3.5 und Llama 2

Perplexity führte eine Bewertung seiner Online-LLMs im Vergleich zu OpenAIs GPT-3.5 und Metas Llama2-70b durch. Die Bewertung basiert auf drei Kriterien: Hilfsbereitschaft, Faktentreue und Aktualität.

Menschliche Prüfer wurden gebeten, unter vorgenerierten Antworten jene Antwort auszuwählen, die bei jedem Kriterium am besten abschneidet, und eine Gesamtbewertung der Antworten abzugeben. Die Prüfer bekamen den Prompt vorgelegt sowie die verschiedenen Antworten der Modelle in zufälliger Reihenfolge.

Empfehlung
Bild: Perplexity AI

Die Ergebnisse zeigen, dass Perplexitys pplx-7b-online und pplx-70b-online die Modelle GPT-3.5 und Llama2-70b in Bezug auf Aktualität, Faktentreue und holistische Kriterien übertreffen. Sie würden von menschlichen Beurteilern wegen ihrer Genauigkeit und Aktualität bevorzugt, schreibt das Unternehmen.

Perplexity-Modelle jetzt für alle über API nutzbar

Perplexity gibt zudem den Übergang seiner pplx-API von der Betaversion zur allgemeinen Veröffentlichung bekannt, wodurch die Modelle pplx-7b-online und pplx-70b-online erstmals für alle zugänglich werden.

Das Unternehmen führt außerdem eine nutzungsbasierte Preisstruktur ein, bei der Pro-Nutzer von Perplexity.ai eine monatliche pplx-API-Gutschrift in Höhe von fünf US-Dollar erhalten. Ansonsten sind die API-Kosten nutzungsabhängig.

Bild: Perplexity.ai / Screenshot

Ein kostenloser Test der Modelle ist in den Perplexity Labs möglich. Kommerzielle Anbieter wenden sich bitte direkt per E-Mail an Perplexity. Weitere Informationen zur API, einschließlich Dokumentation und FAQs, sind hier verfügbar.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Das Start-up Perplexity.ai veröffentlicht seine Online-Sprachmodelle pplx-7b-online und pplx-70b-online über eine API, die aktuelle Informationen aus dem Internet nutzt, um genauere und aktuellere Antworten zu liefern.
  • Die Modelle von Perplexity basieren auf den Open-Source-Modellen mistral-7b und llama2-70b und verwenden eine eigene Such-, Indexierungs- und Crawling-Infrastruktur, um die relevantesten und aktuellsten Informationen zu liefern.
  • In einem Benchmark übertreffen Perplexitys Online-LLMs OpenAIs GPT-3.5 und Metas Llama2-70b in Bezug auf Aktualität, Faktentreue und holistische Kriterien. Die Modelle sind nun für jedermann über die pplx API mit einer nutzungsbasierten Preisstruktur verfügbar.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!