Das Start-up Perplexity.ai, bekannt für seine KI-Suchmaschine, veröffentlicht seine Online-Sprachmodelle über eine API.
Konventionelle LLMs bieten nur schwer aktuelle Informationen und liefern oft ungenaue oder falsche Antworten. Die Online-LLMs von Perplexity, pplx-7b-online und pplx-70b-online, sollen dieses Problem lösen, indem sie das Wissen aus dem Internet nutzen, um genauere und aktuellere Antworten zu liefern.
Auf diese Weise können die Modelle zeitkritische Fragen beantworten, die für Offline-Modelle nur schwer zu beantworten sind, wie Sportergebnisse vom Vorabend. Dieses Angebot bildet Perplexity auch mit seiner KI-Suchmaschine im Web ab.
Perplexity-Modelle sind nicht dein Standard-LLM
Die Online-LLMs von Perplexity basieren auf den Open-Source-Modellen mistral-7b und llama2-70b. Das Unternehmen verwendet seine eigene Such-, Indexierungs- und Crawling-Infrastruktur, um die LLMs mit den relevantesten und aktuellsten Informationen zu füllen.
Der Suchindex gibt qualitativ hochwertigen Websites, die nicht für Suchmaschinen optimiert sind, den Vorzug und liefert Auszüge aus Websites, sogenannte "Snippets", für bessere Antworten, schreibt Perplexity.
Darüber hinaus würden die Modelle unter Verwendung umfangreicher, qualitativ hochwertiger und vielfältiger Trainingsdatensätze feingetunt, die von den internen Datenverarbeitern von Perplexity zusammengestellt werden.
Durch diesen Optimierungsprozess soll sichergestellt werden, dass die Modelle eine hohe Leistungsfähigkeit in Bezug auf Hilfsbereitschaft, Faktentreue und Aktualität aufweisen.
Perplexity übertrifft GPT-3.5 und Llama 2
Perplexity führte eine Bewertung seiner Online-LLMs im Vergleich zu OpenAIs GPT-3.5 und Metas Llama2-70b durch. Die Bewertung basiert auf drei Kriterien: Hilfsbereitschaft, Faktentreue und Aktualität.
Menschliche Prüfer wurden gebeten, unter vorgenerierten Antworten jene Antwort auszuwählen, die bei jedem Kriterium am besten abschneidet, und eine Gesamtbewertung der Antworten abzugeben. Die Prüfer bekamen den Prompt vorgelegt sowie die verschiedenen Antworten der Modelle in zufälliger Reihenfolge.
Die Ergebnisse zeigen, dass Perplexitys pplx-7b-online und pplx-70b-online die Modelle GPT-3.5 und Llama2-70b in Bezug auf Aktualität, Faktentreue und holistische Kriterien übertreffen. Sie würden von menschlichen Beurteilern wegen ihrer Genauigkeit und Aktualität bevorzugt, schreibt das Unternehmen.
Perplexity-Modelle jetzt für alle über API nutzbar
Perplexity gibt zudem den Übergang seiner pplx-API von der Betaversion zur allgemeinen Veröffentlichung bekannt, wodurch die Modelle pplx-7b-online und pplx-70b-online erstmals für alle zugänglich werden.
Das Unternehmen führt außerdem eine nutzungsbasierte Preisstruktur ein, bei der Pro-Nutzer von Perplexity.ai eine monatliche pplx-API-Gutschrift in Höhe von fünf US-Dollar erhalten. Ansonsten sind die API-Kosten nutzungsabhängig.
Ein kostenloser Test der Modelle ist in den Perplexity Labs möglich. Kommerzielle Anbieter wenden sich bitte direkt per E-Mail an Perplexity. Weitere Informationen zur API, einschließlich Dokumentation und FAQs, sind hier verfügbar.