Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Große Sprachmodelle in Form von Chatbots sind im Wesentlichen eine neue Computerschnittstelle. PrivateGPT zeigt, wie diese auf eigene Dateien angewendet werden kann.

Große Sprachmodelle von Firmen wie Microsoft oder OpenAI können Inhalte in Dokumenten erfassen und "chatbar" machen, d.h. ein Gespräch über die Inhalte führen, Details erklären oder Aussagen interpretieren, Zusammenfassungen generieren, neue Inhalte daraus ableiten und so weiter. Das kann beim Recherchieren und Verstehen helfen und ist, wenn es zuverlässig funktioniert, eine revolutionäre neue Art, mit Computern und Inhalten umzugehen.

Die Sache hat allerdings einen Haken: Die Chatbots der großen Tech-Firmen müssen dazu ihre eigenen Dokumente lesen. Aus Datenschutzgründen möchte man das vielleicht vermeiden. Eine mögliche Alternative kommt aus der Open-Source-Bewegung: PrivateGPT, ein lokaler Dokumenten-Chatbot.

PrivateGPT macht lokale Dateien Chatfähig

Das Open-Source-Projekt macht Chatbot-Gespräche über eigene Dateien lokal möglich. Man kann Dateien in das System eingeben und ohne Internetverbindung Gespräche über den Inhalt der Dateien führen und diese im Dialog analysieren. Alle Daten werden komplett lokal verarbeitet. Die Software unterstützt derzeit zwölf Dateiformate über LangChain, darunter Powerpoint, Word, PDF und HTML.

Anzeige
Anzeige

PrivateGPT verwendet GPT4ALL, einen nach der Alpaca-Formel trainierten lokalen Chatbot, der wiederum auf einer mit 430.000 GPT-3.5-Turbo-Outputs feingetunten LLaMA-Variante basiert. Alternativ können andere lokal ausführbare Open-Source-Sprachmodelle wie Camel integriert werden.

Unternehmen könnten eine Anwendung wie PrivateGPT beispielsweise für das interne Wissensmanagement, im Kundenservice oder auch zur Erstellung von Kommunikationsvorlagen aus eigenen Daten nutzen, ohne Dritten Zugriff auf die eigenen Daten zu gewähren.

Alle notwendigen Dateien und eine Installationsanleitung für PrivateGPT sind auf Github verfügbar. Eine Videoanleitung zur Installation ist bei Matthew Berman verfügbar. Zusätzlich ist mit PrivateGPT-App ein Web-Interface in Arbeit, die als visuelle Schnittstelle zu PrivateGPT dient.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Chatbots, die auf großen Sprachmodellen basieren, können Inhalte im Gespräch erschließen, auch solche aus eigenen Dokumenten. Dies ermöglicht neue Formen der Recherche und des Lernens.
  • Wer seine privaten Dokumente nicht mit großen Unternehmen teilen möchte, hat mit PrivateGPT eine lokale Open-Source-Alternative.
  • PrivateGPT nutzt einen lokal laufenden Open-Source-Chatbot, der Dokumente einlesen und chatfähig machen kann - er benötigt nicht einmal eine Internetverbindung.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!