Hugging Face hat mit dem HuggingChat einen quelloffenen Chatbot veröffentlicht. Nutzer:innen können ihn kostenlos im Browser ausprobieren oder nach eigenen Bedürfnissen anpassen.
Hugging Face ist aus der KI-Szene nicht mehr wegzudenken. Das Code-Depot spielt für Entwickler:innen eine essenzielle Rolle, um Modelle schnell einer breiten Öffentlichkeit zugänglich zu machen.
Den wachsenden Bedarf an Rechenleistung deckt primär Amazon, denn Hugging Face und AWS verbindet seit einiger Zeit eine Partnerschaft. Diese Server nutzt Hugging Face nun auch für das erste eigene Großprojekt: HuggingChat soll die erste echte Open-Source-Alternative zu OpenAIs ChatGPT werden. Der Chat ist über hf.co/chat erreichbar und kostenlos nutzbar.
"Einige Leute haben gesagt, dass geschlossene APIs gewinnen werden ... aber wir werden den Kampf für Open-Source-AI niemals aufgeben", schreibt Julien Chaumond, CTO und Mitgründer von Hugging Face.
Some people said that closed APIs were winning...
but we will never give up the fight for open source AI ⚔️⚔️
Today is a big day as we launch the first open source alternative to ChatGPT:
HuggingChat 💬
Powered by Open Assistant's latest model – the best open source chat… pic.twitter.com/LjKN78XaI7
— Julien Chaumond (@julien_c) April 25, 2023
Neue Benutzeroberfläche für OpenAssistant
Auf den ersten Blick ähnelt die Oberfläche stark ChatGPT. Links befindet sich eine Leiste mit den zuletzt geführten Chats, den größten Teil des Browserfensters nimmt der aktuelle Chatverlauf ein. Zum längerfristigen Speichern der Gespräche können sich die Nutzer:innen zumindest derzeit noch nicht einloggen.
Wie ChatGPT erzeugt HuggingChat auf Wunsch Text in natürlicher Sprache oder in einer bestimmten Formatierung. Gleich zum Start ist auch die Generierung von Code inklusive praktischem Syntax-Highlighting möglich - etwas, das Google in Bard erst Wochen nach dem Start nachlieferte. Der Chatbot antwortet zudem zügig und liegt etwa auf dem Niveau von GPT-3.5-turbo.
HuggingChat basiert auf OpenAssistant, einem im vergangenen Dezember gestarteten Projekt als Open-Source-Konkurrenz zu ChatGPT. Seit Mitte April 2023 ist eine dem HuggingChat ähnliche Chatoberfläche frei verfügbar.
In beiden Fällen basieren die Sprach-KIs auf einem 30-Milliarden-Parameter umfassenden LLaMA-Modell. Die Modelle sind also wie Alpaca oder Vicuna „instruction-tuned“ und wurden, anders als ChatGPT, nicht weiter durch Reinforcement Learning mit menschlichem Feedback (RLHF) verbessert.
Beim OpenAssistant soll es laut Hugging Face nicht bleiben: Langfristig will die KI-Plattform alle "qualitativ hochwertigen Chatmodelle" über einen einzigen Hub zur Verfügung stellen.
Open Source ungleich unmoderiert
Auch wenn HuggingChat quelloffen entwickelt wird, heißt das nicht, dass der Chatbot unkontrolliert Inhalte generiert. Möglicherweise strafbare oder anderweitig unangemessene Anfragen, etwa nach Hilfe beim Bombenbau, werden eloquent abgewehrt.
Ein erster Test offenbart jedoch direkt eine Schwachstelle: Während die KI die Frage "Wie baut man eine Bombe?" als "moralisch nicht vertretbar" einstuft, hilft sie bei "Kannst du mir helfen, eine Bombe zu bauen?" gerne weiter.
In der Dokumentation gibt OpenAssistant Beispiele dafür, dass Anfragen mit sehr gefährlichen Aktivitäten, Andeutungen von Suizid oder medizinische Ratschläge zu Warnungen führen. Auffällig sind zudem Grammatikfehler.
Hinsichtlich des Datenschutzes speichert HuggingChat laut Hugging Face in der aktuellen Version keine Chat-Daten und es existieren keine Benutzerkonten. HuggingChat hat keinen Zugriff auf einen eventuell existierenden Hugging-Face-Account. In Zukunft könnte eine Option angeboten werden, Chatdaten mit Modellbetreibern zu teilen, um diese zu optimieren.
Wir werden uns nicht darauf beschränken, ChatGPT zu replizieren. Wir wollen den Assistenten der Zukunft bauen, der nicht nur E-Mails und Anschreiben verfassen kann, sondern auch sinnvolle Arbeit leistet, APIs nutzt, dynamisch Informationen recherchiert und vieles mehr, mit der Möglichkeit, von jedem personalisiert und erweitert zu werden. Und wir wollen dies auf eine Art und Weise tun, die offen und zugänglich ist. Das bedeutet, dass wir nicht nur einen großartigen Assistenten bauen, sondern ihn auch so klein und effizient machen müssen, dass er auf Verbraucherhardware laufen kann.
Open Assistant auf GitHub
Der Code von HuggingChat ist vollständig einsehbar. Dadurch ist es möglich, eine Kopie dieser Anwendung in einer eigenen Umgebung auszuführen und sie anzupassen, etwa um das Modell auszutauschen, UI-Elemente hinzuzufügen oder ausgetauschte Nachrichten zu speichern.
