FuzzyBot_Help.Me - A live Chatbot

FuzzyBot_Help.Me zeigt, wie das KI-Cluster der Hochschule Bielefeld kreativ genutzt werden kann.

Dieser Prototyp-Chatbot demonstriert den Einsatz offener Sprachmodelle im Gestaltungsbereich und macht technische Abläufe sichtbar.

Kurzinfo:

Basierend auf dem leichten Open-Source-Modell Apertus-8B
Ideal für Lehre & Experimente, aber nicht das "intelligenteste" Modell.
Antworten können gelegentlich etwas länger dauern, da der Chatbot alle Nutzer*Innenanfragen nacheinander abarbeitet.
Bei aktiver VPN-Verbindung mit dem HSBI-Netzwerk kann der Chatbot 'Fuzzybot_Help.Me' auch hier besucht werden: https://fuzzybot.yai.hsbi.de/

Ausgehende Anfrage (mit Verlauf)

// Vorschau der gesendeten Anfrage erscheint hier, sobald du die erste Nachricht schickst.

GEFUNDENER RAG-KONTEXT

// Abgerufener RAG-Kontext (Top-k Abschnitte + Nutzerfrage) wird hier angezeigt.

Chat-Verlauf

About

FuzzyBot_Help.Me ist eine Demo für einen möglichen Chatbot auf dem HSBI-Cluster. Er nutzt das Apertus-Modell und reichert Antworten per RAG mit Cluster-Wissen an.

Was ist RAG? Retrieval-Augmented Generation holt passende Texte aus Wissensquellen und legt sie dem Modell als Kontext bei, damit Antworten genauer und aktueller werden.

Du stellst eine Frage, der Bot ergänzt passende Cluster-Dokumente und streamt eine kurze Antwort zurück.

Ablauf einer Chatbot-Anfrage:

Du tippst deine Frage im Chat.
Deine Frage + der bisherige Chatverlauf (Kontext) wird an den Chat-Server geschickt.
Der Chat-Server sucht per RAG passende Cluster-Dokumente.
Das Modell antwortet auf Basis deiner Frage, des bisherigen Chat-Kontexts und des RAG-Kontexts und streamt die Antwort.