Wollten Sie auch schon mal ein Sprachmodell (LLM) für die Arbeit im Unternehmen einsetzen, aber möchten Ihre Daten nicht Google, Facebook und Microsoft überlassen? Genau dafür gibt es eine Lösung: self-hosted LLMs. In unserem Workshop zeigen wir interaktiv, wie man von Null auf ein solches System mit verschiedenen Open-Source-Sprachmodellen installiert und einrichtet. Wir zeigen beispielhaft unter anderem

• ein RAG (Retrieval-augmented Generation) System, welches Kunden- oder Mitarbeiteranfragen basierend auf einer Datenbasis beantworten kann,
• ein KI-basiertes Tool um z.B. E-Mails oder Dokumente automatisiert zu verarbeiten,
• und eine webbasierte Oberfläche zur benutzerfreundlichen Anbindung von LLMs.

Die Teilnahme ist kostenfrei.