Beschreibung

Dieser Workshop dient als Einführung in die Welt der Large Language Models (LLM), zeigt deren Funktionsweise auf, stellt die vier großen kommerziellen Sprachmodelle einander gegenüber, erklärt, welche (realistischen) Implementierungsmöglichkeiten es grundsätzlich gibt und welchen Herausforderungen sich ein Unternehmen in Bezug auf de EU AI-Act stellen muss, wenn LLMs im Unternehmen verwendet werden.

 

Inhalt

1. Wie funktionieren LLMs

Large Language Models sind probabilistische Sprachmodelle, die auf sehr großen Textmengen trainiert wurden. Sie sagen nicht „Wissen“ im klassischen Sinn ab, sondern berechnen auf Basis von Mustern das wahrscheinlich nächste Wort bzw. die passendste Fortsetzung. Dadurch können sie Texte formulieren, zusammenfassen, übersetzen, strukturieren und auf Prompts reagieren, sind aber auch anfällig für Halluzinationen, Bias und schwer erklärbare Ergebnisse.

2. Implementierungsmöglichkeiten von LLMs im Unternehmen

Unternehmen können LLMs im Wesentlichen auf drei Arten einsetzen: als SaaS/API-Lösung mit schnellem Einstieg und geringen Anfangskosten, als gekaufte Enterprise-Plattform mit tiefer Integration in bestehende Systeme, oder als Build-/On-Premise-/Blended-Ansatz mit hoher Datenhoheit, aber deutlich höherem Aufwand. Welche Variante sinnvoll ist, hängt vor allem von Datenschutz, Budget, Use Case, vorhandener IT-Struktur und gewünschter Kontrolle ab.

3. Die großen vier Modelle

Im Workshop werden ChatGPT, Claude, Gemini und Grok einander gegenübergestellt. Dabei geht es weniger um ein „bestes“ Modell insgesamt, sondern um unterschiedliche Stärken, Schwächen und Einsatzlogiken. Zentrale Vergleichsaspekte sind unter anderem Output-Qualität, Stil, Verlässlichkeit, Umgang mit Halluzinationen oder Bias.

4. LLMs und EU AI Act

LLMs fallen meist unter General Purpose AI / Foundation Models. Für Unternehmen ist entscheidend, ob ein LLM nur als Assistenztool genutzt wird oder ob es in einen Bereich mit erheblicher Wirkung auf Menschen eingreift, etwa bei Personalentscheidungen oder Bonitätsbewertungen. Dann kann ein System in Richtung Hochrisiko-KI gehen und umfangreiche Pflichten zu Dokumentation, Überwachung, Datenqualität, Human Oversight und Compliance auslösen. Besonders relevant ist auch die Frage, wann ein Betreiber durch starke Veränderung oder Fine-Tuning selbst in die Anbieterrolle rutscht.

 

Ziele

Ziel des Workshops ist es, KMU ein fundiertes und praxisnahes Verständnis von Large Language Models (LLM) zu vermitteln. Die Teilnehmenden sollen grundlegende Funktionsweisen, relevante Implementierungsmöglichkeiten von LLMs ins Unternehmen, Unterschiede zwischen führenden Modellen sowie zentrale rechtliche Rahmenbedingungen (abgestimmt auf LLMs) im Kontext des EU AI Acts kennenlernen. Dadurch sollen sie in die Lage versetzt werden, Potenziale und Grenzen von LLMs realistisch einzuschätzen und erste Anwendungsfelder für den eigenen Betrieb zu identifizieren.