Das Wichtigste auf einen Blick
- Ein Large Language Model (LLM), auf Deutsch großes Sprachmodell, ist ein KI-Modell, das aus sehr großen Textmengen gelernt hat, Sprache zu verarbeiten und zu erzeugen.
- Ein LLM berechnet Schritt für Schritt, welches Textstück am wahrscheinlichsten folgt. Es schlägt kein Wissen in einer Datenbank nach.
- Bekannte Modellfamilien sind zum Beispiel GPT, Gemini, Claude, Llama und die Modelle von Mistral. Die Aufzählung ist keine Rangfolge.
- Unternehmen, die LLMs beruflich einsetzen, müssen seit dem 2. Februar 2025 Maßnahmen zur KI-Kompetenz ihrer Beschäftigten ergreifen (Art. 4 KI-Verordnung, seit dem 27. Juli 2026 in neuer Fassung).
- Längere KI-Weiterbildungen mit mehr als 120 Stunden können für Beschäftigte über das Qualifizierungschancengesetz gefördert werden (§ 82 SGB III).
Was ist ein Large Language Model?
Ein Large Language Model ist ein Computerprogramm, das Texte versteht, zusammenfasst, übersetzt und neu formuliert. „Large“ bezieht sich auf zwei Dinge: die riesige Menge an Trainingstexten und die sehr große Zahl an internen Rechengewichten, den sogenannten Parametern. „Language Model“ heißt Sprachmodell.
Ein LLM ist das Modell, nicht die Anwendung. ChatGPT ist zum Beispiel der Assistent, GPT das Modell dahinter. Viele Bürowerkzeuge, Suchmaschinen und Kundenservice-Chats nutzen heute ein LLM im Hintergrund.
Rechtlich ordnet die EU-KI-Verordnung (Verordnung (EU) 2024/1689) große Sprachmodelle in der Regel als „KI-Modell mit allgemeinem Verwendungszweck“ ein. Gemeint ist ein Modell, das mit großen Datenmengen trainiert wurde, viele verschiedene Aufgaben erfüllen kann und sich in andere Systeme einbauen lässt (Art. 3 Nr. 63). Ein Chatbot, der auf einem solchen Modell beruht, ist ein KI-System mit allgemeinem Verwendungszweck (Art. 3 Nr. 66).
Wie funktioniert ein LLM?
Ein Large Language Model entsteht in mehreren Schritten. Für Nicht-Techniker reicht dieses vereinfachte Bild:
- Training mit Texten: Das Modell liest sehr viele Texte und lernt dabei statistische Muster, also welche Wörter und Satzteile typischerweise aufeinander folgen.
- Zerlegen in Token: Texte werden in kleine Bausteine zerlegt, die Token. Ein Token ist oft ein Wortteil, ein kurzes Wort oder ein Satzzeichen.
- Vorhersage: Bei einer Anfrage berechnet das LLM, welches Token mit hoher Wahrscheinlichkeit als nächstes passt, hängt es an und wiederholt das, bis die Antwort fertig ist.
- Feinabstimmung: Danach wird das Modell mit Beispielen und menschlichen Bewertungen nachtrainiert, damit es Anweisungen befolgt und hilfreich antwortet.
Die Anweisung an das Modell heißt Prompt. Je klarer Rolle, Ziel und gewünschtes Format im Prompt stehen, desto brauchbarer ist die Antwort. Eine Anleitung dazu bietet der Ratgeber KI-Prompts schreiben.
Was kann ein LLM und wo liegen die Grenzen?
LLMs eignen sich vor allem für Sprachaufgaben. Typische Einsätze im Büro sind:
- E-Mails, Protokolle und Berichte entwerfen
- lange Dokumente zusammenfassen
- Texte übersetzen oder vereinfachen
- Ideen sammeln und Gliederungen erstellen
- einfache Programmier- und Tabellenaufgaben unterstützen
Die Grenzen sind ebenso wichtig:
| Grenze | Was das bedeutet |
|---|---|
| Halluzinationen | Ein LLM erfindet manchmal Fakten, Quellen oder Zahlen und formuliert sie überzeugend. Das BSI rät, Ausgaben einem Faktencheck zu unterziehen. |
| Wissensstand | Das Modell kennt nur, was in den Trainingsdaten stand. Ohne Websuche fehlen neuere Entwicklungen. |
| Datenschutz | Eingaben können beim Anbieter gespeichert und je nach Tarif zum Training genutzt werden. Vertrauliche Daten gehören nicht in private Konten. |
| Rechnen und Logik | Lange Rechnungen und mehrstufige Schlussfolgerungen gehen öfter schief als reine Textaufgaben. |
| Verzerrungen | Einseitigkeiten in den Trainingstexten können sich in den Antworten zeigen. |
Beispiel: Ein LLM im Büroalltag
Frau B., 46, ist Sachbearbeiterin in einem Handwerksbetrieb mit 30 Beschäftigten. Sie lässt sich von einem freigegebenen KI-Assistenten Antwortentwürfe auf Kundenanfragen schreiben und spart dabei Zeit. Einmal nennt der Entwurf eine Gewährleistungsfrist, die nicht stimmt. Frau B. prüft die Angabe, korrigiert sie und gibt keine Kundendaten in das Werkzeug ein.
Ihr Arbeitgeber dokumentiert eine kurze Grundlagenschulung für alle Beschäftigten, die den Assistenten nutzen. Für Frau B. plant er zusätzlich eine mehrmonatige, zugelassene KI-Weiterbildung mit mehr als 120 Stunden. Weil der Betrieb weniger als 50 Beschäftigte hat, kann die Agentur für Arbeit bis zu 100 % der Lehrgangskosten und bis zu 75 % des Arbeitsentgelts für die Ausfallzeit übernehmen (§ 82 SGB III). Die Entscheidung liegt bei der Agentur.
Abgrenzung: KI, generative KI, LLM, Chatbot und KI-Agent
Die Begriffe werden oft gleich verwendet, meinen aber verschiedene Ebenen.
| Begriff | Bedeutung | Beispiel |
|---|---|---|
| Künstliche Intelligenz (KI) | Oberbegriff für Systeme, die aus Eingaben Ausgaben wie Vorhersagen, Inhalte oder Entscheidungen ableiten | Spamfilter, Bilderkennung, Sprachassistent |
| Generative KI | KI, die neue Inhalte erzeugt: Text, Bild, Audio, Video | Bild- und Textgeneratoren |
| Large Language Model | generatives Modell speziell für Sprache | GPT, Gemini, Claude, Llama, Mistral-Modelle |
| Chatbot oder KI-Assistent | Anwendung mit Chatfenster, die meist ein LLM nutzt | ChatGPT, Microsoft Copilot |
| KI-Agent | Anwendung, die mit einem LLM selbstständig mehrere Schritte plant und Werkzeuge bedient | Agent, der Termine abgleicht und E-Mails vorbereitet |
Kurz gesagt: Jedes LLM ist generative KI, aber nicht jede generative KI ist ein LLM. Ein Chatbot ist die Oberfläche, das LLM der Motor dahinter. Welche Assistenten für welche Aufgabe passen, vergleicht der Ratgeber Welche KI ist die beste? ohne Rangliste nach Einsatzzweck.
Large Language Models und geförderte Weiterbildung
Die KI-Verordnung verlangt von Unternehmen, die KI-Systeme einsetzen, Maßnahmen zur KI-Kompetenz ihres Personals. Seit der Neufassung durch die Verordnung (EU) 2026/1744 stellt Artikel 4 klar, dass dabei kein bestimmtes Kompetenzniveau für jede Person gewährleistet werden muss. Für Chatbots gilt außerdem eine Transparenzpflicht: Menschen sollen erfahren, dass sie mit einem KI-System sprechen, wenn das nicht offensichtlich ist (Art. 50 Abs. 1). Was Beschäftigte je nach Rolle können sollten, beschreibt der Ratgeber KI-Kompetenz im Unternehmen.
Für den sicheren Umgang mit LLMs gibt es zugelassene Weiterbildungen. Für Arbeitsuchende kommt unter Umständen ein Bildungsgutschein in Frage (§ 81 SGB III), für Beschäftigte das Qualifizierungschancengesetz (§ 82 SGB III). Kurze Pflichtunterweisungen fördert die Agentur für Arbeit nicht. Einen Überblick über geförderte Kurse gibt die Seite KI-Weiterbildung mit Bildungsgutschein. Ob eine Förderung in Ihrem Fall in Frage kommt, klären Sie in der kostenlosen Förderberatung von Förder24. Über die Förderung entscheidet die Agentur für Arbeit.
Häufige Fragen zu Large Language Models
Was ist ein Large Language Model einfach erklärt? Ein Large Language Model ist ein Programm, das aus sehr vielen Texten gelernt hat, wie Sprache aufgebaut ist. Es beantwortet Fragen und schreibt Texte, indem es Stück für Stück das wahrscheinlich passende nächste Wort berechnet.
Was bedeutet LLM? LLM ist die Abkürzung für Large Language Model, auf Deutsch großes Sprachmodell. Die Mehrzahl lautet LLMs oder Large Language Models.
Ist ChatGPT ein LLM? Genau genommen ist ChatGPT ein KI-Assistent, also eine Anwendung. Das LLM dahinter gehört zur Modellfamilie GPT von OpenAI. Im Alltag wird ChatGPT trotzdem oft als LLM bezeichnet.
Worauf sollte man bei der Wahl eines LLM für ein Projekt achten? Wichtig sind die Aufgabe, der Datenschutz und die Einbindung in vorhandene Software. Prüfen Sie, ob ein Unternehmenstarif mit Auftragsverarbeitungsvertrag verfügbar ist, ob das Modell in Europa oder auf eigenen Servern betrieben werden kann und wie gut es Ihre typischen Aufgaben in einem eigenen Test löst.
Warum erfinden LLMs manchmal Fakten? Ein LLM erzeugt wahrscheinliche Formulierungen, keine geprüften Aussagen. Fehlt eine verlässliche Grundlage, entsteht oft trotzdem eine überzeugend klingende Antwort. Fachleute nennen das Halluzination. Zahlen, Namen, Quellen und Rechtsaussagen sollten Sie deshalb immer nachprüfen.
Brauche ich eine Schulung, um ein LLM im Job zu nutzen? Eine persönliche Pflicht zur Schulung gibt es nicht. Ihr Arbeitgeber muss aber nach Art. 4 der KI-Verordnung Maßnahmen ergreifen, damit Beschäftigte KI sachkundig einsetzen. Ein bestimmtes Zertifikat schreibt die Verordnung dafür nicht vor.
Stand: November 2026