Wie führt man KI im Unternehmen ein?
Am besten schrittweise: Sie wählen zwei, drei konkrete Anwendungsfälle, prüfen Daten und Datenschutz, stellen geschäftliche KI-Zugänge bereit und regeln die Nutzung in einer KI-Richtlinie. Den Betriebsrat binden Sie früh ein, Ihr Team schulen Sie gezielt. Nach einem Pilotprojekt mit messbaren Zielen weiten Sie den Einsatz aus. Beratung und Weiterbildung lassen sich staatlich fördern.
KI ist in deutschen Betrieben angekommen: Laut Bitkom-Umfrage vom September 2026 setzen 57 % der Unternehmen ab 20 Beschäftigten KI ein, ein Jahr zuvor waren es 36 %. Nach der amtlichen Statistik nutzten 2025 aber erst 23 % der kleinen Unternehmen mit 10 bis 49 Beschäftigten KI. Oft fehlt nicht das Tool, sondern ein Plan. Dieser Leitfaden richtet sich an Geschäftsführung und Personalabteilung in kleinen und mittleren Unternehmen.
Wo steht KI im Unternehmen 2026?
Die Mehrheit der Unternehmen nutzt KI bereits, schöpft ihr Potenzial aber kaum aus. Die wichtigsten Zahlen im Überblick:
| Kennzahl | Wert | Quelle |
|---|---|---|
| Unternehmen ab 20 Beschäftigten, die KI einsetzen | 57 % (2025: 36 %) | Bitkom, September 2026 |
| Unternehmen ab 10 Beschäftigten mit KI-Nutzung 2025 | 26 % (kleine 23 %, mittlere 36 %, große 57 %) | Statistisches Bundesamt |
| Unternehmen, die ihr KI-Potenzial „überhaupt nicht" ausschöpfen | 59 % | Bitkom, September 2026 |
| Unternehmen mit Regeln für KI-Tools | 23 % (Vorjahr 15 %) | Bitkom, Oktober 2025 |
| Unternehmen, die zu KI schulen | 70 %, 25 % gar nicht | Bitkom, September 2026 |
Die Werte weichen ab, weil die Erhebungen unterschiedliche Betriebsgrößen erfassen. Auffällig ist die Lücke bei den Regeln: Nach der Bitkom-Umfrage vom Oktober 2025 gehen 42 % der Unternehmen davon aus oder wissen sogar, dass Beschäftigte private KI-Tools im Job nutzen – sogenannte Schatten-KI. Offizielle KI-Zugänge stellten damals nur 26 % bereit.
Die größten Hürden sind nicht technischer Art. Unternehmen ohne KI nennen vor allem fehlendes Wissen (85 %), rechtliche Unsicherheit (66 %) und schwer kalkulierbare Kosten (63 %). Genau hier setzen die folgenden Schritte an.
KI im Unternehmen einführen in 7 Schritten
Eine KI-Einführung gelingt, wenn Sie sie wie ein Organisationsprojekt planen und nicht wie einen Softwarekauf. Die sieben Schritte bauen aufeinander auf.
1. Anwendungsfälle auswählen
Starten Sie mit Aufgaben, die häufig vorkommen, viel Zeit kosten und sich gut prüfen lassen. Typisch sind E-Mail-Entwürfe, Zusammenfassungen, Übersetzungen, Angebotstexte oder die Suche in internen Dokumenten. Beginnen Sie mit zwei bis drei Fällen.
2. Verantwortliche und Projektteam benennen
Legen Sie fest, wer die Einführung steuert, zum Beispiel ein KI-Verantwortlicher oder eine KI-Managerin. Ins Projektteam gehören Fachabteilung, IT, Datenschutzbeauftragte und – falls vorhanden – der Betriebsrat. Wie diese Rolle aussehen kann, beschreibt unser Beitrag Was macht ein KI-Manager?.
3. Daten und Datenschutz prüfen
Klären Sie für jeden Anwendungsfall, ob personenbezogene Daten, Geschäftsgeheimnisse oder urheberrechtlich geschützte Inhalte verarbeitet werden. Davon hängt ab, welches Tool infrage kommt und ob Sie eine Datenschutz-Folgenabschätzung brauchen.
4. Tools auswählen und geschäftliche Zugänge bereitstellen
Wählen Sie Anwendungen mit Unternehmenslizenz, Vertrag zur Auftragsverarbeitung und abschaltbarem Training auf Ihren Eingaben. Stellen Sie Ihrem Team geschäftliche Accounts zur Verfügung. Das empfiehlt auch die Datenschutzkonferenz, und es ist der wirksamste Schutz gegen Schatten-KI.
5. KI-Richtlinie aufstellen
Halten Sie schriftlich fest, welche Tools wofür erlaubt sind und welche Daten nicht hineingehören (Muster-Gliederung unten). Mit Betriebsrat ist eine Betriebsvereinbarung oft der bessere Weg.
6. Mitarbeitende schulen
Schulen Sie alle, die KI nutzen, in Grundlagen, Grenzen und Regeln. Wer KI intensiv einsetzt oder die Einführung verantwortet, braucht eine tiefere Qualifizierung. Für Art. 4 des EU AI Act reicht oft eine Grundschulung; eine umfangreiche Weiterbildung kann über das Qualifizierungschancengesetz gefördert werden.
7. Pilotieren, messen, ausweiten
Testen Sie jeden Anwendungsfall einige Wochen mit einer kleinen Gruppe und messen Sie vorher festgelegte Ziele, etwa gesparte Zeit pro Vorgang oder die Fehlerquote. Erst wenn der Pilot überzeugt, rollen Sie aus.
Welche KI-Tools eignen sich für Unternehmen?
Welches KI-Tool passt, hängt vom Anwendungsfall ab, nicht von Ranglisten. Die Produktnamen in der Tabelle sind Beispiele, keine Empfehlung. Prüfen Sie Funktionen, Preise und Vertragsbedingungen immer aktuell beim Anbieter.
| Kategorie | Typische Einsatzfelder | Worauf Sie achten sollten |
|---|---|---|
| KI-Assistenten und Chatbots (z. B. ChatGPT, Claude, Gemini, Le Chat) | Texte, Zusammenfassungen, Recherche, Ideen | Business-Tarif, Vertrag zur Auftragsverarbeitung, Training abschaltbar, Serverstandort |
| KI in Office-Software (z. B. Microsoft 365 Copilot, Gemini für Google Workspace) | E-Mails, Protokolle, Präsentationen, Tabellen | Zugriffsrechte im System, da die KI auf vorhandene Dateien zugreift |
| Transkription und Übersetzung (z. B. DeepL) | Meetingprotokolle, Übersetzungen | Einwilligung bei Aufzeichnungen, Umgang mit Audiodaten |
| Kundenservice-Chatbots | Antworten auf Standardanfragen, Terminvergabe | Kennzeichnung als KI, Übergabe an Menschen, Datenschutzhinweise |
| Automatisierung und KI-Agenten (z. B. Zapier, Make, n8n) | Abläufe zwischen Programmen verknüpfen | Klare Freigaben, keine automatische Letztentscheidung über Menschen |
| Bild- und Videogenerierung | Marketing, Social Media, Präsentationen | Urheber- und Nutzungsrechte, Kennzeichnungspflicht bei Deepfakes |
| KI in Fachsoftware (z. B. Buchhaltung, ERP, CRM, Personal) | Belegerfassung, Prognosen, Bewerbermanagement | Bei Personalauswahl gelten ab Dezember 2027 Hochrisiko-Pflichten |
Für kleine Unternehmen ist der einfachste Einstieg oft der beste: ein KI-Assistent mit Unternehmenslizenz oder die KI-Funktion Ihrer Office-Software. Speziallösungen lohnen sich meist erst, wenn ein Anwendungsfall erprobt ist.
KI im Büro: Wo sie im Alltag hilft
KI im Büro spart vor allem bei Text- und Routinearbeit Zeit. Typische Anwendungsfälle sind:
- Korrespondenz: E-Mail-Entwürfe, Antworten auf Standardanfragen, Übersetzungen
- Meetings: Protokolle, Aufgabenlisten, Zusammenfassungen langer Dokumente
- Vertrieb und Marketing: Angebotstexte, Produktbeschreibungen, Social-Media-Beiträge
- Verwaltung und Buchhaltung: Belege auslesen, Daten in Tabellen auswerten
- Personal: Stellenanzeigen formulieren, Onboarding-Unterlagen erstellen
- Wissensmanagement: interne Richtlinien und Handbücher durchsuchbar machen
Dabei gilt: KI liefert Entwürfe, die Verantwortung bleibt beim Menschen. Weil Sprachmodelle Fakten erfinden können, prüfen Sie Ergebnisse vor jeder Weitergabe.
KI-Richtlinie im Unternehmen: Muster-Gliederung
Eine KI-Richtlinie legt verbindlich fest, welche KI-Anwendungen Beschäftigte wofür und unter welchen Bedingungen nutzen dürfen. Die Datenschutzkonferenz rät ausdrücklich zu klaren, dokumentierten internen Regeln mit Beispielen für erlaubte und untersagte Einsatzszenarien. Gesetzlich vorgeschrieben ist sie nicht, aber der einfachste Nachweis eines geordneten KI-Einsatzes.
Diese Gliederung können Sie als Checkliste nutzen:
- Geltungsbereich und Ziel: Für wen gilt die Richtlinie, welche Anwendungen fallen darunter?
- Zugelassene Tools: Positivliste mit Zweck, verbunden mit dem Verbot privater Accounts für dienstliche Aufgaben
- Erlaubte und verbotene Anwendungsfälle: konkrete Beispiele aus Ihrem Arbeitsalltag
- Datenregeln: keine personenbezogenen Daten, Kundendaten oder Geschäftsgeheimnisse in nicht freigegebene Tools; besondere Vorsicht bei Gesundheitsdaten
- Prüfpflicht: Ergebnisse auf Richtigkeit und Diskriminierung prüfen, keine automatische Entscheidung über Personen
- Kennzeichnung: wann KI-Inhalte als solche gekennzeichnet werden müssen, etwa bei Deepfakes
- Urheberrecht: Umgang mit generierten Bildern und Texten, keine fremden geschützten Inhalte hochladen
- Zuständigkeiten: wer Tools freigibt, wer Ansprechperson für Fragen und Vorfälle ist
- Schulung: welche Schulungen Pflicht sind und wie oft
- Überprüfung: wann die Richtlinie aktualisiert wird, etwa halbjährlich
Datenschutz und Betriebsrat: Was Sie beachten müssen
Sobald ein KI-Tool personenbezogene Daten verarbeitet, gilt die Datenschutz-Grundverordnung (DSGVO). Als Leitfaden dient die Orientierungshilfe „Künstliche Intelligenz und Datenschutz" der Datenschutzkonferenz vom 6. Mai 2024.
Für Arbeitgeber: die Datenschutz-Pflichten
- Auftragsverarbeitung: Nutzen Sie eine Cloud-KI eines externen Anbieters, liegt laut Datenschutzkonferenz häufig eine Auftragsverarbeitung vor. Dann brauchen Sie einen Vertrag nach Art. 28 Abs. 3 DSGVO.
- Datenschutz-Folgenabschätzung: Vor dem Einsatz bewerten Sie das Risiko. Ist es voraussichtlich hoch, ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO Pflicht – beim Einsatz von KI laut Datenschutzkonferenz „vielfach", aber nicht in jedem Fall.
- Geschäftliche Accounts: Beschäftigte sollen nicht mit privaten Accounts und Geräten arbeiten müssen. Accounts sollten möglichst nicht auf Namen einzelner Beschäftigter laufen, sondern zum Beispiel auf eine Funktions-E-Mail-Adresse.
- Training abschalten: Die Nutzung von Eingaben für das KI-Training sollte von Beginn an deaktiviert sein.
- Keine automatisierte Letztentscheidung: Entscheidungen mit rechtlicher Wirkung für Personen darf nicht allein die KI treffen (Art. 22 DSGVO).
Für Arbeitgeber mit Betriebsrat: die Mitbestimmung
Seit dem Betriebsrätemodernisierungsgesetz von 2021 nennt das Betriebsverfassungsgesetz Künstliche Intelligenz ausdrücklich:
| Vorschrift | Was sie für KI bedeutet |
|---|---|
| § 90 Abs. 1 Nr. 3 BetrVG | Arbeitgeber müssen den Betriebsrat rechtzeitig über die Planung von Arbeitsabläufen „einschließlich des Einsatzes von Künstlicher Intelligenz" unterrichten und mit ihm beraten. |
| § 87 Abs. 1 Nr. 6 BetrVG | Mitbestimmung bei technischen Einrichtungen, die Verhalten oder Leistung überwachen können – das trifft auf viele KI-Systeme mit Nutzungsprotokollen zu. |
| § 95 Abs. 2a BetrVG | Auswahlrichtlinien für Einstellungen oder Versetzungen bleiben mitbestimmt, auch wenn KI sie erstellt. |
| § 80 Abs. 3 BetrVG | Muss der Betriebsrat eine KI-Einführung beurteilen, gilt ein Sachverständiger als erforderlich. |
Das Arbeitsgericht Hamburg hat am 16. Januar 2024 entschieden (Az. 24 BVGa 1/24), dass die bloße Erlaubnis, ChatGPT im Browser mit privaten Accounts zu nutzen, nicht mitbestimmungspflichtig war. Der Arbeitgeber hatte dort keinen Zugriff auf Nutzungsdaten. Stellen Sie selbst KI-Systeme bereit, ist die Mitbestimmung meist berührt. Eine Betriebsvereinbarung schafft dann Klarheit für beide Seiten.
Welche Pflichten bringt der EU AI Act?
Für Unternehmen, die KI nur nutzen, sind die Pflichten des EU AI Act überschaubar. Seit dem 2. Februar 2025 verlangt Art. 4, dass Sie Maßnahmen ergreifen, um die KI-Kompetenz Ihrer Beschäftigten zu unterstützen. Seit der Neufassung durch die Verordnung (EU) 2026/1744 vom 27. Juli 2026 schreibt Art. 4 weder ein bestimmtes Niveau noch ein Zertifikat vor. Ein Bußgeld für Art. 4 gibt es nicht.
- Seit 2. August 2026: Transparenzpflichten nach Art. 50 – zum Beispiel müssen Sie Deepfakes als KI-erzeugt kennzeichnen.
- Ab 2. Dezember 2027: Pflichten für Hochrisiko-KI nach Anhang III, etwa für KI in der Personalauswahl oder der Leistungsbewertung.
- Bußgelder von bis zu 35 Mio. € oder 7 % des Umsatzes drohen nur bei verbotenen KI-Praktiken, nicht beim normalen Einsatz eines Chatbots.
Was Art. 4 konkret bedeutet, erklärt unser Beitrag KI-Schulung: Pflicht nach dem EU AI Act?.
KI-Einführung staatlich fördern lassen
Für die KI-Einführung gibt es keinen einzelnen Bundeszuschuss, aber drei Bausteine: kostenlose Beratung, Landesprogramme und Fördergeld für Weiterbildung. Das frühere Bundesprogramm go-digital ist Ende 2024 ausgelaufen.
| Programm | Was gefördert wird | Status Oktober 2026 |
|---|---|---|
| Mittelstand-Digital Zentren (Bund) | Kostenlose, anbieterneutrale Beratung, Workshops und Praxisbeispiele zu KI für KMU | Aktiv (Stand Oktober 2026); Angebote je Zentrum unterschiedlich, aktuelle Termine auf mittelstand-digital.de |
| Digitalbonus Bayern | Zuschuss für Digitalisierung und IT-Sicherheit kleiner Unternehmen: bis 7.500 € (Standard) bzw. 30.000 € (Plus), je bis 50 % | Laufzeit bis 31.12.2027, monatliche Kontingente |
| MID-Digitalisierung NRW | 50 % bis 15.000 € für die Entwicklung eigener digitaler Produkte mit KI durch externe Dienstleister | Seit 01.01.2026, Losverfahren; die reine Einführung fertiger Tools wird nicht gefördert |
| Digitalbonus Niedersachsen | – | Ausgelaufen zum 31.12.2025 |
| Qualifizierungschancengesetz (§ 82 SGB III) | Weiterbildung von Beschäftigten: bis 100 % Lehrgangskosten, bis 75 % Lohnkostenzuschuss | Bundesweit, Antrag vor Kursbeginn bei der Agentur für Arbeit |
Für andere Bundesländer fragen Sie Ihre IHK, Handwerkskammer oder Wirtschaftsförderung.
Für Arbeitgeber: Mitarbeiterschulung über das Qualifizierungschancengesetz
Für die Weiterbildung Ihres Teams ist das Qualifizierungschancengesetz die stärkste Förderung. Die Agentur für Arbeit übernimmt je nach Betriebsgröße bis zu 100 % der Lehrgangskosten (unter 50 Beschäftigte), 50 % (50 bis 499) oder 25 % (ab 500) und zahlt einen Zuschuss zum Lohn für die ausgefallene Arbeitszeit.
Wichtig sind die Bedingungen: Die Weiterbildung muss mehr als 120 Stunden umfassen, Träger und Kurs müssen AZAV-zugelassen sein, und Sie müssen den Antrag vor Kursbeginn stellen. Schulungen, zu denen Sie gesetzlich verpflichtet sind, schließt das Gesetz aus. Eine kurze Pflicht-Sensibilisierung zum AI Act fällt deshalb in der Regel nicht darunter. Eine umfangreiche KI-Weiterbildung, etwa zum KI-Manager, kann dagegen gefördert werden. Wie das im Detail funktioniert, lesen Sie unter KI-Schulung für Mitarbeiter kostenlos und Qualifizierungschancengesetz einfach erklärt.
Kostenlose KI-Weiterbildung für Ihr Team
Förder24 berät Sie kostenlos, ob die KI-Weiterbildung Ihrer Mitarbeitenden über das Qualifizierungschancengesetz gefördert werden kann, und übernimmt die Antragstellung. Die Kurse führen AZAV-zertifizierte Partner-Bildungsträger durch.
- Für Arbeitgeber: KI-Weiterbildung für Ihr Team fördern lassen – bis zu 100 % der Lehrgangskosten und bis zu 75 % Lohnkostenzuschuss, je nach Betriebsgröße.
- Für Beschäftigte: KI-Weiterbildung für Arbeitnehmer – so sprechen Sie Ihren Arbeitgeber auf eine geförderte Weiterbildung an.
- Für Arbeitsuchende: Kostenlose KI-Weiterbildung mit Bildungsgutschein – wir prüfen, ob Sie gefördert werden können.
Häufige Fragen (FAQ)
Welche KI-Tools sind für kleine Unternehmen am besten geeignet? Meist ein KI-Assistent mit Unternehmenslizenz oder die KI-Funktion Ihrer Office-Software. Entscheidend sind ein Vertrag zur Auftragsverarbeitung, abschaltbares Training auf Ihren Daten und ein Preis, der zur Zahl der Nutzer passt.
Ist eine KI-Richtlinie Pflicht? Nein, kein Gesetz schreibt sie ausdrücklich vor. Die Datenschutzkonferenz empfiehlt aber klare interne Regeln, und eine Richtlinie hilft Ihnen, Datenschutz- und AI-Act-Anforderungen nachweisbar umzusetzen.
Dürfen Mitarbeitende ChatGPT mit privaten Accounts nutzen? Rechtlich ist das nicht verboten, aber riskant: Sie verlieren die Kontrolle darüber, welche Daten das Unternehmen verlassen. Die Datenschutzkonferenz empfiehlt geschäftliche Accounts und Geräte.
Muss der Betriebsrat zustimmen? Über den geplanten KI-Einsatz müssen Sie ihn nach § 90 BetrVG rechtzeitig unterrichten und mit ihm beraten. Echte Mitbestimmung besteht, wenn das System Verhalten oder Leistung überwachen kann (§ 87 Abs. 1 Nr. 6 BetrVG). Das ist bei vielen betrieblich bereitgestellten Systemen der Fall.
Gibt es noch go-digital? Nein. Das Bundesprogramm ist Ende 2024 ausgelaufen. Kostenlose Beratung bieten die Mittelstand-Digital Zentren, Zuschüsse einzelne Länder wie Bayern.
Wird eine KI-Schulung für Mitarbeiter gefördert? Ja, wenn sie mehr als 120 Stunden umfasst und bei einem AZAV-zugelassenen Träger stattfindet. Dann übernimmt die Agentur für Arbeit über das Qualifizierungschancengesetz bis zu 100 % der Lehrgangskosten. Kurze Pflichtschulungen sind ausgeschlossen.
Quellen: Bitkom: Erstmals nutzt die Mehrheit der Unternehmen KI (14.09.2026) · Bitkom: Beschäftigte nutzen vermehrt Schatten-KI (21.10.2025) · Statistisches Bundesamt: KI-Nutzung nach Größenklassen 2025 · Datenschutzkonferenz: Orientierungshilfe KI und Datenschutz (06.05.2024) · § 90 BetrVG · § 87 BetrVG · Verordnung (EU) 2026/1744 · § 82 SGB III · Digitalbonus Bayern · Richtlinie MID-Digitalisierung NRW, MB.NRW 2026 Nr. 10 · NBank: Digitalbonus.Niedersachsen-innovativ (ausgelaufen) · ArbG Hamburg, Beschluss vom 16.01.2024, 24 BVGa 1/24
Stand: Oktober 2026. Dieser Ratgeber ersetzt keine Rechts- oder Datenschutzberatung; maßgeblich sind die Entscheidungen der Agentur für Arbeit und der jeweiligen Förderstellen.
