KI-Kompetenz nach Art. 4 KI-Verordnung (EU AI Act)
Darum geht es
Sie haben diesen Kurs bereits begonnen.
Was dieser Kurs nicht leistet (aufklappen)
Worum es geht — und was dieser Kurs nicht ist
Eine E-Mail an einen Kunden vorformulieren, ein Angebot gliedern, einen Text übersetzen, ein Protokoll zusammenfassen, im Internet recherchieren, ein Bild für die Präsentation erzeugen: KI-Werkzeuge sind in vielen Betrieben längst Alltag. Wer sie beruflich nutzt, tut das im Auftrag seines Arbeitgebers — und der Betrieb ist damit Betreiber eines KI-Systems im Sinne der EU-KI-Verordnung (Art. 3 Nr. 4 KI-VO). Art. 4 KI-VO verlangt von Anbietern und Betreibern, Maßnahmen zur KI-Kompetenz ihres Personals zu ergreifen. Dieser Kurs ist eine solche Maßnahme.
Was Sie hier lernen: was ein KI-System ist und was nicht, welche Rollen und Risikoklassen die KI-Verordnung kennt, was ab wann gilt, welche Praktiken verboten sind, wann Sie KI-Inhalte kennzeichnen müssen, was bei Verstößen droht — und vor allem, wie Sie im Alltag sicher arbeiten: welche Daten in ein KI-Werkzeug gehören und welche nicht, wie Sie gute Anweisungen (Prompts) schreiben, wie Sie erfundene Antworten erkennen und warum am Ende immer ein Mensch prüft und freigibt.
Was dieser Kurs leistet: den allgemeinen Teil der KI-Kompetenz, mit Nachweis über Inhalte, Datum und Ergebnis.
Was er nicht leistet: die Regeln Ihres Betriebs. Welche KI-Werkzeuge freigegeben sind, was in der KI-Richtlinie steht und wer Ihr Ansprechpartner ist, weiß nur Ihr Unternehmen — dafür ist das Modul „Verfahren im eigenen Haus" da. Der Kurs ist keine Rechtsberatung im Einzelfall und keine Schulung für Entwickler oder Anbieter von KI-Systemen und keine Einweisung in Hochrisiko-Anwendungen.
Zum Merken
KI-Kompetenz heißt nicht, Technik bis ins Detail zu verstehen. Es heißt: wissen, was das Werkzeug kann, wo es irrt, welche Daten es bekommen darf — und dass Sie für das Ergebnis geradestehen, nicht die Maschine.
Der Rechtsrahmen an einer Stelle — KI-Verordnung, Fristen und Digital Omnibus
Die Verordnung (EU) 2024/1689 — kurz KI-Verordnung (KI-VO) oder AI Act — ist das erste umfassende KI-Gesetz der EU. Sie gilt als EU-Verordnung unmittelbar in jedem Mitgliedstaat, ohne nationales Umsetzungsgesetz. Sie trat am 1. August 2024 in Kraft und wird gestaffelt anwendbar.
| Datum | Was gilt |
|---|---|
| 2. Februar 2025 | Kapitel I und II: Begriffe, KI-Kompetenz (Art. 4), verbotene Praktiken (Art. 5) |
| 2. August 2025 | Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI), Aufsichtsstrukturen, Sanktionen (Art. 99) |
| 2. August 2026 | grundsätzlich die übrigen Vorschriften, insbesondere die Transparenzpflichten (Art. 50) |
| 2. Dezember 2026 | zwei neue Verbote in Art. 5 (siehe Modul „Verbotene Praktiken"); Ende der Übergangsfrist für die maschinenlesbare Kennzeichnung bei bereits vermarkteten generativen Systemen |
| 2. Dezember 2027 | Hochrisiko-KI nach Anhang III — z. B. Bewerberauswahl, Kreditwürdigkeit (ursprünglich 2. August 2026) |
| 2. August 2028 | Hochrisiko-KI nach Anhang I — KI als Sicherheitsbauteil in Produkten wie Maschinen oder Medizinprodukten (ursprünglich 2. August 2027) |
Der „Digital Omnibus" — was sich 2026 geändert hat
Im November 2025 hat die EU-Kommission ein Änderungspaket vorgeschlagen, den sogenannten Digital Omnibus. Der KI-Teil wurde nach unserem Prüfstand als Verordnung (EU) 2026/1744 verabschiedet, am 24. Juli 2026 im Amtsblatt veröffentlicht und ist seit dem 27. Juli 2026 in Kraft. Für Beschäftigte in Betrieben sind drei Änderungen wichtig:
- Hochrisiko-Pflichten verschoben — auf die Termine in der Tabelle oben.
- Art. 4 umformuliert: Betriebe müssen die Entwicklung der KI-Kompetenz ihres Personals fördern, aber kein bestimmtes Niveau garantieren. Die Pflicht, Maßnahmen zu ergreifen, bleibt.
- Neue Verbote für bestimmte bildgenerierende Anwendungen ab dem
- Dezember 2026.
Wer in Deutschland aufpasst
Die KI-VO gilt unmittelbar; ein deutsches Durchführungsgesetz regelt Zuständigkeiten und Bußgeldverfahren. Marktüberwachungsbehörde ist in der Regel die Bundesnetzagentur. Für Datenschutzfragen bleiben die Datenschutzaufsichtsbehörden zuständig.
Stand der Angaben
Stand 25.10.2026. Die Fristen und der Wortlaut wurden durch die Änderungsverordnung neu gefasst; einzelne Leitlinien der Kommission stehen noch aus. Maßgeblich ist der konsolidierte Text auf EUR-Lex. Wir prüfen diesen Baustein bei jeder Änderung neu.
Was ist ein KI-System — und was nicht?
Die KI-Verordnung definiert in Art. 3 Nr. 1:
„KI-System" ist ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.
Die sieben Merkmale
Die Leitlinien der EU-Kommission zerlegen die Definition in sieben Merkmale:
| Nr. | Merkmal | Bedeutung |
|---|---|---|
| 1 | maschinengestützt | läuft auf Rechnern, Servern, Geräten |
| 2 | autonomer Betrieb | arbeitet in gewissem Grad ohne menschliches Zutun |
| 3 | anpassungsfähig — kann, muss nicht | kann nach Inbetriebnahme dazulernen; Pflicht ist das nicht |
| 4 | Ziele | verfolgt ausdrücklich vorgegebene oder sich ergebende Ziele |
| 5 | Ableitungsfähigkeit — das Kernmerkmal | leitet aus Eingaben selbst ab, wie ein Ergebnis entsteht; geht über fest programmierte Regeln hinaus |
| 6 | Ausgaben | Vorhersagen, Inhalte, Empfehlungen, Entscheidungen |
| 7 | Wirkung auf die Umgebung | die Ausgaben können die physische oder digitale Welt beeinflussen |
Das Ableiten unterscheidet KI von gewöhnlicher Software: Ein klassisches Programm führt aus, was ein Mensch Schritt für Schritt festgelegt hat. Ein KI-System hat aus Daten gelernt, wie es aus einer Eingabe ein Ergebnis macht.
Was KI ist — und was nicht
| Kein KI-System | KI-System |
|---|---|
| Tabellenkalkulation mit Formeln wie =SUMME | Text- und Chat-Assistenten (z. B. ChatGPT, Claude, Gemini, Copilot) |
| Chatbot, der nur fest hinterlegte Antworten nach Stichworten ausgibt | Übersetzungsdienste mit neuronalen Netzen (z. B. DeepL) |
| Datenbankabfrage, Suchfilter, Sortierung | Schreibassistenten mit KI-Vorschlägen, Bildgeneratoren |
| einfache Wenn-dann-Automatisierung | Spracherkennung, lernende Spamfilter, Bilderkennung |
Zum Merken
„Kann anpassungsfähig sein" ist kein Muss: Auch ein KI-System, das nach der Auslieferung nicht weiterlernt, ist ein KI-System. Entscheidend ist, ob es aus Eingaben ableitet. Im Zweifel fragen Sie Ihren Ansprechpartner — die Einordnung entscheidet, welche Regeln gelten.
KI-Modell, KI-System, GPAI — und wer Anbieter, wer Betreiber ist
Modell und System — Motor und Auto
| KI-Modell | KI-System |
|---|---|
| das technische Herzstück, der „Motor" | die nutzbare Anwendung, das „Auto" |
| z. B. ein großes Sprachmodell wie GPT, Claude oder Gemini | z. B. ChatGPT, Claude.ai, Gemini, Copilot, ein Chatbot auf einer Website |
| braucht eine Oberfläche, um genutzt zu werden | ist sofort bedienbar |
GPAI steht für General Purpose AI — im Gesetz „KI-Modell mit allgemeinem Verwendungszweck" (Art. 3 Nr. 63). Solche Modelle können sehr viele verschiedene Aufgaben erledigen und in viele Systeme eingebaut werden. Für ihre Anbieter gelten seit dem 2. August 2025 eigene Pflichten (technische Dokumentation, Urheberrechtsstrategie, Zusammenfassung der Trainingsdaten). Für Sie als Nutzer folgen daraus keine zusätzlichen Pflichten.
Die Rollen
| Rolle | Wer | Beispiel |
|---|---|---|
| Anbieter (Art. 3 Nr. 3) | entwickelt ein KI-System oder -Modell und bringt es unter eigenem Namen in Verkehr | OpenAI, Anthropic, Google, DeepL |
| Betreiber (Art. 3 Nr. 4) | verwendet ein KI-System in eigener Verantwortung, außer für rein persönliche, nicht berufliche Zwecke | Ihr Betrieb, der seinen Beschäftigten ein KI-Werkzeug für die Arbeit bereitstellt oder erlaubt |
Ihr Betrieb ist in aller Regel Betreiber, nicht Anbieter. Sie handeln als Beschäftigte im Auftrag des Betreibers. Wer privat zu Hause ein KI-Werkzeug nutzt, ist kein Betreiber im Sinne der Verordnung.
Achtung, Rollenwechsel: Wer ein KI-System unter eigenem Namen oder eigener Marke anbietet — etwa einen selbst gebauten Kunden-Chatbot auf Basis eines fremden Modells — oder ein System wesentlich verändert, kann selbst Anbieter werden (Art. 25) und hat dann deutlich mehr Pflichten. Solche Vorhaben gehören vorab auf den Tisch des Ansprechpartners.
Zum Merken
Anbieter bauen, Betreiber setzen ein. Ihr Betrieb setzt ein — und deshalb gilt für ihn Art. 4: Maßnahmen zur KI-Kompetenz der Beschäftigten.
Die Risikoklassen — warum der Einsatzzweck entscheidet
Die KI-Verordnung regelt nicht die Technik, sondern ihren Einsatz. Je höher das Risiko für Gesundheit, Sicherheit und Grundrechte, desto strenger die Regeln.
| Stufe | Beispiele | Was gilt |
|---|---|---|
| verboten (Art. 5) | Social Scoring, manipulative Techniken, Emotionserkennung am Arbeitsplatz | seit 2. Februar 2025 verboten |
| hohes Risiko (Art. 6, Anhang III) | Bewerberauswahl und Leistungsbewertung von Beschäftigten, Kreditwürdigkeitsprüfung, Zugang zu Bildung, Biometrie, kritische Infrastruktur | strenge Pflichten für Anbieter und Betreiber — Anhang III ab 2. Dezember 2027 |
| hohes Risiko (Art. 6, Anhang I) | KI als Sicherheitsbauteil in Maschinen, Aufzügen, Medizinprodukten, Spielzeug | ab 2. August 2028 |
| Transparenzpflichten (Art. 50) | Chatbots, KI-erzeugte Bilder und Videos, Deepfakes | ab 2. August 2026 |
| minimales Risiko | Texte formulieren, übersetzen, zusammenfassen, recherchieren, Rechtschreibung | keine besonderen Pflichten — außer KI-Kompetenz (Art. 4) |
Dasselbe Werkzeug, zwei Einstufungen
Ein Text-Assistent, mit dem Sie E-Mails, Angebote oder Übersetzungen erstellen, liegt im minimalen Risiko. Lässt die Personalabteilung dasselbe Werkzeug Bewerbungen vorsortieren und bewerten, fällt dieser Einsatz unter Anhang III Nr. 4 (Beschäftigung, Personalmanagement) — ein Hochrisiko-Bereich. Dann treffen den Betrieb als Betreiber ab dem 2. Dezember 2027 die Pflichten aus Art. 26: Verwendung nach Gebrauchsanweisung, menschliche Aufsicht durch kompetente Personen, Aufbewahrung von Protokollen, Information der Beschäftigten und ihrer Vertretung. Daneben gelten schon heute die DSGVO (insbesondere Art. 22 zu automatisierten Entscheidungen) und die Mitbestimmung des Betriebsrats.
Zum Merken
Nicht das Werkzeug ist hochriskant, sondern der Zweck. Wer einen neuen Einsatzzweck plant — vor allem bei Entscheidungen über Menschen —, klärt das vorher mit dem Ansprechpartner für KI.
Artikel 4: KI-Kompetenz — was der Betrieb tun muss
KI-Kompetenz bezeichnet nach Art. 3 Nr. 56 KI-VO die Fähigkeiten, die Kenntnisse und das Verständnis, die es ermöglichen, KI-Systeme sachkundig einzusetzen und sich der Chancen und Risiken von KI und möglicher Schäden bewusst zu werden.
Was Art. 4 verlangt
| Fassung | Inhalt |
|---|---|
| ursprünglich (seit 2. Februar 2025) | Anbieter und Betreiber ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit KI-Systemen umgehen, über ein ausreichendes Maß an KI-Kompetenz verfügen. |
| seit 27. Juli 2026 (VO (EU) 2026/1744) | Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und der in ihrem Auftrag tätigen Personen zu unterstützen. Ein bestimmtes Kompetenzniveau müssen sie nicht garantieren. Kommission und Mitgliedstaaten fördern die KI-Kompetenz zusätzlich. |
Was bleibt: Der Betrieb muss handeln. Wer Beschäftigte ohne jede Vorbereitung mit KI arbeiten lässt, erfüllt auch die neue Fassung nicht.
Wen es betrifft
Alle, die im Auftrag des Betriebs mit KI-Systemen umgehen — unabhängig von der Risikoklasse: Geschäftsführung und Führungskräfte, Beschäftigte in Büro, Vertrieb, Einkauf, Personal, Technik und Produktion, Auszubildende und Aushilfen, freie Mitarbeitende und Dienstleister, die für den Betrieb mit KI arbeiten.
Was „angemessen" heißt
Die Maßnahmen richten sich nach den technischen Kenntnissen, der Erfahrung und Ausbildung der Personen, nach dem Einsatzkontext und nach den Menschen, die von den KI-Ergebnissen betroffen sind. Wer nur Texte formulieren lässt, braucht anderes Wissen als jemand, der KI in der Personalauswahl einsetzt. Eine bestimmte Form — Präsenzschulung, Online-Kurs, Zertifikat — schreibt die Verordnung nicht vor.
Stand der Angaben
Die Neufassung von Art. 4 ist seit dem 27. Juli 2026 in Kraft; Leitlinien und Beispiele der Kommission zur neuen Fassung werden erwartet. Stand 25.10.2026.
Artikel 5: Verbotene KI-Praktiken
Seit dem 2. Februar 2025 sind bestimmte KI-Anwendungen in der EU verboten — unabhängig davon, wer sie anbietet oder einsetzt.
| Verbot | Worum es geht |
|---|---|
| Manipulation (Buchst. a) | unterschwellige, manipulative oder täuschende Techniken, die Menschen zu schädlichen Entscheidungen bringen |
| Ausnutzen von Schwächen (Buchst. b) | gezieltes Ausnutzen von Alter, Behinderung oder sozialer oder wirtschaftlicher Notlage |
| Social Scoring (Buchst. c) | Menschen nach ihrem Sozialverhalten oder ihrer Persönlichkeit bewerten und dadurch ungerechtfertigt benachteiligen |
| Straftat-Vorhersage (Buchst. d) | Risikobewertung, ob jemand eine Straftat begeht, allein aufgrund von Profiling |
| Gesichtsdatenbanken (Buchst. e) | ungezieltes Auslesen von Gesichtsbildern aus Internet oder Videoüberwachung |
| Emotionserkennung (Buchst. f) | Erkennen von Emotionen am Arbeitsplatz und in Bildungseinrichtungen — Ausnahme: medizinische oder Sicherheitsgründe |
| Biometrische Kategorisierung (Buchst. g) | Rückschluss aus biometrischen Daten auf Herkunft, politische Meinung, Religion, sexuelle Orientierung u. a. |
| Echtzeit-Fernidentifizierung (Buchst. h) | biometrische Echtzeit-Identifizierung im öffentlichen Raum zur Strafverfolgung — mit engen Ausnahmen |
Neu ab dem 2. Dezember 2026
Mit der VO (EU) 2026/1744 kommen zwei Verbote hinzu: KI-Systeme, die ohne ausdrückliche Einwilligung realistische Intim- oder Nacktdarstellungen erkennbarer Personen erzeugen („Nudify"-Anwendungen), und KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen.
Was das im Betrieb heißt
Die Werkzeuge, mit denen Sie Texte schreiben, übersetzen oder recherchieren, fallen nicht darunter. Aufmerksam sein sollten Sie bei Angeboten, die Stimmung, Gefühle oder Verhalten von Beschäftigten auswerten — etwa „Gefühlsanalyse" in Videokonferenzen oder Callcenter-Gesprächen. Solche Funktionen sind am Arbeitsplatz verboten, auch wenn ein Anbieter sie bewirbt.
Zum Merken
Verbote gelten ohne Übergangsfrist und ohne Bestandsschutz. Wer eine solche Funktion in einem Werkzeug entdeckt, nutzt sie nicht und meldet sie.
Artikel 50: Transparenz — wann KI erkennbar sein muss
Menschen sollen wissen, wann sie es mit KI zu tun haben. Die Transparenzpflichten gelten seit dem 2. August 2026.
| Fall | Pflicht | Wen sie trifft |
|---|---|---|
| Chatbot (Abs. 1) | Personen müssen erkennen können, dass sie mit einer KI sprechen — außer es ist offensichtlich | Anbieter; der Betrieb sorgt beim Einsatz dafür, dass der Hinweis sichtbar ist |
| KI-erzeugte Inhalte (Abs. 2) | Text, Bild, Ton und Video werden maschinenlesbar als KI-Inhalt markiert (z. B. Metadaten, Wasserzeichen) | Anbieter generativer KI; bei Systemen, die vor dem 2.8.2026 auf dem Markt waren, Übergang bis 2.12.2026 |
| Emotionserkennung, biometrische Kategorisierung (Abs. 3) | betroffene Personen informieren — soweit nicht ohnehin verboten | Betreiber |
| Deepfakes (Abs. 4) | offenlegen, dass Bild, Ton oder Video künstlich erzeugt oder verändert ist | Betreiber |
| KI-Texte zur Information der Öffentlichkeit (Abs. 4) | offenlegen, wenn Texte über Angelegenheiten von öffentlichem Interesse veröffentlicht werden — außer ein Mensch hat sie geprüft und trägt die redaktionelle Verantwortung | Betreiber |
Ein Deepfake ist nach Art. 3 Nr. 60 ein KI-erzeugter oder -veränderter Bild-, Ton- oder Videoinhalt, der echten Personen, Gegenständen, Orten oder Ereignissen ähnelt und fälschlich als echt erscheinen würde.
Im Alltag
- Website-Chatbot für Kundenfragen: deutlicher Hinweis „Sie chatten mit einem KI-Assistenten".
- Werbefoto mit einer KI-erzeugten, echt wirkenden Person oder einem echt wirkenden Firmengebäude: als künstlich erzeugt kennzeichnen.
- Mit KI-Hilfe formulierte, von Ihnen geprüfte E-Mail an einen Kunden: keine Kennzeichnungspflicht nach Art. 50.
- Erkennbar illustrative KI-Grafik in einer internen Präsentation: keine Pflicht nach Art. 50 — Ihr Betrieb kann trotzdem eine Kennzeichnung vorschreiben.
Zum Merken
Kennzeichnen, wo jemand getäuscht werden könnte: beim Chatbot und bei allem, was echt aussieht, aber nicht echt ist.
Sanktionen und Verantwortung
Die Bußgelder der KI-Verordnung sind gestaffelt — die oft zitierten 35 Millionen Euro gelten nur für die schwersten Verstöße.
| Verstoß | Höchstrahmen (Art. 99) |
|---|---|
| verbotene Praktiken (Art. 5) | bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (Abs. 3) |
| übrige Pflichten von Anbietern, Händlern, Einführern und Betreibern, u. a. Betreiberpflichten bei Hochrisiko-KI (Art. 26) und Transparenzpflichten (Art. 50) | bis 15 Mio. € oder 3 % (Abs. 4) |
| falsche, unvollständige oder irreführende Angaben gegenüber Behörden | bis 7,5 Mio. € oder 1 % (Abs. 5) |
Maßgeblich ist jeweils der höhere Betrag — bei kleinen und mittleren Unternehmen einschließlich Start-ups dagegen der niedrigere (Abs. 6). Die Behörde bemisst die Geldbuße im Einzelfall nach Art, Schwere und Dauer des Verstoßes.
Und Art. 4?
Art. 4 steht nicht in den Bußgeldkatalogen der Absätze 3 bis 5. Für solche Pflichten legen die Mitgliedstaaten die Sanktionen fest (Art. 99 Abs. 1) — in Deutschland im Durchführungsgesetz zur KI-Verordnung. Fehlende KI-Kompetenz zeigt sich aber meist an anderer Stelle: Sie macht Verstöße gegen Art. 50, Art. 26 oder die DSGVO wahrscheinlicher und wiegt bei deren Bewertung schwer.
Wer haftet für das Ergebnis
Unabhängig von Bußgeldern gilt: Wer ein KI-Ergebnis verwendet, verwendet es als eigenes. Eine falsche Auskunft an einen Kunden, ein fehlerhaftes Angebot, ein Text mit fremden Rechten — dafür haftet der Betrieb nach den allgemeinen Regeln, gegebenenfalls auch wegen Organisationsverschuldens, wenn Beschäftigte nicht angeleitet waren. „Die KI hat das so geschrieben" ist keine Entlastung. Verstöße gegen die betriebliche KI-Richtlinie können außerdem arbeitsrechtliche Folgen haben.
Stand der Angaben
Bußgeldrahmen nach Art. 99 KI-VO; die nationalen Sanktionsvorschriften des deutschen Durchführungsgesetzes sind neu (2026) und werden mit der ersten Behördenpraxis nachgeprüft. Stand 25.10.2026.
Datenschutz und Vertraulichkeit — was in ein KI-Werkzeug gehört
Die KI-Verordnung lässt die Datenschutz-Grundverordnung unberührt (Art. 2 Abs. 7 KI-VO). Sobald Sie Namen, E-Mail-Adressen, Telefonnummern, Kundennummern oder Angaben über eine bestimmbare Person in ein KI-Werkzeug eingeben, verarbeiten Sie personenbezogene Daten (Art. 4 Nr. 2 DSGVO) — und geben sie in aller Regel an den Anbieter weiter.
Was die DSGVO dafür verlangt
| Voraussetzung | Was das heißt |
|---|---|
| Rechtsgrundlage (Art. 6) | Es muss einen Grund geben, warum diese Daten für diesen Zweck verarbeitet werden dürfen — etwa die Erfüllung eines Vertrags. |
| Auftragsverarbeitung (Art. 28) | Mit dem KI-Anbieter besteht ein Vertrag zur Auftragsverarbeitung (AVV); bei Anbietern außerhalb der EU zusätzlich eine Grundlage für die Drittlandübermittlung (Art. 44 ff.). |
| Datenminimierung (Art. 5 Abs. 1 Buchst. c) | nur so viele Personendaten, wie der Zweck wirklich braucht |
| besondere Kategorien (Art. 9) | Gesundheit, Religion, Herkunft, Gewerkschaft, Sexualleben: nur mit ausdrücklicher betrieblicher Freigabe — im Alltag gar nicht |
Private oder kostenlose Konten erfüllen das meist nicht: Es gibt keinen AVV, und Eingaben können zum Training des Modells genutzt werden. Für betriebliche Daten sind sie tabu.
Die betriebliche Vorsichtsregel: „Rolle statt Name"
Die DSGVO verbietet nicht jeden Personennamen in jedem KI-Werkzeug. Sie verlangt aber Rechtsgrundlage, AVV und Datenminimierung — und für die allermeisten Aufgaben braucht die KI den Namen gar nicht. Deshalb gilt als Vorsichtsregel: Personen erscheinen nur als Rolle — „die Kundin", „der Bewerber", „die Geschäftsführerin". Ausnahmen nur, wenn das Werkzeug betrieblich freigegeben ist, der Zweck den Namen wirklich erfordert und die KI-Richtlinie es erlaubt.
| Nicht so | Sondern so |
|---|---|
| „Antworte Frau Petra S., Kundennr. 4711, Gartenweg 3, die sich über die verspätete Lieferung beschwert; sie liegt gerade im Krankenhaus." | „Formuliere eine höfliche Antwort an eine Kundin, deren Lieferung eine Woche zu spät kommt. Biete eine Gutschrift von 10 % an." |
Firmennamen und Geschäftsgeheimnisse
Der Name einer GmbH oder AG ist kein personenbezogenes Datum. Anders bei Einzelunternehmen, deren Firma den Inhabernamen trägt („Hans Meier e. K."): Das ist ein Personenbezug. Und auch ohne Personenbezug gilt Vertraulichkeit: Preise, Kalkulationen, Konstruktionsdaten, Vertragsinhalte, Kundenlisten sind oft Geschäftsgeheimnisse (§ 2 GeschGehG) oder durch Geheimhaltungsvereinbarungen geschützt. Sie gehören nur in freigegebene Werkzeuge.
Die Platzhalter-Methode
Lassen Sie die KI die Struktur bauen und tragen Sie die echten Daten selbst ein: eine Lieferanten- oder Kundenbewertung mit „Lieferant 1–8", ein Serienbrief mit „[Name]", eine Angebotsvorlage mit „[Preis]".
Zum Merken
Erst fragen: Welches Werkzeug ist freigegeben? Dann fragen: Braucht die KI diese Angabe wirklich? Was sie nicht braucht, bekommt sie nicht.
Urheberrecht bei KI-Ergebnissen
Drei Grundsätze
1. Ein reines KI-Ergebnis ist in der Regel nicht geschützt. Das Urheberrecht schützt „persönliche geistige Schöpfungen" (§ 2 Abs. 2 UrhG); Urheber ist der Mensch, der das Werk schafft (§ 7 UrhG). Eine Maschine ist kein Urheber. Ein Text oder Bild, das die KI auf eine kurze Anweisung hin erzeugt, kann deshalb meist auch von anderen frei verwendet werden.
2. KI kann fremde Rechte verletzen. Modelle wurden mit großen Mengen fremder Texte und Bilder trainiert. Ein Ergebnis kann einem geschützten Werk, einem Logo oder einer Marke zu nahe kommen. Wer es veröffentlicht, haftet (§ 97 UrhG, § 14 MarkenG) — nicht der KI-Anbieter.
3. Menschliche Gestaltung kann Schutz begründen. Wenn Sie ein KI-Ergebnis schöpferisch prägen — eigene Gedanken, eigene Struktur, eigene Formulierungen —, kann ein geschütztes Werk entstehen. Je mehr eigener Anteil, desto eher.
Die Praxis: Entwurf — Überarbeitung — Prüfung
| Schritt | Was Sie tun |
|---|---|
| Entwurf | KI-Ergebnis ist ein Rohentwurf, nie das fertige Produkt |
| Überarbeitung | fachlich ergänzen, an Ihren Betrieb anpassen, eigene Formulierungen |
| Prüfung vor Veröffentlichung | bei Website, Werbung, Social Media, Katalog: Ähnlichkeit zu fremden Werken, Marken, Logos prüfen; Nutzungsbedingungen des Anbieters zur gewerblichen Nutzung beachten |
Beispiel: Die KI liefert einen Produkttext: „Unser Bohrer überzeugt durch Qualität." Übernommen wird daraus: „Der Bohrer XB-12 aus unserer Fertigung in Fürth hält 2.000 Bohrungen in Edelstahl — geprüft in unserem Labor." Das gleiche Vorgehen gilt für ein Angebot, eine Arbeitsanweisung oder ein QM-Dokument.
Zum Merken
Kennzeichnen als „Zitat" löst kein Urheberrechtsproblem. Überarbeiten und prüfen schon.
Gute Anweisungen — so arbeiten Sie wirksam mit KI
Die Qualität des Ergebnisses hängt an der Qualität der Anweisung (des „Prompts").
Die fünf Elemente eines guten Prompts
| Element | Frage | Beispiel |
|---|---|---|
| Rolle | Wer soll die KI sein? | „Du bist eine erfahrene Kundenberaterin im Großhandel." |
| Aufgabe | Was soll entstehen? | „Formuliere eine Antwort auf eine Reklamation." |
| Kontext | Für wen, in welchem Rahmen? | „Die Lieferung kam eine Woche zu spät; Stammkunde seit zehn Jahren." |
| Format | Wie soll es aussehen? | „Höchstens 120 Wörter, mit Betreffzeile." |
| Stil | Welcher Ton? | „Freundlich, sachlich, Sie-Form, ohne Floskeln." |
Schwach: „Schreib mir ein Angebot." — Stark: „Du bist Vertriebsleiter eines Malerbetriebs. Erstelle die Gliederung eines Angebots für den Anstrich eines Treppenhauses in einem Mehrfamilienhaus mit vier Etagen: Leistungen, Material, Termine, Zahlungsbedingungen. Preise lasse ich als [Platzhalter]. Sachlicher Ton."
Weitere Techniken
- Schrittweise nachschärfen: Erstes Ergebnis lesen, gezielt nachfragen („kürzer", „förmlicher", „ergänze die Gewährleistung"), wiederholen.
- Beispiele vorgeben: Zeigen Sie ein gutes Muster („So sehen unsere Protokolle aus: …") und lassen Sie weitere im selben Stil erzeugen.
- Längere Dokumente in Etappen: erst die Gliederung, dann Abschnitt für Abschnitt, dann Ihren Betriebskontext ergänzen, dann gegen die Vorgaben (Vertrag, Norm, Kundenwunsch) prüfen.
- Übersetzen: Fachbegriffe und Zahlen gezielt kontrollieren; bei Verträgen und Sicherheitshinweisen fachlich gegenlesen lassen.
- Recherche: Quellen nennen lassen und selbst öffnen — eine genannte Quelle ist noch keine geprüfte Quelle.
Werkzeugwahl
Nutzen Sie nur die im Betrieb freigegebenen Werkzeuge und Konten — auch wenn ein anderes Werkzeug für eine Aufgabe besser scheint. Wer ein neues Werkzeug braucht, beantragt es.
Zum Merken
Spezifisch sein, Kontext geben, schrittweise arbeiten, immer prüfen. Und: Mehr vertrauliche Daten machen einen Prompt nicht besser — mehr Klarheit schon.
Halluzinationen erkennen — und warum immer ein Mensch freigibt
Halluzination heißt: Die KI erfindet plausibel klingende, aber falsche Angaben — ohne es zu merken und ohne es anzuzeigen. Sie „lügt" nicht absichtlich; sie erzeugt wahrscheinlich klingenden Text.
Typische Beispiele
- Erfundene Normen und Kapitel: Auf die Frage nach der Norm für Cybersicherheit nennt die KI „ISO 27018". Tatsächlich regelt ISO/IEC 27018 den Schutz personenbezogener Daten in öffentlichen Clouds; ISO/IEC 27001 betrifft Informationssicherheits-Managementsysteme.
- Erfundene Gesetze: „Das deutsche KI-Gesetz (DEAIG) vom 01.01.2024" — gibt es nicht. Tatsächlich gilt die EU-KI-Verordnung unmittelbar, ergänzt durch ein deutsches Durchführungsgesetz von 2026.
- Echte Paragrafen mit falschem Inhalt, erfundene Urteile, erfundene Quellen und Links, falsche Zahlen und Statistiken.
- Veralteter Stand: Modelle kennen nur Wissen bis zu einem Stichtag.
Warnsignale
Auffällig genaue Zahlen („genau 47,3 % der Unternehmen …"), exakte Daten und Fundstellen, die Sie nicht prüfen können, ungewöhnliche Bezeichnungen, Antworten, die zu glatt klingen.
Mensch in der Schleife
KI erstellt → Mensch prüft → Mensch gibt frei → Ergebnis geht hinaus.
Nie: KI erstellt → direkt an Kunden, Behörde oder Öffentlichkeit.
Prüfliste für jedes KI-Ergebnis
| Nr. | Prüfpunkt |
|---|---|
| 1 | fachlich richtig? |
| 2 | vollständig? |
| 3 | aktuell? |
| 4 | Quellen, Normen, Paragrafen nachgeprüft? |
| 5 | Datenschutz: keine überflüssigen Personendaten? |
| 6 | Vertraulichkeit: nichts preisgegeben, was nicht hinaus darf? |
| 7 | Rechte Dritter / Urheberrecht bei Veröffentlichung geprüft? |
| 8 | an den Betrieb angepasst? |
| 9 | Ton und Form passend? |
| 10 | Vorgaben erfüllt (Vertrag, Norm, Gesetz, Kundenwunsch)? |
Zum Merken
Die Verantwortung liegt immer beim Menschen, der ein Ergebnis verwendet und freigibt. KI ist ein Werkzeug, kein Ersatz für Ihr Urteil.
Praxisfall: Die Reklamation im privaten KI-Konto
Die Lage: Montag, 9:10 Uhr. Herr T. aus dem Vertrieb erhält eine verärgerte E-Mail einer Kundin: Ihre Bestellung kam zwei Wochen zu spät, ein Teil ist beschädigt. Sie nennt Namen, Anschrift, Bestellnummer und schreibt, sie habe die Ware dringend gebraucht, weil sie nach einer Operation im Krankenhaus liege. Herr T. kopiert die komplette E-Mail in sein privates, kostenloses KI-Konto und bittet um eine Antwort. Die KI schreibt unter anderem: „Nach § 477 BGB steht Ihnen ein Preisnachlass von 20 % zu."
Der Entscheidungspfad
1. Welches Werkzeug? Nur das im Betrieb freigegebene. Ein Privatkonto hat keinen Vertrag zur Auftragsverarbeitung (Art. 28 DSGVO); Eingaben können zum Training verwendet werden.
2. Was gehört hinein? Nur der Sachverhalt: „Kundin, Lieferung zwei Wochen verspätet, ein Teil beschädigt, Stammkundin." Kein Name, keine Anschrift, keine Bestellnummer — und auf keinen Fall die Angabe zum Krankenhausaufenthalt: Das ist ein Gesundheitsdatum (Art. 9 DSGVO).
3. Ist die Antwort richtig? Nein. § 477 BGB regelt die Beweislastumkehr beim Verbrauchsgüterkauf, keinen Preisnachlass von 20 %. Ein echter Paragraf mit falschem Inhalt — eine typische Halluzination.
4. Wer entscheidet über Zusagen? Rabatt, Ersatzlieferung oder Gutschrift binden den Betrieb. Die Zusage macht ein Mensch im Rahmen seiner Befugnis, nicht die KI. Den Namen setzt Herr T. erst in seinem E-Mail-Programm ein.
5. Kennzeichnen? Eine geprüfte, individuelle Antwort-E-Mail fällt nicht unter die Kennzeichnungspflicht des Art. 50 KI-VO.
6. Und wenn es schon passiert ist? Herr T. hat die Daten bereits ins Privatkonto kopiert. Dann gilt: sofort dem Ansprechpartner für KI oder dem Datenschutzbeauftragten melden. Ob eine meldepflichtige Datenpanne vorliegt (Art. 4 Nr. 12, Art. 33 DSGVO — 72 Stunden ab Bekanntwerden), entscheidet der Verantwortliche. Nicht still den Chatverlauf löschen und hoffen.
Was den Fall entschieden hat
Nicht die KI — die hat getan, was sie kann. Entschieden haben drei menschliche Fragen: Welches Werkzeug? Welche Daten? Stimmt das? Und als es schiefging: melden statt verschweigen.
Verfahren im eigenen Haus
Dieses Modul füllt Ihr Betrieb aus. Der allgemeine Teil dieser Schulung endet hier — was jetzt folgt, kennt nur Ihr Unternehmen.
Diese Angaben gehören hinein:
| Punkt | Was einzutragen ist |
|---|---|
| Freigegebene KI-Werkzeuge | Welche Werkzeuge und welche Konten (Firmenkonto, Lizenz) sind erlaubt — für welche Aufgaben? |
| Nicht erlaubt | private und kostenlose Konten, bestimmte Anbieter, Browser-Erweiterungen, KI-Funktionen in Fremdsoftware? |
| KI-Richtlinie | Wo steht sie, welcher Stand, wer hat sie freigegeben? |
| Ansprechpartner für KI | Name, Funktion, Durchwahl, E-Mail — dazu IT und Datenschutzbeauftragter |
| Welche Daten in welches Werkzeug | z. B. öffentliche Informationen überall; interne Texte nur im Firmenkonto; Personendaten, Preise und Konstruktionsdaten nur nach Freigabe; Gesundheitsdaten nie |
| Freigabe von Ergebnissen | Wer prüft KI-gestützte Kundenschreiben, Angebote, Verträge, Veröffentlichungen? |
| Kennzeichnung | Hausregel für KI-Bilder, Chatbots, Präsentationen, Website |
| Neue Einsatzzwecke | Wo werden sie angemeldet und geprüft — vor allem bei Entscheidungen über Menschen (Personal, Leistung, Kredit)? |
| Meldeweg bei Fehleingaben | An wen melden Sie, wenn vertrauliche oder personenbezogene Daten in ein falsches Werkzeug geraten sind — wie schnell, auch am Wochenende? |
| Besonderheit Ihres Betriebs | z. B. Betriebsvereinbarung zu KI, Kundenvorgaben, Geheimhaltungsvereinbarungen, Branchenregeln |
Für die Führung
Die meisten Fehler mit KI entstehen nicht aus Absicht, sondern weil niemand gesagt hat, welches Werkzeug erlaubt ist und wohin man sich wendet. Eine kurze Liste der freigegebenen Werkzeuge und ein Name als Ansprechpartner verhindern mehr als jede lange Richtlinie. Bei der Einführung von KI-Werkzeugen, die Verhalten oder Leistung von Beschäftigten erfassen können, hat der Betriebsrat mitzubestimmen (§ 87 Abs. 1 Nr. 6 BetrVG).
Nachweisführung
Zum Schluss das, was diese Schulung zu einem Nachweis macht.
Was Art. 4 verlangt — und was nicht: Die Verordnung schreibt keine bestimmte Form vor, kein behördliches Zertifikat und keine Prüfung bei einer Kammer. Sie verlangt Maßnahmen. Ob es sie gab, muss der Betrieb aber im Zweifel zeigen können — gegenüber der Marktüberwachungsbehörde, nach einem Schaden gegenüber Gerichten und Versicherern, im Audit gegenüber dem Zertifizierer (etwa nach ISO 9001 Abschnitt 7.2 „Kompetenz"). Deshalb gilt: dokumentieren.
Teilnehmerkreis: alle, die im Auftrag des Betriebs mit KI-Werkzeugen arbeiten — einschließlich Führungskräften, Auszubildenden, Aushilfen und freien Mitarbeitenden; bei Dienstleistern regelt das der Vertrag.
Auffrischung: KI-Werkzeuge und Rechtslage ändern sich schnell — allein 2026 wurden Fristen und Art. 4 selbst geändert. Wir empfehlen eine jährliche Auffrischung, außerdem bei neuen Werkzeugen, neuen Einsatzzwecken, nach einem Vorfall und bei Rechtsänderungen.
Dokumentation: Ihr Teilnahmezertifikat trägt Namen, Kurs, Datum, Ergebnis, die vollständige Themenliste und eine Zertifikatsnummer, die über die Prüfseite der Akademie verifizierbar ist. Bewahren Sie es auf und geben Sie eine Kopie an die Stelle, die im Betrieb die Schulungsnachweise führt.
Was zusätzlich zu dokumentieren ist: der betriebsspezifische Teil aus dem Modul „Verfahren im eigenen Haus" — mit Datum und Unterschrift. Erst beides zusammen ergibt einen belastbaren Nachweis.
Zum Merken
Kein Gesetz verlangt ein bestimmtes Papier — aber jeder, der nach einem Fehler fragt, will eines sehen.
Abschlusstest
38 Fragen, je eine richtige Antwort. Zum Bestehen brauchen Sie 31 richtige (80 %). Die Auswertung erfolgt auf dem Server — hier auf der Seite steht keine Lösung.
Ihr Ergebnis
Zertifikat auf LinkedIn
Wie hilfreich war dieser Kurs?
Kolleginnen und Kollegen auch unterweisen?
Schicken Sie den Kurslink weiter – kostenlos, ohne Anmeldung. Mit Firmencode landen alle Nachweise im selben Firmenkonto.
Wie es weitergeht
Betriebsspezifischer Zusatzteil: Muster für Modul 15 „Verfahren im eigenen Haus" — freigegebene Werkzeuge, KI-Richtlinie, Ansprechpartner — als Festpreis-Anpassung für Ihren Betrieb.
KI im Managementsystem: KI-Richtlinie, Kompetenznachweis nach ISO 9001 Abschnitt 7.2 und Einordnung neuer KI-Einsatzzwecke — wir richten es mit Ihnen ein.
Weitere kostenlose Unterweisungen finden Sie in der Online Akademie. Fragen zur Umsetzung im eigenen Betrieb beantworten wir über das Kontaktformular.
Fachliche Rückfragen zu dieser Unterweisung: Holger.grosser@iso9001.info · Telefon 0911-49522541. Eine Online-Unterweisung erfüllt die Unterweisungspflicht nur, wenn Rückfragen an eine unterweisende Person möglich sind.