KI-Regeln

KI-Werkzeuge im Arbeitsalltag: Was Datenschutz und KI-Verordnung wirklich verlangen

Die Frage nach dem erlaubten Werkzeug führt in die Irre. Entscheidend ist, welche Daten hineingehen, auf welcher Vertragsgrundlage das geschieht und was mit dem Ergebnis passiert.

Lesedauer: 7 Min.

Hendrik SchmidtpottBrand InteractiveBusiness Development · BIOMARIS

Das Wichtigste in Kürze

  • Kein KI-Werkzeug ist von sich aus datenschutzkonform oder verboten. Es kommt auf die Nutzung an: Daten, Vertrag, Ergebnis.
  • Texte ohne Personenbezug sind unkritisch. Kundendaten gehören nur in ein freigegebenes Werkzeug, bei dem Rechtsgrundlage, Vertrag und Datenverarbeitung geprüft sind. Entscheidungen über Menschen trifft keine KI allein.
  • Datenschutz-Grundverordnung und KI-Verordnung gelten nebeneinander. Die eine schützt Daten, die andere regelt Systeme und ihren Einsatz.
  • Verschoben wurden 2026 nur die Pflichten für Hochrisiko-Systeme. Die Transparenzpflichten gelten seit dem 2. August 2026, die Pflicht zur KI-Kompetenz seit Februar 2025.
  • Ein Verbot löst das Problem nicht. Es verlagert die Nutzung in private Konten. Besser sind ein freigegebenes Werkzeug und eine Regel auf einer Seite.
Inhalt

In den meisten Unternehmen kam die KI nicht über die IT. Sie kam über einzelne Menschen. Jemand hat einen Produkttext umformulieren lassen. Jemand anderes hat eine Kundenbeschwerde hineinkopiert, um eine freundliche Antwort zu bekommen. Das spart Zeit und fällt niemandem auf.

Irgendwann stellt jemand die Frage: Dürfen wir das eigentlich? Dann beginnt meist die Suche nach dem erlaubten Werkzeug. Diese Suche führt selten zu einer klaren Antwort, weil die Frage falsch gestellt ist.

Die falsche Frage: Welches Werkzeug ist erlaubt?

Kein KI-Werkzeug ist von sich aus datenschutzkonform. Und keines ist von sich aus verboten. Rechtmäßig oder unzulässig ist immer eine bestimmte Nutzung.

Dasselbe Werkzeug kann beides sein. Wer damit zehn Überschriften für eine Kategorieseite entwirft, verarbeitet keine personenbezogenen Daten. Wer in dasselbe Fenster eine Reklamation mit Namen, Adresse und Bestellnummer kopiert, tut etwas völlig anderes.

Die Datenschutzkonferenz, also der Zusammenschluss der deutschen Aufsichtsbehörden, hat dazu im Mai 2024 eine Orientierungshilfe veröffentlicht. Sie nennt keine Liste erlaubter Produkte. Sie nennt Kriterien für Auswahl und Einsatz. Das ist der richtige Blick.

Drei Fragen klären fast jeden Fall

Statt über Produktnamen zu diskutieren, helfen drei Fragen. Sie passen auf jedes Werkzeug und jede Abteilung.

Was geht hinein? Die wichtigste Frage zuerst. Texte, Ideen, Übersetzungen und Programmcode ohne Bezug zu einer Person sind datenschutzrechtlich unkritisch. Sobald Namen, Adressen, Bestellungen oder Bewerbungen im Spiel sind, gilt die Datenschutz-Grundverordnung in vollem Umfang. Geschäftsgeheimnisse sind ein eigenes Thema: Sie sind nicht durch den Datenschutz geschützt, aber ebenso schnell preisgegeben.

Auf welcher Grundlage? Verarbeitet ein Anbieter personenbezogene Daten im Auftrag, braucht es einen Auftragsverarbeitungsvertrag nach Artikel 28. Den gibt es in der Regel nur in Geschäftstarifen, nicht in kostenlosen oder privaten Konten. Der Tarif allein genügt nicht: Auch die Rechtsgrundlage für die Verarbeitung muss stimmen. Zu klären ist außerdem, ob der Anbieter Eingaben zum Training seiner Modelle nutzt und wo die Daten verarbeitet werden. Für die USA gibt es seit 2023 einen Angemessenheitsbeschluss der EU-Kommission. Das Gericht der Europäischen Union hat eine Klage dagegen im September 2025 abgewiesen. Ein Rechtsmittel ist beim Europäischen Gerichtshof anhängig. Die Grundlage trägt also, steht aber unter Beobachtung.

Was passiert mit dem Ergebnis? Eine KI liefert einen Entwurf, keine Entscheidung. Texte können falsch sein, Auswertungen können Fehler enthalten. Wer das Ergebnis ungeprüft verwendet, haftet trotzdem dafür. Besonders heikel wird es, wenn das Ergebnis über Menschen entscheidet: über eine Bewerbung, einen Kredit, eine Kündigung. Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung dürfen nach Artikel 22 grundsätzlich nicht ausschließlich automatisiert fallen. Die Vorschrift kennt Ausnahmen, verlangt dann aber Schutzvorkehrungen wie das Eingreifen eines Menschen.

Drei Stufen für den Alltag

Unkritisch
  • Produkttexte, Überschriften, Übersetzungen
  • Ideen für Kampagnen und Betreffzeilen
  • Programmcode ohne echte Kundendaten
Nur mit Vertrag und Regel
  • Antwort auf eine Kundenanfrage
  • Auswertung von Bestell- oder Servicedaten
  • Zusammenfassung interner Protokolle
Nicht ohne Prüfung im Einzelfall
  • Bewertung von Bewerbungen
  • Gesundheits- und Finanzangaben
  • Entscheidungen über einzelne Menschen
Vereinfachte Einordnung für den Arbeitsalltag. Sie ersetzt keine Prüfung des einzelnen Falls.

Für die mittlere Stufe gilt eine einfache Regel: so wenig Personenbezug wie möglich. Eine Reklamation lässt sich auch ohne Namen und Bestellnummer beantworten. Eine Auswertung funktioniert auch mit Kundennummern statt Klarnamen. Das verringert den Personenbezug, hebt ihn aber nicht auf: Solange sich eine Nummer einer Person zuordnen lässt, bleiben die Daten personenbezogen.

Zwei Gesetze, zwei Blickwinkel

Viele Diskussionen vermischen zwei Regelwerke. Sie gelten nebeneinander und fragen Verschiedenes.

Die Datenschutz-Grundverordnung schützt personenbezogene Daten. Ihr ist gleich, ob eine KI, eine Tabelle oder ein Mensch die Daten verarbeitet. Die KI-Verordnung regelt dagegen KI-Systeme und ihren Einsatz. Sie gilt auch dann, wenn gar keine personenbezogenen Daten im Spiel sind.

Die KI-Verordnung ist seit August 2024 in Kraft und wird schrittweise wirksam. Im Sommer 2026 hat die EU den Zeitplan geändert. Seitdem hält sich die Meinung, die Verordnung sei verschoben. Das stimmt nur für einen Teil.

02.02.2025Verbotene Praktiken und die Pflicht, für KI-Kompetenz der Beschäftigten zu sorgengilt
02.08.2026Transparenzpflichten nach Artikel 50, etwa für Chatbots und künstlich erzeugte Bildergilt, nicht verschoben
02.12.2027Pflichten für eigenständige Hochrisiko-Systeme, etwa im Personalbereichverschoben, vorher August 2026

Verschoben wurden nur die Pflichten für Hochrisiko-Systeme. Was fast jedes Unternehmen betrifft, gilt bereits: die Transparenz und die KI-Kompetenz.

Was das für einen Online-Shop heißt

Aus der Sicht eines Shops lassen sich die Pflichten an vier Stellen festmachen.

  • Chatbot im Shop. Wer mit einer KI spricht, muss das erkennen können. Diese Pflicht richtet sich an den Anbieter des Systems. Der Shop sollte trotzdem prüfen, ob der Hinweis sichtbar ist, denn die Kundschaft sieht den Shop und nicht den Anbieter.
  • Texte und Bilder. Die Verordnung trennt zwei Pflichten. Anbieter von KI-Systemen müssen erzeugte Inhalte technisch als künstlich markieren. Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, läuft dafür eine Übergangsfrist bis zum 2. Dezember 2026. Wer die Inhalte einsetzt, muss offenlegen, wenn Bilder, Ton oder Video echte Personen oder Ereignisse täuschend echt zeigen. Produkttexte aus der KI muss ein Shop nicht kennzeichnen. Für Texte, die über Themen von öffentlichem Interesse informieren, gilt eine Offenlegungspflicht, sofern kein Mensch sie prüft und verantwortet.
  • KI-Kompetenz. Unternehmen müssen dafür sorgen, dass Beschäftigte wissen, was sie tun. Ein Zertifikat ist nicht vorgeschrieben. Eine kurze Schulung mit den eigenen Beispielen und ein Nachweis darüber genügen als Anfang.
  • Betriebsrat. Wo es einen Betriebsrat gibt, bestimmt er mit, wenn eine technische Einrichtung Verhalten oder Leistung der Beschäftigten überwachen kann. Das trifft auf viele KI-Werkzeuge zu, auch wenn die Überwachung nicht der Zweck ist.

Wie KI im Tagesgeschäft eines Shops sinnvoll eingesetzt wird, beschreibt der Beitrag KI im Shop-Alltag.

Der pragmatische Weg: freigeben statt verbieten

Ein Verbot wirkt wie die sichere Lösung. In der Praxis verlagert es die Nutzung in private Konten und auf private Geräte. Dort gibt es keinen Vertrag, keine Regel und keine Kontrolle. Das Risiko steigt, statt zu sinken. Dieser Zwiespalt zwischen zu streng und zu großzügig zieht sich durch den gesamten Datenschutz, wie der Beitrag Datenschutz zwischen Auslegung und Alltag zeigt.

Besser ist ein kurzer, begehbarer Weg in fünf Schritten.

In fünf Schritten zu einer klaren Regel

ErfassenWer nutzt was wofür? Ohne Vorwurf fragen.
FreigebenEin Werkzeug im Geschäftstarif, mit Vertrag.
RegelnEine Seite: Was darf hinein, was nicht?
SchulenEine Stunde mit eigenen Beispielen.
FesthaltenEinsatz, Vertrag und Schulung dokumentieren.

Der erste Schritt ist der wichtigste. Wer ohne Vorwurf fragt, erfährt, wo KI bereits hilft. Daraus ergibt sich fast von selbst, welches Werkzeug freigegeben werden sollte und welche Regel nötig ist.

Die Regel selbst braucht keine zwanzig Seiten. Sie beantwortet drei Dinge: welches Werkzeug freigegeben ist, welche Daten nicht hineindürfen und wer das Ergebnis prüft. Bei riskanten Vorhaben, etwa im Personalbereich oder mit Gesundheitsdaten, kommt eine Datenschutz-Folgenabschätzung hinzu. Spätestens dann gehört fachkundiger Rat an den Tisch.

Fazit

Der Einsatz von KI im Unternehmen ist keine Frage der Marke. Er ist eine Frage der Sorgfalt. Wer weiß, welche Daten wohin gehen, einen Vertrag hat und Ergebnisse prüft, bewegt sich auf festem Boden.

Die Regeln sind weniger kompliziert, als die Debatte vermuten lässt. Schwieriger ist es, sie in den Alltag zu bringen. Dafür braucht es keine Verbote, sondern ein freigegebenes Werkzeug, eine verständliche Regel und Menschen, die wissen, warum es sie gibt.

Häufige Fragen

Reicht ein Geschäftstarif, um auf der sicheren Seite zu sein?

Nein. Er ist die Voraussetzung, nicht die Lösung. Der Vertrag regelt, was der Anbieter mit den Daten tun darf. Ob eine Eingabe überhaupt zulässig ist und wer das Ergebnis prüft, entscheidet weiterhin das Unternehmen selbst.

Dürfen Kundendaten in ein KI-Werkzeug eingegeben werden?

Nur, wenn es dafür eine Rechtsgrundlage gibt und die Vertragslage mit dem Anbieter geklärt ist. Arbeitet der Anbieter im Auftrag, gehört dazu ein Auftragsverarbeitungsvertrag. Besser ist es, Namen und Bestellnummern vorher zu entfernen. Für die meisten Aufgaben sind sie nicht nötig.

Müssen KI-Texte im Shop gekennzeichnet werden?

Für Produkttexte gibt es keine Kennzeichnungspflicht. Offenzulegen sind täuschend echte Bilder, Ton- und Videoaufnahmen sowie bestimmte Texte zu Themen von öffentlichem Interesse, wenn kein Mensch sie prüft und verantwortet.

Wurde die KI-Verordnung verschoben?

Nur zum Teil. Die Pflichten für Hochrisiko-Systeme gelten später: für eigenständige Systeme ab dem 2. Dezember 2027, für Systeme in regulierten Produkten ab dem 2. August 2028. Die Transparenzpflichten gelten seit dem 2. August 2026.

Wann ist eine Datenschutz-Folgenabschätzung nötig?

Wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die betroffenen Personen bedeutet. Das ist etwa bei der Bewertung von Bewerbungen oder bei Gesundheitsdaten naheliegend. Für das Umformulieren von Produkttexten ist sie nicht erforderlich.

Ersetzt dieser Beitrag eine Rechtsberatung?

Nein. Er ordnet die Regeln aus der Sicht des Tagesgeschäfts ein. Den einzelnen Fall klären die Datenschutzbeauftragten oder eine Rechtsberatung.

Quellen

KI im E-Commerce?

Lust auf Austausch dazu, wo KI im Alltag wirklich hilft?

VorlagenIns Gespräch kommen