Ist ChatGPT DSGVO-konform? Falsch gefragt.

Und dann habe ich gemerkt: Das ist die falsche Frage. Sie führt dich in die Irre, weil sie eine simple Ja-Nein-Antwort verspricht, die es nicht gibt.

Wir sind eine kleine Agentur. Melanie Thurm e.K., eine Handvoll Leute in Erfurt. Kein Legal-Team, keine IT-Abteilung, kein Budget für ein Compliance-Framework von der Stange. Trotzdem — oder gerade deshalb — haben wir uns eine eigene KI-Richtlinie geschrieben. Und der wichtigste Satz darin dreht die Frage von oben komplett um.

Nicht gratis oder bezahlt — sondern: welche Daten gehen rein?

Der erste Reflex bei „welche KI darf ich nutzen?" ist fast immer: kostenlos oder kostenpflichtig? Falsche Achse. Bei uns entscheidet nicht der Preis, sondern eine einzige Frage: Welche Daten tippst du in den Prompt?

Daraus sind zwei Stufen geworden.

Stufe A ist unser dienstlicher Zugang — bei uns Claude Team. Alles, was auch nur ansatzweise Kunden-, Personen- oder vertrauliche Daten berührt, läuft da durch. Grund: Dahinter steht ein Auftragsverarbeitungsvertrag, und unsere Eingaben werden nicht zum Training der Modelle verwendet.

Stufe B ist die frei zugängliche KI — die kostenlose Chatbot-Version, die KI-Zusammenfassung in der Suche, das Übersetzungstool im Browser. Erlaubt, aber nur für generische, öffentliche Fragen. Ganz ohne Bezug zu einem Kunden oder Projekt.

Die Faustregel, an der wir das festmachen, ist banal und funktioniert trotzdem: Würdest du die Frage auch einer fremden Person am Nebentisch im Café stellen? „Welche Tagungshotels gibt es in Leipzig?" — klar. „Eine Location nahe dem Firmensitz von Kunde X" — nein, denn das verrät schon die Kundenbeziehung. Im Zweifel: Stufe A.

Darf ich Kundendaten in eine KI eingeben?

Kurz: ja. Aber nur, wenn die Grundlage stimmt — und da wird es einen Moment technisch, ich halte es so einfach wie möglich.

Sobald ein Name in Claude landet, ist der Anbieter unser Auftragsverarbeiter. Dafür gibt es den Vertrag, den ich oben erwähnt habe. Das ist die Dauergrundlage, kein Sonderfall.

Es gibt aber einen zweiten Fall, den viele übersehen. Wenn wir Daten im Auftrag eines Kunden verarbeiten — die klassische Teilnehmerliste — dann sind wir selbst der Auftragsverarbeiter, und der Kunde ist der Verantwortliche. Läuft diese Liste durch eine KI, wird der KI-Anbieter zum Unterauftragsverarbeiter. Das ist nur erlaubt, wenn der Vertrag mit dem Kunden das hergibt. Vorher: prüfen.

Und dann ist da noch eine Sache, die auf den ersten Blick harmlos aussieht. In einer Teilnehmerliste steht oft eine Spalte „Essenswünsche/Allergien". Das sind Gesundheitsdaten. Besondere Kategorie nach Art. 9 DSGVO. Die fliegt bei uns raus oder wird gesondert bewertet, bevor die Liste durch eine KI geht. Eine unscheinbare Spalte, die die ganze Bewertung kippt.

Deshalb ist auch „welche KI ist DSGVO-konform?" nicht die richtige Frage. Kein Tool ist von sich aus konform. Konform wird die Nutzung — durch die Grundlage und die Regel, welche Daten reingehen.

Was der AI Act von einem kleinen Unternehmen wirklich verlangt

Der EU AI Act klingt nach etwas, das nur Konzerne betrifft. Zwei Dinge treffen aber auch uns.

Erstens: KI-Kompetenz. Seit Februar 2025 verlangt Artikel 4, dass Mitarbeitende, die KI beruflich einsetzen, verstehen, was sie da tun — Chancen und Grenzen, Fehleranfälligkeit, Umgang mit Daten. Eine Einweisung, keine Zertifizierung. Genau dafür gibt es bei uns die Richtlinie und eine Schulung.

Zweitens: Kennzeichnung. Seit dem 2. August 2026 müssen sogenannte Deepfakes offengelegt werden — KI-erzeugte Bilder oder Videos, die für echt gehalten werden könnten. Wir umgehen das meist von vornherein: Unsere generierten Bilder sind erkennbare Stimmungsbilder, keine Personen, keine realen Orte, die man für ein Foto hält.

Und hier kommt der Teil, den kein Framework-Verkäufer gern sagt: Nicht jede denkbare Pflicht aus dem AI Act trifft dich. Die Hochrisiko-Vorgaben zum Beispiel — Personalauswahl, Kreditentscheidungen — haben mit dem, was eine Eventagentur tut, nichts zu tun. Der äußere Rahmen gilt. Aber er greift nur da, wo dein konkretes Handeln ihn wirklich berührt. Vieles andere ist Angst, die dir jemand verkaufen will.

Code, den keiner von uns lesen kann

Ich will das nicht schöner machen, als es ist. Wir bauen mit Claude auch kleine technische Lösungen — ein Online-Quiz, eine Feedbackseite, unsere Blog-Website. Und wir haben im Team niemanden, der Code fachkundig lesen und auf Sicherheitslücken prüfen kann. Niemanden.

Das könnten wir verschweigen. Machen wir nicht. Stattdessen haben wir die fehlende Prüfung durch eine Regel ersetzt: Sobald eine Seite kundengerichtet ist oder personenbezogene Daten erhebt, geht sie nicht live, bevor entweder ein externer Entwickler drübergeschaut hat oder wir stattdessen eine etablierte, DSGVO-orientierte Plattform mit eigenem Vertrag nehmen. Lieber eine Grenze offen benennen und absichern, als eine Fähigkeit vortäuschen, die wir nicht haben.

Der eigentliche Punkt

Eine KI-Richtlinie ist kein Maulkorb. Bei uns steht am Anfang nicht, was verboten ist, sondern was möglich ist — und unter welcher Bedingung. Empowerment statt Verbotsliste. Wer nur Verbote aufschreibt, sorgt dafür, dass keiner das Werkzeug anfasst. Oder dass alle es heimlich tun. Beides ist schlechter als eine klare Regel.

Wenn du gerade selbst überlegst, wie deine kleine Firma oder Agentur KI sauber einsetzt: Fang nicht bei der Frage an, ob ein Tool erlaubt ist. Fang bei der Frage an, welche Daten reingehen. Der Rest ergibt sich.

Und wenn du dabei einen Sparringspartner brauchst — meld dich.