„Das dürfen wir doch bestimmt gar nicht.” Dieser Satz beendet mehr KI-Projekte als jede technische Hürde. Er ist selten falsch und selten richtig, weil er die Frage zu grob stellt. Zerlegt man sie, bleiben fünf Punkte übrig, die vor dem Start geklärt sein sollten. Alle fünf sind klärbar, meistens in einem Termin mit Ihrer IT und der Person, die bei Ihnen den Datenschutz verantwortet.
Vorab: Dieser Beitrag ist eine Einordnung aus der Projektpraxis und kein Rechtsrat. Was in Ihrem Fall gilt, prüft Ihre Datenschutzbeauftragte oder Ihr Anwalt.
Erstens: Welche Daten braucht die Lösung wirklich?
Die naheliegende Antwort lautet oft „alle, sicherheitshalber”. Das ist der teuerste Weg. Wir arbeiten nach dem Prinzip des minimalen Datenzugriffs: Für einen Assistenten, der Fragen zu Arbeitsanweisungen beantwortet, braucht es Arbeitsanweisungen und keinen Zugriff auf die Personalakte.
Praktisch heißt das: Schreiben Sie vor dem Projekt auf, welche Systeme angebunden werden, welche Felder daraus gelesen werden und ob personenbezogene Daten dabei sind. Diese Liste ist in jeder späteren Diskussion Gold wert, weil sie die Frage „was passiert eigentlich mit unseren Daten” von Gefühl auf Papier umstellt.
Zweitens: Wo läuft das Modell, und was passiert mit den Eingaben?
Hier liegt der eigentliche Unterschied zwischen dem privaten Umgang mit einem Chatbot und einem Unternehmensprojekt. Es gibt drei gängige Wege, und alle drei sind vertretbar, wenn man sie bewusst wählt:
- Anbieter-API mit Geschäftsbedingungen für Unternehmen. Die Anbieter der großen Modelle verarbeiten Eingaben aus ihren Geschäftskundenverträgen nicht zum Training. Das ist vertraglich zugesichert und der übliche Weg.
- Europäisches Hosting. Dieselben oder gleichwertige Modelle laufen in Rechenzentren innerhalb der EU. Etwas teurer, dafür entfällt die Diskussion über die Datenübermittlung in Drittländer.
- Modell im eigenen Haus. Offene Modelle auf eigener Hardware. Sinnvoll bei besonders sensiblen Daten, aber mit Betriebsaufwand, den man vorher einplanen muss.
Welcher Weg passt, hängt an der Datenklasse, nicht am Geschmack. Für Wartungsprotokolle einer Maschine gilt etwas anderes als für Bewerbungsunterlagen.
Drittens: Wer ist Auftragsverarbeiter, und liegt der Vertrag vor?
Jeder Dienst, der in Ihrem Auftrag personenbezogene Daten verarbeitet, braucht einen Vertrag zur Auftragsverarbeitung nach Artikel 28 DSGVO. Das betrifft den Modellanbieter, aber genauso das Hosting, ein Ticketsystem oder den Anbieter der Telefonie.
Legen Sie sich eine kurze Liste an: Dienst, Zweck, Vertrag vorhanden ja oder nein, Speicherort. Ihre Datenschutzbeauftragte braucht diese Liste ohnehin für das Verarbeitungsverzeichnis. Nebeneffekt: Sie sehen sofort, ob im geplanten Aufbau ein Dienst steckt, den niemand freigegeben hat.
Viertens: Was wird protokolliert, und wie lange?
KI-Systeme sind gesprächig. Sie protokollieren Eingaben, Antworten, Zwischenschritte und Fehler, und das ist im Betrieb auch nötig: Ohne Protokoll lässt sich nicht klären, warum eine Rechnung falsch zugeordnet wurde.
Die Frage ist deshalb nicht ob, sondern was und wie lange. Wir legen vor dem Start fest, welche Felder im Protokoll landen, ob Klartext oder nur eine Referenz gespeichert wird und nach welcher Frist gelöscht wird. Eine Protokollierung ohne Löschfrist ist der Fehler, den man am spätesten bemerkt, nämlich bei der ersten Auskunftsanfrage.
Fünftens: Wie kommen Löschung und Auskunft durch das System?
Wenn eine Person Auskunft verlangt oder Löschung, muss das funktionieren, ohne dass jemand von Hand durch Logdateien gräbt. Bei einem Assistenten, der Dokumente durchsuchbar macht, heißt das konkret: Wird ein Dokument gelöscht, muss es auch aus dem Suchindex verschwinden, nicht nur aus dem Ablageordner.
Das ist eine Anforderung an die Architektur und kostet am Anfang wenig, im Nachhinein viel. Deshalb steht sie bei uns im Konzept, bevor die erste Zeile Code entsteht.
Der Beifang: Diese Klärung beschleunigt das Projekt
Betriebe, die diese fünf Punkte vor dem Start beantworten, sind schneller produktiv als die, die sie umgehen. Der Grund ist einfach: Die Fragen kommen ohnehin, nur eben später, dann von der Geschäftsführung, dem Betriebsrat oder einem Kunden, und dann steht das Projekt still, bis sie beantwortet sind.
Wenn Sie mögen, gehen wir diese Punkte im Erstgespräch an Ihrem konkreten Fall durch. Erfahrungsgemäß reicht dafür eine halbe Stunde, und danach wissen Sie, ob der Weg frei ist.