KI im Unternehmen rechtssicher einführen

Wer KI im Unternehmen einführen möchte, sollte zuerst den konkreten Einsatz festlegen: Welche Aufgabe übernimmt das System, welche Daten erhält es und wer prüft das Ergebnis? Ein Zugang für Beschäftigte beantwortet diese Fragen noch nicht. Die rechtliche Freigabe und die technische Einrichtung müssen denselben Vorgang beschreiben.

Für einen Onlineshop kann das die Vorbereitung von Produktbeschreibungen sein. Bei einem SaaS-Anbieter geht es vielleicht um eine neue Assistenzfunktion, in einer Agentur um Bildentwürfe. Diese beispielhaften Anwendungen brauchen unterschiedliche Grenzen. Ein für interne Textideen freigegebenes Werkzeug eignet sich deshalb nicht automatisch für Bewerberbewertungen oder verbindliche Kundenantworten.

Im Onlinehandel sollte sich die KI-Einführung außerdem in die bestehende rechtliche Organisation des Shops einfügen. Übergreifende Fragen zu Softwarebeschaffung, Betrieb und Verträgen behandelt die Übersicht zum IT-Recht.

Dieser Ratgeber beantwortet drei Fragen:

• Was sollte vor dem ersten KI-Test mit betrieblichen Daten geklärt sein?
• Welche Regeln brauchen Beschäftigte, Anbieter und Verantwortliche im Unternehmen?
• Wie lassen sich Freigabe, laufende Kontrolle und Änderungen praktisch organisieren?

Was bedeutet eine rechtssichere KI-Einführung?

Eine rechtssichere KI-Einführung verbindet die Prüfung des Einsatzes mit verbindlichen Arbeitsregeln und wirksamen Kontrollen. Entscheidend ist, ob das Unternehmen die Nutzung in dem vorgesehenen Umfang verantworten kann. Ein Vertrag, eine Richtlinie oder eine Schulung allein genügt dafür als organisatorische Grundlage nicht.

Sinnvoll ist ein begrenzter Einstieg mit überschaubaren Auswirkungen. Die Freigabe kann zunächst nur für ausgewählte Personen, bestimmte Daten und vorbereitende Aufgaben gelten. So lässt sich erproben, ob fachliche Kontrolle und technische Schutzmaßnahmen im Alltag tatsächlich funktionieren.

Eine Anwendung ist noch kein erlaubter Einsatz

Freigegeben werden sollte ein bestimmter Einsatz, nicht pauschal eine Software. Derselbe Assistent kann öffentliche Informationen zusammenfassen, vertrauliche Verträge auswerten oder Kundennachrichten versenden. Mit jeder Erweiterung ändern sich die Fragen an Datenzugriff, Rechte und Ergebnisprüfung.

Ein Freigabevermerk sollte daher auch beschreiben, was außerhalb des erlaubten Einsatzes liegt. Für eine Textassistenz kann etwa gelten: keine Kundendaten, keine unveröffentlichten Vertragsinhalte und keine direkte Veröffentlichung. Eine solche Grenze ist für Beschäftigte verständlicher als die Aufforderung, KI lediglich verantwortungsvoll einzusetzen.

Auch bereits vorhandene Software verdient Aufmerksamkeit. Die Bestandsaufnahme sollte deshalb neue KI-Funktionen in Bürosoftware, Ticketsystemen und Entwicklungsumgebungen erfassen. Einkaufsunterlagen allein zeigen nicht, welche Funktionen tatsächlich eingeschaltet sind. Fachabteilungen und Administration sollten gemeinsam festhalten, was genutzt wird und welche Verbindungen zu anderen Systemen bestehen.

Welche Änderungen bei der Planung zählen

Für den Zeitplan zählt die geltende Rechtslage des konkreten Einsatzes. Die KI-Verordnung unterscheidet zwischen verbotenen Praktiken, besonderen Anforderungen und allgemeinen Pflichten. Ihre Anwendung wurde 2026 erneut geändert; ältere Einführungspläne sollten deshalb überprüft werden.

Das ist keine allgemeine Schonfrist für die Einführung von KI.

Datenschutz, Vertraulichkeit, Rechte Dritter und Beteiligungsfragen gehören bereits in die Vorbereitung. Die verschobenen Hochrisiko-Anforderungen sollten im Projektplan getrennt davon erscheinen. Für jede Anwendung ist gesondert festzuhalten, welche Anforderungen schon gelten und welche Vorbereitungen für spätere Pflichten benötigt werden.

Was muss vor dem ersten Test geklärt sein?

Vor dem ersten Test sollten Zweck, Datenumfang, Anbieterbedingungen und Verantwortlichkeit feststehen. Für die technische Erprobung empfehlen sich zunächst synthetische oder sorgfältig ausgewählte öffentliche Inhalte. Echte Vorgänge kommen erst hinzu, wenn die dafür erforderliche Prüfung abgeschlossen ist.

Ein Pilotprojekt sollte klare Erfolgskriterien haben. Dazu gehören die fachliche Qualität, der Aufwand der Nachprüfung und der Umgang mit unbrauchbaren Ergebnissen. Wenn Beschäftigte jede Ausgabe vollständig neu erstellen müssen, rechtfertigt ein technisch funktionierender Zugang noch keine Ausweitung.

Den konkreten Einsatz beschreiben

Eine kurze Einsatzbeschreibung schafft die gemeinsame Grundlage für Fachbereich, IT und rechtliche Prüfung. Empfehlenswert sind vier Angaben: Aufgabe, verwendete Daten, erlaubte Handlungen und verantwortliche Person. Ergänzend sollten Systemversion, Nutzerkreis und betroffene Schnittstellen festgehalten werden.

Bei einem Assistenten für Kundenservice ist etwa zu unterscheiden: Entwirft er nur Antworten für Beschäftigte, antwortet er selbst oder verändert er zusätzlich Bestellungen? Schon diese Unterscheidung zeigt, welche Kontrollen benötigt werden. Die Beschreibung sollte auch den Fehlerfall abdecken: Wer stoppt den Einsatz, wenn falsche Zusagen oder unzulässige Datenzugriffe auftreten?

Als Arbeitsunterlage genügt für den Einstieg eine gut gepflegte Übersicht. Sie sollte auf die zugehörigen Verträge, Einstellungen und Testergebnisse verweisen. Umfangreiche Dokumente helfen wenig, wenn niemand erkennt, welche Fassung für die aktuelle Nutzung gilt.

Kundendaten und Beschäftigtendaten prüfen

Personenbezogene Daten sollten nur in den Test gelangen, wenn ihre Verarbeitung für diesen Zweck geklärt ist.

Eine vorhandene Kundenbeziehung beantwortet noch nicht, ob sämtliche Inhalte an einen externen KI-Dienst übermittelt werden dürfen.

Die Prüfung sollte Eingaben, Ausgaben und gespeicherte Protokolle umfassen. Klären Sie insbesondere, ob Inhalte zur Verbesserung von Modellen verwendet werden, wie lange sie gespeichert bleiben und wer darauf zugreifen kann. Die Empfehlung, Namen zu entfernen, ersetzt diese Prüfung nicht: Ein Vorgang kann auch anhand seiner übrigen Angaben einer Person zugeordnet werden.

Dieser Vertrag ersetzt weder die Rechtsgrundlage noch die Prüfung der tatsächlichen Rollen. Ein Anbieter, der Daten auch für eigene Zwecke verwendet, ist gesondert zu beurteilen. Die Vertragsinhalte erläutert der Ratgeber zum Auftragsverarbeitungsvertrag.

Nicht jedes KI-Projekt erreicht diese Schwelle. Die Entscheidung darüber sollte sich aber auf die konkrete Nutzung und ihre Auswirkungen stützen.

Bei Gesundheitsdaten oder anderen besonders geschützten Informationen ist zusätzlich zu klären, ob eine Ausnahme vom Verarbeitungsverbot greift.

Die Einzelheiten zu Rollen, Datenübermittlungen und Schutzmaßnahmen behandelt der Ratgeber zu KI und Datenschutz.

Geschäftsgeheimnisse gesondert absichern

Vertrauliche Unternehmensinformationen benötigen eine eigene Prüfung, auch wenn sie keinen Personenbezug haben. Dazu können Quellcode, unveröffentlichte Produktpläne, Einkaufskonditionen oder Kalkulationen gehören. Die Datenfreigabe sollte daher zwischen Datenschutz und betrieblicher Vertraulichkeit unterscheiden.

Ein Vertraulichkeitshinweis im Dokument genügt als praktische Absicherung nicht für jede Nutzung. Entscheidend sind auch Zugriffsrechte, Anbieterbedingungen und das Verhalten der Beschäftigten.

Für die Freigabe empfiehlt sich eine eigene Kategorie für Informationen, die nicht eingegeben werden dürfen. Ergänzend sollten freigegebene Anwendungen zentral eingerichtet und private Konten ausgeschlossen werden. Ob eine bestimmte Eingabe den Geheimnisschutz gefährdet, hängt von den Umständen ab; eine automatische Aussage für jeden KI-Dienst wäre zu pauschal. Näheres erläutert der Ratgeber zum Schutz von Geschäftsgeheimnissen.

Anbieter und Verträge auf denselben Einsatz ausrichten

Die Anbieterprüfung sollte denselben Einsatz abdecken, den die Fachabteilung plant. Prüfen Sie das konkrete Angebot einschließlich Tarif, Zusatzvereinbarungen und aktivierter Funktionen. Eine allgemeine Produktbeschreibung ist kein verlässlicher Ersatz für diese Unterlagen.

Für die Beschaffung lassen sich fünf Punkte getrennt dokumentieren: Datenverwendung, Sicherheitsmaßnahmen, Nutzungsrechte, Leistungszusagen und Beendigung. Bei der Datenverwendung geht es auch um Unterauftragnehmer und Zugriffe aus anderen Staaten.

Ein europäischer Speicherort beantwortet deshalb nicht sämtliche Fragen zum tatsächlichen Zugriff.

Bei Leistungszusagen sollte erkennbar sein, was der Anbieter überhaupt schuldet: einen verfügbaren Dienst, bestimmte Funktionen oder eine vereinbarte Ergebnisqualität. Ebenso relevant sind Änderungen während der Laufzeit. Wer neue Funktionen automatisch erhält, sollte prüfen, ob damit zusätzliche Datenverwendungen oder Schnittstellen verbunden sind.

Für geschäftskritische Funktionen sollten Verfügbarkeit, Unterstützung bei Störungen und Messverfahren konkret vereinbart werden. Welche Punkte sich dafür eignen, erläutert der Ratgeber zu Service Level Agreements. Die Qualität einer einzelnen KI-Ausgabe bleibt dabei eine gesonderte Frage.

Planen Sie den Ausstieg bereits bei der Auswahl. Lassen sich benötigte Inhalte exportieren, Konten zuverlässig sperren und gespeicherte Daten nach den vereinbarten Regeln löschen? Für die rechtliche Gestaltung dieser Punkte bietet die Beratung zu KI-Verträgen eine vertiefende Anlaufstelle.

Welche Regeln brauchen Beschäftigte und Führungskräfte?

Beschäftigte brauchen konkrete Antworten auf alltägliche Fragen: Welches System ist erlaubt, welche Daten dürfen hinein und wer hilft bei Unsicherheiten? Führungskräfte benötigen zusätzlich einen Überblick über die Freigaben und offenen Punkte. Diese Zuständigkeiten sollten vor dem regulären Einsatz feststehen.

Zuständigkeiten nachvollziehbar verteilen

Jeder KI-Einsatz sollte eine fachlich verantwortliche Person haben. Sie beschreibt den Nutzen, organisiert die Ergebnisprüfung und meldet Änderungen. IT, Datenschutz und Rechtsberatung steuern ihre jeweiligen Prüfungen bei; die Entscheidung über den betrieblichen Einsatz bleibt gesondert zuzuordnen.

Ein zentraler Ansprechpartner kann diese Arbeit koordinieren. Der Titel allein schafft jedoch weder Fachkenntnisse noch Entscheidungsbefugnisse. Kleine Unternehmen können Aufgaben zusammenlegen, sollten dabei aber kenntlich machen, wer prüft, wer berät und wer entscheidet.

Die folgende Aufteilung ist eine organisatorische Empfehlung. Sie lässt sich an Größe und Aufbau des Unternehmens anpassen. Maßgeblich ist, dass jede Aufgabe tatsächlich erledigt wird und ein offener Punkt nicht zwischen Abteilungen liegen bleibt.

Für die Leitung ist ein kurzer Entscheidungsvermerk hilfreicher als eine Sammlung unverbundener Prüfberichte. Er sollte erkennen lassen, welche Risiken geprüft wurden, welche Bedingungen gelten und welche Fragen offenbleiben. Organisatorische Verantwortung ist außerdem ein eigenständiges Thema; dazu führt der Ratgeber zur Geschäftsführerhaftung weiter.

Den Betriebsrat zum richtigen Zeitpunkt beteiligen

Ein bestehender Betriebsrat sollte frühzeitig in die Planung einbezogen werden. Dabei sind Information und Beratung von einer möglichen Mitbestimmung zu unterscheiden. Nicht jede KI-Anwendung löst dieselben Beteiligungsrechte aus.

Die Beteiligung sollte deshalb in den Projektplan gehören, bevor wesentliche Entscheidungen praktisch feststehen.

Bei KI-Werkzeugen sollten daher insbesondere Protokolle, Auswertungen und personenbezogene Nutzungsstatistiken geprüft werden. Die bloße Aussage, eine Überwachung sei nicht beabsichtigt, genügt nicht als Prüfung des Tatbestands.

Eine gemeinsame Arbeitsgrundlage sollte erlaubte Auswertungen, Zugriffsberechtigte und den Umgang mit Protokolldaten behandeln. Für einen Test kann ein klar begrenzter Pilot vereinbart werden. Dessen Umfang sollte aber nicht stillschweigend wachsen, während die Beteiligung noch auf dem ursprünglichen Konzept beruht.

KI-Kompetenz an den Aufgaben ausrichten

Die Vorbereitung der Beschäftigten sollte an ihren Aufgaben und den möglichen Folgen von Fehlern ansetzen. Wer Bildentwürfe erstellt, braucht andere Kenntnisse als jemand, der KI-Ergebnisse zur Personalentscheidung heranzieht. Eine einheitliche Präsentation für alle Einsatzbereiche kann diese Unterschiede nur begrenzt abbilden.

Eine geeignete Unterweisung sollte mit den tatsächlich freigegebenen Werkzeugen arbeiten. Empfehlenswert sind drei Übungssituationen: eine unzulässige Dateneingabe erkennen, eine fehlerhafte Ausgabe prüfen und einen Vorfall melden. Dazu gehört auch, Grenzen der eigenen Prüfung zu erkennen und Fachwissen hinzuzuziehen.

Dokumentieren Sie Inhalte, Teilnehmerkreis und Anlass der Unterweisung. Ein Zertifikat kann eine Teilnahme belegen, ersetzt aber keine passende betriebliche Anleitung. Bei einer neuen Funktion oder einem veränderten Aufgabenbereich sollte die Unterweisung entsprechend ergänzt werden.

Eine verständliche KI-Richtlinie erstellen

Eine KI-Richtlinie sollte die Freigabe in verständliche Arbeitsanweisungen übersetzen. Beschäftigte müssen daraus erkennen können, ob sie einen konkreten Vorgang bearbeiten dürfen. Allgemeine Sätze über Datenschutz oder sorgfältiges Arbeiten helfen bei dieser Entscheidung wenig.

Als Aufbau empfehlen sich sechs Themen: erlaubte Systeme und Zwecke, zulässige Daten, ausgeschlossene Anwendungen, Ergebnisprüfung, Zugriffsverwaltung und Meldung von Fehlern. Zu jedem Thema gehören kurze, betriebsnahe Beispiele. Etwa: Eine eigene, bereits veröffentlichte Produktbeschreibung darf nach der betrieblichen Freigabe als Grundlage dienen; eine nicht freigegebene Reklamationsakte darf nicht hochgeladen werden.

Die Richtlinie sollte auch private Konten, Erweiterungen und neue Funktionen behandeln. Für Unsicherheiten braucht es einen erreichbaren Ansprechpartner und einen klaren Entscheidungsweg. Wer eine neue Nutzung beantragen kann, muss nicht selbst herausfinden, ob sie rechtlich schon vom bisherigen Projekt erfasst ist.

Wie werden Ergebnisse und Handlungen freigegeben?

Die Ergebnisprüfung sollte sich danach richten, was eine falsche Ausgabe bewirken kann. Interne Ideen, veröffentlichte Werbung und Änderungen an Kundenkonten brauchen unterschiedliche Kontrollen. Eine fachliche Durchsicht muss außerdem von der Prüfung der Nutzungsrechte und der technischen Sicherheit getrennt werden.

Texte und Bilder für die Veröffentlichung prüfen

Vor der Veröffentlichung sollten drei Prüfungen abgeschlossen sein: Inhalt, Rechte und gegebenenfalls Kennzeichnung. Für Onlineshops betrifft die Inhaltsprüfung insbesondere Produkteigenschaften und Werbeaussagen. Bei Bildern sind unter anderem erkennbare Personen, fremde Kennzeichen und übernommene Gestaltungselemente zu betrachten.

Bei KI-Ergebnissen ist deshalb zu prüfen, welchen schöpferischen Beitrag ein Mensch geleistet hat. Eine pauschale Zusage exklusiver Rechte an jeder Ausgabe ist keine belastbare Planungsgrundlage.

Anbieterbedingungen und Rechte Dritter sind getrennt zu prüfen. Eine vertragliche Nutzungserlaubnis des Dienstes beantwortet nicht abschließend, ob das konkrete Ergebnis fremde Rechte berührt. Wer Exklusivität gegenüber Kunden zusagt, sollte vorher klären, worauf diese Zusage gestützt werden kann. Vertiefend behandelt dies der Ratgeber zu KI und Urheberrecht.

Die konkrete Veröffentlichung sollte daher nach Inhalt, Zweck und eigener Rolle eingeordnet werden. Ein sichtbarer Hinweis ersetzt weder die Rechteprüfung noch eine fachliche Kontrolle.

Programmcode und eigene SaaS-Funktionen prüfen

KI-unterstützt erstellter Programmcode sollte denselben fachlichen Freigabeprozess durchlaufen wie anderer Code. Empfehlenswert sind eine nachvollziehbare Herkunftsprüfung, geeignete Tests und eine Kontrolle von Abhängigkeiten sowie Lizenzbedingungen. Die bloße Funktionsfähigkeit ist kein ausreichendes Freigabekriterium.

Bei Entwicklungsaufträgen sollten die Beteiligten vorab klären, welche Werkzeuge und Eingaben erlaubt sind. Vertraulicher Kundencode gehört nur in entsprechend geprüfte Dienste. Außerdem sollte dokumentiert werden, welche Bestandteile übernommen und welche eigenständig entwickelt wurden.

Diese besondere Regel für Arbeitnehmerprogramme lässt sich nicht pauschal auf externe Entwickler und sämtliche anderen Inhalte übertragen.

Wer KI in eine eigene SaaS-Funktion integriert, sollte zusätzlich seine Rolle innerhalb der Leistungskette klären. Hilfreich ist eine Beschreibung, welche Funktion selbst gestaltet wird und welche Leistung ein externer Anbieter erbringt. Änderungen an Zweck, Darstellung und Funktionsumfang gehören in die rechtliche Bewertung, bevor das Produkt Kunden angeboten wird.

Kundenchatbots mit verlässlichen Grenzen einsetzen

Ein Kundenchatbot braucht erkennbare Grenzen und einen funktionierenden Übergang zu menschlicher Unterstützung. Legen Sie fest, ob er nur Informationen bereitstellt oder auch Bestellungen, Erstattungen und Vertragsänderungen bearbeiten darf. Die Benutzeroberfläche sollte diese Befugnisse verständlich abbilden.

Unternehmen sollten bei der Einrichtung prüfen, wer diese Anbieterpflicht erfüllt und wie der Hinweis im konkreten Ablauf erscheint.

Für die interne Freigabe empfiehlt sich ein Test mit schwierigen, aber realistischen Fragetypen. Was geschieht bei widersprüchlichen Angaben, einer Beschwerde oder einer Frage außerhalb der Wissensbasis? Die Übergabe an einen Menschen sollte erreichbar bleiben und den bisherigen Gesprächskontext nur im zulässigen Umfang weitergeben.

Für einen Chatbot im Onlineshop sollte auch die Zugänglichkeit Teil der Abnahme sein. Testen Sie, ob sich Hinweise und Eingaben mit den vorgesehenen Hilfsmitteln bedienen lassen und eine alternative Kontaktmöglichkeit erreichbar bleibt. Die rechtliche Einordnung erläutert der Ratgeber zur Barrierefreiheit im Onlineshop.

Selbstständige Aktionen technisch begrenzen

KI-Systeme mit Handlungsmöglichkeiten sollten nur die Zugriffe erhalten, die für den freigegebenen Zweck benötigt werden. Ein Assistent, der E-Mails entwirft, braucht nicht automatisch die Befugnis zum Versand. Ebenso sind Leserechte in einer Datenbank von Änderungen an Datensätzen zu unterscheiden.

Für den Einstieg bieten sich Bestätigungsschritte vor nach außen wirkenden Aktionen an. Dazu können Veröffentlichungen, Bestellungen, Zahlungen und Änderungen von Berechtigungen gehören. Die Kontrolle sollte so gestaltet sein, dass die verantwortliche Person den Inhalt und die Folgen der Aktion tatsächlich beurteilen kann.

Prüfen Sie außerdem, wie ein Vorgang abgebrochen und gegebenenfalls rückgängig gemacht werden kann. Verantwortliche benötigen dafür erreichbare Administrationsrechte und verständliche Anweisungen. Eine Abschaltmöglichkeit hilft wenig, wenn sie im laufenden Betrieb niemand findet oder benutzen darf.

Welche Sonderfälle brauchen zusätzliche Prüfung?

Eine allgemeine Freigabe für Büroaufgaben sollte besondere Einsatzbereiche ausdrücklich ausnehmen. Personalentscheidungen, Preissteuerung und regulierte Tätigkeiten verdienen eine gesonderte Prüfung. Die folgenden Fälle zeigen, welche zusätzlichen Fragen in den Freigabebogen gehören.

Bewerbungen und Personalentscheidungen

Bei Bewerbungen und Personalentscheidungen ist entscheidend, welchen Einfluss das KI-Ergebnis auf die betroffene Person hat. Eine vorbereitende Zusammenfassung und eine automatisierte Ablehnung sind unterschiedlich zu beurteilen. Der Freigabeprozess sollte den tatsächlichen Entscheidungsablauf beschreiben, einschließlich der menschlichen Prüfung.

Ein lediglich formaler Bestätigungsschritt ist deshalb keine verlässliche Gestaltung für eine eigenständige menschliche Entscheidung.

Empfehlenswert ist ein Ablauf, in dem die zuständige Person auch abweichende Informationen würdigt und das Ergebnis ändern kann. Zusätzlich sollten Auswahlkriterien, mögliche Benachteiligungen und die Beteiligung des Betriebsrats geprüft werden. Eine verschobene Hochrisiko-Frist entbindet nicht von der Prüfung dieser bereits einschlägigen Fragen.

Preise und Wettbewerberdaten

Bei KI-gestützter Preisbildung sollte geklärt werden, welche Informationen das System erhält und wer die Preisstrategie bestimmt. Eine automatische Berechnung ist nicht bereits als solche eine unzulässige Abstimmung. Sensibel sind aber gemeinsam genutzte Daten und Verbindungen zwischen Wettbewerbern.

Bei einem gemeinsamen Dienstleister sollte daher geprüft werden, ob vertrauliche Preisabsichten oder andere wettbewerblich sensible Informationen zwischen Unternehmen zusammengeführt werden.

Die Freigabe sollte die erlaubten Datenquellen und den Umgang mit Wettbewerberinformationen festhalten. Für Beschäftigte muss insbesondere klar sein, dass sie vertrauliche Informationen anderer Unternehmen nicht allein wegen einer technischen Importmöglichkeit verwenden dürfen. Zweifelhafte Datenflüsse gehören vor der Nutzung in eine gesonderte Prüfung.

Sicherheit, Datenzugang und besondere Branchen

Zusätzliche Sicherheits- und Branchenregeln sind nach dem betroffenen Unternehmen und der Tätigkeit zu prüfen. Der Einsatz von KI allein beantwortet diese Frage nicht. Bei vernetzten Produkten, regulierten Dienstleistungen oder besonders sensiblen Betriebsabläufen sollte die allgemeine Freigabe daher um eine gesonderte Prüfung ergänzt werden.

Bei möglicher Betroffenheit sollte die KI-Einführung mit dem vorhandenen Sicherheitskonzept abgestimmt werden. Die Beratung zu NIS2 behandelt diese unternehmensbezogene Prüfung gesondert.

Bei vernetzten Produkten empfiehlt sich außerdem eine Prüfung, welche Daten nach dem Data Act zugänglich sein müssen und wie vertragliche Nutzungsrechte ausgestaltet sind. Ein Datenzugang sollte nicht ungeprüft als Erlaubnis für jedes KI-Training verstanden werden. Bei grenzüberschreitenden oder besonders regulierten Vorhaben können zusätzlich sektorale Vorgaben und Exportkontrollfragen relevant sein.

Wachstum und Unternehmensverkauf

Eine nachvollziehbare Dokumentation erleichtert die spätere Erweiterung des Geschäfts und die Prüfung durch Investoren oder Käufer. Empfehlenswert ist ein geordnetes Verzeichnis der eingesetzten Systeme, Verträge, Freigaben und wesentlichen Rechte. Darin sollten auch Einschränkungen sichtbar bleiben.

Bei Zukäufen ist besonders zu prüfen, ob die übernommenen Anwendungen in die eigene technische Umgebung und Vertragsstruktur passen. Eine Freigabe des bisherigen Unternehmens lässt sich nicht ohne Weiteres als interne Freigabe übernehmen. Ändern sich Datenbestände, Nutzerkreis oder Einsatzzweck, sollte die Bewertung aktualisiert werden.

Wer trägt das Risiko bei KI-Fehlern?

Bei KI-Fehlern sind die eigenen Pflichten gegenüber Kunden und mögliche Ansprüche gegen den Anbieter getrennt zu beurteilen. Die technische Ursache allein entscheidet noch nicht, wer einen Schaden ersetzen muss. Vertrag, Pflichtverletzung, Verantwortlichkeit und Schaden gehören jeweils in die Prüfung.

Für außervertragliche Schäden kommen andere Anspruchsgrundlagen in Betracht.

Die Vertragskette muss zusammenpassen

Eigene Zusagen an Kunden sollten zu den Leistungen passen, die das Unternehmen kontrollieren und vom Anbieter verlangen kann. Wer geprüfte Ergebnisse verspricht, sollte die Prüfung tatsächlich organisieren. Eine Haftungsregel im Vertrag mit dem KI-Anbieter bestimmt nicht automatisch die Pflichten im eigenen Kundenvertrag.

Prüfen Sie deshalb zwei Ebenen getrennt: die Leistung gegenüber dem Kunden und den möglichen Rückgriff auf den Anbieter. Zu betrachten sind jeweils Leistungsumfang, Mitwirkung, Kontrollpflichten und Haftungsregelungen. Eine große Lücke zwischen beiden Ebenen sollte vor dem Regelbetrieb sichtbar sein.

Auch vorhandene Versicherungen sollten anhand ihrer konkreten Bedingungen geprüft werden. Entscheidend sind versicherte Tätigkeiten, Ausschlüsse, Meldepflichten und vereinbarter Umfang. Eine allgemeine Bezeichnung wie Cyberversicherung beantwortet nicht, ob der konkrete KI-bezogene Schaden erfasst ist.

Fehler nachvollziehbar behandeln

Ein Fehlerprozess sollte die weitere Nutzung begrenzen und die Aufklärung ermöglichen. Dafür empfiehlt sich ein benannter Meldeweg mit erreichbaren Verantwortlichen. Beschäftigte sollten ohne Umwege melden können, wenn Daten falsch verwendet, unzutreffende Aussagen veröffentlicht oder unerwartete Aktionen ausgelöst wurden.

Sichern Sie die zur Aufklärung erforderlichen Informationen im zulässigen Umfang: Einsatzbeschreibung, relevante Einstellungen, betroffene Ausgabe oder Aktion und bereits ergriffene Maßnahmen. Die Dokumentation sollte erkennen lassen, was geschehen ist und welche Fassung des Systems beteiligt war. Gleichzeitig dürfen bei der Aufklärung nicht wahllos zusätzliche personenbezogene oder vertrauliche Inhalte gesammelt werden.

Anschließend ist zu entscheiden, ob eine Korrektur genügt, die Freigabe eingeschränkt werden muss oder der Einsatz vorerst endet. Etwaige Informations- und Meldepflichten sind gesondert zu prüfen. Die Wiederaufnahme sollte an eine nachvollziehbare Fehlerbehebung und erneute Bewertung geknüpft werden.

Checkliste für Freigabe und laufenden Betrieb

Eine Freigabe sollte mit einer konkreten Entscheidung enden, nicht mit einer bloßen Sammlung von Unterlagen. Die folgende Übersicht bündelt die empfohlenen Prüfschritte. Sie ist als Arbeitshilfe gedacht und kann um die Besonderheiten des jeweiligen Unternehmens ergänzt werden.

Für die praktische Nutzung sollte jede Zeile auf einen tatsächlich vorhandenen Nachweis verweisen. Fehlt etwa die Rollenprüfung oder bleibt die Löschung ungeklärt, gehört dies sichtbar in die Entscheidung. Ein offener Punkt ist keine stillschweigende Freigabe.

Vor dem Start des Regelbetriebs empfiehlt sich folgende Checkliste:

• Der konkrete Einsatz ist beschrieben; ausgeschlossene Anwendungen sind benannt.
• Die zugelassenen Datenarten und die Grenzen der Vertraulichkeit sind festgelegt.
• Die erforderlichen Vertrags- und Datenschutzprüfungen sind abgeschlossen.
• Beteiligungsfragen sind geklärt und die Arbeitsregeln sind verständlich zugänglich.
• Beschäftigte kennen typische Fehler, Prüfaufgaben und den Meldeweg.
• Konten, Zugriffsrechte und Bestätigungsschritte entsprechen der Freigabe.
• Für Veröffentlichungen und sonstige Außenwirkungen gibt es einen passenden Prüfmaßstab.
• Die verantwortliche Person kann den Einsatz einschränken oder stoppen.
• Änderungen und Anbieterwechsel lösen eine erneute Bewertung aus.

Die Liste kann als Besprechungsgrundlage dienen. Ihr Nutzen liegt in den belegten Antworten, nicht in den Häkchen selbst. Wer einen Punkt als erledigt kennzeichnet, sollte zugleich sagen können, wo die zugehörige Entscheidung dokumentiert ist.

Freigegeben, eingeschränkt oder vorerst gesperrt

Für den Abschluss empfehlen sich drei klare Ergebnisse: freigegeben, eingeschränkt freigegeben oder vorerst gesperrt. Die Entscheidung sollte den konkreten Einsatz benennen und auf die geprüften Unterlagen verweisen. Einschränkungen müssen in den Arbeitsabläufen und Einstellungen erkennbar umgesetzt sein.

Eine eingeschränkte Freigabe kann etwa nur öffentliche Eingaben und eine interne Verwendung der Ausgaben erlauben. Persönliche Kundendaten oder automatische Veröffentlichungen bleiben dann außerhalb des Einsatzes. Das ist nur praktikabel, wenn Beschäftigte diese Grenzen kennen und die technische Einrichtung sie unterstützt.

Bei einer vorläufigen Sperre sollte feststehen, welche Frage offen ist und wer sie klärt. Fehlende Vertragsunterlagen erfordern eine andere Lösung als ein unzulässiger Zweck. Ohne diese Unterscheidung drohen entweder unnötiger Stillstand oder eine Ausweitung ohne tragfähige Grundlage.

Bei Änderungen erneut prüfen

Eine erneute Prüfung empfiehlt sich insbesondere bei neuen Datenarten, erweiterten Handlungsbefugnissen, geänderten Anbieterbedingungen oder einem Anbieterwechsel. Die ursprüngliche Freigabe sollte diese Auslöser ausdrücklich nennen. So wird aus einem begrenzten Test nicht unbemerkt ein anderer Einsatz.

Beim Wechsel des Dienstes sind erneut die fünf Beschaffungspunkte zu betrachten: Datenverwendung, Sicherheitsmaßnahmen, Nutzungsrechte, Leistungszusagen und Beendigung. Zusätzlich ist der Übergang zu planen. Alte Konten, Verbindungen und gespeicherte Inhalte sollten nach den festgelegten Regeln behandelt werden.

Auch fachliche Änderungen zählen. Soll ein Assistent künftig statt interner Entwürfe veröffentlichungsfertige Antworten erstellen, verändert sich der Prüfmaßstab. Die verantwortliche Person sollte deshalb regelmäßig mit dem tatsächlichen Nutzerkreis abgleichen, ob dokumentierter und gelebter Einsatz noch übereinstimmen.

KI-Einführung braucht klare Entscheidungen

KI lässt sich im Unternehmen besser steuern, wenn jede Freigabe einen bestimmten Zweck, erlaubte Daten und eindeutige Grenzen hat. Hinzu kommen passende Verträge, verständliche Arbeitsregeln und eine wirksame Ergebnisprüfung. Entscheidend ist, dass diese Vorgaben im Alltag zusammenpassen und bei Änderungen überprüft werden.

Für die Vorbereitung lohnt sich deshalb ein gemeinsamer Blick von Fachbereich, Technik und rechtlicher Prüfung. Offene Fragen lassen sich so vor dem breiten Einsatz erkennen und gezielt lösen. Wir unterstützen Unternehmen dabei, den vorgesehenen KI-Einsatz rechtlich einzuordnen und Verträge sowie interne Regeln darauf abzustimmen.