Künstliche Intelligenz und Recht im Unternehmen – kaum ein Thema beschäftigt aktuell Geschäftsführer und Compliance-Verantwortliche so sehr wie die Frage, wie sich KI rechtssicher im Unternehmen einsetzen lässt. Unternehmen müssen beim Einsatz von Künstlicher Intelligenz (KI) zahlreiche rechtliche Vorschriften beachten, die vor allem durch die neue EU-KI-Verordnung und die Datenschutz-Grundverordnung (DSGVO) vorgegeben werden. Besonders relevant sind Regelungen zum Datenschutz, zur automatisierten Entscheidungsfindung, zur Haftung und zum Urheberrecht. Der Einsatz von KI zur Verarbeitung von Kundendaten ist grundsätzlich möglich, sofern alle rechtlichen Vorgaben eingehalten werden.
KI-Einsatz: rechtliche Grundlagen
- Die neue KI-Verordnung der EU (AI Act) regelt den Einsatz von KI-Systemen je nach Risikostufe: „inakzeptable Risiken“ sind verboten, Hochrisiko-Systeme unterliegen strengen Prüf-, Dokumentations- und Transparenzpflichten. Verstöße ziehen erhebliche Bußgelder nach sich – bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes.
- Transparenz und Nachvollziehbarkeit sind zentral: Nutzer müssen klar erkennen, wenn sie mit einer KI interagieren oder wenn Entscheidungen automatisiert getroffen wurden.
- Auch Betriebsräte haben Mitbestimmungsrechte, insbesondere wenn KI-Systeme Leistung oder Verhalten von Beschäftigten überwachen.
Verarbeitung von Kundendaten durch KI
- Wer mit KI personenbezogene Daten verarbeitet, muss DSGVO-konform handeln. Der Verantwortliche – meist das Unternehmen – trägt die volle datenschutzrechtliche Verpflichtung und haftet für Verstöße.
- Wichtig sind die Grundsätze der Rechtmäßigkeit, Zweckbindung und Datenminimierung. Daten dürfen nur verarbeitet werden, wenn eine Einwilligung vorliegt oder ein berechtigtes Interesse nachgewiesen werden kann.
- Unternehmen müssen vor dem Einsatz von KI eine Datenschutz-Folgenabschätzung durchführen, technische und organisatorische Maßnahmen treffen und die Betroffenen umfassend informieren.
Automatisierte Entscheidungsfindung und Datenschutz
- Die DSGVO schützt Betroffene vor rein automatisierten Entscheidungen, die rechtliche Wirkungen entfalten oder sie erheblich beeinträchtigen (Artikel 22 DSGVO).
- Entscheidungen wie Kreditvergaben, Einstellung oder Kündigungen dürfen nicht ausschließlich automatisiert erfolgen, ohne dass eine menschliche Überprüfung möglich ist.
- Auch müssen Unternehmen sicherstellen, dass die Entscheidungsergebnisse nachvollziehbar und erklärbar sind („Explainable AI“).
Haftung beim KI-Einsatz
- Betreiber und Anbieter von KI-Systemen haften für fehlerhafte Ausgaben oder rechtswidrige Verhaltensweisen der KI.
- Bei Produkten mit integriertem KI-System kann das Produkthaftungsgesetz greifen.
- Besondere Haftungsrisiken bestehen, wenn KI unerlaubt sensible oder schützenswerte Daten nutzt, Fehler produziert oder Diskriminierung erzeugt.
Urheberrecht und KI
- KI-Systeme dürfen urheberrechtlich geschützte Werke nicht ungefragt nutzen oder reproduzieren.
- Die Verantwortung für die Einhaltung des Urheberrechts liegt in der Regel beim Anbieter der KI. Unternehmen müssen sicherstellen, dass sowohl Trainingsdaten als auch Outputs der KI keine Rechte verletzen.
- Die Nutzung von KI-generierten Inhalten kann urheberrechtliche Risiken bergen – insbesondere beim Teilen, Veröffentlichen oder kommerziellen Einsatz.
Praxistipps für Unternehmen
- Führen Sie eine Datenschutz-Folgenabschätzung vor KI-Projekten durch.
- Setzen Sie auf „Privacy by Design“ und minimieren Sie die verwendeten Daten.
- Sorgen Sie für nachvollziehbare, transparente Prozesse und dokumentieren Sie alle Schritte.
- Schulen Sie Ihr Personal zu den neuen KI- und Datenschutzanforderungen fortlaufend.
- Kontrollieren Sie regelmäßig, ob verwendete KI-Systeme die gesetzlichen Anforderungen einhalten.
- Prüfen Sie die rechtliche Lage rund um Urheberrecht und Haftung laufend.
Künstliche Intelligenz und Recht im Unternehmen: Suchen Sie einen Anwalt bzw. eine Kanzlei, die Ihnen beim Thema Einsatz von KI im Unternehmen hilft, sind Sie bei uns richtig. Als Kanzlei für Unternehmer sind wir auch in diesem wichtigen Thema zugegen. Sie erzählen uns, was Sie mit KI machen oder vorhaben und wir helfen Ihnen, das ganze rechtssicher umzusetzen.
Ihr Ansprechpartner ist Rechtsanwalt Florian N. Schuh
schuh@recht-hilfreich.de
