Mit der zunehmenden Verbreitung von KI im deutschen Mittelstand wird auch das Thema KI-Compliance immer präsenter. So unklar die Entwicklung und die Einsatzgebiete der Modelle sind, so unklar ist auch, wie man die entsprechenden Regularien tatsächlich einhält. Denn eines ist schon jetzt klar: Woher die Daten der Modelle kommen und was mit den eingespeisten Daten passiert, gehört zu den größten Geheimnissen. Die Herausforderung für mittelständische Unternehmen besteht darin, in diesem Umfeld der Unsicherheit und mit den sich abzeichnenden Regularien dennoch die Sicherheit der Daten zu gewährleisten.
Mit der zunehmenden Verbreitung von KI im deutschen Mittelstand wird auch das Thema KI-Compliance immer präsenter. So unklar die Entwicklung und die Einsatzgebiete der Modelle sind, so unklar ist auch, wie man die entsprechenden Regularien tatsächlich einhält. Denn eines ist schon jetzt klar: Woher die Daten der Modelle kommen und was mit den eingespeisten Daten passiert, gehört zu den größten Geheimnissen. Die Herausforderung für mittelständische Unternehmen besteht darin, in diesem Umfeld der Unsicherheit und mit den sich abzeichnenden Regularien dennoch die Sicherheit der Daten zu gewährleisten.
AI Compliance bezieht sich auf die Einhaltung aller relevanten rechtlichen, ethischen und regulatorischen Anforderungen im Zusammenhang mit der Entwicklung, dem Einsatz und der Nutzung von Künstlicher Intelligenz (KI) in Unternehmen. Ähnlich wie allgemeine Compliance die Regelkonformität im gesamten Unternehmen sicherstellt, fokussiert AI-Compliance speziell auf die Aspekte, die mit KI-Technologien verbunden sind.
Dazu gehört die Einhaltung nationaler und internationaler Gesetze wie der Datenschutzgrundverordnung (DSGVO) sowie spezifischer EU-Regelungen für KI wie dem EU AI Act. Darüber hinaus beinhaltet AI Compliance ethische Richtlinien für den verantwortungsvollen Umgang mit KI, um Risiken wie Diskriminierung, Datenschutzverletzungen oder algorithmische Verzerrungen zu minimieren.
Für mittelständische Unternehmen ist AI Compliance besonders wichtig, da Verstöße nicht nur zu rechtlichen Sanktionen und Reputationsverlust führen können, sondern auch die nachhaltige Wettbewerbsfähigkeit und Innovationskraft des Unternehmens gefährden. Ein effektives KI-Compliance-Management hilft, diese Risiken zu identifizieren und proaktiv zu steuern, um Vertrauen bei Kunden und Partnern aufzubauen und den Geschäftserfolg langfristig zu sichern.
Für den deutschen Mittelstand sind verschiedene nationale und europäische Regelungen von Bedeutung, wenn es um den Einsatz von Künstlicher Intelligenz (KI) geht. Diese Regularien stellen sicher, dass Unternehmen KI-Technologien verantwortungsvoll und regelkonform einsetzen. Die drei wichtigsten Regelungen sind:
Die EU arbeitet an einem umfassenden Rechtsrahmen für KI, dem sogenannten AI Act. Dieser Rechtsrahmen klassifiziert KI-Anwendungen nach Risikostufen und legt spezifische Anforderungen fest, insbesondere für Hochrisiko-KI-Systeme. Unternehmen müssen sicherstellen, dass ihre KI-Anwendungen Transparenz, Sicherheit und ethische Standards erfüllen, um Compliance zu gewährleisten.
Die DSGVO spielt eine zentrale Rolle für den Einsatz von KI, da viele KI-Anwendungen umfangreiche Datenverarbeitungen erfordern. Insbesondere die Verarbeitung personenbezogener Daten muss den strengen Anforderungen der DSGVO entsprechen, einschließlich der Einholung von Einwilligungen, der Sicherstellung der Datenminimierung und der Gewährleistung der Rechte der Betroffenen.
Auch wenn der DCGK nicht spezifisch auf KI abzielt, enthält er grundlegende Prinzipien der Unternehmensführung und Compliance, die auch für den Einsatz von KI relevant sind. Unternehmen sollten sicherstellen, dass ihre KI-Strategien den im DCGK festgelegten Standards für Transparenz und Verantwortlichkeit entsprechen.
Der deutsche Mittelstand muss sich umfassend mit den verschiedenen nationalen und europäischen Regelungen auseinandersetzen, um den Einsatz von KI rechtssicher und ethisch verantwortbar zu gestalten. In diesem Artikel konzentrieren wir uns auf die Compliance mit dem EU AI Act, insbesondere auf die Anforderungen an Hochrisiko-KI-Systeme und Niedrigrisiko-KI-Systeme. Wer noch einmal nachlesen möchte, wie die Klassifizierung zustande kommt, findet hier eine Zusammenfassung.
Wichtig ist, dass wir uns in diesem Beispiel auf die “Betreiberperspektive” konzentrieren, d.h. wir konzentrieren uns auf den Einsatz von KI im unternehmerischen Kontext und die damit verbundenen Compliance-Fragen und nicht auf die Anbieterperspektive (= selbst Modelle erstellen).
Hochrisiko-KI-Systeme (z.B. Social Scoring & Gesichtserkennung) unterliegen gemäß der EU-KI-Verordnung (KI-VO) strengen Anforderungen. Diese betreffen sowohl die Anbieter als auch die Betreiber. Für den deutschen Mittelstand bedeutet dies insbesondere die Einhaltung der Vorgaben der Art. 16 bis 27 KI-VO.
Für Betreiber von KI-Systemen mit geringem Risiko (z.B. Recruiting- oder Kreditvergabe-Systeme) sind gemäß der EU-KI-Verordnung (KI-VO) insbesondere die Anforderungen zur Sicherstellung ausreichender KI-Kompetenz und Transparenz zu beachten. Diese Pflichten sind in den Artikeln 4 und 50 der KI-VO festgelegt.
Betreiber müssen sicherstellen, dass ihr Personal sowie alle Personen, die im Auftrag mit der Nutzung von KI-Systemen betraut sind, über ausreichende Kenntnisse und Fähigkeiten im Umgang mit KI verfügen. Dies umfasst (gilt für alle Unternehmen):
Diese Maßnahmen stellen sicher, dass Mitarbeiterinnen und Mitarbeiter in der Lage sind, KI-Systeme effektiv und verantwortungsvoll einzusetzen, potenzielle Risiken frühzeitig zu erkennen und entsprechend zu handeln. Triebwerk.ai bietet verschiedene Trainings an, die das nötige Wissen und die Werkzeuge vermitteln, um eigene KI-Innovationen zu entwickeln und Ihr Unternehmen zukunftsfähig aufzustellen.
Auch bei KI-Systemen mit geringem Risiko sollten die Betreiber die Nutzer darüber informieren, dass sie mit einem KI-System interagieren. Die wichtigsten Anforderungen sind:
