In diesem Artikel erläutern wir die Kernelemente des EU AI Act, der KI-Systeme nach Risikostufen klassifiziert und weitreichende Auswirkungen auf die Entwicklung und den Einsatz von KI in Unternehmen hat.
Wir beleuchten die spezifischen Herausforderungen für den deutschen Mittelstand, erläutern die Bedeutung von Artikel 4 für die Qualifizierung von Mitarbeitern und zeigen auf, wie sich Unternehmen effektiv auf die neuen Regelungen vorbereiten können.
“Ein KI-System ist ein maschinengestütztes System, das für explizite oder implizite Ziele aus den empfangenen Eingaben ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können. Verschiedene KI-Systeme unterscheiden sich in ihrem Grad an Autonomie und Anpassungsfähigkeit nach dem Einsatz."
Es können drei Arten von KI Systemen unterschieden werden:
Mehr Informationen zu KI Systemen und deren Unterteilung findet ihr hier in unserem Artikel "KI-Anwendung im Unternehmen".
In diesem Artikel erläutern wir die Kernelemente des EU AI Act, der KI-Systeme nach Risikostufen klassifiziert und weitreichende Auswirkungen auf die Entwicklung und den Einsatz von KI in Unternehmen hat.
Wir beleuchten die spezifischen Herausforderungen für den deutschen Mittelstand, erläutern die Bedeutung von Artikel 4 für die Qualifizierung von Mitarbeitern und zeigen auf, wie sich Unternehmen effektiv auf die neuen Regelungen vorbereiten können.
“Ein KI-System ist ein maschinengestütztes System, das für explizite oder implizite Ziele aus den empfangenen Eingaben ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können. Verschiedene KI-Systeme unterscheiden sich in ihrem Grad an Autonomie und Anpassungsfähigkeit nach dem Einsatz."
Es können drei Arten von KI Systemen unterschieden werden:
Mehr Informationen zu KI Systemen und deren Unterteilung findet ihr hier in unserem Artikel "KI-Anwendung im Unternehmen".
Das EU-KI-Gesetz ist der weltweit erste umfassende Rechtsrahmen zur Regulierung der künstlichen Intelligenz. Er kategorisiert KI-Systeme in vier Risikostufen: unannehmbar, hoch, begrenzt und minimal oder kein Risiko. Das Gesetz verbietet bestimmte risikobehaftete KI-Anwendungen, wie z. B. Social Scoring durch Regierungen, und erlegt anderen risikobehafteten Systemen strenge Verpflichtungen auf, einschließlich Anforderungen an Risikobewertungen, Transparenz und menschliche Aufsicht. Das Gesetz führt auch Maßnahmen ein, um die vertrauenswürdige Nutzung von KI-Modellen für allgemeine Zwecke zu gewährleisten, und betont eine zukunftssichere Gesetzgebung, um sich an technologische Veränderungen anzupassen.
Die Durchsetzung und die Aufsicht werden vom Europäischen Amt für KI verwaltet, das sicherstellt, dass die KI-Entwicklung mit ethischen Standards und Grundrechten in Einklang steht.
Unternehmen müssen daher bis zum 01.08.2026 sicherstellen, dass sie eine Reihe von Anforderungen erfüllen, darunter das Mandat in Artikel 4, das von ihnen verlangt, die KI-Kenntnisse ihrer Mitarbeiter und der relevanten Stakeholder zu verbessern.
Die genauen Auswirkungen des EU-KI-Gesetzes auf den deutschen Mittelstand sind von Unternehmen zu Unternehmen unterschiedlich, aber zwei allgemein wichtige Bereiche sind die Einhaltung der Risikokategorisierung und die Investition in KI-Wissen, da jedes Unternehmen, das KI-Systeme einsetzt, davon betroffen sein wird.
Für mittelständische Unternehmen, insbesondere in Branchen wie dem produzierenden Gewerbe (z.B. Maschinenbau) und dem Gesundheitswesen, in denen KI-Anwendungen von entscheidender Bedeutung sein können, bedeutet die Einhaltung der Vorschriften aus dem EU AI Act, die Implementierung von Prozessen zur kontinuierlichen Bewertung und Dokumentation der Risikostufen ihrer KI-Systeme. Dies ist nicht nur mit erheblichen Investitionen in Compliance-Mechanismen verbunden, sondern auch mit der potenziellen Notwendigkeit, bestehende KI-Systeme zu ändern, um Sicherheits- und Transparenzstandards zu erfüllen. Maßnahmen umfassen: Technische Dokumentation erstellen, Transparenz und Erklärbarkeit des KI-Systems sicherstellen, menschliche Aufsicht sicherstellen.
Exkurs Beispiele für Klassifizierungen
Der EU AI Act klassifiziert KI Systeme als Unannehmbares Risiko, die unbewusst Verhalten manipulieren, soziale Schwachstellen ausnutzen, soziales Scoring betreiben, Gesichtserkennung ungerichtet sammeln, Emotionen am Arbeitsplatz erkennen und sensible persönliche Merkmale wie ethnische Zugehörigkeit oder sexuelle Orientierung analysieren.
KI-Systeme mit hohem Risiko im Sinne des EU AI Act umfassen KI-Systeme in den Bereichen biometrische Identifizierung, Verwaltung kritischer Infrastrukturen, Bildungszugang und -bewertung, Personalverwaltung, Zugänglichkeit grundlegender Dienstleistungen, Strafverfolgung sowie Migration und Grenzkontrolle, die jeweils erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte bergen.
KI-Systeme mit begrenztem Risiko im Sinne des EU AI Act umfassen Anwendungen, die Transparenzverpflichtungen erfordern, um die Nutzer darüber zu informieren, dass sie mit KI interagieren, wie z. B. Chatbots oder künstlich generierte Inhalte, um eine informierte Entscheidung über deren Nutzung zu ermöglichen.
KI-Systeme mit minimalem Risiko im Sinne des EU AI Act umfassen Anwendungen wie KI-gestützte Videospiele oder Spamfilter, deren Nutzung in der EU weitgehend frei und unreguliert ist, da sie als risikoarm gelten.
Für mittelständische Unternehmen bedeuten die in Artikel 4 des EU AI Act geforderten KI-Kenntnisse die Durchführung von Weiterbildungsprogrammen, die auf die spezifischen betrieblichen Bedürfnisse und die vorhandenen technischen Fähigkeiten der Belegschaft zugeschnitten sind. Ziel ist es, die Beschäftigten in die Lage zu versetzen, KI-Technologien effektiv und sicher einzusetzen. Dies erfordert kontinuierliche Investitionen in Bildungsressourcen und möglicherweise eine Anpassung der Einstellungsstrategien, um KI-Kompetenzen in den Vordergrund zu stellen.
“KI-Kenntnisse: Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kenntnisse verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Weiterbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, berücksichtigt werden.”
Nach Artikel 4 des KI-Gesetzes der EU müssen Unternehmen sicherstellen, dass ihre Mitarbeiter und Stakeholder über ausreichende KI-Kenntnisse verfügen, die ihren Aufgaben und den spezifischen KI-Systemen, die sie einsetzen, angemessen sind.
Dies bedeutet, dass die Unternehmen in gezielte Schulungsprogramme investieren müssen, die ihren Mitarbeitern die technischen Kenntnisse und Fähigkeiten vermitteln, die sie benötigen, um KI-Technologien sicher und effektiv zu nutzen. Die Auswirkungen sind weitreichend: Unternehmen müssen Ressourcen für die Weiterbildung bereitstellen und die Einhaltung der Vorschriften sicherstellen, was zu erheblichen betrieblichen Veränderungen führen könnte, insbesondere in Branchen, die stark auf KI angewiesen sind.
Viele Unternehmen verfügen weder über das Know-how noch über die Ressourcen, um unternehmensweit KI-Wissen aufzubauen. Als ersten Einstieg bietet Triebwerk ein umfassendes und ganzheitliches Qualifizierungsprogramm für Unternehmen an, die ihren Mitarbeitenden die notwendigen KI-Kompetenzen vermitteln wollen:
Wir beginnen mit einer Analyse der KI-Anwendungsbereiche in Ihrem Unternehmen und erfassen, welche KI-Tools in welcher Form bereits im Einsatz sind (z.B. gibt es einen KI-Chatbot, den Sie für interne Prozesse nutzen), identifizieren relevante Stakeholder und deren Kompetenzniveaus. Darauf aufbauend entwickeln wir einen spezifischen Schulungsplan, der sich an den Risikoklassen der eingesetzten KI-Systeme orientiert.
In den ersten Wochen konzentrieren sich die Schulungen auf die Grundlagen der KI, einschließlich maschinelles Lernen und Deep Learning, sowie auf den rechtlichen und ethischen Rahmen des EU AI Act. Auch die richtige Interpretation und das Risikomanagement von KI-Systemen werden behandelt.
Nach den Grundlagen vertiefen die Teilnehmerinnen und Teilnehmer ihr Wissen in spezifischen Anwendungsbereichen. Dieser Teil beinhaltet praktische Übungen und spezifische Szenarien aus dem jeweiligen Fachgebiet, um das Gelernte direkt anwendbar zu machen.
Das Programm schließt mit einer Prüfung der erworbenen Kenntnisse ab. Nach bestandener Abschlussprüfung erhalten die Teilnehmenden ein Zertifikat, das ihre Qualifikation bescheinigt. Regelmäßige Auffrischungskurse halten das Wissen auf dem neuesten Stand.
Dieser strukturierte Ansatz ermöglicht eine effektive Vorbereitung auf die Anforderungen des EU AI Act und unterstützt den verantwortungsvollen Einsatz von KI-Technologien im Unternehmenskontext.
