English
Am 1. August 2024 trat das Europäische Gesetz über künstliche Intelligenz (KI-Gesetz) in Kraft. Das Gesetz zielt darauf ab, die verantwortungsvolle Entwicklung und den Einsatz künstlicher Intelligenz in der EU zu fördern.
Dieser Blog soll Unternehmen unverbindlich über den EU AI Act informieren, sollte jedoch nicht als offizielle Stellungnahme bzw. Verfahrensanweisung der Serviceware SE verstanden werden.
1. Was ist der EU AI Act?
Der EU AI Act ist eine neue Verordnung der Europäischen Union, die die Entwicklung und Nutzung von Künstlicher Intelligenz (KI) in Europa regulieren soll. Ziel ist es, Innovation zu fördern und gleichzeitig die Grundrechte sowie die Sicherheit der Bürgerinnen und Bürger zu schützen.
Die Verordnung legt klare Anforderungen fest, die KI-Entwickler und -Betreiber je nach spezifischer Nutzung der KI erfüllen müssen. Gleichzeitig soll das Regelwerk den administrativen und finanziellen Aufwand für Unternehmen reduzieren.
Damit ist der EU AI Act das erste umfassende Regelwerk zur KI, das Standards für den Einsatz von KI-Systemen definiert, um potenzielle Risiken und ethische Herausforderungen zu erkennen, zu adressieren und zu bewältigen.
HintergrundEU-Verordnung und EU-Richtlinie Im Gegensatz zu einer EU-Richtlinie, bei der es den einzelnen Ländern obliegt, entsprechende Rechtsvorschriften zur Erreichung eines Ziels zu erlassen, ist eine EU-Verordnung ein verbindlicher Rechtsakt, der von allen EU-Ländern in vollem Umfang umgesetzt werden muss. |
2. Für wen ist der EU AI Act wichtig?
Der EU AI Act richtet sich an KI-Entwickler und KI-Betreiber, also sowohl an Anbieter von KI-Technologien bzw. KI-unterstützten Technologien als auch an Unternehmen oder Organisationen, die KI-basierte Lösungen wie beispielsweise automatisierte KI-Assistenten in ihre Serviceangebote integrieren.
Das bedeutet, dass man auch dann, wenn keine eigene KI-Technologie entwickelt wird, als Betreiber bzw. Anwender der Technologie im Kontext des EU AI Acts für deren Einsatz verantwortlich ist. Die Verordnung gilt dabei für Unternehmen jeder Größe, also auch für Kleinunternehmen und den Mittelstand.
3. Was sind die wichtigsten Regelungen im EU AI Act?
Grundsätzlich geht es beim EU AI Act um den Schutz der Grundrechte bei gleichzeitiger Wahrung der Chancengleichheit des EU-Raums im weltweiten Wettlauf um Innovationen.
Dabei verfolgt die Verordnung einen 4-stufigen risikobasierten Ansatz. Je höher, bezogen auf ein Anwendungsfeld der KI, das Risiko für die Sicherheit bzw. die Grund- und Persönlichkeitsrechte eingeschätzt wird, desto strenger sind die Vorgaben. Sie reichen bei minimalem Risiko von keiner weiteren Verpflichtung über die Vorgabe von Transparenz, bis hin zum absoluten Verbot gewisser Anwendungsfelder. Je nach Risikostufe gelten auch unterschiedlich tief ausgeprägte Dokumentations- und Transparenzpflichten.
4. Die vier Risikostufen des EU AI Act sind wie folgt definiert:
|
Risikostufe |
Definition |
Beispiele |
|
Unannehmbares Risiko |
KI-Systeme, von denen eine klare Bedrohung für die Grundrechte der Menschen ausgeht, sind verboten. |
Systeme, die Behörden oder Unternehmen eine Bewertung des sozialen Verhaltens ermöglichen (Social Scoring) |
|
Hohes Risiko |
Für KI-Systeme, die als hochriskant eingestuft werden gelten strenge Anforderungen, z. B. im Hinblick auf Risikominderungssysteme, hochwertige Datensätze, klare Informationen für die Nutzer*innen, menschliche Aufsicht usw. |
KI-basierte medizinische Software oder KI-Systeme für die Personaleinstellung |
|
Geringes Risiko |
Bei der Interaktion von Menschen und Maschine müssen Nutzer*innen deutlich darauf hinweisen, dass sie es mit einer Maschine zu tun haben. Durch KI erzeugte Inhalte müssen als solche gekennzeichnet werden. |
Chatbots |
|
Minimales Risiko |
Die meisten KI-Systeme, unterliegen keinen besonderen Verpflichtungen, doch Unternehmen können freiwillig zusätzliche Verhaltenskodizes aufstellen. |
KI-gestützte IT-Security Produkte und KI-gestützte Videospiele |
Quelle Tabelle: European Commission, AI Act enters into force - European Commission
Die Verordnung ist bereits am 1. August 2024 in Kraft getreten. Nun liegt es an den Mitgliedsländern, die Verantwortlichkeiten festzulegen und die konkrete Umsetzungsphase einzuleiten.
Bereits ab dem 2. Februar 2025 treten die Verbote für bestimmte KI-Systeme in Kraft.
Einen Zeitplan für die Umsetzung finden Sie unter anderem hier: Zeitplan für die Umsetzung | EU-Gesetz über künstliche Intelligenz (Angaben ohne Gewähr).
Ab August 2025 können Strafen verhängt werden, insbesondere wenn die Dokumentationspflichten für den Einsatz von KI sowie die Transparenzregeln nicht eingehalten werden. Grundsätzlich sind Sanktionen von bis zu 35 Millionen Euro oder bis zu 7 % des Jahresumsatzes vorgesehen.
5. Wie steht Serviceware als KI-Anbieter zum EU AI Act?
Serviceware unterstützt die Ziele des EU AI Acts, KI sicherer und transparenter zu gestalten.
Bereits seit sechs Jahren entwickelt Serviceware in Kooperation mit der Technischen Universität Darmstadt führende Service-Management-Lösungen auf KI-Basis. Die KI-native Serviceware-Plattform nutzt neben „Machine-Learning“-Algorithmen auch das führende Large Language Model von OpenAI, das in Europa auf der Microsoft-Azure-Plattform gehostet wird.
Generative KI wird sowohl in der Dialoggestaltung (Stichwort: Digitale Assistenten) als auch bei der Automatisierung und Optimierung von Prozessen und Workflows sowie im Wissensmanagement eingesetzt. Die Möglichkeiten der Prozessautomatisierung erstrecken sich dabei nicht nur auf das IT-Service-Management, sondern auch auf weitere Servicebereiche wie etwa das HR-Service-Management.
Aktuell (Stand: November 2024) ordnet Serviceware die in der KI-nativen Serviceware-Plattform verwendeten Technologien gemäß den oben umrissenen Anwendungsebenen auf der untersten, minimalen oder der zweiten, geringen Risikostufe ein (siehe unten am Beispiel des Chatbots). Serviceware sieht für seine Kunden im Kontext des EU AI Acts derzeit grundsätzlich keine besonderen Transparenz- oder Kennzeichnungspflichten, die mit der Definition eines „hohen“ oder „unannehmbaren“ Risikos verbunden wären.
Beim Einsatz des Serviceware Solution Bots bzw. Chatbots empfiehlt Serviceware jedoch den Hinweis, dass es sich um eine Interaktion mit einer Maschine handelt.
Wie genau solche Einordnungen künftig vorzunehmen sind und welche heute möglicherweise noch nicht offensichtlichen Präzedenzfälle, Kriterien oder Einschätzungen dabei eine Rolle spielen könnten, lässt sich derzeit noch nicht eindeutig vorhersagen.
6. Was sollte jetzt getan werden?
Serviceware-Kunden sollten die Umsetzung des EU AI Acts in ihrem jeweiligen Land genau beobachten und frühzeitig eigene Bewertungen und Einordnungen vornehmen. Auch die Dokumentation sowie Maßnahmen zur Erhöhung der Transparenz sollten frühzeitig angegangen werden.
Bei der Bewertung gibt es sicherlich noch Grenzbereiche und Raum für unterschiedliche Auslegungen:
Die EU-Kommission benennt in der obenstehenden Tabelle beispielsweise „KI-Systeme für die Personaleinstellung“ als Anwendungsbereiche mit hohem Risiko. Dabei ist vermutlich das Risiko gemeint, dass Bewerberinnen und Bewerber durch KI in irgendeiner Weise automatisiert und potenziell diskriminierend kategorisiert oder bewertet werden. Ein durch KI unterstützter, semi-automatisierter Prozess hingegen, der die Bewerbungs-, Interview- oder Onboarding-Phase eines neuen Mitarbeiters möglichst unmittelbar und bequem gestaltet (z. B. durch zielgerichtete Informationen und jederzeit verfügbare Antworten), kann aus aktueller Sicht weniger kritisch betrachtet werden.
Das Serviceware-Tochterunternehmen Strategic Service Consulting (SSC) bietet ein umfassendes und modulares Beratungs-Framework für die Entwicklung und den Einsatz von KI-Strategien an. Im Themenfeld „Rechtliche Aspekte und Compliance“ liegt der Fokus darauf, zu prüfen, inwieweit die geplante oder aktuelle Integration von KI mit geltenden Vorschriften übereinstimmt und wie potenzielle rechtliche Risiken – unter anderem durch den EU AI Act – minimiert werden können.
SSC Managing Director Dr. Florian Meister: „Durch den EU AI-Act wird eine AI-Governance nunmehr definitiv erforderlich. Dieses wird die Qualität und das Vertrauen in KI-Lösungen am Ende vergrößern. So kommen wir vom „Experimentierstatus“ in reife, produktive Umgebungen.“
Lesen Sie mehr im Whitepaper der SSC zum Thema: Entwickeln Sie eine nachhaltige KI-Strategie
Fazit
Spätestens mit Blick auf die potenziellen Strafen fühlt man sich beim EU AI Act an die Einführung der EU-DSGVO im Jahr 2016 erinnert, die ähnlich drakonischen Sanktionen androhte. Auch der EU AI Act wird sicher zusätzliche Belastungen für KI-Anwender und KI-Anbieter mit sich bringen. Wie genau insbesondere das Ziel, Organisationen administrativ zu entlasten, erreicht werden soll, ist jedoch bislang nicht ersichtlich. Anders als bei der DSGVO, die primär dem Individuum mehr Kontrolle über die eigenen Daten verschaffte und Unternehmen sowie Organisationen im Wesentlichen neue Pflichten auferlegte, bietet der EU AI Act auch neue Chancen:
Neben dem operativen Nutzen und den Einsparmöglichkeiten, die durch den Einsatz von KI entstehen, können Unternehmen durch einen dokumentierten und nachweislich verantwortungsvollen Umgang mit KI nicht nur ihre Wettbewerbsfähigkeit stärken, sondern auch ein positives Bewusstsein für die Herausforderungen der künstlichen Intelligenz unterstreichen.
Die Arbeit mit und die Umsetzung des EU AI Acts wird, ähnlich wie bei der DSGVO im Jahr 2016, ein Lernprozess sein. Das Thema sollte frühzeitig auf der Agenda eines jeden CIOs stehen, der aktuell KI einsetzt oder den Einsatz ausweiten möchte. Gleichzeitig sollten Transparenz und der Schutzgedanke als Wettbewerbsvorteile erkannt und aktiv genutzt werden.
Autoren
Werner Lütkemeier / Dr. Florian Meister
Quellen
Pressemeldung der EU-Kommission:
AI Act enters into force - European Commission
AI-Act Details der EU-Kommission
AI Act | Shaping Europe’s digital future
Anmerkung des Autors: Bitte beachten Sie, dass dieser Blog auf dem Kenntnisstand und der Interpretation des Autors vom 25.11.2024 beruht. Er ist nicht als rechtlich verbindliche Handlungsempfehlung der Serviceware SE gedacht und geeignet.
