Wenn du dachtest, die Definition von Künstlicher Intelligenz sei kompliziert, dann warte ab, bis du siehst, wie die EU-Kommission das Thema angeht. Mit ihrem neuen Leitfaden versucht sie nun, Ordnung in das semantische Chaos zu bringen – mit durchaus überraschenden Erkenntnissen.

Der frisch veröffentlichte Leitfaden soll Unternehmen dabei helfen, einzuschätzen, ob ihre Systeme unter den AI Act fallen. Das klingt zunächst nach einer guten Idee. Doch was die EU-Kommission als "Orientierungshilfe" präsentiert, könnte für viele Unternehmen zum Kopfzerbrechen werden.

Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act.
These guidelines provide an overview of AI practices that are deemed unacceptable due to their potential risks to European values and fundamental rights.
The Commission publishes guidelines on AI system definition to facilitate the first AI Act’s rules application
The guidelines on the AI system definition explain the practical application of the legal concept, as anchored in the AI Act.

Sieben Elemente, unendliche Interpretationen

Die Kommission hat sieben Kernelemente identifiziert, die ein KI-System ausmachen sollen. Das Interessante dabei: Nicht alle müssen gleichzeitig erfüllt sein. Das macht die Sache nicht einfacher, aber deutlich realistischer.

Beginnen wir mit dem Offensichtlichen: Ein "maschinenbasiertes System" muss es sein. Das umfasst Hardware und Software – vom klassischen Computer bis hin zu Quantensystemen. Sogar biologische Systeme können darunter fallen, solange sie Rechenleistung erbringen. Diese breite Definition zeigt, dass die EU-Kommission vorausdenkt und künftige Entwicklungen nicht ausschließen möchte.

Spannend wird es bei der "Autonomie". Hier geht es um die Fähigkeit, unabhängig von direktem menschlichem Eingreifen zu arbeiten. Das klingt zunächst eindeutig, wirft aber praktische Fragen auf: Ab welchem Grad der Autonomie sprechen wir von KI? Die Grenzen sind fließend, und genau das könnte für Unternehmen zum Problem werden.

Die Crux mit der Inferenz

Der entscheidende Punkt – und hier wird es wirklich interessant – ist die "Inferenz". Sie wird als unverzichtbares Merkmal beschrieben, das KI-Systeme von herkömmlicher Software unterscheidet. Vereinfacht gesagt: Das System muss aus Daten lernen oder Schlüsse ziehen können.

Das führt uns zu einem paradoxen Moment: Ein System muss nicht zwingend "anpassungsfähig" sein, um als KI zu gelten. Mit anderen Worten: Ein KI-System muss nicht lernen können, aber es muss Schlüsse ziehen können. Diese Unterscheidung ist subtil, aber bedeutsam für die praktische Anwendung des AI Acts.

Praktische Auswirkungen für Unternehmen

Was bedeutet das nun für Unternehmen? Zunächst einmal müssen sie ihre bestehenden Systeme neu bewerten. Ein automatisiertes Entscheidungssystem, das bisher als "normale Software" galt, könnte plötzlich unter den AI Act fallen. Besonders die vier Hauptkategorien der Ausgaben – Vorhersagen, Inhalte, Empfehlungen und Entscheidungen – werden viele Unternehmen betreffen.

Die gute Nachricht: Die EU-Kommission erkennt an, dass es keine "automatische Bestimmung" geben kann. Jeder Fall muss individuell betrachtet werden. Die schlechte Nachricht: Genau das macht es für Unternehmen komplex und ressourcenintensiv.

Wer ist betroffen? Eine praktische Einordnung des AI Acts
Die Analyse umfasst verschiedene Branchen und Unternehmensgrößen. Der AI Act betrifft nicht nur Technologieunternehmen. Die Auswirkungen unterscheiden sich stark - auch innerhalb einer Branche hängt es vom konkreten KI-Einsatz ab.

Ein Schritt vor, zwei zur Seite?

Der neue Leitfaden ist ein wichtiger Schritt zur Klärung des Anwendungsbereichs des AI Acts. Aber er zeigt auch, wie schwierig es ist, transformative Technologien in rechtliche Rahmen zu pressen. Die sieben Elemente bieten eine Struktur, aber keine eindeutigen Antworten.

Für Unternehmen bedeutet das: Sie müssen sich intensiv mit den Definitionen auseinandersetzen und im Zweifel rechtliche Expertise einholen. Vor allem aber müssen sie verstehen, dass die Einordnung als KI-System keine einmalige Aufgabe ist, sondern ein kontinuierlicher Prozess – denn Systeme entwickeln sich weiter, und mit ihnen die Interpretation der Regeln.

Die EU hat mit diesem Leitfaden ein Werkzeug geschaffen, das Orientierung bieten soll. Ob es in der Praxis mehr Klarheit oder mehr Verwirrung stiftet, wird sich zeigen. Eines ist jedoch sicher: Die Definition von KI wird uns noch lange beschäftigen.

Dein Online-Kurs für rechtssichere KI-Nutzung

Zum Kurs

Die 7 Kriterien für KI-Systeme nach EU-Definition

Wichtig vorab: Nicht alle Kriterien müssen gleichzeitig erfüllt sein. Die EU unterscheidet zwischen "Bau-Phase" und "Nutzungsphase" – die Kriterien können in verschiedenen Phasen unterschiedlich ausgeprägt sein.

1. Maschinenbasiertes System

  • Hardware-Komponenten (Prozessoren, Speicher, Netzwerk)
  • Software-Komponenten (Code, Programme, Betriebssysteme)
  • Umfasst auch Quantencomputing und biologische Systeme mit Rechenkapazität
  • Grundlegende technische Infrastruktur muss vorhanden sein

2. Autonomie

  • System arbeitet mit gewisser Unabhängigkeit von menschlichen Eingriffen
  • Kann direkte oder indirekte menschliche Kontrollelemente enthalten
  • Rein manuelle Systeme sind ausgeschlossen
  • Grad der Autonomie kann variieren

3. Anpassungsfähigkeit

  • Optional: System kann, muss aber nicht selbstlernend sein
  • Möglichkeit zur Verhaltensänderung während der Nutzung
  • Kann zu unterschiedlichen Ergebnissen bei gleichen Eingaben führen
  • Bezieht sich auf die Entwicklungsfähigkeit des Systems

4. Zielsetzung

  • System verfolgt explizite oder implizite Ziele
  • Explizit: direkt im Code definierte Ziele
  • Implizit: aus Trainingsdaten oder Interaktionen abgeleitete Ziele
  • Ziele können vom beabsichtigten Verwendungszweck abweichen

5. Inferenz (Kernmerkmal)

  • Unverzichtbares Element für KI-Systeme
  • Fähigkeit zur Ausgabengenerierung in der Nutzungsphase
  • Ableitung von Modellen/Algorithmen aus Eingabedaten
  • Nutzt verschiedene KI-Techniken (Machine Learning, wissensbasierte Ansätze)

6. Art der Ausgaben

Vier Hauptkategorien:

  • Vorhersagen (Schätzungen unbekannter Werte)
  • Inhalte (Generierung von Text, Bildern, Videos, Musik)
  • Empfehlungen (Vorschläge für Aktionen/Dienste)
  • Entscheidungen (automatisierte Schlussfolgerungen)

7. Umgebungsinteraktion

  • System muss physische oder virtuelle Umgebungen beeinflussen können
  • Physische Interaktion: z.B. Steuerung von Robotern
  • Virtuelle Interaktion: Einfluss auf digitale Räume, Datenflüsse
  • Wirkung muss nachweisbar sein

Praktischer Hinweis

Die EU-Kommission betont: Es gibt keine "automatische Bestimmung" – jeder Fall muss individuell geprüft werden. Die Erfüllung einzelner Kriterien ist ein Indikator, aber keine Garantie für die Einstufung als KI-System.

Sara liebt die digitale Transformation - kennt aber auch die Risiken. darüber schreibt sie gerne
Technologie ist wie ein breiter Fluss – die wahren Hürden sind die Dämme, die wir selbst errichten. Sara Barr: H>AI
Share this article
The link has been copied!