Die erste Regulierung der Künstlichen Intelligenz: Der „AI Act“

KI und Bauwirtschaft – unnötig Stress oder große Chance?

Im August 2024 ist das weltweit erste Gesetz zur Regulierung von künstlicher Intelligenz in Kraft getreten. Mit der Einführung des AI Acts wurden zahlreiche Begriffe in diesem Zusammenhang definiert. Die Anwendungen von künstlicher Intelligenz entwickeln sich nicht nur sehr schnell, sondern können maßgeblich die Gesundheit, die Grundrechte und die Umwelt beeinflussen. Das macht eine übergeordnete EU-Regulierung dieser Technologie, insbesondere im Rahmen einer geschäftlichen Tätigkeit, notwendig. Ebenso stellt sich nun die Frage, inwiefern Unternehmen von den neuen Regelungen des AI Acts betroffen sind. Konkret: Werden im Unternehmen KI-Systeme eingesetzt, die unter den Anwendungsbereich des AI Acts fallen? Vorab: Diese und weitere Fragen kann der vorliegende Beitrag nicht beantworten. Er soll jedoch ein Grundverständnis vermitteln und das Interesse für die rechtlichen Aspekte einer KI-Anwendung im eigenen Unternehmen im Rahmen des AI Acts fördern. Dieser Beitrag kann eine individuelle Rechtsberatung nicht ersetzen.

Der AI Act definiert ein KI-System als Software, die mehr oder weniger autonom betrieben werden kann, anpassungsfähig ist und aus gelernten Daten (Aspekt des maschinellen Lernens) Schlussfolgerungen (Entscheidungen, Prognosen etc.) ableiten kann, um bei Bedarf sogar einen neuen Output zu erzeugen. Wichtig ist hierbei die Unterscheidung zu herkömmlichen Softwaresystemen, bei denen der Mensch zuvor umfassende Regeln programmiert hat, die die Software in der Anwendung strikt befolgt. KI-Systeme sollten sich vielmehr diese Regeln selbst erstellen. Diese Definition kann dennoch sehr breit interpretiert werden (wir erhalten jedoch erstmalig eine Legaldefinition von „KI“). Der AI Act teilt KI-Systeme in verschiedene Stufen hinsichtlich ihres Anwendungsrisikos ein:

• Verbotene KI-Systeme (z. B. Manipulation des menschlichen Verhaltens)
• KI-Systeme mit hohem Risiko (z. B. Komponenten in der kritischen Infrastruktur)
• KI-Systeme mit begrenztem Risiko (z. B. Chatbots wie ChatGPT)
• KI-Systeme mit minimalem bzw. keinem Risiko (z. B. in Videospielen)

Jede dieser Risikostufen legt unterschiedliche Verpflichtungen für die jeweiligen Akteure im Sinne des AI Acts fest. Daher die nächste Frage: Wer bin ich (als Unternehmer) für das Gesetz? Die Begriffsbestimmungen des AI Acts definieren in dieser Hinsicht KI-Akteure wie Anbieter, Bereitsteller, Händler und Betreiber. Unternehmen in der Baubranche werden überwiegend als „Betreiber“ oder „Anbieter“ agieren. Ein Anbieter wäre z. B. ein Unternehmen, das sich ein KI-System von anderen entwickeln lässt und es dann auch in der eigenen Organisation in Betrieb nimmt. Ein „Betreiber“ verwendet das KI-System in eigener Verantwortung und kann daher auch ein Anbieter sein. Das bedeutet, es gibt für die jeweilige Risikostufe des KI-Systems Verpflichtungen, die von den betroffenen Unternehmen beachtet werden müssen. Eine davon ist beispielsweise die Sicherstellung der KI-Kompetenz. Artikel 4 des AI Acts schreibt vor, dass Mitarbeiter, die diese KI‑Systeme im Unternehmen nutzen, über ausreichende KI-Kenntnisse verfügen müssen (z. B. durch Weiterbildungen).

Bei der Einführung von KI im Unternehmen müssen also auch zahlreiche rechtliche Aspekte, wie im AI Act beschrieben

Beitrag 04 – 07.10.2024