KI-Regulierung im Bildungsbereich: Was der AI-Act bedeutet

Seit August 2024 ist in der Europäischen Union das weltweit erste umfassende Gesetz zur Künstlichen Intelligenz (AI-Act) in Kraft getreten.

Ziel der Verordnung ist es, Vertrauen in KI-Technologien zu schaffen und die Grundrechte der Menschen zu schützen. Die meisten Bestimmungen gelten ab dem 2. August 2026, einige treten jedoch schon früher in Kraft.

Welche Folgen und spezielle Verpflichtungen sich aus dem AI-Act für Bildungsanbieter und Lehrende ergeben, hat Susanne Witt vom DIE für das Portal wb-web.de zusammengestellt.

Wir haben die wesentlichen Punkte dieses Artikels aufgegriffen und geben sie hier in einer verkürzten Fassung wieder. Bei darüber hinausgehendem Interesse empfehlen wir die Lektüre des Volltextes.

Kategorisierung von KI-Systemen: Der AI-Act klassifiziert KI-Anwendungen in vier Risikostufen:

Unvertretbares Risiko: Verbotene Systeme.
Hohes Risiko: Streng regulierte Systeme.
Begrenztes Risiko: Systeme mit Transparenzpflichten.
Minimales Risiko: Weitgehend unregulierte Systeme.

Verpflichtungen für Bildungsanbieter und Lehrende:

Ausbildung und KI-Kompetenzen: Es ist sicherzustellen, dass Mitarbeitende über ausreichende Kenntnisse im Umgang mit KI-Systemen verfügen, um deren Chancen und Risiken kompetent einschätzen zu können.
Transparenzpflichten: Beim Einsatz von KI-generierten Inhalten muss klar erkennbar sein, ob diese von Menschen oder Maschinen erstellt wurden.
Technische Dokumentation: Anbieter von KI-Modellen sind verpflichtet, eine technische Dokumentation bereitzustellen, insbesondere wenn es sich um proprietäre Systeme handelt.
Urheberrechtlicher Schutz: Es gilt, bestehende Urheberrechte zu wahren und sicherzustellen, dass der Einsatz von KI nicht zu rechtlichen Konflikten führt.

Praktische Umsetzung in der Bildung:

Einsatz von KI: KI kann genutzt werden, um Verwaltungsprozesse zu optimieren, Entscheidungsfindungen zu unterstützen und personalisierte Lernangebote zu schaffen.
Qualifizierungsbedarf: Bildungseinrichtungen sollten den Schulungsbedarf ihres Personals ermitteln, basierend auf den spezifischen KI-Anwendungen und deren Risikoklassifizierung.

Die frühzeitige Auseinandersetzung mit diesen Anforderungen ermöglicht es Bildungsanbietern, die Chancen der KI effektiv zu nutzen und gleichzeitig den gesetzlichen Vorgaben des AI-Act gerecht zu werden.

(28.02.2025, prh - nach einem Artikel auf wb-web.de)