Europäische KI-Verordnung
In Europa gibt es mehrere Gesetze und rechtliche Rahmenwerke, die sich direkt oder indirekt mit Generativer KI befassen. In diesem Video-Vortrag stellt Dr.in Janine Horn (ELAN e.V.) die rechtlichen Grundlagen der KI-Verwendung an Bildungseinrichtungen, insbesondere an Hochschulen für Bildungsverantwortliche, Pädagog:innen, Entwickler:innen sowie Studierende vor.
Der EU Artificial Intelligence Act, zu Deutsch »Verordnung über Künstliche Intelligenz«, ist das erste transnationale Gesetz zur Regulierung Künstlicher Intelligenz. Er soll EU-Bürger:innen vor möglichen negativen Auswirkungen von KI-Anwendungen schützen und die Innovation im Bereich vertrauenswürdiger Künstlicher Intelligenz fördern.
Artikel 6 der KI-VO besagt, dass Künstliche Intelligenz nicht für spezifische und hochriskante Zweck genutzt werden - dazu zählen z. B. Zugangsprüfungen zur Universität und die Notenvergabe in Hochschulprüfungen. Der AI Act teilt KI-Anwendungen in vier Kategorien ein:
Unzulässige KI: Anwendungen, die die Grundrechte verletzen. Dazu gehören Anwendungen, die zur biometrischen Überwachung, Social Scoring, Manipulation und Ausbeutung verwendet werden können.
KI-Systeme mit hohem Risiko: Anwendungen, die in sicherheitskritischen Bereichen eingesetzt werden, wie Medizin, Verkehr oder Bildung eingesetzt werden. Sie unterliegen strengen Anforderungen zur Risiko- und Folgenabschätzungen, Transparenz und Nachvollziehbarkeit sowie der Überwachung durch Menschen.
KI-Systeme mit überschaubarem Risiko: Anwendungen, die kein erhebliches Risiko für die Gesundheit, Sicherheit oder Grundrechte darstellen, aber einem überschaubaren Risiko unterliegen. Verpflichtend ist eine transparente Offenlegung, wo KI im Einsatz ist oder war. Dazu gehören z. B. Chatbots und KI-generierte Bildinhalte.
KI-Systeme mit geringem Risiko: Anwendungen, die mit keinem oder nur mit minimalem Risiko verbunden sind. Weder Anbietern noch Betreibern dieser KI-Anwendungen werden strikte Pflichten auferlegt.
Die Verordnung ist am 1. August 2024 in Kraft getretet. Enthaltene Verbote und Verpflichtungen erlangen über einen Zeitraum von drei Jahren schrittweise Gültigkeit.
Quellen: Infopapier 2024 der Plattform KI.NRW und der Umsetzungsleitfaden zur KI-Verordnung von Bitcom