Rechtlicher Rahmen
Rechtliche Grundlagen
In Europa gibt es mehrere Gesetze und rechtliche Rahmenwerke, die sich direkt oder indirekt mit Generativer KI befassen. In diesem Video-Vortrag stellt Dr.in Janine Horn (ELAN e.V.) die rechtlichen Grundlagen der Verwendung von KI an Bildungseinrichtungen, insbesondere an Hochschulen, für Bildungsverantwortliche, Pädagog:innen, Entwickler:innen sowie Studierende vor. Hinweise zu Rahmenbedingungen an der Universität Leipzig hinsichtlich KI bei Prüfungsleistungen finden Sie im Kapitel Prüfen und Bewerten.
Zu den zwei wichtigsten europäischen Gesetzen bezüglich Generativer KI gehören:
AI Act - Die europäische KI-Verordnung
Der EU Artificial Intelligence Act, zu Deutsch "Verordnung über Künstliche Intelligenz", ist das erste transnationale Gesetz zur Regulierung Künstlicher Intelligenz. Er soll EU-Bürger:innen vor möglichen negativen Auswirkungen von KI-Anwendungen schützen und die Innovation im Bereich vertrauenswürdiger Künstlicher Intelligenz fördern. Der AI Act teilt KI-Anwendungen in vier Risikokategorien ein:
Unzulässige KI: Anwendungen, die die Grundrechte verletzen. Dazu gehören Anwendungen, die zur biometrischen Überwachung, Social Scoring, Manipulation und Ausbeutung verwendet werden können.
KI-Systeme mit hohem Risiko: Anwendungen, die in sicherheitskritischen Bereichen, wie Medizin, Verkehr oder Bildung eingesetzt werden. Sie unterliegen strengen Anforderungen zur Risiko- und Folgenabschätzungen, Transparenz und Nachvollziehbarkeit sowie der Überwachung durch Menschen.
KI-Systeme mit überschaubarem Risiko: Anwendungen, die kein erhebliches Risiko für die Gesundheit, Sicherheit oder Grundrechte darstellen, aber einem überschaubaren Risiko unterliegen. Verpflichtend ist eine transparente Offenlegung, wo KI im Einsatz ist oder war. Dazu gehören z. B. Chatbots und KI-generierte Bildinhalte.
KI-Systeme mit geringem Risiko: Anwendungen, die mit keinem oder nur mit minimalem Risiko verbunden sind. Weder Anbietern noch Betreibern dieser KI-Anwendungen werden strikte Pflichten auferlegt.
Die Verordnung ist am 1. August 2024 in Kraft getreten. Laut Zeitplan des AI-Acts erlangen die enthaltenen Verbote und Verpflichtungen für Anbieter und Nutzer:innen, Händler:innen und Aufsichtbehörden über einen Zeitraum von drei Jahren schrittweise Gültigkeit. Hochschulen müssen bis dahin prüfen, welche KI-Anwendungen wofür genutzt werden und ob diese Praxis den Anforderungen des AI Acts entsprechen. Die Handlungsempfehlungen, herausgegeben vom Verein ZKI (Zentren für Kommunikation und Informationsverarbeitung in Lehre und Forschung e.V.) erläutern übersichtlich die zentralen Aspekte des AI Acts und seine Bedeutung für Hochschulen.
Zusammenfassungen zum AI Act bieten zudem das Infopapier 2024 der Plattform KI.NRW oder der Umsetzungsleitfaden zur KI-Verordnung von Bitcom-Akademie.
Datenschutz-Grundverordnung (DSGVO)
Die DSGVO regelt den Schutz personenbezogener Daten in der EU und gilt auch im Kontext von generativer KI. Sie bestimmt, wie personenbezogene Daten verarbeitet werden dürfen und legt die Pflichten datenverarbeitender Personen fest. KI-Entwickler:innen und -Nutzer:innen müssen sicherstellen, dass ihre Tätigkeit den Anforderungen der DSGVO entsprechen, um die Rechte und Freiheiten der betroffenen Personen zu schützen. Dazu gehört z.B. das Recht auf Zugang, Bearbeitung und Löschung von personenbezogenen Daten. Auf Seiten der Verantwortlichen besteht die Pflicht zur Transparenz, Erklärbarkeit und Schutz der Daten.
Im Kapitel Datenschutz finden Sie Hinweise für die Nutzung von KI-Systemen im universitären Kontext.