Ethische Fragen im Umgang mit KI
Künstliche Intelligenz (KI) prägt zunehmend alle Lebensbereiche – auch die Bildung. Sie eröffnet neue Chancen für Lehre und Lernen, birgt jedoch ebenso Risiken. Gerade im Hochschulkontext ist ein bewusster, reflektierter Umgang notwendig, da hier Rechte auf Bildung, Kinderschutz, Datenschutz und Privatsphäre in besonderem Maße zu berücksichtigen sind.
KI ist kein neutrales Werkzeug: Die Ergebnisse basieren auf Daten, die von Menschen erzeugt, ausgewählt und klassifiziert werden. Dadurch können Stereotype und Diskriminierungen reproduziert werden. Zudem besitzt KI keine Entscheidungskompetenz – die Verantwortung liegt stets beim Menschen. Deshalb dürfen Entscheidungen und Bewertungen in Hochschulen niemals vollständig automatisiert erfolgen.
Recht: Bei der Nutzung von KI sind Urheberrechte, Datenschutz, die KI-Verordnung (AI Act), Persönlichkeitsrechte sowie Barrierefreiheit einzuhalten.
Verantwortung: Lehrende und Studierende sind verantwortlich für Input und Output der KI-Systeme.
Risiken: Generative KI-Systeme können Vorurteile und Verzerrungen in ihren Ergebnissen enthalten. Daher ist es wichtig, Studierende für mögliche Stereotype und Bias zu sensibilisieren und KI-generierte Inhalte kritisch zu prüfen und gegebenenfalls zu überarbeiten. Zudem besteht die Gefahr von Fake News oder Desinformationen durch täuschend echte Texte, Bilder oder Videos.
Verantwortungsvoller Einsatz:
Ein nachhaltiger Umgang mit KI an Hochschulen erfordert Sensibilisierung, Weiterbildung und Austausch. Lehrende können KI-Systeme sinnvoll in ihre Lehrkonzeption integrieren, wenn diese an klar formulierte Lernziele gebunden sind und kontinuierlich reflektiert und angepasst werden. Auch bei der Leistungsbewertung gilt: KI darf nur unterstützend wirken. Die endgültige Verantwortung liegt stets bei den Lehrenden. Transparenz gegenüber Studierenden ist dabei entscheidend.
Quelle: Netzwerk_Ethische_Nutzung_KI_Handreichung_v11.pdf
In dieser Sammlung von Dr. Maia George können Sie sich mit den häufigsten Biases von KIs, und was man dagegen tun kann, vertraut machen. Dr. Maia George ist eine Expertin in Erwachsenenbildung, insbesondere im Forschungsbereich.
Außerdem hat Vanessa Kuhfs eine ausführliche Literaturliste erstellt, wo man viele Werke zu Themen wie Feminismus im Bezug auf KI, KI-Ethik (auch nicht-westliche Perspektive auf KI-Ethik), Feministisches HCI und Design und weitere finden kann. Sie forscht zu KI aus einer feministischen und sozial verantwortlichen Perspektive in der Hochschule Burg Giebichenstein und in der Universität Leipzig.
Hier finden Sie eine Reihe von häufigen und wichtigen Fragen und Antworten, die oft im Zusammenhang von KI und guter wissenschaftlichen Praxis entstehen. Die Fragen sind von dem Ombudsgremium für die wissenschaftliche Integrität in Deutschland gesammelt und beantwortet.