Hinweise für die Nutzung von KI-Tools

Untersuchungen zeigen, dass über die Hälfte der Studierenden an deutschen Hochschulen KI im Studium nutzen. Am häufigsten nutzen die Studierenden KI für allgemeine Recherchen bzw. um einen Überblick über ein Thema zu erhalten (vgl. z.B. CHE Hochschulranking im Wintersemester 2024/25 oder Joerg von Garrel, Jana Mayer (2025): Künstliche Intelligenz im Studium). Daneben existieren zahlreiche weitere KI-Anwendungen mit unterschiedlichen Nutzungsmöglichkeiten. Dieses Kapitel gibt eine kurze Übersicht über KI-Tools, die Studium und Lehre unterstützend genutzt werden können. Nutzende sollten beachten, dass die meisten KI-Werkzeuge von privaten Unternehmen außerhalb der EU stammen. Daneben bestehen eine Vielzahl an Open Source Anwendungen, die auf Plattformen wie Hugging Face oder GitHub zugänglich gemacht werden. Entscheidend ist, KI-Tools immer kritisch und verantwortungsvoll zu nutzen und einen bewussten Umgang bei den Studierenden zu fördern. Beachten Sie:

KI-Systeme produzieren Halluzinationen und Falschaussagen, da ihre Ausgaben auf Wahrscheinlichkeitsrechnung basieren. Sie haben kein echtes Verständnis für Fakten oder menschliche Emotionen. Ihr Wissen beschränkt sich auf den Stand des Trainingsdatensatzes. Jedes Ergebnis sollte daher immer kritisch auf Vollständigkeit und Richtigkeit geprüft werden.

KI-generierte Inhalte enthalten häufig diskriminierende Verzerrungen. Es besteht die Gefahr, dass Vorurteile oder diskriminierende Aussagen reproduziert werden, die in der Datenbasis des KI-Systems enthalten sind.

Bei der Nutzung von KI-Systemen gilt die Einhaltung von Datenschutzgesetzen wie der DSGVO. Häufig haben KI-Tools einen Sitz in den USA, weshalb der Datenschutz nicht sichergestellt werden kann. Bei der Eingabe personenbezogener, sensibler und urheberrechtlich geschützter Daten ist daher Vorsicht geboten.