Was ist künstliche Intelligenz?
Künstliche Intelligenz bezeichnet computerbasierte Systeme, die bestimmte menschliche Denk- und Sprachleistungen technisch nachahmen. Sie können Texte, Bilder oder andere Inhalte erzeugen, verstehen diese aber nicht selbst und erzeugen kein eigenes Wissen. Der Umgang mit KI-Systemen birgt auch Risiken.
Für Studium und wissenschaftliches Arbeiten bedeutet das: KI kann unterstützen, ersetzt aber nicht das eigene Denken, Prüfen und die eigene Verantwortung.
Wie arbeiten KI-Systeme?
Moderne KI-Systeme arbeiten datenbasiert. Sie analysieren große Mengen an Beispieldaten und lernen daraus statistische Zusammenhänge. Auf dieser Basis treffen sie Vorhersagen oder erzeugen Ergebnisse, die für auf den ersten Blick sinnvoll oder plausibel erscheinen.
Human in the Loop
Die Verantwortung für die Nutzung, Interpretation und Bewertung von KI-Ergebnissen liegt daher immer beim Menschen.
Zwei grundlegende Arten von KI-Modellen
In der Künstlichen Intelligenz lassen sich vereinfachend gesagt zwei grundlegende Modelltypen unterscheiden:
- Diskriminative KI erkennt Muster in bestehenden Daten und ordnet neue Eingaben bekannten Kategorien oder Werten zu. Typische Anwendungen sind etwa Spamfilter oder Bilderkennung. Solche Systeme lernen, Unterscheidungsmerkmale zu erkennen und Entscheidungen auf Basis vorhandener Klassen zu treffen.
- Generative KI geht einen Schritt weiter: Sie erzeugt neue Inhalte, indem sie Muster, Strukturen und Wahrscheinlichkeiten aus Trainingsdaten kombiniert. So entstehen Texte, Bilder, Musik oder Videos, die wie menschlich erstellte Inhalte wirken können
Generative KI Modelle wurden mit großen Mengen von Daten "trainiert". Das bedeutet: Sie haben aus sehr vielen Daten Muster, Strukturen und statistische Zusammenhänge zwischen Wörtern abgeleitet, die sie anwenden, um auf dieser Basis neue Daten zu generieren. Je nach Art der Daten, die generative Modelle erzeugen, unterscheidet man zB zwischen Sprachmodellen, Bildmodellen, Audio- oder Videomodellen.
Große Sprachmodelle (Large Language Models, LLMs)
Eine weit verbreitete Form von generativer KI sind Large Language Models (LLMs) wie ChatGPT, die auf die Verarbeitung von menschlicher Sprache spezialisiert sind. Sie können Texte erzeugen, indem sie berechnen, welches Wort oder Satzfragment in einem bestimmten Zusammenhang mit hoher Wahrscheinlichkeit als Nächstes folgt.
Das bedeutet: Ein LLM hat kein Bewusstsein und kein echtes Verständnis von Inhalten. Es beantwortet im Prinzip nur diese Frage: „Welche Fortsetzung dieses Textes ist – basierend auf meinen gelernten Wahrscheinlichkeiten – am wahrscheinlichsten?“
Das Modell kennt also keine „Bedeutung“ im menschlichen Sinn, sondern nur:
- statistische Zusammenhänge zwischen Wörtern
- typische Satzformen
- typische Argumentationsmuster
- typische Antworten auf typische Fragen
Das Modell versteht also nicht, sondern die gelernten Muster und Wahrscheinlichkeiten sind so gut, dass das Ergebnis wie Verstehen wirkt.
Dabei entsteht kein neues Wissen: LLMs kombinieren vorhandene sprachliche Muster zu neuen Texten, ohne Inhalte zu verstehen, kritisch zu reflektieren oder eigene Forschung zu betreiben. Ihre Ausgaben beruhen ausschließlich auf statistischen Zusammenhängen zwischen Wörtern.
Risiken bei der Nutzung von KI
Der Einsatz von KI-Tools im Studium birgt auch Risiken, die auf der Funktionsweise der Large Language Modelle basieren.
-
Bias und Fehlinterpretationen
KI-Modelle lernen die Wahrscheinlichkeiten, auf denen ihre Antworten basieren, aus ihren Trainingsdaten. Wenn in diesen Daten:
bestimmte Perspektiven überrepräsentiert sind
bestimmte Gruppenstereotyp dargestellt werden
bestimmte Begriffe häufig im gleichen Kontext auftauchen
… dann „übernimmt“ das Modell diese Muster – ohne zu wissen, dass sie problematisch sind.
Beispiel:
Wenn in den Trainingsdaten oft „Professor = männlich“ vorkommt, steigt die Wahrscheinlichkeit, dass das Modell bei „Professor“ an männliche Formen / Beispiele anknüpft.
Das hat Auswirkungen auf die Verlässlichkeit der Ergebnisse. KI-generierte Texte können sprachlich überzeugend wirken, enthalten aber unter Umständen sachliche Fehler oder reproduzieren Verzerrungen aus den Trainingsdaten . Sprachmodelle können nicht beurteilen, ob ihre Aussagen richtig oder verzerrt sind, da sie kein Verständnis für Inhalte haben und nicht auf eine überprüfbare Wissenssammlung zugreifen, sondern lediglich während des Trainings Muster aus großen Textmengen gelernt haben.
-
Halluzinationen
Manchmal erzeugen generative KI-Modelle sehr plausibel klingende Texte, die aber faktisch falsch sind. Es halluziniert. Das passiert, weil das Modell
- keine echte intern gespeicherte Datenbank hat
- nicht zwischen „klingt plausibel“ und „ist nachprüfbar wahr“ unterscheidet
Es optimiert nur: „Was ist die sprachlich wahrscheinlichste Antwort auf diesen Prompt?“
Beispiel:
Wenn man eine Quelle oder ein Zitat fordert und das Modell im Training viele Antworten gesehen hat nach dem Muster: „Die Studie von XY (2021) zeigt, dass …“, dann konstruiert es etwas in diesem Stil, auch wenn die konkrete Studie nie existiert hat.
Was bedeutet das für den Einsatz von KI im Kontext des Studiums?
- Tools wie ChatGPT sind keine Recherchetools und keine verlässlichen Wissensquellen
- Sie ersetzen keine Fachliteratur und können auch falsche und ungenaue Informationen liefern
- Sie können Texte fortsetzen, umformulieren oder zusammenfassen, garantieren jedoch keine sachliche Richtigkeit
- Plagiatsgefahr: Durch die Art, wie KI-Tools Texte generieren, kann es vorkommen, dass bestehende Inhalte unverändert oder nur leicht abgewandelt wiedergegeben werden, ohne dass Quellen genannt werden.
Alle Aussagen, die mit Hilfe von KI entstehen, müssen daher selbst überprüft und mit geeigneten Quellen abgesichert werden. Für das wissenschaftliche Arbeiten – also für Inhalte, Argumente und Ergebnisse – tragen Studierende immer selbst die Verantwortung.