KI in Studium und Lehre

/

• Was ist Künstliche Intelligenz (KI)?

  KI ist Intelligenz, die von Maschinen oder Programmen verwirklicht wird. Man unterscheidet üblicherweise zwischen "schwacher KI" („weak AI“ bzw. „narrow AI“) und "starker KI" (bzw. allgemeiner KI, „strong AI“). Während schwache KI klar abgegrenzte Problemstellungen lösen kann, soll starke KI, die bislang nicht verwirklicht werden konnte, allgemeine intelligente Fähigkeiten aufweisen und dadurch beliebige Aufgaben, die intellektuelle Herangehensweisen benötigen, lösen können. Die breiter bekannten erfolgreichen KI-Tools sind der schwachen KI zuzuordnen, z.B. Computerprogramme, die menschliche Weltmeister in Schach oder Go besiegen oder Bilder aus Texteingaben erzeugen können. Auch Sprachmodelle, wie etwa GPT, werden eher der schwachen KI zugeordnet (für eine exemplarische Darstellung der Fähigkeiten von GPT 4 siehe beispielsweise Bubeck et al., 2023). Für eine breitere Diskussion der Fähigkeiten, Risiken und Möglichkeiten heutiger Sprachmodelle siehe beispielsweise auch Bender et al., 2021; Brown et al., 2020.

  KI-Systeme nehmen sehr viele verschiedene Formen an und erfüllen verschiedenste Aufgaben. Es gibt etwa KI-Systeme, die diverse Brett- und Computerspiele spielen können. Außerdem existieren auch KI-Systeme, die Ärzt*innen bei der Diagnose von Krankheiten unterstützen (Expert*innensysteme), Objekte in Bildern erkennen, automatisch Müll sortieren, über Kreditvergaben entscheiden, Autos selbständig steuern usw. In letzter Zeit hat jedoch insbesondere eine spezielle Klasse von KI-Systemen, sogenannte „Sprachmodelle“ wie etwa Chat-GPT, an Bedeutung und Aufmerksamkeit gewonnen.
• Welche KI-Tools gibt es?

  Diese Frage ist nicht zu beantworten, da täglich neue und bessere Tools auf den Markt kommen. Während in der ersten Phase des Hypes Sprachmodelle mit Chatfunktion dominierten, sind nun auch Bild- und Videogeneratoren verfügbar, die eine erstaunliche Entwicklung hinlegen.

  Einen kleinen Überblick, welche KI-Tools im Bereich Studium und Lehre am Markt sind, bietet Ihnen die Website www.vkkiwa.de/ki-ressourcen/.
• Darf ich KI-Tools im Studium verwenden?

  Auf diese Frage gibt es - offen gesagt - keine einfache Antwort. Studierende der Informatik bauen selbst zB. Sprachmodelle und experimentierten damit. Studierende der Translationswissenschaft arbeiten mit Übersetzungs-KI. In jedem Textverarbeitungsprogramm stecken mittlerweile kleine KI-Alltagshelfer. Als Lehramtsstudierende lernen Sie, wie Schüler*innen Hausaufgaben oder Referate erstellen und wie Sie als Lehrperson darauf reagieren, wenn KI eingesetzt wird. Und in vielen Lehrveranstaltungen wird über die Auswirkung von KI-Tools auf Gesellschaft, Kultur und Technik wissenschaftlich gearbeitet.

  Natürlich muss bei Prüfungen und wissenschaftlichen Arbeiten klar erkennbar sein, was SIE können und wissen. Wir prüfen nicht die KI-Tools.

  Ob und wie KI-Tools zum Einsatz kommen, entscheiden die Lehrenden und Prüfer*innen daher fachspezifisch. Unsere Lehrenden haben dazu von der Universität Wien Guidelines bekommen. Eine der wichtigsten Dinge in dem Zusammenhang ist Transparenz. Lehrende geben vor der Lehrveranstaltung bzw. Prüfung die erlaubten Hilfsmittel an. Angesichts der Vielzahl von Tools keine leichte Aufgabe.
• Was tun, wenn Lehrende keine Info herausgegeben haben?

  Im Sinne der Klarheit stellen Sie die Frage, wie mit KI-Tools umzugehen ist, in der ersten Lehrveranstaltungseinheit oder vor der Prüfung.
• Was sollte ich beachten, wenn ich KI-Tools nutze?

  Egal ob im privaten Alltag oder im Studienbetrieb: Es gibt Fragen und Themen, mit denen Sie sich auseinandersetzen sollten:

  • Welche (persönlichen) Daten will das KI-Tool von mir und bin ich bereit, diese zu teilen? Welche Interessen verfolgt das Unternehmen, das hinter dem KI-Tool steht?
    • Geben Sie nie personenbezogene Daten oder Geheimnisse in ein solches Tool ein!
    • Das betrifft ihre eigenen Daten genauso wie die Daten anderer. 
  • Auf welcher Grundlage hat das KI-Tool gelernt? Kann ich sicher sein, dass die Ergebnisse wahr, vollständig und vor allem auch ohne Bias erstellt wurden?
    • Sie sind bei der Verwendung von KI-Tools immer dafür verantwortlich, was Sie mit den Ergebnissen machen.
    • Die Überprüfung des Output ist daher eine wichtige Aufgabe. KI-Tools halluzinieren und präsentieren manchmal ein frei erfundenes Stück Text sehr überzeugend als Wahrheit oder echte Quelle. Seien Sie vorsichtig!
    • Dokumentieren Sie, welche Eingaben Sie wann gemacht haben, welche Ergebnisse das KI-System erzielt hat und wie sie diese verarbeitet haben.

   

  Wichtig zu wissen:

  Large Language Models wie chatGPT etc. haben auf Grund ihrer Netzwerkarchitektur keine Quelle für Wahrheit, wie Open-AI dies in einem Blogpost im Abschnitt „Limitationen“ auch an erster Stelle schreibt: „chatGPT sometimes writes plausible-sounding but incorrect or nonsensical answers. Fixing this issue is challenging, as: (1) during RL training, there’s currently no source of truth; (2) training the model to be more cautious causes it to decline questions that it can answer correctly […]“.

  Daher ist noch einmal zu betonen, dass es sich bei Sprachbots keineswegs um „Wissensmaschinen“ handelt. Im Gegenteil: Die Verpflichtung, den Output auf seine Richtigkeit zu überprüfen, und die Verantwortung für das Ergebnis liegt letztlich immer bei dem Menschen, der das KI-Tool einsetzt.

  Ein Flowchart von Aleksandr Tiulkanov veranschaulicht dies eindrücklich:

  Graphik: Aleksandr Tiulkanov (© https://creativecommons.org/licenses/by/4.0/deed.de)

  
• Was ändert sich beim Schreiben wissenschaftlicher Arbeiten?

  Bei der Erstellung von wissenschaftlichen Arbeiten klären Sie vorher mit den Betreuer*innen ab, welche Hilfsmittel erlaubt sind und wie die Eigenständigkeit der Leistung nachvollziehbar dokumentiert werden muss. Das ist auch von Fach zu Fach im Detail unterschiedlich. Folgende Aspekte sollten Sie jedenfalls besprechen (Ihre Betreuer*innen wissen das):

  Klären Sie mit den Betreuer*innen, wie Sie bei wissenschaftlichen Arbeiten korrekt vorgehen.

  Eine Arbeit ist dann als eigenständig anzusehen, wenn Sie:

  • alle genutzten Hilfsmittel dokumentiert haben
    • an der Stelle, an der sie zum Einsatz kamen und
    • in der methodischen Beschreibung der Arbeit,

  • geistiges Eigentum anderer Personen nach den Regelungen des Faches zitiert und im Literaturverzeichnis benannt haben,
  • das Recht haben, die urheberrechtlich geschützten Bilder und Medien in der Arbeit zu verwenden,
  • alle im Entstehungsprozess erhobenen (Roh-)Daten, Protokolle und Analysen nachvollziehbar und jederzeit einsehbar dokumentiert haben,
  • alle Texte und Bilder, die mittels (KI-)Tools generiert wurden, sowie deren Veränderung im Prozess der Erstellung der Arbeit transparent gemacht haben,
  • jegliche inhaltliche Unterstützung durch Dritte (z.B. Datenaufbereitung, Analysen) explizit genannt und die Personen angemessen gewürdigt haben (z.B. in der Danksagung),
  • neben der genehmigten Betreuung keine unerlaubte inhaltliche Hilfestellung Dritter (z.B. Ghostwriting) in Anspruch genommen haben und
  • allfällige inhaltliche Überschneidungen mit Leistungen aus Lehrveranstaltungen (z.B. Bachelor-, Seminararbeit) ausgewiesen haben.

  Wie Sie konkret vorgehen, besprechen Sie mit den Betreuer*innen. Bei der Einreichung von wissenschaftlichen Arbeiten werden Sie diese Punkte auch bestätigen müssen. Beim Verdacht, dass sie nicht eigenständig gearbeitet haben, wird ein studienrechtliches Verfahren eröffnet (ähnlich wie bei Plagiat, Ghostwriting etc.).
• Was passiert, wenn KI-Tools nicht erlaubt waren und ich sie dennoch verwendet habe?

  Es gelten die selben Regeln wie beim Schummeln. Hat der*die Lehrende oder der*die Prüfer*in den Verdacht, dass unerlaubte Hilfsmittel verwendet wurden, beginnt ein studienrechtliches Verfahren. Dazu werden die Beobachtungen und Beweise gesammelt. Auch Sie haben das Recht, sich zu äußern. Wenn sich ergeben sollte, dass Sie nicht rechtskonform gehandelt haben, wird Ihnen im Sammelzeugnis ein "X" eingetragen und der Antritt wird gezählt.