Das Sprachmodell ChatGPT sorgt mit teils erstaunlichen Fertigkeiten seit einiger Zeit für Furore. Microsoft hat es bereits für den Chatbot seiner Suchmaschine Bing im Einsatz. Google will bald mit einer massiven Überarbeitung der eigenen Websuche nachziehen, allerdings basierend auf einer selbst entwickelten KI.

Diskutiert wird aber auch über den missbräuchlichen Einsatz von Software wie ChatGPT, etwa als "Hausübungsroboter" für Schüler und Studenten. Was passieren kann, wenn man es mit dem Misstrauen übertreibt, zeigt nun ein Fall von der Texas A&M University. Denn wollte ein Professor kürzlich zahlreiche Studenten nachträglich wegen KI-Verdachts durchfallen lassen, berichtet das "Rolling Stone Magazine".

Für die Betroffenen sorgte der Vorfall für ein böses Erwachen. Sie hatten eigentlich schon graduiert und ihre Abschlussfeiern hinter sich gebracht, ehe sie am letzten Montag ein Schreiben ihres Landwirtschafts-Kursleiters Jared M. erreichte.

Professor erhob schwere Anschuldigungen

Der kündigte an, dass die Gesamtnote bald abrufbar sein werde und dass er vorhabe, jedem Teilnehmer und jeder Teilnehmerin in seinem Kurs ein "X" (Unvollständig) zu geben. Sein Schreiben wurde vom Lebensgefährten einer Studentin auch in einem Reddit-Thread dokumentiert. Er zeigt sich überzeugt, dass seine Klasse mit ChatGPT geschummelt hat. Die Beweisführung allerdings lässt zu wünschen übrig.

Er habe sich vor der Beurteilung der letzten Arbeit nun auch einen Account für "Chat GTP" [sic!] eingerichtet, schreibt M. Danach habe er die KI mit den letzten beiden eingereichten Texten seiner Klasse gefüttert und gefragt, ob sie diese verfasst habe. Nachdem ChatGPT sich in seiner Antwort als Urheber der Arbeiten ausgab, entschied M, diese nachträglich mit null Punkten zu werten.

Nun stehen die Abschlussurkunden der Studierenden auf dem Spiel. Wer seine Note noch verbessern wolle, solle bis Freitagnachmittag einen Text zu einer neuen Aufgabenstellung liefern. Aber auch diese Einreichungen, so kündigt er an, werde er mit "Chat GTP" [sic!] prüfen.

Untaugliche Prüfmethode

Diese Vorgangsweise hat allerdings einen gewaltigen Haken. Während man M. das Bemühen um Prüfungsintegrität nicht absprechen kann, ist seine Methode zur Überprüfung der Texte auf KI-Handwerk völlig ungeeignet und zeigt ein mangelndes Verständnis für die Funktionsweise der Technologie. Heutige KI-Modelle werden auf eine sehr konkrete Aufgabenstellung hin entwickelt und trainiert. Bei ChatGPT ist dies die Erzeugung möglichst glaubwürdiger Textinhalte zum Zwecke der Fortführung einer Konversation.

Der Chatbot ist nicht darauf ausgelegt, Wissen zu sammeln, Fakten zu prüfen oder Selbstkontrolle durchzuführen. Zwar gibt er eine Antwort darauf, wenn man ihn fragt, ob er einen bestimmten Text verfasst hat, vertrauenswürdig ist diese Auskunft allerdings nicht. Zudem sind Sprachmodelle auch dafür bekannt, immer wieder einmal Dinge zu "halluzinieren", also Behauptungen aufzustellen.

Überhaupt ist es aktuell noch schwierig, KI-verfasste Texte zuverlässig automatisiert zu erkennen. Selbst ein zu diesem Zwecke entwickeltes Werkzeug von OpenAI – dem Unternehmen hinter ChatGPT – gilt in der Hinsicht noch als recht unzuverlässig.

Das Vorgehen des Kursleiters sorgte für Bestürzung bei den Betroffenen, die sich an die Leitung der Universität wandten und auch versuchten, gegenüber M. ihre Arbeit nachzuweisen. Der Landwirtschaftsexperte soll dem Vernehmen nach auch in anderen Kursen wegen KI-Verdacht mit Notenentwertung gedroht haben.

Situation entspannte sich

Nach großer Aufregung am Montag scheint die Situation sich mittlerweile aber etwas entspannt zu haben. Die Universität prüft die Angelegenheit nach eigenen Angaben und erklärt, dass bislang niemand offiziell den Kurs nicht bestanden hat. Man bestätigt aber auch, dass manche Studierende vorläufig ein "X" erhalten haben, um ihnen und ihrer Lehrkraft Zeit zu geben zu erörtern, ob und in welchem Umfang KI bei ihrer Arbeit zum Einsatz gekommen ist. Einige seien auch schon offiziell vom Vorwurf akademischer Unehrlichkeit freigesprochen und vollständig bewertet worden. Man arbeite außerdem an einem Regelwerk für den Umgang mit KI-Tools.

Ganz ausgestanden ist die Angelegenheit noch nicht. Wenngleich Ms Überprüfungsmethode untauglich war, haben zwei Studierende zugegeben, im Laufe des Semesters ChatGPT verwendet zu haben.

Auf Reddit hat man mittlerweile den Beweis erbracht, dass ChatGPT ungeeignet dafür ist, seine eigene Autorenschaft zu beurteilen. Sowohl einen Teil von der Dissertation des Kursleiters als auch seine E-Mail an die Studierenden reklamierte die KI nach vorheriger Eingabe für sich. Allerdings mit einem wichtigen Nachsatz: "Sollte jemand meine Fertigkeiten dazu verwendet haben, eine E-Mail zu verfassen, dann hätte ich davon keine Aufzeichnung." (gpi, 18.5.2023)