Die EDUCAUSE-Umfrage: Ein KI-Detektor sieht nur eine Seite der Prüfung
EDUCAUSE, der amerikanische gemeinnützige Verband, der untersucht, wie Universitäten Technologie einsetzen, veröffentlichte am 1. Juni 2026 „The Impact of AI on Learning Assessment“. Der Bericht basiert auf einer Umfrage unter 438 Lehrkräften und Hochschulmitarbeitenden. Zoom, 2026-Partner des Verbands, sponserte ihn.
Die meisten befragten Lehrkräfte nutzen KI beim Erstellen und Durchführen von Prüfungen. Die meisten glauben, dass Studierende KI nutzen, wenn sie diese Prüfung ablegen.
Das ist dieselbe Prüfung. Jemand, der ein Modell genutzt hat, sitzt auf beiden Seiten des Tisches. Die Arbeit, die durch einen KI-Inhaltserkenner läuft, ist die des Studierenden — ein Muster, das auch bei Universitätsfällen zu KI-Betrug wiederkehrt.
Zwei weitere Befunde erklären, was die Anordnung stabil hält. Lehrkräfte wollen das Recht behalten, selbst zu entscheiden, wann KI-Nutzung angemessen ist. Studierende berichten, dass ihnen klare Richtlinien fehlen, die erklären, wann KI erlaubt ist. Die Seite, die nicht geprüft wird, behält ihr Ermessen. Die geprüfte Seite bekommt das Fehlen einer klaren Regel.
Peer Review: Gutachter werden mit einer Falle erwischt, nicht mit einem KI-Detektor
In der Wissenschaftspublikation wird der Autor geprüft. Das Manuskript durchläuft KI-Erkennungstools, Plagiatsprüfungen und wird mit einer verpflichtenden KI-Offenlegung eingereicht. Der Gutachter, der das Manuskript liest, wird anders geprüft.
Ein Manuskript unter Review ist unveröffentlicht und vertraulich — deshalb verbietet NeurIPS Gutachtern, die Papers, die sie begutachten, in KI-Chatbots hochzuladen. Um herauszufinden, wer das Verbot ignoriert, versteckten die Organisatoren Anweisungen in den zur Begutachtung versandten Papers. Ein Mensch, der das Manuskript liest, sieht sie nicht. Ein Sprachmodell folgt ihnen — und das Review kommt mit den eingepflanzten Formulierungen zurück.
ICML 2026 setzte dieselbe Taktik zuerst ein und injizierte versteckte Prompts in jedes eingereichte Paper. Nihar Shah, Scientific-Integrity-Chair der Konferenz, sagt, die Maßnahme habe Hunderte von Gutachtern identifiziert, die gegen die Richtlinie verstoßen — ihre Reviews wurden abgelehnt. ICML lehnte knapp 500 Papers wegen Verstößen gegen diese Richtlinie ab, rund 2 % aller Einreichungen (The Transmitter, 1. Juli 2026).
Der Autor wird durch ein Verfahren geprüft, von dem er im Voraus weiß. Gutachter wurden durch eine Falle erwischt, von der niemand wusste.
Sören Auer, Informatiker an der Leibniz Universität Hannover, fand die versteckten Prompts selbst beim Review für NeurIPS — weil er PDFs in Word konvertiert und das manche sichtbar macht. Er lehnte das erste Paper ab, das er begutachtete. Er nahm an, die Autoren hätten den Prompt eingepflanzt, und zog die Markierung erst zurück, als er denselben Text in einem zweiten Manuskript fand.
Ein Autor verlor beinahe ein Paper wegen einer Falle, die für Gutachter gebaut war. Auers Einwand, auf LinkedIn veröffentlicht, lohnt zweimaliges Lesen:
Man baut keine gesunde Review-Kultur, indem man Gutachter wie Verdächtige behandelt.
— Sören Auer, Leibniz Universität Hannover, 2026
Er hat recht. Das sagt niemand, wenn der Autor der Standardverdächtige ist.
Die Rücknahme im Journal of Medical Ethics: Das Paper wurde zurückgezogen, der Review-Prozess nicht
Am 28. Mai 2026 zog das Journal of Medical Ethics, eine BMJ-Zeitschrift, ein Paper zurück, das im September 2025 online erschienen war — in einer Reihe mit 764 zurückgezogenen KI-Papers. Die Zeitschrift prüfte die Referenzen und stellte fest, dass mehrere nicht existieren. Der Autor hatte ein Sprachmodell genutzt, um die zitierten Quellen zu finden und zu lesen, und sie vor der Einreichung nicht verifiziert. Die Rücknahme-Mitteilung — das öffentliche Dokument, in dem eine Zeitschrift erklärt, was schiefging — nennt auch Hinweise auf Peer-Review-Manipulation.
Die Zeitschrift dokumentierte also zwei Probleme: erfundene Referenzen und einen Review-Prozess, der beim selben Paper manipuliert wurde. Das Paper wurde zurückgezogen. Die Zeitschrift kündigt an, die Institution des Autors zu informieren. Der Review-Prozess läuft weiter.
Gerichtsurteile: Die Richterin steht auf derselben Liste wie die Partei
Damien Charlotin, Forscher am Smart Law Hub der HEC Paris, pflegt eine offene Datenbank zu Gerichtsfällen, in denen jemand eine von einem Sprachmodell erfundene Präzedenz zitierte. Die Datenbank markiert jeden Fall danach, wer die KI nutzte. Pro se litigierende Parteien stehen mit Abstand an erster Stelle. Anwälte folgen. Richterinnen und Richter stehen auf derselben Liste (AI Hallucination Cases Database).
Der jüngste dieser Fälle erreichte den Obersten Gerichtshof Indiens. Unternehmensstreitigkeiten dort werden vom NCLT verhandelt, einem spezialisierten Tribunal für Gesellschaftsangelegenheiten; dessen Urteile werden beim NCLAT, dem Berufungs-Tribunal desselben Systems, angefochten; darüber gibt es nur den Obersten Gerichtshof. Am 2. Juli 2026 verhandelte der Oberste Gerichtshof in Pooja Ramesh Singh v. Jammu and Kashmir Bank Ltd. und hob die Urteile beider Tribunale auf. Beide hatten ihre Begründung auf Präzedenzfälle gestützt, die nicht existieren, und auf Absätze, die echten Urteilen zugeschrieben wurden. Ein Sprachmodell erzeugte sie — auf Seiten des Gerichts. Der Oberste Gerichtshof nannte dies eine Untergrabung der Rechtsstaatlichkeit und erklärte null Toleranz (Oberster Gerichtshof Indiens) — ein Fall unter vielen zu KI-Halluzinationen vor Gericht.
Er wies den Bar Council of India an, Disziplinarmaßnahmen zu erarbeiten. Der Bar Council lizenziert und diszipliniert Anwälte. Der Fehler in diesem Fall wurde nicht von Anwälten gemacht.
Was die vier Dokumente über KI-Erkennung sagen
In keinem der vier Fälle nutzt die prüfende Seite KI weniger als die geprüfte. EDUCAUSE sagt es direkt. Die anderen drei durch den Verstoß.
Eine Prüfung, die nur eine Richtung läuft, misst keine Ehrlichkeit. Sie misst, wer von beiden nicht widersprechen kann.
Damit ist ein KI-Detektor nur dann ein Integritätsinstrument, wenn die Institution auch eigene Unterlagen durchläuft. Die Prüfungsaufgabe, nicht nur die dazu verfasste Arbeit. Das Review, nicht nur das Manuskript. Studierendenarbeit durch It's AI laufen lassen und nie die eigenen Kursmaterialien — dann haben Sie etwas über Studierende gelernt und nichts über sich selbst. Eine faire KI-Erkennung in der Bildung beginnt genau dort.
Nichts davon ist teuer. Die KI-Offenlegung eines Gutachters ist eine Zeile auf einem Formular. Das Hindernis ist nicht technisch.
Was Sie heute gegen einseitige KI-Erkennung tun können
Wenn Sie geprüft werden, fordern Sie die Richtlinie schriftlich an, bevor Sie einreichen:
- welche KI-Nutzung erlaubt ist
- welche nicht
- mit welchem KI-Detektor Sie geprüft werden
- wie ein Ergebnis angefochten werden kann
Eine Regel, die nicht schriftlich existiert, kann im Voraus nicht befolgt werden. Sie kann trotzdem nachträglich eine Entscheidung erklären — wie bei KI-Vorwürfen und Einspruchsverfahren.
Wenn Sie prüfen, lassen Sie Ihr eigenes Dokument durch dasselbe Verfahren laufen. Die Aufgabe, das Bewertungsraster, das Review. Eine Prüfung, die Sie nicht auf den eigenen Text anwenden, sagt nichts über den Text eines anderen aus.
FAQ: KI-Erkennung in der Praxis
Wie erkennt man KI-generierten Text?
KI-Texterkennung arbeitet statistisch, nicht forensisch. Ein Detektor misst, wie vorhersagbar jedes Wort angesichts der vorhergehenden ist — Sprachmodelle wählen hochwahrscheinliche Fortsetzungen konsequenter als Menschen. Das Ergebnis ist eine Wahrscheinlichkeit, kein Urteil. Bewertungen auf Satz- und Absatzebene zählen mehr als ein einzelner Dokumenten-Score, weil gemischte Dokumente mitteln und generierte Passagen in menschlichen verbergen. Nichts an der Methode hängt davon ab, wer das Dokument schrieb oder welche Rolle er oder sie hat. Dasselbe Verfahren, das auf ein Studierenden-Essay läuft, läuft auf eine Prüfungsaufgabe, ein Peer Review oder einen Urteilsentwurf.
Wie genau ist KI-Erkennung bei von Menschen bearbeitetem Text?
Die Genauigkeit der KI-Erkennung ist bei rohem Modell-Output am höchsten und sinkt, wenn eine Person umschreibt. Bearbeitung verändert genau das, was der Detektor misst: Wortwahl, Satzlänge und Vorhersagbarkeit jeder Fortsetzung. Stark überarbeitete KI-Entwürfe sind der schwierigste Fall — ebenso Texte von Nicht-Muttersprachlern, deren Wortschatz oft vorhersagbarer ist als der von Muttersprachlern. Jedes Ergebnis als klares Ja oder Nein ist eine Übertreibung dessen, was die Methode leisten kann. Lesen Sie den Score als Anlass für ein Gespräch, nicht als Beweis — und fragen Sie, welchen Schwellenwert die Institution als Befund wertet.
Ist ein KI-Detektor dasselbe wie ein Plagiatsprüfer?
Nein. Ein Plagiatsprüfer vergleicht Ihren Text mit bestehenden Dokumenten und meldet Überschneidungen. Ein KI-Detektor vergleicht Ihren Text damit, wie ein Sprachmodell schreibt, und meldet Wahrscheinlichkeiten. Eine Passage kann völlig original sein und trotzdem als KI-generiert bewertet werden — und eine Passage kann wortwörtlich aus einer menschlichen Quelle kopiert sein und als menschlich bewertet werden. Institutionen führen oft beides aus und melden ein kombiniertes Urteil — dort beginnen die meisten Streitigkeiten. Fragen Sie, welches der beiden die Zahl erzeugte, die Ihnen gezeigt wird.
Kann ein KI-Detektor auf die Aufgabe einer Lehrkraft oder ein Gutachter-Review angewendet werden?
Ja. Ein KI-Detektor für Lehrkräfte, Studierende, Gutachter und Redakteure ist dasselbe Tool; der Text trägt keinen Berufstitel. Nichts Technisches hindert eine Institution daran, Prüfungsaufgaben, Bewertungsraster oder Peer-Review-Berichte durch dasselbe Verfahren laufen zu lassen wie eingereichte Arbeiten. Wo das nicht geschieht, ist es eine Richtlinienentscheidung, keine Grenze der Methode. Eine schriftliche Richtlinie, die benennt, welche Dokumente geprüft werden und welche nicht, ist der schnellste Weg herauszufinden, welche Art von Entscheidung Ihre Institution getroffen hat.
Kann man das Ergebnis einer KI-Erkennungsprüfung anfechten?
Das hängt davon ab, was die Richtlinie sagt — deshalb lohnt es sich, sie schriftlich anzufordern, bevor Sie etwas einreichen. Fordern Sie den vollständigen Bericht an, nicht nur die Prozentzahl in der Überschrift — inklusive Scores pro Absatz und des Schwellenwerts, den die Institution als Befund wertet. Fragen Sie, welcher Detektor das Ergebnis lieferte und wann er zuletzt aktualisiert wurde, da sich Modell-Output ändert und Detektoren dagegen neu trainiert werden. Fragen Sie, ob dasselbe Verfahren auf das Dokument angewendet wurde, das Ihnen vorgelegt wurde. Eine Prüfung, der nur eine Partei unterliegt, ist schwer als Beweis zu verteidigen.
