764 Rücknahmen: Was ohne KI-Erkennung passiert | It's AI
764 Rücknahmen: Was ohne KI-Erkennung passiert
Drei Studien fanden 764 KI-bezogene Rücknahmen in Fachjournalen. Die meisten dauerten 550+ Tage bis zur Entdeckung. So funktioniert die Betrugs-Pipeline.
Svetlana Shakhova15. Apr. 202615 min read
764 zurückgezogene Papers: Was ohne KI-Erkennung in der Verlagsbranche passiert
Wissenschaftliche Zeitschriften sollten der letzte Ort sein, an dem Text wirklich geprüft wird. Peer Review und redaktionelle Aufsicht sollten schlechte Wissenschaft fernhalten. Das klappte nicht.
Anfang 2026 kamen drei unabhängige Studien zum gleichen Schluss: KI-generierte Papers sind in peer-reviewte Zeitschriften gelangt, werden zitiert und dienen als Basis weiterer Forschung. Und wenn eine Fälschung endlich zurückgezogen wird, sind manchmal schon mehr als achtzehn Monate vergangen — genug Zeit, Dutzende weiterer Publikationen zu beeinflussen.
Ein systematisches Review in Frontiers und eine Analyse von 764 Rücknahmen über PubMed weisen beide 2023 als Spitzenjahr aus. Eine dritte Studie, noch nicht peer-reviewt, deckt 3.974 zurückgezogene DOIs ab (Preprints.org) und treibt die Argumentation weiter: Generative KI ist kein Randfaktor mehr bei Forschungsbetrug. Sie ist zur Infrastruktur geworden. Und die meisten Verlage haben KI-Erkennungssoftware noch nicht eingeführt. So sehen die Zahlen aus.
Neugierig, wie Ihr eigener Text abschneidet? Prüfen Sie ihn gleich hier.
Zeichen (min. 200): 0/500000
PDF, DOCX, TXT
Tiefer KI-Scan
Finden Sie mit unserer Segmentierung auf Satzebene heraus, welcher Textteil KI-generiert zu sein scheint.
Plagiatsprüfung
Erkennen Sie plagiierte Inhalte, indem Sie Ihren Text mit Online-Quellen vergleichen.
Grammatikprüfung
Grammatik finden und Rechtschreibfehler in Ihrem Text.
4000Verbleibende Wörter
Wissenschaftliche Integrität unter Druck: Die KI-Erkennungszahlen
Das geografische Muster ist schwer zu ignorieren. In allen drei Studien stammen die meisten zurückgezogenen Papers aus denselben Regionen: 551 von 764 im PubMed-Datensatz aus China, 40 aus Indien, 23 aus Bangladesch. Das Frontiers-Review nennt 72,2 % der Autoren mit Sitz in China. Das heißt nicht, das Problem sei chinesisch. Es heißt: Die Paper-Mill-Industrie fand ihren größten Markt dort, wo Publish-or-Perish-Druck extrem ist und Durchsetzung hinterherhinkt.
Die Rücknahmegründe überlappen über Studien fast vollständig. Im PubMed-Datensatz: Peer-Review-Probleme bei 716 von 764 Papers, Datenbedenken bei 714, irrelevante oder erfundene Zitate bei 571, direkte Hinweise auf unethische KI-Nutzung bei 238. Die meisten Papers wurden aus mehreren Gründen gleichzeitig zurückgezogen. Die Preprints.org-Analyse bestätigte dasselbe Muster in größerem Maßstab: KI-generierte Inhalte clustern eng mit Paper-Mill-Signaturen. Wo man eines findet, findet man das andere.
Rücknahmen KI-Publikationen: Die zählenden Zahlen
Man könnte meinen, mit einer Rücknahme sei die Sache erledigt. In der Praxis ändert eine Rücknahme wenig. Zurückgezogene Arbeit wird weiter zitiert, und ein Drittel der Autoren hält sich selbst nicht für schuld. Der Aufräum-Mechanismus existiert auf dem Papier. Er kommt mit dem Volumen nicht mit.
Und hier die echte Sackgasse: Zwischen Veröffentlichung einer Fälschung und Rücknahme vergehen zwei bis drei Jahre. In dieser Zeit landet die Arbeit in Meta-Analysen anderer, wird Teil fremder Schlussfolgerungen. Die Rücknahme kommt, wenn der Schaden schon im System verankert ist. Eine KI-Erkennungsprüfung bei Einreichung würde die meisten markieren. Aber fast keine Zeitschrift nutzt einen KI-Detektor für Forschungspapers. Der nächste Abschnitt zeigt, woher diese Flut kommt.
Paper Mills und generative KI: Wie Wissenschaft fabriziert wird
Vor generativer KI arbeiteten Paper Mills anders. Sie stellten Menschen ein, kauften Reviews, fälschten Daten von Hand. Teuer und langsam. Generative Modelle machten das überflüssig — oft unterstützt durch akademische KI-Humanizer-Tools, die KI-Text für Journale glätten.
Ein aufschlussreiches Beispiel: Wiley kaufte 2021 den Verlag Hindawi für 298 Millionen Dollar (Retraction Watch). Ein gutes Geschäft — bis auf eines. 2024 mussten sie über 11.300 Artikel zurückziehen. Verluste: 35–40 Millionen Dollar, der CEO ging, die Marke wurde eingestellt. Das Problem waren Special Issues: Peer Review wurde dort von Gastherausgebern betreut — genau so kamen Paper Mills ins System.
Wiley ist kein unbekannter Verlag. Wenn Paper Mills bei Wiley hineinkamen, fehlen sie nur in Zeitschriften, die noch nicht geprüft haben. Frontiers fand im Juli 2025 ein Netzwerk von 122 Artikeln mit manipuliertem Peer Review und Zitaten (Frontiers) und markierte nebenbei 4.000 verdächtige Papers bei sieben anderen Verlagen.
Die Grenzkosten eines Fake-Papers sind heute nahe null. Ein LLM erzeugt einzigartigen Text in Minuten. Alte KI-Erkennungsmethoden (linguistische Fehler, doppelte Bilder) sind hier wirkungslos: jeder Output ist ein Unikat.
ChatGPT zitiert zurückgezogene Papers: Der Feedback-Loop
Fabrizierte Artikel sind nur die halbe Problematik. Die andere Hälfte: Die KI-Systeme, auf die Forscher setzen, unterscheiden nicht zwischen zurückgezogenem Paper und gültigem.
Retraction Watch beschreibt ein Experiment: 217 markierte Publikationen wurden je 30 Mal durch ChatGPT geschickt. Null Rücknahme-Warnungen. Der Bot nannte den Großteil der zurückgezogenen Arbeit „international exzellent“. Wurden spezifische Behauptungen aus diesen Papers gefüttert und nach Wahrheit gefragt, kamen zwei Drittel der Antworten: ja, wahr — obwohl die Daten fabriziert waren.
Es wird schlimmer. MIT Technology Review testete nicht nur ChatGPT, sondern Tools, die sich als Forschungsassistenten verkaufen: Elicit, Ai2 ScholarQA, Perplexity, Consensus. Die Ergebnisse stehen in der Tabelle — und sehen überall gleich schlecht aus.
KI-Tool
Zitierte zurückgezogene Papers (von 21)
Rücknahme-Warnungen
Consensus
18
0
Ai2 ScholarQA
17
0
Perplexity
11
0
Elicit
5
0
ChatGPT (GPT-4o)
5
3
Quelle: MIT Technology Review, September 2025.
Eine separate Studie testete 21 Chatbots (ChatGPT, Copilot, Gemini unter ihnen) und fand, dass sie weniger als die Hälfte zurückgezogener Publikationen aus einer Kontrollliste korrekt erkannten. Rate falsch positiver Ergebnisse: rund 18 %.
Der KI-Zitations-Feedback-Loop
Es ist also ein Loop. Kein Zitations-Checker — menschlich oder automatisiert — durchbricht ihn. KI erzeugt Fake-Papers. Sie passieren Review, werden veröffentlicht. Dann ziehen andere KI-Systeme dieselben Papers als Quellen für Antworten. Jemand fragt ChatGPT nach einer medizinischen Behandlung, der Bot findet einen Artikel mit echtem DOI, liefert ihn als vertrauenswürdig. Der Artikel wurde längst zurückgezogen. Der Nutzer erfährt es nie — keines der getesteten Tools funktioniert standardmäßig als Referenz-Checker.
Jenseits der Akademie: Warum KI-Erkennung beim Schreiben alle betrifft
2025 hatte die Retraction-Watch-Datenbank über 59.000 zurückgezogene Publikationen (Sharon Kabel). Verlage reagieren, bauen aber Filter für die letzte Fälschungsgeneration. Jedes neue Modell produziert Text, der Tests besteht, an denen das Vorgängermodell scheiterte. Das Preprint nennt das „Sophistication Gap“ — und vorerst wird er größer.
Aber das ist längst nicht mehr nur ein akademisches Problem. Nehmen Sie an, ein Arzt verschreibt eine Behandlung nach klinischen Leitlinien. Diese basieren auf einer Meta-Analyse Dutzender Studien. Schlüpft ein Paper-Mill-Studie hinein, behandelt der Arzt auf Basis falscher Daten. Er weiß es nicht. Der Patient schon gar nicht. Peer Review ist der strengste Textfilter, den es gibt. Wenn der rigoroseste Checker für wissenschaftliche Integrität nicht mithält — was ist mit Marketingtexten und Pressemitteilungen? Dort prüft niemand, ob der Autor Mensch oder Modell ist. Peer Review prüft zudem Autoren, nicht Gutachter.
KI-Erkennungstools wie der It's AI KI-Detektor lösen nicht alles. Aber sie beantworten eine konkrete Frage: Hat ein Mensch das geschrieben oder nicht? Ohne diese Antwort ist die Beurteilung jeder Textauthentizität reines Raten — weshalb Verlage zunehmend auf verifizierte Genauigkeit bei der Verlags-KI-Erkennung setzen sollten.
FAQ
KI-Erkennungstools analysieren Text auf statistische Muster, die menschliches Schreiben von maschineller Ausgabe trennen. Die meisten Detektoren messen zwei Dinge: Perplexität (wie vorhersagbar das nächste Wort ist) und Burstiness (wie stark Satzlänge und Struktur variieren). Menschliche Autoren produzieren ungleichmäßigen Text — kurze Fragmente, dann ein langer Satz, dann eine Frage. Sprachmodelle glätten diese Variation. Moderne Detektoren wie der It's AI KI-Detektor kombinieren mehrere Klassifikatoren, trainiert auf Millionen Samples verschiedener Modelle — deshalb erkennen sie Text, den einfachere Ein-Methoden-Tools verpassen. Das Ergebnis ist meist ein Wahrscheinlichkeits-Score, kein binäres Ja/Nein.
Top-KI-Erkennungstools erreichen bei englischsprachigem akademischem Text über 95 % Genauigkeit, wenn das vollständige Paper eingereicht wird — nicht nur Abstract oder Absatz. Kurze Samples sind schwieriger: unter 300 Wörtern sinkt die Genauigkeit unter 80 %. Die entscheidende Metrik ist nicht nur Gesamtgenauigkeit, sondern die Rate falsch positiver Ergebnisse. Für akademische Nutzung ist ein Detektor, der menschliches Schreiben fälschlich markiert, schlimmer als einer, der gelegentlich KI-Text verpasst. Deshalb melden die besten akademischen KI-Detektoren Konfidenzintervalle, nicht nur eine Zahl. Prüfen Sie das vollständige Manuskript, kein Snippet.
Ein falsch positives Ergebnis liegt vor, wenn ein KI-Erkennungstool menschlich verfassten Text als maschinell generiert markiert. Häufige Auslöser: stark formelhaftes Schreiben (juristische Standardtexte, Methodenabschnitte), Nicht-Muttersprachler-Englisch mit begrenztem Wortschatz und Text, der von mehreren Personen stark bearbeitet wurde, bis die individuelle Stimme verloren geht. Raten falsch positiver Ergebnisse bei guten Detektoren liegen bei 1–5 % für allgemeines Englisch. Akademisches Schreiben etwas höher, weil Methodenabschnitte per Design repetitiv sind. Bekommen Sie ein falsch positives Ergebnis bei eigener Arbeit, prüfen Sie, welcher Abschnitt ausgelöst hat. Meist sind es ein oder zwei Absätze, nicht das ganze Paper.
Fügen Sie den vollständigen Text in einen zuverlässigen KI-Erkennungs-Checker ein — nicht nur das Abstract. Führen Sie die Prüfung vor finaler Einreichung durch, nachdem alle Co-Autoren ihre Edits gemacht haben. Ist der Score hoch, schauen Sie, welche Abschnitte markiert wurden. Methoden- und Literatur-Reviews markieren häufiger, weil ihre Struktur vorhersagbar ist. Schreiben Sie diese Abschnitte nicht um, um den Detektor zu täuschen — das verfehlt den Sinn. Prüfen Sie stattdessen, dass Ihre originale Analyse, Diskussion und Schlussfolgerungen wirklich Ihre sind. Manche Zeitschriften führen bei Einreichung eigene KI-Erkennung durch. Besser, Sie kennen Ihren Score, bevor sie es tun.
Ja — und viele tun es bereits. Große Verlage — Springer Nature, Elsevier, Wiley, Science — aktualisierten ihre Richtlinien zwischen 2023 und 2025. Die meisten erlauben KI als Schreibhilfe (Grammatik, Übersetzung, Lesbarkeit), verlangen aber genaue Offenlegung der Nutzung. Keiner akzeptiert KI-generierte Forschung, Daten oder Analysen. Das Problem: Offenlegung ist freiwillig, und kein Peer-Review-Prozess enthält derzeit einen verpflichtenden KI-Erkennungsschritt. Ein Peer-Review-Artikel-Checker existiert noch nicht als Standard im redaktionellen Workflow. Manche Zeitschriften pilotieren einen. Die meisten nicht.
