KI-Blamage: Die Ratte mit dem großen "dck"

In wissenschaftlichen Publikationen sollte Qualität oberstes Gebot sein. Doch im Februar 2024 erschütterte ein besonders absurder Fall das Vertrauen in das wissenschaftliche Publikationssystem. Eine Übersichtsarbeit über Spermien-Stammzellen bei Ratten wurde mit künstlich generierten Bildern veröffentlicht, die so offensichtlich falsch waren, dass sie binnen Tagen zum Internet-Meme wurden. Die Arbeit erschien in einer Open-Access-Fachzeitschrift, durchlief das Peer-Review und wurde schließlich zurückgezogen.

Was war geschehen?

Forscher aus China veröffentlichten in der Zeitschrift 'Frontiers in Cell and Developmental Biology' einen Review-Artikel zur Rolle des JAK/STAT-Signalwegs bei spermatogonialen Stammzellen (SSCs) [1]. Solche Übersichtsarbeiten fassen bestehendes Wissen zusammen und sollen neue Forschung anregen. Der Kern der Arbeit basiert durchaus auf realen Forschungsfeldern. SSCs spielen eine zentrale Rolle in der Spermatogenese, und der JAK/STAT-Signalweg ist tatsächlich an Prozessen wie Stammzellerhalt, Differenzierung und zellulärer Kommunikation beteiligt. Die in der Arbeit zitierten Studien existieren real und werden im Grundsatz korrekt wiedergegeben. Bis hierhin klingt noch alles seriös.

Das Problem lag in den Abbildungen. Die Autoren hatten mehrere Grafiken mit dem KI-Bildgenerator Midjourney erstellt und das sogar im Paper angegeben. Fehlende Transparenz kann man ihnen also nicht zum Vorwurf machen. Doch statt wissenschaftlich korrekter Schemata entstanden surreale Bilder, die schnell viral gingen.

Das groteske Ratten-Bild

Das wohl berühmteste Bild zeigte eine wie ein Eichhörnchen aufrecht sitzende Ratte, deren Genitalien vollkommen überdimensioniert dargestellt waren. Der Penis wirkte größer als der restliche Körper, und die vielzähligen Hoden waren in einer Weise platziert, die anatomisch unmöglich ist. Hinzu kamen Beschriftungen, die reines Kauderwelsch darstellten. Begriffe wie "testtomcels", "dissilced", "iollotte sserotgomar cell" oder einfach "dck" zierten die Abbildung. Nur das Wort "rat" war korrekt geschrieben.

"Spermatogoniale Stammzellen, isoliert, gereinigt und kultiviert aus Rattenhoden."
Aus Guo et al.: Cellular functions of spermatogonial stem cells in relation
to JAK/STAT signaling pathway (Front. Cell Dev. Biol., 2024)

Auch die anderen Bilder wiesen ähnliche typische KI-Fehler wie verzerrte Strukturen in falschen Dimensionen und erfundene Fachbegriffe auf. Im Kontext der Sexualbiologie war dieser Fall besonders pikant. Gerade in der Reproduktionsforschung, wo präzise Darstellungen von Hoden, Spermienbildung und hormonellen Regelkreisen entscheidend sind, wirkten diese Bilder wie eine Farce. Sie zeigten nicht nur fehlende Sorgfalt, sondern auch, wie leicht KI aktuell noch halluzinieren und absurde Proportionen erzeugen kann.

Das Versagen des Peer-Review

Besonders erschreckend war, dass das Manuskript zwei Gutachter durchlief und vom Editor akzeptiert wurde. Niemand schien die Abbildungen gründlich geprüft zu haben. Frontiers ist ein Open-Access-Verlag, der schnelle Publikation gegen Gebühr anbietet. Kritiker werfen solchen Journals schon länger vor, dass der Druck auf hohe Publikationszahlen zu Lasten der Qualität geht. In diesem Fall reichte die Absurdität der Bilder aus, um innerhalb weniger Tage eine breite Debatte auszulösen. Die Zeitschrift zog die Studie schließlich zurück mit der Begründung, die Abbildungen erfüllten nicht die wissenschaftlichen Standards.

Viele Fachzeitschriften verschärften danach ihre Richtlinien für KI-generierte Inhalte. Autoren müssen heute oft detailliert offenlegen, wo und wie KI eingesetzt wurde, und die Bilder werden strenger manuell überprüft.

Kerninhalt der Studie

Der Bildskandal lenkt allerdings etwas davon ab, dass man den Textinhalt getrennt beurteilen muss. Auch hier muss man konstatieren, dass das Paper in dieser Form vermutlich ebenfalls kein sorgfältiges Peer-Review überstanden hätte. Das eigentliche Problem lag inhaltlich weniger in komplett falschen Aussagen als in der Qualität der Darstellung. Die Arbeit vermischte Ergebnisse aus sehr unterschiedlichen Modellsystemen wie Taufliege, Maus, Ratte und Mensch und behandelte sie häufig so, als seien sie unmittelbar übertragbar. Zudem wurden einzelne Befunde oft zu weit verallgemeinert, sodass aus isolierten Beobachtungen schnell weitreichende mechanistische Aussagen wurden. Typisch für die Arbeit war ein rein additiver Stil nach dem Muster "Studie A zeigte dies, Studie B zeigte das", ohne kritische Gewichtung der Evidenz oder Diskussion widersprüchlicher Daten.

Der Artikel war insgesamt weniger ein Fall vollständig erfundener "Fake Science" als vielmehr ein Beispiel für schwach kuratierte, KI-gestützte Wissenschaftskommunikation, die trotz realer Quellen und grundsätzlich plausibler Inhalte den Ansprüchen eines belastbaren Reviews nicht genügte.

Fazit

Der "Rat Dck"-Vorfall ist mehr als nur ein lustiges Internet-Meme. Er zeigt die Herausforderungen, vor denen die Wissenschaft im Zeitalter der Künstlichen Intelligenz steht. KI kann wertvolle Werkzeuge liefern, birgt aber enorme Risiken, wenn sie unkritisch eingesetzt wird. Gleichzeitig unterstreicht der Fall die Notwendigkeit robuster Qualitätskontrollen im Peer-Review-Prozess. Insbesondere in sensiblen Bereichen wie der Reproduktionsforschung darf Genauigkeit niemals der Bequemlichkeit oder Geschwindigkeit geopfert werden. Seriöse Wissenschaft lebt von Sorgfalt, kritischer Prüfung und von Bildern, die mehr zeigen als nur überdimensionierte Rattenpenes.

Quellen

[1] Guo X, Dong L and Hao D (2024) RETRACTED: Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway. Front. Cell Dev. Biol. 11:1339390. doi: 10.3389/fcell.2023.1339390