Künstliche Intelligenz verändert die Wissenschaft – aber nicht nur zum Guten. Immer häufiger tauchen gefälschte Zitate, erfundene Studien und KI-generierte Fachartikel auf.

Von Jan Nintemann und Jochen Siegle; Foto Brano Unsplash

Forscher wie Diomidis Spinellis (Athens University of Economics and Business) und Luis A. Nunes Amaral (Northwestern University) warnen jetzt: Die Flut an Fake-Studien wächst rasant und untergräbt das Vertrauen in die Wissenschaft.

Vertrauen in Gefahr

Wenn KI Studien erfindet und falsche Zitate produziert, leidet das Fundament der Wissenschaft: das Vertrauen in frühere Erkenntnisse. Das führt nicht nur zu Reputationsschäden für Forschende, sondern bedroht auch den wissenschaftlichen Fortschritt insgesamt.

Professor Luís A. Nunes Amaral von der Northwestern University in den USA warnt eindringlich: „Wenn diese Trends nicht gestoppt werden, wird die Wissenschaft zerstört.“ Liudmila Zavolokina (Uni Lausanne) fürchtet eine unstoppbare Flut von Fehlinformationen, Vertrauensverlust und rechtlichen Risiken.

KI Arbeit verfälscht Forschung ins Gegenteil

Der australische Wissenschaftler Will Kitchen (University of Chichester) beschreibt, wie KI seine Arbeit verfälschte – teils ins Gegenteil.

Ein besonders drastisches Beispiel für gefälschte wissenschaftliche Abstracts: In einer Studie von 2023 zeigte sich, dass ChatGPT vollständig erfundene Abstracts mit fiktiven Daten erstellen konnte – rund ein Drittel davon war so überzeugend, dass Wissenschaftler sie nicht sofort als Fälschungen erkannten.

In einem anderen Fall wiesen Forscher nach, dass KI gefälschte Datensätze erzeugen kann, die wie plausible klinische Daten wirken, um eine wissenschaftliche These zu untermauern – diese Datensätze entpuppten sich bei genauer Prüfung jedoch als frei erfunden.

Was jetzt nötig ist

Fachzeitschriften und Universitäten müssen neue Kontrollmechanismen entwickeln, um KI-Fakes zu entlarven. Springer Nature musste bereits hunderte KI-Arbeiten zurückziehen – ein Warnsignal für die gesamte Wissenschaftsgemeinschaft.
Diskussion auf der TransformIT Europe 2026

Auch wir nehmen dieses Thema ernst: Bei der TransformIT Europe Expo & Conference 2026 in Brüssel werden wir über Chancen und Risiken von KI in der Wissenschaft diskutieren. Und selbstverständlich gibt es erneut die Google Developer Group Conference on the Future of European AI – mit führenden Stimmen aus Forschung, Unternehmen und Politik.

• https://www.springernature.com/de
• https://group.springernature.com/de/group/media/press-releases/uebergabe-ki-tool-an-verlagsbranche/27775178
• https://zavolokina.com/
• https://www2.dmst.aueb.gr/dds/
• https://staff.aub.ac.uk/en/profile/william-kitchen
• European Google Developer Group Conferenceon the future of European AI
• https://news.northwestern.edu/stories/2023/01/chatgpt-writes-convincing-fake-scientific-abstracts-that-fool-reviewers-in-study/
• http://nytimes.com/2025/08/04/science/04hs-science-papers-fraud-research-paper-mills.html