Recent years have seen formidable advances in artificial intelligence. Developments include a large number of specialised systems either existing or planned for use in scientific research, data analysis, translation, text production and design with grammar checking and stylistic revision, plagiarism detection, and scientific review in addition to general-purpose AI systems for searching the internet and generative AI systems for texts, images, videos, and musical compositions. These systems promise more ease and simplicity in many aspects of work. Blind trust in AI systems with uncritical, careless use of AI results is dangerous, as these systems do not have any inherent understanding of the content they process or generate, but only simulate this understanding by reproducing statistical patterns extracted from training data. This article discusses the potential and risk of using AI in scientific communication and explores potential systemic consequences of widespread AI implementation in this context.
Die Entwicklung der sog. künstlichen Intelligenz hat in den letzten Jahren beeindruckende Fortschritte gemacht. Neben KI-gestützten Suchsystemen und generativen KI-Systemen zur Herstellung von Texten, Bildern, Videos oder musikalischen Kompositionen gibt es inzwischen eine Vielzahl spezialisierter Systeme, die Aufgaben im Bereich der wissenschaftlichen Recherche, Datenanalyse, Textproduktion, Textgestaltung, Grammatikprüfung, stilistischen Überarbeitung, Übersetzung, Plagiatskontrolle und des wissenschaftlichen Reviewprozesses übernehmen oder bei der Erfüllung dieser Aufgaben unterstützen sollen. Der Einsatz solcher Systeme verspricht in vielerlei Hinsicht tatsächlich sinnvolle Arbeitserleichterungen und Vereinfachungen. Da KI-Systeme jedoch über kein genuines Verständnis der von ihnen bearbeiteten oder generierten Inhalte verfügen, sondern ein solches Verständnis nur simulieren, indem sie statistische Muster reproduzieren, die sie aus den jeweiligen Trainingsdaten extrahiert haben, wäre es gefährlich, ihnen blind zu vertrauen oder sie unkritisch und nachlässig einzusetzen. In diesem Beitrag werden sowohl die Potenziale als auch die Gefahren des Einsatzes von KI im Kontext der wissenschaftlichen Kommunikation diskutiert und dabei auch mögliche systemische Folgen einer breiten Durchsetzung von KI-Systemen in diesem Kontext in den Blick genommen.
Thieme. All rights reserved.