Die Herausforderungen durch Künstliche Intelligenz (KI) in Forschung und Lehre und die Außendarstellung des Instituts prägten die Klausurtagung des Institute for Data and Process Science (IDP) am Freitag, den 19. Juni.
Wenn KI-Agenten für KI-Agenten publizieren
Die rasante Entwicklung Künstlicher Intelligenz stellt Forschende vor ein Dilemma: Große Sprachmodelle können den Forschungsprozess beschleunigen, von der Forschungsidee über Antragstellung und Datenanalyse bis hin zum fertig eingereichten Manuskript. Die Folge ist ein starker Anstieg eingereichter Artikel, der es zunehmend erschwert, gute von schlechten Preprints und Forschungsartikeln zu unterscheiden. Wichtige Forschungsergebnisse drohen in KI-generiertem Text unterzugehen.
Zugleich gerät das Peer-Review-System unter Druck, das weitgehend auf der freiwilligen Arbeit des Fachkollegiums beruht. Werden künftig zusätzlich auch Gutachten mit KI erstellt, könnte in wenigen Jahren die Mehrheit der Publikationen von KI-Agenten produziert und nur noch von anderen KI-Agenten gelesen und bewertet werden. Wenn Menschen weder am Erkenntnisprozess beteiligt sind, noch die Ergebnisse lesen, stellt sich die Frage, worin der Sinn wissenschaftlicher Publikationen besteht.
Ähnliche Fragen stellen sich auch in der Lehre: Studierende stehen vor der Wahl kurzfristig bessere Noten zu erzielen oder ein solides Fundament für lebenslanges Lernen aufzubauen. Der Einsatz großer Sprachmodelle beeinflusst dabei die Fähigkeit der Studierenden, sich eigenständig schriftlich auszudrücken und Probleme selbstständig zu lösen. Falls Lehrende bei Hausarbeiten nur teilweise die Leistung der Studierenden erkennen können und hauptsächlich das Leistungsvermögen verschiedener Sprachmodelle bewerten, wird auch in der Lehre der Weg zur KI-unterstützten Bewertung kürzer. Prüfungen und Noten verlieren dann an Aussagekraft.
Workshop: KI in der Wissenschaft kritisch diskutiert
Vor diesem Hintergrund widmete sich das IDP in einem eigenen Workshop-Block der Rolle der KI in der Wissenschaft. In einem Impulsvortrag zeigte Ulrich Ludolfinger (IDP), wie weit sich der Forschungsprozess bereits automatisieren lässt: KI-Agenten erstellen dabei Entwürfe für Forschungsartikel und begutachten bestehende Artikel, um deren Qualität zu verbessern. Der Vortrag sorgte für klare Meinungen und bildete den Auftakt für einen Austausch im World-Café-Format. An drei Tischen diskutierten die Teilnehmenden, wie KI den wissenschaftlichen Schreibprozess verändert, welchen Einfluss sie auf die Forschung jenseits des Schreibens hat und wo ihr Einsatz in Lehre und Abschlussarbeiten an Grenzen stößt.
Einigkeit herrschte darüber, dass die wissenschaftliche Substanz weiterhin von den Forschenden selbst kommen muss. Kontrovers blieb, ob KI-gestützte Reviews fremder, unveröffentlichter Texte ethisch vertretbar sind und ab wann Forschende die Expertise verlieren, KI-Ergebnisse noch fundiert beurteilen zu können, wenn Gedankenarbeit und Schreibprozess vollständig an Sprachmodelle delegiert werden. Für die Lehre bestand Konsens, dass es neue Aufgaben- und Prüfungsformate braucht.
Welche Rolle Hochschule und Mensch im Zeitalter der Künstlichen Intelligenz einnehmen soll, ist eine Frage, an der keiner an der Hochschule vorbeikommt. Durch die Forschung am IDP lernen wir, die Grenzen der Technologie zu erkennen und können sie dadurch fundierter bewerten. Das Institute for Data and Process Science freut sich auf den Austausch dazu mit Kolleginnen und Kollegen aller Fakultäten.
Profil und Sichtbarkeit
In einem weiteren Workshop schärfte das Institut zudem sein Profil: Einem starken Selbstbild geprägt von Zusammengehörigkeit, Austausch auf Augenhöhe, gesellschaftlich relevanten Forschungsthemen und fachlicher Vielfalt steht eine geringe Sichtbarkeit bei Studierenden und wichtigen Stakeholdern gegenüber. Konkrete Vorschläge, wie sich diese Lücke schließen lässt, wurden ausgearbeitet, gebündelt und priorisiert; sie werden im Nachgang vom Leitungskreis des Instituts weiterverfolgt.
Foto: Hochschule Landshut
(Frei zur Verwendung bei Angabe der Quelle)
