Künstliche Intelligenz: Neue Möglichkeiten und Herausforderungen für die Wissenschaft
Am 7. Februar 2022 präsentierte die vom IQIB koordinierte interdisziplinäre Projektgruppe „DiA – Digitale Arbeitswelten in Forschung und Entwicklung“ im DLR ihre Schlussfolgerungen für den angemessenen Einsatz von Künstlicher Intelligenz (KI) in der wissenschaftlichen Forschung. Ihr Fazit: Es gibt absehbar keine Evidenz für eine sog. „starke KI“, also für technische Artefakte, die menschenähnliches Bewusstsein erlangen.
Vielmehr bezeichnet KI die Fähigkeit von hochentwickelten Computersystemen, auf sie zugeschnittene Aufgaben zu lösen, die aufgrund ihrer Komplexität bislang menschliche Fähigkeiten erforderten. Dies trifft sowohl auf wissensbasierte als auch auf lernfähige KI-Systeme zu. Bereits heute ist KI von großer Bedeutung, z.B. in der Klimaforschung, der Teilchenphysik oder in der klinischen Forschung. KI kann dabei den forschenden Menschen in bestimmten Routinearbeiten durchaus ersetzen – aber eben nicht vollumfänglich.
Denn überall dort, wo Forschungsprozesse nicht algorithmisch darstellbar sind, bleibt die Domäne des Menschen in der Forschung unangetastet. Das trifft auf die meisten Forschungstätigkeiten zu, die sich überwiegend regelgeleiteten Prozeduren entziehen. KI-Systeme können zudem weder die Motive ihrer Forschungsbeteiligung reflektieren noch ihre „Resultate“ wissenschaftlich verteidigen und verantworten. Somit sind Menschen auch aus wissenschaftsphilosophischer Sicht durch KI selbst zukünftig nicht vollständig ersetzbar.
Unverzichtbar ist KI dagegen, um Forschung effizienter zu gestalten und um neue Forschungsfelder, z.B. komplexe und instabile Systeme zu erschließen. KI verändert dabei den Modus wissenschaftlicher Forschung hin zu korrelativen und damit theoriearmen Schlüssen, die zwar allgemein schnelle Prognosen erlauben aber zugleich durch die intrinsische Intransparenz ihres Zustandekommens und den weitgehenden Verzicht auf kausale Schlüsse teilweise nur schwer nachvollziehbar und überprüfbar sind. KI wird und sollte daher klassische, z.B. experimentelle Forschungsmethoden, die kausale Erklärungen liefern können, nicht ersetzen, sondern lediglich ergänzen.
Aus arbeitswissenschaftlicher Sicht sind den Wissenschaftler/-innen geeignete Aus- und Weiterbildungsangebote zu machen, die sie befähigen, auf „Augenhöhe“ in KI-assistierten Arbeitsumgebungen zu forschen. Personalverantwortliche benötigen Kompetenzen in gesundheitsförderlicher Arbeitsgestaltung, da die zunehmende digitale Arbeit auch im Forschungssektor bereits jetzt psychische und orthopädische Erkrankungen signifikant fördert.
Die Projektgruppe adressiert zwei Hauptanliegen für die künftige Regulierung des Einsatzes von KI in der Forschung: (1) KI ist im explorativ-suchenden Modus von Big Data auf große Datenmengen angewiesen, was in bestimmten Kontexten mit der Datensparsamkeitsregel und der Zweckbindungsnorm der Datenschutzgrundverordnung (DSGVO) kollidiert. Entsprechende Öffnungsklauseln für die Forschung sind zwar vorgesehen aber derzeit noch unklar. Hier müssen die einschlägigen Kriterien und Vorgaben der Verordnung nachgebessert und konkretisiert werden, damit KI-assistierte Forschung rechtssicher durchgeführt werden kann. (2) Die spezifische „Datenfixiertheit“ von KI-assistierter Forschung birgt zugleich das Risiko, dass sich Forschungsevaluationen im Zeitalter von KI und Big Data künftig an einseitigen Beurteilungsmaßstäben orientieren werden, die datensparsame Fachkulturen möglicherweise benachteiligen könnten. Hier sind die Evaluationsmethoden und -kriterien ggf. anzupassen, um den Besonderheiten aller Fachkulturen auch weiterhin Rechnung tragen zu können.
Das Projekt DiA wurde im Rahmen eines Forschungsauftrags vom DLR gefördert und unter Leitung von Dr. Stephan Lingner durch das IQIB koordiniert. Die weiteren Mitglieder der Arbeitsgruppe waren: Prof. Dr. Peter Buxmann (Wirtschaftsinformatik, TU Darmstadt); Julia Distelrath (IQIB); Prof. Dr. Carl Friedrich Gethmann (Angewandte Philosophie, Univ. Siegen); Prof. Dr. Bernhard G. Humm (Angewandte KI, Hochschule Darmstadt); Prof. Dr. Verena Nitsch (Arbeitswissenschaften, RWTH Aachen); Prof. Dr. Jan C. Schmidt (Wissenschaftsphilosophie; Hochschule Darmstadt) und Indra Spiecker genannt Döhmann (Öffentliches Recht, Univ. Frankfurt/M.).
