Chatbots – universelle Experten oder Risiko für die Nachhaltigkeitstransformation?

In unserem gerade abgeschlossenen Spendenprojekt „Schreiben mit künstlicher Intelligenz – Fakten oder Fiktion? Chancen und Risiken von KI-Sprachmodellen: Wie einfach ist es für Nutzer*innen, verlässliche Informationen zu Klima- und Umweltschutzthemen zu erhalten?“ haben wir uns mit den spezifischen Risiken, aber auch mit den Chancen der neuen Sprachmodelle auf Basis künstlicher Intelligenz (KI) befasst.

Sprachmodelle treten wie Expert*innen auf und werden zunehmend wie „universelle Berater“ genutzt. Aber haben sie dieses Vertrauen verdient? Unsere Auswertung zu verschiedenen Umwelthemen hat ergeben, dass es insgesamt wenige gänzlich „falsche“ Antworten gibt, aber recht viele unzureichende Antworten, denen wichtige Ergebnisbestandteile wie etwa der Kontextbezug fehlen. Zudem hängt die Qualität der Antworten wesentlich von der Formulierung der Prompts ab. Und: Je länger das Thema bereits in der öffentlichen Diskussion ist, desto besser können die Antworten sein. 

Das Grundproblem: Die Chatbot-Antworten wirken immer sehr überzeugend, sie simulieren Wissen. Außerdem haben wir überlegt, wie der rechtliche Rahmen gestaltet werden sollte, um die Vertrauenswürdigkeit von KI-Sprachmodellen sicherzustellen. Ein zentraler Hebel ist dabei, menschliche und vor allem wissenschaftliche Expertise systematisch in die Systeme zu integrieren.