Spenden

Faktentreue beim Schreiben mit künstlicher Intelligenz: Spendenprojekt gestartet

Sprachmodelle basierend auf künstlicher Intelligenz wie ChatGPT interagieren mit Nutzerinnen und Nutzern im Dialog und geben vertrauenswürdig erscheinende Antworten. Doch sind die Auskünfte immer richtig? Unabhängig von Auftraggebern und finanziert von privaten Spenden befasst sich das Öko-Institut in seinem neuen Spendenprojekt mit den spezifischen Risiken, aber auch mit den Chancen der neuen Sprachmodelle auf Basis künstlicher Intelligenz (KI).

Falschen Informationen entgegenwirken

Wenn KI-Sprachmodelle trainiert werden, werten sie große Text- und Datenmengen aus. Insbesondere beim Sprachmodell ChatGPT war es offenkundig das primäre Entwicklungsziel, dass es auf jede Frage eine Antwort gibt, die Qualität der Antwort ist nachrangig. Die Antworten können also plausibel klingen, aber keine faktische Basis haben. So wird es für Laien schwer, Fakten und Fiktion zu unterscheiden. Desinformationskampagnen, insbesondere im Klimaschutzbereich, nehmen zu und können durch die Werkzeuge der künstlichen Intelligenz erleichtert werden.

„Hier liegt eine große Gefahr, falsche Informationen können sich in der Gesellschaft negativ auf die Akzeptanz von Maßnahmen und Instrumenten zum Klimaschutz auswirken“, sagt Carl-Otto Gensch, Projektleiter am Öko-Institut. Bei der Faktentreue der Antworten setzt das neu gestartete Projekt an. Dort soll eine Methode entwickelt werden, um Antworttexte von KI-Sprachmodellen zu wichtigen Themen des Umwelt- und Klimaschutzes zu prüfen und auf ihre Faktentreue hin zu bewerten.

Einfacher Zugang zu Informationen

Außerdem analysiert das Projekt, wie sich die Faktentreue der Antworten über einen bestimmten Zeitraum verändert und wie sehr sie von wohl formulierten Eingabetexten, also den „prompts“, abhängt. Zudem wird untersucht, ob umweltrelevante Informationen mit Hilfe der KI-Sprachmodelle einfacher zugänglich sind. Und: Wie werden diese Modelle bereits in der Wissensaufbereitung und -vermittlung genutzt?

Besonders hier sind faktenbasierte Informationen erforderlich, da das die Schnittstelle zwischen wissenschaftlicher Forschung und Kommunikation in die Öffentlichkeit ist. Das ist aber auch die große Chance von KI. Komplexe Informationen zu Umweltthemen können in verschiedenen Sprachstilen leicht aufbereitet werden und sind so für alle Menschen leicht zugänglich.
Carl-Otto Gensch
Bereichsleiter Produkte & Stoffströme

Anschließend an die Analyse leitet das Projektteam politische Empfehlungen ab: Wie sollte ein regulatorischer Rahmen aussehen, um den möglichen Risiken zu begegnen aber auch die Chancen durch KI-Sprachmodelle zu erhöhen?

Spendenprojekte ermöglichen auftragsfreie, unabhängige Forschung am Öko-Institut. In diesen Projekten untersuchen die Wissenschaftlerinnen und Wissenschaftler wichtige Grundlagen der nachhaltigen Transformation, die unser gesellschaftliches Miteinander bestimmen und geben der Politik Handlungsempfehlungen für sozial gerechte und ökologisch sinnvolle Richtungsänderungen an die Hand.

Zum Flyer „Schreiben mit künstlicher Intelligenz – Fakten oder Fiktion? Chancen und Risiken von KI-Sprachmodellen: Wie einfach ist es für Nutzer*innen, verlässliche Informationen zu Klima- und Umweltschutzthemen zu erhalten?“