Fraunhofer-Institut für System- und Innovationsforschung ISI
Fraunhofer-Institut für System- und Innovationsforschung ISI

Projekt

Gemeinwohlorientierung im Zeitalter der Digitalisierung: Transformationsnarrative zwischen Planetaren Grenzen und Künstlicher Intelligenz

Aktuelle Narrative über Künstliche Intelligenz (KI) betonen die neuen technischen Möglichkeiten mit ihren Vorteilen. Gleichzeitig orientiert sich die Umweltpolitik an den planetaren Grenzen. Bislang gibt es kein gesellschaftlich wirksames Narrativ, das die Entwicklungskorridore der KI zu den planetaren Grenzen in Beziehung setzt.

Im Projekt «Gemeinwohlorientierung im Zeitalter der Digitalisierung: Transformationsnarrative zwischen Planetaren Grenzen und Künstlicher Intelligenz» haben die Abteilung Foresight des Fraunhofer-Institut für System- und Innovationsforschung (ISI) und das Ethikzentrum der Universität Tübingen (IZEW) anthropologische und ethische Konzepte mit Fokus auf Künstliche Intelligenz analysiert und entwickelt, sowie darauf aufbauend neue Einstiege in Transformationsnarrative geschaffen, die die Entwicklungsmöglichkeiten der KI zu den planetaren Grenzen in Beziehung setzen. Bei diesem Vorhaben handelt es sich um ein Projekt der Vorlaufforschung des Umweltbundesamtes.

Alle ausklappen Alle einklappen

Ziel des Vorhabens war, die Grundlagen für neue gemeinwohlorientierte Transformationsnarrative zwischen Planetaren Grenzen und Künstlicher Intelligenz zu schaffen.

Dafür wurden folgende Teilziele und Forschungsinhalte erarbeitet:

  • die Identifizierung und Charakterisierung von Digitalisierungsfeldern, die grundlegende Veränderungen der Mensch-Technik-Umwelt-Beziehungen bewirken können (Screening),
  • die kritische Reflexion existierender Narrative über disruptive digitale Technologien sowie die Analyse und Erweiterung der ethischen Fragen hinsichtlich Nachhaltiger Entwicklung und Gemeinwohl in Bezug auf Künstliche Intelligenz (ethische Analyse),
  • Einstiege in neue Transformationsnarrative unter Berücksichtigung disruptiver digitaler Technologien (Storyboards) und
  • die Identifizierung von Forschungsbedarf.

Ein inter- und transdisziplinär zusammengesetzter Beirat unterstützte das Vorhaben. Das Projekt lief von November 2018 bis November 2021.

Die Abteilung Foresight des Fraunhofer ISI leitete das Gesamtvorhaben.

Das Vorhaben kartierte, analysierte und bewertete mögliche Entwicklungen der KI und schuf mittels der computer-animierten Darstellungsweise von Storyboards (Scrollytelling) Grundlagen für die Erschaffung neuer Transformationsnarrative zwischen Planetaren Grenzen und Künstlicher Intelligenz. Im Einzelnen:

  •  Es liegt eine Landkarte von 10 KI-Anwendungsfeldern vor, die die derzeitigen Beziehungen zwischen Menschen, Technik und Umwelt grundlegend verändern können, von der Simulation natürlicher Sprache bis hin zu Schwarmintelligenz. Dabei wurden empirisch beobachtbare KI-Entwicklungen von spekulativen Visionen unterschieden.
    • Für zwei die zwei KI-Anwendungsfelder Affective Computing und Autonome Systeme zur Erschließung von für Menschen (bislang) unverfügbaren Räumen wurden ethische Analysen durchgeführt. Ethisch relevante Punkte sind (1) KI-basierte Manipulation und Täuschung von Emotionen, (2) Beteiligung und Zugangsgerechtigkeit inklusive der Rolle privater Unternehmen, (3) Extended Reality als besseres Lernen versus Entfremdung durch Entpersonalisierung und Entkörperlichung, (4) Privatheit persönlicher Daten, (5) Natürlichkeit versus Künstlichkeit und Authentizität hinsichtlich Emotionen, (6) Autonome Systeme als Teil der Frontier-Ideologie der nutzenorientierten Technisierung der Natur versus Forderungen nach (partieller)Unverfügbarkeit von Räumen, (7) rein symptomorientierte Techno-Fix-Zugänge versus Suffizienzförderung durch KI, (8) Modifikation von Verantwortungsrelationen durch KI, sowie (9) Dual use beziehungsweise starke militärische Beteiligung und Interessen an KI-Forschung.
    • Anknüpfungspunkte für die ethischen Befunde sind die Arenen Bildung für Nachhaltige Entwicklung und nachhaltiges Verhalten, die Unverfügbarkeit von Räumen im Anthropozän sowie Governance der Technikentwicklung. Mit Storyboards wurde ein Einstieg in neue Narrative zur Verfügung gestellt, der Umweltinteressierte und Medienschaffende dazu anregen soll, sich mit normativen Fragen der KI zu befassen.
    • Aktueller Forschungsbedarf wurde formuliert. Die Notwendigkeit der Konzeption einer umfassenden Forschungsprogrammatik im Zeitalter der Digitalisierung und des Anthropozän wurde ebenso deutlich wie der Bedarf nach einer umfassender ausgestalteten Ethik und Zusammenführung der Diskurse zu Digitalisierung, Ethik, Umwelt/Nachhaltigkeit und Gemeinwohl im Hinblick auf Zukunftsgestaltung.

Die Ergebnisse des Vorhabens sind in der Reihe UBA-Texte publiziert worden, der Abschlussbericht  kann dort heruntergeladen werden. 

Erdmann, L.; Cuhls, K.; Warnke, Potthast, T.; Bossert, L.; Brand, C.; Saghri, S. (2022): Digitalisierung und Gemeinwohl - Transformationsnarrative zwischen Planetaren Grenzen und Künstlicher Intelligenz. Abschlussbericht. UBA-Texte 29/2022. Umweltbundesamt (UBA).

Storyboards

Mit der Entwicklung von «Storyboards», einfachen bebilderten Zukunftsgeschichten, haben wir im Projekt neue Einstiege in Transformationsnarrative geschaffen, die von Interessierten aufgegriffen und weitererzählt werden können.

 

Affective Computing in der Bildung

zum Storyboard
 

Autonome Systeme in der Tiefsee

zum Storyboard

Aus dem Projekt «Gemeinwohlorientierung im Zeitalter der Digitalisierung: Transformationsnarrative zwischen Planetaren Grenzen und Künstlicher Intelligenz» sind zwei weitere Hintergrundpapiere entstanden, eines zum KI-Begriffsverständnis und eines zur Eignung des Konzepts der planetaren Grenzen für die Entwicklung neuer Transformationsnarrative:

Laufzeit

11/2018 – 11/2021

Auftraggeber

Umweltbundesamt (UBA)

Partner

  • Eberhard Karls Universität Tübingen, Internationales Zentrum für Ethik in den Wissenschaften (IZEW)
  • Stefanie Saghri (Animation & Illustration)