Projekt

Vertrauenswürdige KI

In diesem Projekt geht darum, gelungene Beispiele für die Umsetzung vertrauenswürdiger KI zu präsentieren und Methoden vorzustellen, die von den Akteuren vor Ort eingesetzt werden. Dabei geht es insbesondere um den Einbezug von Nicht-Technikwissenschaftlerinnen und -wissenschaftlern in den Entwicklungs- und Implementationsprozess, d.h. um „embedded social scientists“ sowie um spezielle Verfahren des Systemdesigns, mit denen verschiedene Dimensionen vertrauenswürdiger KI umgesetzt werden können.

 

 

Unter vertrauenswürdiger KI („trustworthy AI“) versteht man automatisierte Entscheidungssysteme, die den Anforderungen von Transparenz, Verantwortlichkeit, Privatheit, Gerechtigkeit und Zuverlässigkeit gerecht werden. Hintergrund ist die Tatsache, dass auf Künstlicher Intelligenz basierende automatisierte Entscheidungssysteme gesellschaftliche Implikationen haben, die über herkömmliche IT-Systeme hinausgehen. Als Gegenentwurf zur US-amerikanischen und chinesischen Konzeptualisierung von KI („Kommerz“ bzw. „Kontrolle“) propagiert die Europäische Kommission die „vertrauenswürdige“ KI, in der ethische Standards, Privatheit, Diskriminierungsfreiheit und auch die Nachvollziehbarkeit der Entscheidungen automatisierter Systeme wichtige Dimensionen sind. Die Europäische Kommission möchte vertrauenswürdige KI zum einem Qualitätsmerkmal von KI „made in Europe“ machen.

 

Im Anschluss an die Empfehlungen der High-Level Expert Group on Artificial Intelligence der Europäischen Kommission (High-Level Expert Group on Artificial Intelligence 2019) haben sich verschiedene Regierungskommissionen und Expertenteams mit der Frage beschäftigt, wie vertrauenswürdige KI-Systeme entwickelt und umgesetzt werden können. Die Vorschläge reichen von einem KI-Ethik-Kennzeichnungssystem über den Einsatz von Kriterienkatalogen für die Gestaltung der Mensch-Maschine-Interaktion, die Verwendung eines Beipackzettels für Modelle des Maschinellen Lernens und für fairere KI bis hin zu konkreten Guidelines für die Entwicklung und Umsetzung ethischer KI.

 

 

 

Derzeit fehlt es an konkreten Beispielen für Umsetzungen, die entsprechend der vorliegenden Leitlinien und Checklisten tatsächlich durchgeführt werden. Erfolgsbeispiele sind aber dringend notwendig, um die Vorteile vertrauenswürdiger KI-Systeme zu demonstrieren und Nachahmer zu motivieren.

In diesem Projekt werden daher Beispiele recherchiert, die zeigen, wie die Akteure vor Ort vorgegangen sind, um vertrauenswürdige KI-Anwendungen zu entwickeln und zu implementieren.

 

Publikationen

  • noch keine

Laufzeit

06/2020 bis 07/2021

Auftraggeber

  • Internes Projekt

Partner

-  

Webseite