Workshop: Vertrauenswürdigkeit von KI-Lösungen, 15.11.2022, Kaiserslautern
Update: Der Abschlussbericht und die gezeigten Folien und Poster sind jetzt verfügbar!
- Wann: 15. November 2022
- Wo: Fraunhofer IESE, Kaiserslautern (Teilnahme ist vor Ort oder virtuell möglich)
- Veranstalter: GI-Fachgruppe "Measurement & Data Science" (FG 2.1.10) im Rahmen der ESAPI-Community
- Die Vorträge am Vormittag können via MS Teams auch virtuell verfolgt werden!
Motivation
Das Vertrauen in Anwendungen der künstlichen Intelligenz ist von multidimensionalen Aspekten abhängig. Die „Ethics Guidelines for Trustworthy AI“ der Europäischen Kommission definieren verschiedene Prinzipien und Handlungsempfehlungen, wie das Abwenden von Schaden, Fairness oder transparente Prozesse, als Grundlage für Vertrauenswürdigkeit. Eine ausschließliche Berücksichtigung der technischen Eigenschaften entwickelter Lösungen, die sich z.B. an der ISO 25000 orientiert, ist zwar sinnvoll, reicht aber zur Gewährleistung vertrauenswürdiger KI-Lösungen nicht aus. Die VDE-Anwendungsregel VDE-AR-E 2842-61 des DKE-Arbeitskreises 801.0.8 bricht Vertrauenswürdigkeit in einzelne Qualitätsaspekte herunter, wie Zuverlässigkeit, Verfügbarkeit, Wartbarkeit, Funktionale Sicherheit, Cybersicherheit, Privatsphäre, Benutzerfreundlichkeit, Ethik/Moral und Robustheit. Mit Hilfe von KI-Lösungen gewonnene Klassifizierungen, Prognosen oder auch Bild-, Audio- und Videoanalysen implizieren Bedürfnisse hinsichtlich der Erklär-, Interpretier- und Reproduzierbarkeit. Dabei geht es nicht zuletzt um die Vermeidung diskriminierender Ergebnisse eingesetzter KI-Algorithmen. Die Reproduzierbarkeit erzielter Analyseergebnisse wird durch das BSI als direkte Vorrausetzung für die Verbreitung vertrauenswürdiger KI-Ansätzen genannt: „Furthermore, reproducibility is a requirement for establishing causality for the interpretation of model results and building of trust towards the overwhelming expansion of AI systems applications.“ (Quelle des Zitats: BSI 2022)
Unter Berücksichtigung der aufgezeigten Komplexität des Begriffs der Vertrauenswürdigkeit im KI-Diskurs bedarf es dennoch einfach zu handhabender Prinzipien und Methoden, die eine Auseinandersetzung mit sinnfälligen KI-Lösungen von vornherein nicht obsolet machen.
Anmeldung
Anmeldungen zum Workshop bitte über Herrn Sandro Hartenstein (Sandro.Hartenstein@hwr-berlin.de). Die Teilnahme ist vor Ort oder virtuell möglich.
Weitere Informationen: https://fg-data-science.gi.de oder https://blog.hwr-berlin.de/schmietendorf oder https://cecmg.de/events.
Agenda
09:30 – 10:00: Eröffnung und Motivation zum Thema
- Prof. Dr. Andreas Schmietendorf – Initiator des Workshops
- Dr. Jens Heidrich – Gastgeber am Fraunhofer IESE
- Dr. Andreas Jedlitschka – Sprecher der GI-Fachgruppe 2.1.10
10:00 – 12:00: Eingeladene Gastvorträge
- Dr. Gaby Gurczik, "KI-Innovationen als Standortchance für Deutschland und Europa": Referentin für Grundsätze Künstliche Intelligenz und Datenökonomie beim BMDV
- Dr. Rasmus Adler, "Das Spaltmaß für KI-Systeme - Wie sieht es aus und was sind akzeptable Grenzwerte?": Leiter des Programms Autonome Systeme, Fraunhofer IESE
- Prof. Dr. Katharina Zweig, "Kann man mit Surrogatansätzen KI-Entscheidungen erklären?", Leitern Algorithm Accountability Lab, TU Kaiserslautern
Mittagspause 12:00 Uhr bis 13:00 Uhr
13:00 – 14:30: Poster-Session mit einführenden Impulsvorträgen (jeweils 5 min.)
- Sandro Hartenstein: Vertrauen in KI-Web-APIs
- Julius Schinschke: Vertrauen Datenquellen
- Lukas Scholz: Explainable Artificial Intelligence
- Daniel Krohmer: KI Security Testing
- Dr. Michael Kläs: Safe AI
Ausklang bei Kaffee und Gebäck: 14:30 bis 15:00 Uhr
Ende des Workshops ca. 15:00 Uhr
Abschlussbericht
Der Abschlussbericht zum Workshop ist jetzt verfügbar!
Kontakt
Andreas Schmietendorf
HWR Berlin - Berlin School of Economics and Law
E-Mail: andreas.schmietendorf@hwr-berlin.de
Jens Heidrich
Fraunhofer IESE Kaiserslautern:
E-Mail: Jens.Heidrich@iese.fraunhofer.de
Partner
- Fraunhofer-Institut für Experimentelles Software Engineering (Gastgeber)
www.iese.fraunhofer.de - Central Europe Computer Measurement Group (Sponsoring)
cecmg.de - Arbeitskreis Software-Qualität und -Fortbildung e.V. (ASQF)
www.asqf.de - SIGS DATACOM GmbH (Medienpartner)
www.sigs-datacom.de - Shaker Verlag GmbH Düren (Medienpartner)
www.shaker.de