Empa und UZH forschen über Ethik in der KI

16. April 2020 12:41

Zürich/St.Gallen - Ein Team der Eidgenössischen Materialprüfungs- und Forschungsanstalt (Empa) und der Universität Zürich (UZH) war massgeblich an einer Studie von TA Swiss über ethische Fragen bezüglich Künstlicher Intelligenz (KI) beteiligt. Die Forschungsergebnisse wurden jetzt vorgestellt.

Künstliche Intelligenz kann mit ihren Algorithmen zur Lösung komplexer Probleme und Bewältigung riesiger Datenmengen beitragen. Ethische Fragen werden jedoch aufgeworfen, wenn ihre Algorithmen das Leben von Menschen und ihre Entscheidungen beeinflussen. Diesen Fragen geht eine Studie des Schweizer Instituts für Technologiefolgen-Abschätzung (TA Swiss) nach, an der ein Empa-Team der in St.Gallen ansässigen Abteilung Technologie und Gesellschaft massgeblich beteiligt war. Sie wurde der Öffentlichkeit am Mittwoch präsentiert. 

„Rapide wachsende technische Fähigkeiten brauchen ein wachsames Auge für die Risiken“, heisst es in einer Mitteilung der Empa. Diese Risiken untersuchte ein interdisziplinäres Projektteam. Ausser den drei Forschenden der Empa war auch ein Mitglied des Instituts für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften (ÖAW) daran beteiligt. Geleitet wurde es von Markus Christen, der der Digital Society Initiative der Universität Zürich (UZH) angehört.

Die Studie ging in diesem Zusammenhang unter anderem der Beeinflussbarkeit des Konsumverhaltens, der möglichen Fabrikation von sogenannten Fake News und eventuellen Risiken beim KI-Einsatz durch die Staatsgewalt nach. Aus den Arbeiten des Teams resultieren neun Empfehlungen für unterschiedliche Gesellschaftsbereiche. So sei es etwa nötig, nicht nur die technische Handhabung der KI zu fördern, sondern auch die Urteilsfähigkeit über rechtliche, ethische und soziale Auswirkungen der KI.

Die Expertinnen und Experten äussern sich in der TA Swiss-Studie auch zur mangelnden Transparenz der KI und ihren möglichen diskriminierenden Eigenschaften. Sie diskutieren Kontrollmechanismen für diese Systeme ebenso wie rechtliche Aspekte bezüglich Haftung und Datenschutz. In Bereichen mit unklarer Risikolage empfehlen die Studienautoren intensivere Forschung. mm

Mehr zu Forschung und Entwicklung

Aktuelles im Firmenwiki