Am 30.11.23 diskutierten die Gäste von «Digital Futures: AI & Cybersecurity» über den verantwortungsvollen Umgang mit KI.
KI und Cybersecurity
Martin Burkhart vom Cyber-Defence Campus betonte einen kritischen Aspekt der Cybersicherheitsforschung in der Schweiz: Die aktuelle Konzentration auf bestimmte Forschungsbereiche vernachlässige andere Bereiche. Die Herausforderung bestünde darin, dieses Ungleichgewicht mit begrenzten Ressourcen anzugehen. Dabei betonte er die Notwendigkeit kollaborativer Anstrengungen, um alle wichtigen Bereiche abzudecken, die für Forschung, Investitionen und Politik entscheidend sind. Burkhart unterstrich auch die doppelte Rolle von KI in der Cybersicherheit, die sowohl Angreifer:innen als auch Verteidiger:innen dient.
KI und Industrie
Nikola Pascher von Mettler-Toledo ging auf die Auswirkungen von KI auf industrielle Lösungen ein. KI wurde als Fluch und Segen beschrieben, wobei Pascher die Notwendigkeit von Regulierung betonte, ohne Innovationen zu ersticken. Das Finden eines Gleichgewichts zwischen regulatorischen Massnahmen und der Förderung sicherer Anwendungsfälle sei notwendig, um das Potenzial von KI in industriellen Umgebungen optimal zu nutzen.
KI und Kunst
Paulina Zybinska von der ZHdK stellte Fragen zur sich entwickelnden Rolle von KI-Tools im kreativen Prozess. Die Fortschritte in KI-Technologien zur Generierung von Bildern, Videos und Musik würden kontinuierlich besser, was vielfältige spannende Anwendungsmöglichkeiten eröffnet. Die Künstlerin äusserte Bedenken hinsichtlich des möglichen Verlusts menschlicher Kreativität. Es sei notwendig über Trainingssätze, Datenverzerrung, Schaden durch Klassifizierung von Bildern von Menschen ohne deren Zustimmung oder Beteiligung und die Urheberschaft von KI-generierten Inhalten sprechen. Sie forderte eine sorgfältige Prüfung ethischer Überlegungen im kreativen Bereich.
Risiken navigieren und Strategien für eine sichere digitale Zukunft entwickeln
Die Podiumsdiskussion mit David Marti (Pour Demain), Raphael von Thiessen (Innovation Zurich), Marisa Tschopp (scip AG), Monika Reif (ZHAW) , moderiert von Ricardo Chavarriaga (CLAIRE) konzentrierte sich auf die Risiken von KI, die Vertrauenswürdigkeit von Technologie, die schnelle Entwicklung von KI und die verzögerte Geschwindigkeit der Regulierung. Es wurden Strategien für eine sichere digitale Zukunft besprochen, darunter ein proaktiver Ansatz durch das Teilen praktischer Erkenntnisse, Bildung und Entwicklung digitaler Fähigkeiten, Bewusstsein für Cybersicherheitsrisiken, internationale Zusammenarbeit und transparente Datenquellen.
Responsible AI Toolkit
Die Veranstaltung schloss mit dem Hinweis auf das Responsible AI Toolkit. Dieses Toolkit, kuratiert von CLAIRE, soll Einzelpersonen und Organisationen mit den notwendigen Werkzeugen ausstatten, um verantwortungsbewusst mit den Komplexitäten von KI umzugehen. Kontinuierlich aktualisiert dient das Toolkit als praktischer Leitfaden zur Umsetzung ethischer KI-Praktiken.
