JKU Linz
Qualitätssiegel für künstliche Intelligenz
- JKU-Professor Sepp Hochreiter will das Vertrauen in künstlicher Intelligenz stärken.
- Foto: JKU Linz
- hochgeladen von Andreas Baumgartner
"Künstliche Intelligenz auf dem Prüfstand" hei´ßt es auf der Johannes Kepler Universität. TÜV Austria entwickelt zusammen mit dem Institut für Machine Learning ein Zertifikat für künstliche Intelligenz.
LINZ/WIEN. "Dieses Produkt können Ihnen gefallen" oder "Hallo, ich bin Elli, wie kann ich Ihnen weiterhelfen" – im Netz treffen wir ständig auf künstliche Intelligenz. Hinter diesen Empfehlungssystemen, Chatbots oder Bilderkennungs-Anwendungen steckt oft Machine Learning. Die Technologie macht Anwendungen, die wir täglich nutzen, sozusagen "intelligent".
Vertrauen in maschinelles Lernen stärken
Doch wie vertrauenswürdig ist die künstliche Intelligenz? Wird mit den Daten sensibel genug umgegangen oder sind die verwendeten Daten, mit denen die KI gefüttert wird, überhaupt korrekt? All diesen Fragen widmen sich die TÜV Austria arbeitet gemeinsam mit dem Institut für Machine Learning der Johannes Kepler Universität an entsprechenden Zertifizierungsmethoden. Damit sollen Hersteller bei der Entwicklung sicherer, verlässlicher und qualitativ hochwertiger Machine Learning-Modelle unterstützt werden. Nutzern wird ein Qualitätssiegel für vertrauenswürdige KI-Systeme geboten.
„Machine Learning ist die derzeit wichtigste Grundlagentechnologie und wird langfristig unser technisches Umfeld und unser ganzes Leben massiv beeinflussen", ist Machine Learning-Institutsvorstand Sepp Hochreiter davon überzeugt, dass eine Zertifizierung "von Machine Learning Anwendungen das Vertrauen der Konsumenten in diese Technologie stärkt".
Erste Zertifizierungen laufen
Die erste Erfolgsstufe wurde erreicht: Sogenannte Supervised Learning-Anwendungen im niedrigen bis mittelhohen Risikobereich werden heute schon zertifiziert. „Wir führen bereits erste Zertifizierungsprojekte durch, wobei sich die Anwendungen vor allem im industriellen Umfeld aber auch im Consumer-Bereich wiederfinden", so Stefan Haas, CEO der Tüv Austria Group. In der nächsten Phasen sollen die jetzigen Ansätze erweitert werden, "um auch sicherheitskritischere Anwendungen basierend auf einem breiteren Spektrum von Machine Learning Methoden zertifizieren zu können“, so Haas.
Ethik am Prüfstand
Im Rahmen der Zertifizierung werden die Machine Learning Modelle und deren Entwicklungsprozess in mehreren Dimensionen im Detail überprüft. Dabei wird nicht nur die eigentliche Funktion und Verlässlichkeit der trainierten Modelle untersucht, sondern auch die Sicherheit der Software und ob diese den Anforderungen ihres Einsatzgebiets entsprechend angemessen entwickelt wurde. Hinzu kommt eine Prüfung, ob mit persönlichen Daten vertraulich umgegangen wird und mögliche ethische Fragestellungen ausreichend berücksichtigt werden.
Aktuelle Nachrichten aus Linz auf 
Du willst eigene Beiträge veröffentlichen?
Du möchtest kommentieren?
Du möchtest zur Diskussion beitragen? Melde Dich an, um Kommentare zu verfassen.