KI-Anwendungen – Vertrauenswürdige KI: Schlüssel zu Akzeptanz und Innovation

Mangelndes Nutzervertrauen und die Bedenken verschiedener Kontrollinstanzen im Unternehmen sind wesentliche Gründe dafür, dass sich die Implementierung von KI-basierten Anwendungen oft verzögert oder scheitert. So geben laut KPMG Tech Report 2024 80 Prozent der befragten CEOs an, dass ihr Unternehmen aufgrund der Risikoaversion ihrer Führungskräfte neue Technologien langsamer aufgreift als die Konkurrenz.
Zwar beobachten die meisten Organisationen eine grundsätzliche Aufgeschlossenheit der Mitarbeitenden gegenüber neuen Technologien. Doch über drei Viertel der von KPMG befragten Organisationen befürchten, dass viele Nutzer KI als «Black Box» wahrnehmen und dass KI ihre betrieblichen Strukturen herausfordert – bis hin zu möglichem Stellenabbau und ethischen Konflikten.

KI vertrauenswürdig gestalten 
Ein umsichtiger Umgang mit Ängsten und Unsicherheiten der Mitarbeitenden rund um den technologischen Wandel wird daher entscheidend sein für eine zügige KI-Adoption. Gleichzeitig müssen KI-Systeme vertrauenswürdig gestaltet sein, damit sie bei Nutzerinnen und Nutzern auf Akzeptanz stossen.
Das bedeutet, dass Unternehmen KI nach ethischen Grundsätzen transparent und nachvollziehbar einsetzen und die damit verbundenen Risiken wie Datenschutz und -integrität gezielt adressieren. Dies gelingt mit einer strategischen, organisationsweiten Ausrichtung auf die Befähigung der Mitarbeitenden und auf vertrauenswürdige KI-basierte Werkzeuge, Dienst­leistungen und Produkte.

Robuste KI-Governance als Basis
Das Management von KI-Risiken erfordert dabei neue Ansätze, die teilweise noch nicht ausgereift sind: Wie lassen sich Zuverlässigkeit, Erklärbarkeit und Fairness von KI-Anwendungen am besten messen, steuern und kommunizieren? Wie können Cyberangriffe verhindert werden, die KI-spezifische Schwachstellen von Systemen ausnutzen?
Eine robuste KI-Governance muss also verschiedene Fachgebiete und Abteilungen miteinbeziehen, zum Beispiel Compliance, Sicherheit und Datenschutz sowie die Kommunikation. Sie muss auch dafür sorgen, dass Unternehmen ihre KI-Systeme bereits in der Entwicklungsphase und auch beim Bezug von KI-basierten Produkten, Komponenten und Dienstleistungen von Dritten auf Risiken prüfen und über den gesamten Lebenszyklus überwachen. Dabei gilt es, den Aufbau und Einsatz von Schatten-KI zu verhindern, das heisst von KI-Anwendungen, die ausserhalb der Governance entwickelt, eingekauft und betrieben werden.
Neben umfassendem, multidisziplinärem Know-how sind skalierbare Prozesse erforderlich, um mit der stetig steigenden Anzahl eingesetzter KI-Systeme Schritt zu halten. Andernfalls werden KI-Anwendungen kaum über das Experimentier- und Pilotstadium hinauskommen und nicht den erwarteten Nutzen liefern.

Zertifizierung als Signal 
Internationale Normen wie die ISO/IEC 42001 für KI-Managementsysteme bieten Unternehmen eine gute Orientierung beim Aufbau einer tragfähigen KI-Governance. Eine effiziente Umsetzung stützt sich dabei auf existierende Prozesse ab – beispielsweise zu Compliance, Risikomanagement und Softwareentwicklung – und ergänzt diese mit den KI-spezifischen Aspekten. Auch KI-Anwendungen lassen sich mithilfe internationaler technischer Normen und Anleitungen implementieren und evaluieren.
Die Zertifizierung der KI-Governance ist zudem ein effektives Mittel, um bei Kundinnen, Partnern, Investoren und Aufsichtsbehörden Vertrauen zu schaffen. So können Unternehmen dank einer unabhängigen Prüfung durch eine externe Zertifizierungsstelle signalisieren, dass sie über eine wirkungsvolle KI-Governance verfügen und vertrauenswürdige KI-Anwendungen betreiben.

Eine Frage des Vertrauens 
Die nächsten Jahre werden entschei­dend dafür sein, ob KI ihr volles Potenzial entfalten kann und ob die Gesellschaft bereit ist, ihr zu vertrauen. Unternehmen, die heute in vertrauenswürdige KI investieren und ihre Mitarbeitenden dabei aktiv einbinden, legen den Grundstein für eine nachhaltige und innovationsfreundliche Zukunft. Ohne dieses Fundament bleibt der Fortschritt fragil.