Subscribe
Share
Share
Embed
Das Projekt TrustKI konzentriert sich auf die Entwicklung einer Plattform zur Bewertung der Vertrauenswürdigkeit von künstlicher Intelligenz. Die zunehmende Komplexität dieser Technologie erschwert es den Menschen, sie zu verstehen und zu bewerten. Wir sprechen mit Expertern, Wissenschaftlern und Anwendern über das Vertrauen in Künstliche Intelligenz.
Zum Thema künstliche Intelligenz gibt es täglich Neuigkeiten und spannende Entwicklungen. Unternehmen setzen die KI bereits im Alltag ein, zum Beispiel bei der Auswahl von Bewerbern. Die Technologie wird schon in naher Zukunft viele Bereiche unseres Alltags verändern. Dabei spielt der Faktor Vertrauen eine entscheidende Rolle. Mit dieser Frage beschäftigt sich das Institut für Internetzicherheit an der Westfälischen Hochschule in Gelsenkirchen im Rahmen des Forschungsprojekts Trust KI.
Speaker 1:Ich spreche heute mit der Projektleiterin Ulla Köster über das Vertrauen in der digitalen Welt. Mein Name ist Michael Voregger.
Speaker 2:Genau, es geht das Projekt Trust KI. Da wird eine Plattform entwickelt für Vertrauenswürdigkeit von künstlicher Intelligenz. Warum ist das notwendig?
Speaker 3:Die Technologie wird im Rahmen der digitalen Transformation immer komplexer und das heißt, sie wird immer weniger durchschaubar für Anwender. Und das bedeutet für die Anwender, sie verstehen eigentlich die Technologie gar nicht mehr und können dementsprechend auch gar nicht bewerten, wie sie die Technologie richtig einsetzen und ob sie dieser Technologie überhaupt vertrauen können.
Speaker 1:Jetzt geht's in Plattform
Speaker 2:oder wird eine Plattform aufgebaut. Was ist damit genau gemeint? Was ist darunter zu verstehen?
Speaker 3:Darunter ist zu verstehen, dass wir den KI Anbietern die Möglichkeit bieten, sich zu präsentieren und den Anwendern glaubwürdig ihre Vertrauenswürdigkeit zu dokumentieren. Weil Vertrauenswürdigkeit wird ja immer seitens der Vertrauensgeber, die in dem Falle ja die Anwender sind, zugeschrieben. Also ich kann nicht sagen, ich bin vertrauenswürdig, anderer müssen mich für vertrauenswürdig erachten. Und von daher müssen die KI Anbieter alles tun, dem Anwender vermitteln zu können, dass sie vertrauenswürdig sind.
Speaker 2:In einem ersten Schritt wurde jetzt eine Umfrage durchgeführt und da sind die erste Ergebnisse da.
Speaker 3:Wir haben die Anwender gefragt, was sie benötigen, den KI Anbietern vertrauen zu können. Das ist von daher wichtig, weil Vertrauen und Vertrauenswürdigkeit sind ja eigentlich komplementär beziehungsweise es besteht eine 'n Zusammenhang oder eine Interdependenz zwischen Vertrauen und Vertrauenswürdigkeit. Also die Kriterien, die für Vertrauen gelten, gelten auch für Vertrauenswürdigkeit und das sind im Einzelnen Kompetenz, Integrität und wohlwollendes Verhalten. Und diese Kriterien, die spiegeln sich in unseren Vertrauenswürdigkeitsaspekten, Zutrauen, Zuverlässigkeit, Integrität und IT Sicherheit für das Unternehmen wider und in den Vertrauenswürdigkeitsaspekten Transparenz, Leistungsfähigkeit und Zweckprägnanz der KI Lösung.
Speaker 2:Jetzt spielt da auch Ethik eine Rolle. Das ist auch aufgetaucht in den Umfragen, in der Umfrage. Was ist denn unter 1 ethisch orientierten Handlungsweise der Anbieter von KI Lösungen zu verstehen?
Speaker 3:Also in erster Linie bedeutet ja die ethisch motivierte oder orientierte Handlungsweiser 1 KI Herstellers, dass er sich an der Moral und an den Werten der Gesellschaft orientiert, diese kennt und auch anerkennt. Und dann natürlich natürlich tatsächlich in seiner KI Lösung berücksichtigt. Hier ist zum Beispiel wichtig, das Prinzip zu erwähnen. Das ist von daher wichtig, weil ja im AI Act tatsächlich nicht alles abgedeckt werden kann. Das ist ja bei Gesetzen immer so, dass halt nicht alles berücksichtigt werden kann.
Speaker 3:Und von daher sind KI Anbieter eigentlich da 'n Stück weit auch zu aufgefordert, die Vorstellungen der Anwender zu berücksichtigen.
Speaker 2:Jetzt tauchen auch in den Pressemitteilungen Begriffe auf, die nicht ganz eindeutig sind oder nicht so einfach zu erklären sind, zum Beispiel der Begriff der holistischen Transparenz. Was verstehen Sie darunter?
Speaker 3:Also holistische Transparenz ist eigentlich 'n Begriff, der schon mehrfach diskutiert wird in der Öffentlichkeit, allerdings nicht unter dem Namen holistische Transparenz. Also holistische Transparenz bedeutet in erster Linie, wenn wir von Transparenz der KI sprechen, sprechen wir immer von der Transparenz der KI Lösung. Aber eigentlich reicht ja, wenn man jetzt auch grade dieses Nichtschädigungsprinzip wieder miteinbezieht, reicht ja die Transparenz der Lösung nicht, sondern es muss ja auch die Handlungsweise der KI Anbieter transparent betrachtet werden beziehungsweise dem Anwender transparent gemacht werden. Das bedeutet zum Beispiel, dass der Anwender sich wirklich darauf verlassen kann, dass ein KI Anbieter Maßnahmen ergreift, zum Beispiel, sicherzustellen, dass alle seine Mitarbeiter sich gemäß der ethischen Vorschriften verhalten können oder dass 'n Ethikgremium im Unternehmen etabliert wird, sicherzustellen, dass die Werte der Gesellschaft tatsächlich berücksichtigt werden.
Speaker 2:Jetzt ist 'n erster Schritt erreicht. Was sind die nächsten Schritte in dem Projekt? Wie wird's jetzt weitergehen?
Speaker 3:Der nächste wichtige Schritt ist natürlich, jetzt in den Austausch mit den KI Anbietern zu gehen. Also wir kennen jetzt die Anforderungen der Anwender und müssen die natürlich in Einklang bringen mit den Vorstellungen der KI Anbietern, weil letztendlich ist es ja 'n Austarieren der der Anforderungen. Denn natürlich haben die KI Anbieter natürlich 'n berechtigtes Interesse, unternehmerisches Interesse, gewinnorientiert auch zu agieren. Und deswegen, wie gesagt, muss also 'n Austarion stattfinden zwischen den Interessen der Anbieter und der Anwender.
Speaker 1:Ja, vielen Dank. Das war's für heute. Wir werden das Thema künstliche Intelligenz und Vertrauen natürlich noch weiter vertiefen. Es wird also weitere Podcasts dazu geben.
Speaker 2:Bis dahin, danke und Tschüs.