Subscribe
Share
Share
Embed
Beschreibung: Künstliche Intelligenz verändert unsere Welt – doch wie steht es um Datenschutz, Sicherheit und Vertrauenswürdigkeit? In diesem spannenden Panel diskutieren drei führende Expertinnen und Experten die drängendsten Fragen rund um den Einsatz von KI in Unternehmen und Gesellschaft.
00:00:01:06 - 00:00:28:06
Oliver Schonscheck
Ja. Herzlich willkommen zu dem Panel Datenschutz, Vertrauenswürdigkeit und Sicherheit bei KI. Ich freue mich sehr über Ihr Interesse und ich begrüße Sie als Panelisten. Zum einen Professor Kugelmann. Er ist Landesbeauftragte für Datenschutz und Informationsfreiheit, dann einer der beiden Vorsitzender des AK KI, der Datenschutzkonferenzen. Was sich dahinter verbirgt, werden Sie uns später noch verraten. Herzlich willkommen, Professor Kugelmann.
00:00:28:10 - 00:00:30:07
Professor Dieter Kugelmann
Vielen Dank für die Einladung.
00:00:30:09 - 00:00:49:03
Oliver Schonscheck
Und neben ihm sitzt Ulla Köster. Sie ist Projektleiterin Trust KI und ist verantwortlich auch für die Vertrauenswürdigkeitsplattform Trust4Good hier am Institut für Internetsicherheit an der Westfälischen Hochschule. Herzlich willkommen, Ulla.
00:00:49:06 - 00:00:51:02
Ulla Coester
Danke für die Einladung.
00:00:51:04 - 00:01:08:02
Oliver Schonscheck
Und dann? Neben mir sitzt Professor Norbert Pohlmann. Er ist Gründer und geschäftsführender Direktor des Instituts für Internetsicherheit. Hier an der Westfälischen Hochschule und wird uns zu dem Thema auch die Bedeutung der Cybersicherheit etwas sagen? Ja, herzlich willkommen, Norbert.
00:01:08:04 - 00:01:10:09
Norbert Pohlmann
Ja, ich freue mich auf die Diskussion.
00:01:10:11 - 00:01:28:07
Oliver Schonscheck
Ja, ich freue mich auch sehr. Und ich beginne direkt mal mit Ihnen, Professor Kugelmann. Wir sind ja schon seit längerem im engen Austausch zum Thema Datenschutz. Und wenn es um KI geht, dann denken viele zuerst einmal Da gibt es die KI Verordnung. Warum spielt da auch die Datenschutzgrundverordnung eine Rolle?
00:01:28:09 - 00:01:50:26
Professor Dieter Kugelmann
Die Datenschutzgrundverordnung beschäftigt sich ja mit der Verarbeitung personenbezogener Daten. Und künstliche Intelligenz ist ein großer Begriff. Also unter uns alles Mögliche, das KI bezeichnet mal vielleicht vor fünf Jahren noch gesagt hätte, ist so was gar nicht. Aber egal. Heutzutage ist man da sehr viel weiter. Heißt also, wir haben ganz viele algorithmische Systeme, die natürlich dann auch personenbezogene Daten verarbeiten.
00:01:50:28 - 00:02:13:15
Professor Dieter Kugelmann
Ja, genau. Vielleicht auch darauf ausgelegt sind. Und dann gilt auch eben der Datenschutz, siehe KI Verordnung selbst sagt der Datenschutz, Die Datenschutzgrundverordnung bleibt unberührt. Das heißt, eigentlich ist es erst mal so der Datenschutz ist ja schon ein paar Jahre da. Da gibt es gewisse Grundlagen, auch Rechtsprechung. Das greift. Das greift eben auch dann, wenn man wie die Daten verarbeitet.
00:02:13:15 - 00:02:22:18
Professor Dieter Kugelmann
Wie auch immer, die DSGVO ist technologieneutral und wenn man das eben mit KI macht, dann macht man es eben mit KI auch gut. Nur auch dann muss man die rechtlichen Grundlagen beachten.
00:02:22:20 - 00:02:45:20
Oliver Schonscheck
Es ist also ganz wichtig zu verstehen, auch wenn es heiß bleibt. Unberührt ist das nicht etwa so, dass man sagt hat damit gar nichts zu tun, ist gar nicht in Berührung, sondern vielmehr, dass die KI Verordnung keine Änderungen vornehmen, sozusagen einer Datenschutzgrundverordnung, sondern ein ergänzendes Recht ist, ohne aber die Datenschutzgrundverordnung. Ja außer Kraft setzen zu können.
00:02:45:26 - 00:03:11:14
Professor Dieter Kugelmann
Ganz genau. Und das eben insbesondere an einem Punkt, mehreren Punkten Wichtig, aber an einem Punkt besonders für den Datenschutz ist es sehr wichtig. Man braucht immer eine Rechtsgrundlage, um Daten zu verarbeiten. Und es muss eben eine Rechtsgrundlage aus der DSGVO sein, weil die KI Verordnung hat bis eins Ausnahmen gibt nichts eigenes vor. Das heißt also, wenn man KI trainiert oder wenn man mit KI arbeitet und personenbezogene Daten sind drin.
00:03:11:14 - 00:03:21:13
Professor Dieter Kugelmann
Und unter uns, das wird ganz oft der Fall sein. Da muss man gucken, Habe ich einen Vertrag, habe ich eine Einwilligung, habe ich berechtigtes Interesse. Was habe ich denn, um überhaupt die Daten verarbeiten zu können?
00:03:21:16 - 00:03:46:25
Oliver Schonscheck
Wenn wir jetzt vom Datenschutz mal in Richtung Vertrauenswürdigkeit blicken und da möchte ich direkt sozusagen gar nicht sagen, das sind zwei Aspekte, sondern die Vertrauenswürdigkeit ist ja deutlich übergreifender. Jetzt frage ich mich, warum, wenn es doch so was gibt wie eine KI Verordnung, wie eine Datenschutzgrundverordnung? Warum wird denn noch mal das Thema der Vertrauenswürdigkeit einer KI überhaupt erforscht?
00:03:47:02 - 00:03:50:14
Oliver Schonscheck
Warum gibt es so was wie dieses Projekt Trust KI?
00:03:50:16 - 00:04:19:17
Ulla Coester
Also wir erforschen ja nicht nur die Vertrauenswürdigkeit oder in erster Linie die Vertrauenswürdigkeit der KI Lösung, sondern wir streben ja eine holistische Vertrauenswürdigkeit an. Das bedeutet also, für uns ist auch wichtig, dass das Unternehmen, also der KI Anbieter, vertrauenswürdig ist. Das bedeutet also, dass er darlegen muss, was er für Absichten hat, wie lange er schon im Markt ist, damit der das Anwenderunternehmen genau weiß, mit wem es zu tun hat und weiß, ob man diesem Unternehmen trauen kann.
00:04:19:19 - 00:04:43:02
Ulla Coester
Weil wir gehen von der These aus, dass man ein vertrauenswürdiges Unternehmen auch eine vertrauenswürdige KI Lösung bereitstellen kann und sich wirklich auch bemühen wird, all diese gesetzlichen Grundlagen aus dem, ja aus der Datenschutzgrundverordnung zu erfüllen. Also von daher ist die Vertrauenswürdigkeit des Unternehmens ein sehr relevantes Thema.
00:04:43:05 - 00:05:15:28
Oliver Schonscheck
Und wenn man da also schaut, dann gehört sicherlich so was wie Datenschutz unbedingt dazu. Also ein Unternehmen, das den Datenschutz beachtet, kann letztendlich auch vertrauenswürdig sein, weil man ansonsten ja mit den Daten der Betroffenen eben nicht rechtmäßig, nicht vertrauenswürdig umgeht. Norbert, wenn wir schon über KI und Sicherheit, der wird unheimlich viel gesprochen. Und wenn wir jetzt hinschauen in Richtung Vertrauenswürdigkeit Inwieweit ist denn die Sicherheit einer KI für die Vertrauenswürdigkeit wichtig?
00:05:16:05 - 00:05:19:28
Oliver Schonscheck
Wie hängt das zusammen? Sicherheit und Vertrauenswürdigkeit?
00:05:20:01 - 00:05:42:16
Norbert Pohlmann
Also man kann das Ranking vom Datenschutz hier sehen. Also Verschlüsselung ist ja eine Möglichkeit, den Datenschutz zu gewährleisten. Und wenn ich halt Personen orientierte Daten habe, kann ich halt verschlüsseln. Also Verschlüsselungen um den Datenschutz zu genügen. Es kann aber auch sein, dass ich verschlüsseln, um Firmengeheimnisse nicht preiszugeben. Also ich verschlüsselt die Daten, zumindest wenn ich sie speichere. Nicht in der Verarbeitung, aber das kann man sich ja auch überlegen.
00:05:42:16 - 00:06:09:23
Norbert Pohlmann
Wenn ich jetzt mal Konstituante Computing nehme, das nur während der Verarbeitung, die Daten im Klartext sind, aber sonst nicht manipuliert werden können oder nicht ausgelesen werden können. Genau. Der nächste Punkt ist natürlich manipulieren. Also als Angreifer könnte ich mir natürlich überlegen, dass ich ein KI System so manipuliere, dass ich die Daten manipuliere. Und deswegen ist sagen wir mal das Überprüfen, dass meine Daten unverändert sind, wenn ich eine KI verarbeite.
00:06:09:26 - 00:06:33:15
Norbert Pohlmann
Natürlich enorm wichtig. Also es gibt ja so Päuschen in Attacks oder andere Attacke. Also genau, wir beschäftigen uns damit. Was müssen wir tun, damit eine KI Anwendung nicht manipuliert werden kann, damit dann das Ergebnis genau das Ergebnis ist, was ich gerne hätte. Und wir müssen natürlich dann die ganzen Aspekte der Vertraulichkeit oder des Datenschutzes über IT, Sicherheit, über Kryptographie dann auch gewährleisten.
00:06:33:18 - 00:06:54:17
Oliver Schonscheck
Und ich glaube, jetzt wird ja auch direkt schon sehr, sehr deutlich, wie schön das zusammenhängt. Weil wenn wir in die Grundsätze der Verarbeitung personenbezogener Daten schauen, da steht das ja auch genau, da geht es ja auch um diese Fragen. Die Daten müssen integer müssen, die Integrität muss stimmen, die müssen richtig sein, die müssen eben die Rechtsgrundlagen. Es spielt also alles.
00:06:54:17 - 00:07:33:11
Oliver Schonscheck
Die Sicherheit sorgt technisch dafür, dass sozusagen der Datenschutz umgesetzt werden kann. Und der Datenschutz ist ein ganz elementarer Aspekt davon, dass eine Lösung und ein Anbieter sich als vertrauenswürdig erweist. Jetzt habe ich in der kleinen Vorstellrunde so angeteasert, dass sie uns verraten, was hat es mit diesem Ak ki auf sich? Weil die Bezeichnung Vielleicht kennen Sie wissen Sie erst mal noch gar nicht, was die DSK und was ist denn da diese Arbeitskreise mit Man einordnen kann, womit sie sich beschäftigen und wodurch man dann auch merkt, dass der Datenschutz sehr intensiv mit dem Thema KI befasst?
00:07:33:13 - 00:07:52:15
Professor Dieter Kugelmann
Absolut. Wir machen das schon seit langem, eigentlich seit. Wir haben 2019 schon eine Erklärung gemacht. Wir haben eine Erklärung, wo es genau um Vertrauenswürdigkeit geht, weil es geht ja auch darum, die Leute müssen das ja akzeptieren, wenn wir sagen, ich trau der Sache, also mache ich es auch wirklich auch mit, gebe ich meine Daten auch preis. Und deshalb haben wir das dann auch sozialisiert.
00:07:52:15 - 00:08:31:13
Professor Dieter Kugelmann
Es gibt ja in jedem Land der Bundesrepublik Deutschland eine Datenschutzaufsichtsbehörde und im Bund auch und die alle arbeiten zusammen in der Konferenz. Und da gibt es eben spezifische Arbeitskreise, wo die Fachleute zu einem gewissen Thema zusammensitzen, zum Beispiel im Arbeitskreis Medien oder Arbeitskreis Verkehr. Alle aus den Behörden, die dazu eben die entsprechende Expertise aufweisen. Und im Arbeitskreis können Sie in eine ganz in dem wir dann inzwischen gemacht haben, geht es in der Tat darum, auch die juristische und die technische Expertise zu vereinen, damit wir eben aus Datenschutz Sicht das eine vom Mehrere die Sicherheit, das andere.
00:08:31:15 - 00:08:57:20
Professor Dieter Kugelmann
Betriebswirtschaftliche vielleicht eine dritte aus datenschutzrechtlicher Sicht sagen können. Das sind Kriterien, die wichtig sind. Wir haben auch schon mehrere Papiere entsprechend gestaltet. Das eine ist ein Papier aus dem letzten Jahr, wo wir wissen, so in die Richtung, wie Sie auch angedeutet haben, gegangen sind. Welche Kriterien muss ich denn beachten? Aus Datenschutz? Nicht wenn ich eine KI System raussuchen.
00:08:57:25 - 00:09:25:21
Professor Dieter Kugelmann
Also ich habe fünf auf dem Markt und welches kaufe ich jetzt? Und das da angesichts das sind die Kriterien, die man da anlegen kann. Wir haben eine Orientierungshilfe gemacht für Entwicklerinnen und Entwickler von künstlicher Intelligenz, also unsere Techniker und gerade jüngst ein Papier zu Racks, zu einem spezifischen spezifischen KI Systemen, den ich sage mal, zwischen dem Nutzer und der ganz großen generativen geeignet Dazwischengeschaltet sind.
00:09:25:24 - 00:09:56:08
Professor Dieter Kugelmann
So habe ich es als Jurist verstanden. Und durch dieses zwischengeschaltete System habe ich eben noch mal eine Möglichkeit, dort eigene Datenreihen zu tun. Das heißt, ich steigere die Effizienz, weil ich mit eigenen Daten arbeiten kann, Also mit umso mehr habe ich Ertrag, wenn das entsprechend trainiert ist. Und zum anderen habe ich dann dort die Möglichkeit, eben auch Recht der betroffenen Zweckbindung in so was eher zu verwirklichen, als wenn ich eben gleich die ganz große Lösung, dann niemals.
00:09:56:08 - 00:10:12:17
Professor Dieter Kugelmann
Das ist ja das Bemühen, auch anderen da orientiert mit einem Arbeitskreis spezifische Hilfestellungen zu entwickeln. Bundesweit, die dann helfen sollen, KI auch innovativ, aber eben auch rechtssicher zu anzuwenden.
00:10:12:19 - 00:10:41:08
Oliver Schonscheck
Und wenn ich habe mir das Papier angeguckt zu dem Rack, sozusagen das jüngste, das jetzt erst vor wenigen Wochen erschien und da ist auch wirklich auch das ein Aspekt, wo man sagen kann, durch die Stärkung der Möglichkeit, die Vertrauens, die betroffenen Rechte umzusetzen, wie sie sagt. Man kann da eher bei Auskünften, man kann eher löschen, weil es geht da um zusätzliche Datenquellen, die man selbst unter der eigenen Hoheit hat und kann da eben viel mehr auch für die Vertrauenswürdigkeit sorgen.
00:10:41:08 - 00:10:57:16
Oliver Schonscheck
Und man kann auch priorisieren, welche welche Daten sollen die eigenen Daten oder der große Datenstrom Soll das vorherrschend sein und dann dementsprechend welche die Priorität auf die eigenen Daten sehr hoch setze, hilft das eben auch noch viel mehr, um die Rechte umsetzen zu können.
00:10:57:18 - 00:11:15:15
Professor Dieter Kugelmann
Völlig richtig hilft also. Es gibt nämlich keine Patentlösung und man muss immer von einzelnen Anwender gucken, Ist das eine Art modulare System? Ich denke, es ist auch das, was Sie unter holistisch verstehen. In der einen Anwendung ist es der eine Punkt wichtig, in anderen der andere. Aber man kann es eben so zusammenbauen, dass man durchaus auch genau in die Richtung geht.
00:11:15:15 - 00:11:39:06
Professor Dieter Kugelmann
Und wir als Datenschützer verstehen Sie auch als schützer Grundrecht auf Datenschutz. Das sind eben die Betroffenen immer besonders wichtig Und da es muss auch die Möglichkeit geben, als Betroffener zu sagen, ich möchte gern Auskunft, was das System mit meinen Daten macht. Und dann kamen die Antworten. Nicht sagen, keine Ahnung, kann ich beantworten, sondern einfach mal sagen okay, ich habe KI spezifische Lösungen, um das so weit wie möglich zu gewährleisten.
00:11:39:09 - 00:12:03:08
Oliver Schonscheck
Und jetzt sieht man, so gut die Orientierungshilfe der Aufsichtsbehörden auch sind. Was ich bestätigen kann, sind sehr gute Quellen. Es ist doch ein sehr komplexes Thema, was man alles anschauen muss, wenn man sowohl als Anbieter Was muss ich alles beachten als Anwender, auf was kommt es an? Wie bekomme ich da denn Transparenz? Weil das ist ja das A und O, dass ich weiß, was erfüllt derjenige denn?
00:12:03:10 - 00:12:30:04
Oliver Schonscheck
Und das Projekt KI hat doch die Plattform. Wir haben hier auch eine Beschreibung vor die Vertrauenswürdigkeit Plattform. Inwieweit hilft das denn, dass man da sowohl als Anbieter es schafft, sich besser darzustellen als Anwender vielleicht auch überhaupt zu verstehen, Anbieter vergleichen zu können, weil wie gesagt die alleine aus dem Bereich Datenschutz. Wenn ich schaue, was es da alles an Vorgaben und Dokumentation gibt.
00:12:30:10 - 00:12:32:28
Oliver Schonscheck
Das ist ein riesig komplexes Thema.
00:12:33:00 - 00:13:03:21
Ulla Coester
Also was wichtig ist. Wir haben ja zu Beginn unseres Forschungsprojektes eine Anwenderstudie gemacht und haben rausgefunden, was die Anwender Unternehmen eigentlich brauchen, um halt dem KI Anbieter Vertrauen zu können. Und dabei haben wir also rausgefunden, dass es dem Anwender Unternehmen wichtig ist, die die Information zu bekommen, dass der KI Anbieter alle relevanten Anforderungen erfüllt. Aber sie wollen gar nicht so in die Tiefe gehen.
00:13:03:21 - 00:13:30:03
Ulla Coester
Also sie wollen gar nicht jetzt ganz genau wissen, wie die Systeme funktionieren, wie der Datenschutz tatsächlich gewährleistet wird. Sie wollen einfach nur die Bestätigung haben. Ja, der KI Anbieter hat sich darum gekümmert und wir können dem Vertrauen. Also von daher ist es wichtig, dass die KI Anbieter eigentlich ihre Zielgruppe kennen, also die Anwender Unternehmen und genau die Informationen geben, die also wirklich relevant sind.
00:13:30:06 - 00:14:00:09
Ulla Coester
Damit die Anwender Unternehmen eine informierte Entscheidung treffen können. Und natürlich ist nicht für jedes Anwender Unternehmen die gleichen Punkte gleich wichtig. Also von da haben wir so ein umfangreichen umfangreiches Commitment, umfangreiche Fragenkataloge, weil es halt verschiedene Dinge gibt, die halt den Anwender unternehmen wichtig sind. Also wie jetzt zum Beispiel einem Unternehmen ist wichtig, dass die ethischen Anforderungen erfüllt werden.
00:14:00:11 - 00:14:33:09
Ulla Coester
Hat der KI Anbieter Ethik Komitee, kümmert er sich um die Folgenabschätzung. In einem anderen Unternehmen Anwender Unternehmen ist es wichtiger, dass die Sicherheitsbedingungen erfüllt werden, also dass das der KI wird alles tut, um die Sicherheitsanforderungen zu erfüllen. Also von daher haben wir ein sehr umfangreiches Commitment, in dem alle Informationen zur Verfügung gestellt werden. Wir wollen auch die die KI Anbieter dabei unterstützen, halt wirklich zu gucken, was sind die Informationen, die sie geben müssen?
00:14:33:11 - 00:14:58:11
Oliver Schonscheck
Also hat man zum einen die. Wir haben ja in der KI Verordnung die Risikoklassen das dann unterschiedlich Was muss ich erfüllen in der der Risikoklasse? Und dann haben wir natürlich noch das was will auch die Anwender Gruppe was, was erwartet man? Und da verstehe ich jetzt die Plattform so als sozusagen vermittelnde Instanz, was zum Teil auch so dolmetschen, die Hilfe zwischen Anwender und Anbieter zu verstehen.
00:14:58:18 - 00:15:25:10
Oliver Schonscheck
Was will der eine und was bietet der andere? Ohne jetzt das alles nachvollziehen zu können weil ich glaube, aktuell ist wirklich kein Thema so komplex und schwierig nachzuvollziehen. Und das ist ja gerade das große Geheimnis, die Blackbox, dass wir nur sehen was tun wir rein, was kommt raus und was dazwischen geschieht, ist schwer nachvollziehbar. Und das ist eben und da gibt es ja auch das mit der mit der entsprechenden Sandbox Verfahren, wo man das ausprobieren kann, um das zu testen.
00:15:25:13 - 00:15:53:03
Oliver Schonscheck
Wenn ich jetzt dich, Norbert, frage, wenn jetzt ein Unternehmen hingeht und sage, ich habe eine KI und ich habe auch zum Beispiel ein Zertifikat, wir haben jetzt endlich glücklicherweise langsam Zertifikate im Bereich der Datenschutzgrundverordnung und da würde jetzt jemand ich habe eine Zertifizierung dazu und ich habe ein KI Zertifikat. Wie würde das denn zusammenspielen Mit der Plattform wäre das die wie?
00:15:53:03 - 00:15:58:21
Oliver Schonscheck
Wie ist das Beziehung zwischen Zertifizierung und der Vertrauenswürdigkeit splattform?
00:15:58:24 - 00:16:19:27
Norbert Pohlmann
Also wir haben ja gehört, wir machen ein Commitment und die Unternehmen, die Lösungen zur Verfügung stellen, müssen Fragen beantworten, zum Beispiel über die IT Sicherheit, also was Sie für Strategien haben und welche Verfahren Sie verwenden. Und wenn Sie aber jetzt zum Beispiel eine ISO 2701 Zertifizierung haben, dann können Sie die Fragen beantworten und können aber dieses Zertifikat noch hochladen.
00:16:19:29 - 00:16:40:29
Norbert Pohlmann
Das heißt, dann würde dann ein Zertifikat vom BSI oder vom TÜV würde dann dort stehen und dann würde ich genau sehen, was sie haben zertifiziert haben lassen und kann das noch mal nachvollziehen. Also alle Zertifikate, die zur Verfügung gestellt werden, stellen wir auch auf unserer Plattform dar, damit man dann noch mal über eine dritte vertrauenswürdige Instanz die Dinge noch mal überprüfen kann.
00:16:41:02 - 00:17:13:06
Oliver Schonscheck
Also anders als ein Zertifizierungsstelle, die dann natürlich noch mal nachgucken kann. Unternehmen XY hat ein gültiges Zertifikat über diesen Gegenstand gültig bis dann und dann kann man da nachgucken oder? Der Europäische Datenschutzausschuss und man dann gucken kann die Zertifizierung ist das eine anerkannte Zertifizierungsstelle? Ist das ein Zertifikat? Wäre das dann speziell für KI Systeme und für Datenräume? Wenn ich es richtig sehe und auch das war auf der Konferenz ein großes Thema von der Frau Hansen.
00:17:13:06 - 00:17:42:09
Oliver Schonscheck
Übrigens Datenräumdienst kann man dort eben sehen, in wie weit. Nicht nur ist das zertifiziert, sondern sind andere Aspekte, die außerhalb der Zertifizierung liegen, auch erfüllt und so, dass man wirklich ein Matchmaking machen kann. Also dass man sagen kann, ich suche für meine Branche Banking oder so oder Gesundheitswesen, suche ich eine KI Lösung für diese Anwendung und habe die und die Anforderungen, dann kann ich sehen, inwieweit was erfüllt ist im Jetzt.
00:17:42:09 - 00:18:19:18
Oliver Schonscheck
Vielleicht zum Thema Datenräume, weil Datenräumen und KI das ist mir auch noch mal da in den Gesprächen auf der Konferenz auch noch mal sehr deutlich geworden, wie wichtig diese Daten Räume sind. Wir hatten es jetzt mit RAK ja auch mit diesem System, also als sicheres Fundament. Also man kann dann auch auf dieser Plattform Datenräume entsprechend die Vertrauenswürdigkeit darstellen und was für mich sehr, sehr viel Sinn macht, weil die Daten Räume eine hochqualitative Datenbasis für KI Systeme darum sind, dass man eben sagt, auf dieser Datenbasis fußt das.
00:18:19:21 - 00:18:48:27
Oliver Schonscheck
So hatte das auch Frau Hansen dann dargestellt, den Zusammenhang zwischen Datenräumen und KI. Vielleicht, wenn unsere Zuschauer und Zuschauer sagen, wir haben das Thema KI jetzt natürlich bei uns auf der Agenda und es sollte sich da auch jemand bei uns kümmern, wäre da der oder die Datenschutzbeauftragte geeignet, Unternehmen als KI Beauftragte und dann sozusagen vielleicht auch Nutzerin Nutzer der Plattform, um da mal nachzuschauen?
00:18:49:03 - 00:19:00:01
Oliver Schonscheck
Oder sind das verschiedene Gruppen Datenschutzbeauftragte KI beauftragen, wenn sie sagen, das ist ein Interessenkonflikt oder kann man das irgendwie zusammenbringen.
00:19:00:03 - 00:19:21:22
Professor Dieter Kugelmann
Also den Interessenkonflikt Nicht zwingend. Ich glaube einfach, dass es eine andere Expertise, die ein bisschen verlangt wird. Es kommt ja auf die Frage, wie groß ist das Unternehmen an und manche klein. Und dann Wir gucken, wer macht denn irgend so was mit Daten? So, und dann hat man noch IT und Datenschutzbeauftragten und dritten kann man sich kaum noch leisten.
00:19:21:25 - 00:19:56:19
Professor Dieter Kugelmann
Aber bei wenn man es gut und sinnvoll machen will, ist in der Tat eigentlich ein Gesprächskreis notwendig. Unternehmensintern zwischen den Datenschutz Leuten, den IT Leuten und KI Leuten oder einem KI Beauftragten, den man vielleicht auch anders anbinden kann. Denn es ist ja schon so, dass auch die KI Verordnung ist schon eine eigene Rechtsmaterie mit eigenen Regeln. Sie haben die Risikoklassen angesprochen, wobei mich das immer wichtig mache ich Hochrisiko oder nicht, dass man mal schläft man schon etwas ruhiger, wenn man es nicht tut, also deutlich weniger Anforderungen zu erfüllen.
00:19:56:21 - 00:20:23:10
Professor Dieter Kugelmann
Und unternehmensintern glaube ich bei Unternehmen, die jetzt IT spezifisch sind, da wird es Leute geben, die man schlicht einbinden kann, bei einem Mittelständler in eine guckt was kaufe ich oder was vom Markt nehme ich. Da kann es auch mal auf die Datenschutzbeauftragten zulaufen, weil da vielleicht die die Anforderungen noch etwas geringer sein können, weil man eben nur an wenn der Betreiber ist.
00:20:23:12 - 00:20:32:20
Professor Dieter Kugelmann
Also es kann kein Gegensatz. Wenn man es trennen kann, sollte man es tun. Wie auch immer das dann im Unternehmen dann gestaltet ist.
00:20:32:22 - 00:21:06:09
Oliver Schonscheck
Also sehen wir, da gibt es auch in den Unternehmen Unterschiede, naturgemäß durch die Verschiedenheit der Rechtsmaterie, die technische Komplexität, verschiedene Rollen im Unternehmen. Und deshalb, wenn ich nicht weiß, ist es ja sicherlich auch sehr gut, dass man auf der Plattform sozusagen einerseits sehen kann, sozusagen wie ein Dashboard, die Vorstellung, dass es alles erfüllt, aber gleichzeitig dann vielleicht auch Fachabteilung dann sagen kann Jetzt kann ich aber auch ganz tief reingehen in diese Dokumentation und sehen, was, wie, wie genau setzen die das um?
00:21:06:09 - 00:21:18:10
Oliver Schonscheck
Was haben die für Sicherheitskonzepte? Und nicht nur dem Punkt Haken Sicherheit erfüllt? Also dass da wirklich viel an Dokumentation drin ist. Was kann man sich vorstellen, was kann da alles an Dokumentation hinterlegt?
00:21:18:10 - 00:22:07:05
Ulla Coester
Genau, weil eigentlich müssten Unternehmen auch noch einen Ethikbeauftragten haben. Tatsächlich? Also das auch eigentlich gemäß des Akts. Und tatsächlich weiß also von großen Unternehmen, dass das auch schon so der Fall ist. Und der ist eigentlich auch wichtig, weil die großen Anwenderunternehmen ja Betriebsräte haben und Betriebsräte schauen natürlich explizit auf das Thema Ethik. Also von daher legen wir bei uns im Commitment auch einen großen Schwerpunkt auf das Thema Ethik und schauen das, dass die Unternehmen Auskunft darüber geben, was also die KI Anbieter Auskunft darüber geben, was sie eigentlich in dem Bereich alles erfüllen und was sie an erforderlichen Anforderungen da zur Verfügung stellen.
00:22:07:07 - 00:22:33:00
Oliver Schonscheck
Und wenn ich jetzt an die Sicherheit denke wir haben ja vorhin geschaut, dass eigentlich eine vertrauenswürdige KI Lösung auch ein vertrauenswürdiger Datenraum sicher sein muss. Aber umgekehrt spielt ja auch die Vertrauenswürdigkeit von KI oder auch Datenräume für die Sicherheit eine große Rolle. Und ich weiß, dass es schon Anbieter gibt, die bei dieser Plattform mit dabei sind und die aus dem Bereich IT Sicherheit kommen.
00:22:33:00 - 00:22:43:13
Oliver Schonscheck
Wie weit spielt das denn dort eine Rolle, dass sich eine IT Sicherheitslösung hat, die eine datenschutzkonforme und vertrauenswürdige KI Lösung verwenden?
00:22:43:15 - 00:23:17:08
Norbert Pohlmann
Ich möchte vielleicht mal vorher eine Frage beantworten Mit den Daten, Räumen und der Vertrauenswürdigkeit. Genau. Also die Datenräume kommen ja gerade erst mal raus. Ist die Möglichkeit zu sagen also jeder der Daten hat, stellt seine Daten zur Verfügung und die können dann natürlich die Organisationen, die dann KI besonders gut können, nutzen. Und da ist die Vertrauenswürdigkeit natürlich enorm wichtig, weil derjenige, der seine Daten zur Verfügung stellt, hat ja eine Policy und sagt also du darfst meine Daten nutzen, aber nur für bestimmte Zwecke und so und das ist natürlich dann eine Frage, wie kann ich solche Policies dann auch im fassen?
00:23:17:12 - 00:23:47:10
Norbert Pohlmann
Wie kann ich dafür sorgen, dass die Daten, die jetzt jemand zur Verfügung stellt, auch nur so genutzt werden und nicht anders? Und deswegen muss der Daten Treuhänder natürlich eine besondere Vertrauenswürdigkeit haben und muss natürlich diese Vermittlung halt gut organisieren zu können. Und da ist halt einfach auch aus einer IT Sicherheit noch eine ganze Menge möglich, dass man sagt okay, also jetzt sagen wir mal, äh, selektiv, Disclosure oder sagen kann ich nämlich alle Daten, sondern nicht nur Teildaten, weil die anderen Daten ich gar nicht brauche.
00:23:47:12 - 00:24:09:03
Norbert Pohlmann
Oder man kann auch unter dem Begriff Computto data sagen, ich muss ja vielleicht gar nicht die Daten haben, sondern ich kriege eine Vorschrift, was jetzt derjenige, der die Daten hat, mit den Daten berechnet und ich gebe nur das Ergebnis weiter. Und dann habe ich also kein Sicherheitsproblem, kein problem, wenn das Ergebnis dann keine personenbezogenen Daten erhält oder keine vertrauliche Daten.
00:24:09:05 - 00:24:48:01
Norbert Pohlmann
Also da ist quasi noch relativ viel in Bewegung und da wird jetzt in den nächsten Jahren Menge passieren, um auch solche verteilten Datenräume besonders sicher zu machen. Aber vielleicht jetzt zu deiner Frage Natürlich ist auch im Bereich IT Sicherheit KI spielt da eine besondere Rolle. Wir haben ja schon vor zehn Jahren uns mit KI auseinandergesetzt und wir haben halt ein Frühwarnsystem gebaut, wo wir halt auf Kommunikationsdaten bis zu 4 Millionen Kommunikationsdaten, die man jetzt alle vier Minuten misst, letztendlich über KI Prognosen berechnet.
00:24:48:01 - 00:25:19:15
Norbert Pohlmann
Also im Sinne genau, was erwarten wir für bestimmte Parameter, die dann jetzt irgendwann in der Zukunft auftreten können und haben darüber Anomalien erkannt? Also das heißt, wir müssen natürlich auch hier schauen, wie haben wir KI Systeme, die halt vertrauenswürdig Prognosen geben oder vertrauenswürdig Ergebnisse produzieren. Und ohne KI würden wir solche Systeme gar nicht bauen können. Und wir haben aber auch viele, viele andere Dinge.
00:25:19:15 - 00:25:49:05
Norbert Pohlmann
Wir haben im Bereich der Software sicheren Softwareentwicklung Notwendigkeit, mit KI dafür zu sorgen, dass die Softwarequalität immer besser wird. Also das Thema KI und Cybersicherheit ist relativ groß, aber vielleicht noch nicht so weit ausgeprägt. Genau die Angreifer, die teilen ihre Daten viel großzügiger und können dann halt mit viel Daten, weil KI. Da brauche ich halt Daten viel besser arbeiten.
00:25:49:05 - 00:26:14:14
Norbert Pohlmann
Es wäre als viel besser, wenn auch die Verteidiger ihre Daten besser austauschen würden, weil wir dann mit KI uns auch besser verteidigen können. Also da sind natürlich dann vertrauenswürdige Datenräume wieder wichtig, dass wir halt schaffen, vertrauenswürdige Daten aller Unternehmen zentral zur Verfügung zu stellen und dann halt intelligent auszuwerten, um halt insgesamt oder jedes Unternehmen einzeln sich dann besser verteidigen zu können.
00:26:14:16 - 00:26:36:03
Professor Dieter Kugelmann
Ich habe da gerade einen Anknüpfungspunkt auch noch mal zum Datenschutz entdeckt, weil sie gesagt haben, dass gewisse Daten dann auch wirklich nur zu den Zwecken verwendet werden sollen, denen man sie zur Verfügung stellt. Dass wir dann sagen Zweckbindung. Also meine These ist auch immer, dass in dem Bereich, in dem wir uns jetzt bewegen, also jenseits regenerativer KI, die Zweckbindung gar nicht so ein großes Problem ist.
00:26:36:03 - 00:27:06:28
Professor Dieter Kugelmann
Denn das Unternehmen ich will ja was mit den Daten machen, Also ich will jetzt kein Thema zu gewissen Zweck einsetzen, wo man Abläufe zu beschleunigen, wo man Produktion geschmeidiger zu machen. Ich habe einen Zweck so und dazu brauche ich Daten und da gibt es durchaus die Möglichkeit, entsprechend die Daten auch dann zu verwenden, auch unter Gesichtspunkten, wo dann auch wiederum diese Schnittpunkte wir würden von technischem Datenschutz sprechen, dass Cybersicherheit ja auch da sind ja Verschlüsselung genannt oder eben auch Pseudonymisierung.
00:27:07:00 - 00:27:36:27
Professor Dieter Kugelmann
Wir haben mit Pharmaunternehmen gesprochen, die über synthetisierte Daten nachdenken. Bei gewissen Krankheiten, da gibt es gar nicht so viele Daten. Also synthetisieren wir und machen eine größere, bei uns eine größere künstliche Vergleichsgruppe auf. Also es gibt die wir dann KI mäßig auch auswerten können, also dass gerade diese wichtigen Instrumente aus der IT Sicherheit dann natürlich auch helfen, die Daten so zu verarbeiten, dass dem Datenschutz gerecht wird.
00:27:36:27 - 00:27:58:18
Norbert Pohlmann
Ja, das was sich verändern wird, ist Heute habe ich um Daten und ich habe einen Zweck und da mache ich Verträge und dann wird verarbeitet. Aber sagen wir, in der Zukunft wird es halt so sein, dass ich halt beliebig viele Daten auf der Welt habe und dann sehr automatisiert Dinge spontan umsetze. Also diese Verträge, diese Zweckbindung muss automatisiert werden, die Überprüfung muss automatisiert werden.
00:27:58:20 - 00:28:26:14
Norbert Pohlmann
Also wir werden eine Menge an Herausforderungen kriegen, wo die Vertrauenswürdigkeit wieder eine große Rolle spielt, weil ich muss ja dann diesen Algorithmen wieder trauen, dass sie dann halt diese Zweckbindung tatsächlich umsetzen und und das wird halt spontan immer mal situativ sein und von daher werden die Algorithmen, die dann diese Umsetzung machen, also es geht ja nicht, Es geht zur Verfügungstellung der Daten, Nutzung der Daten und Berechnung und das zur automatisierten wird immer eine große Herausforderung.
00:28:26:16 - 00:28:59:03
Ulla Coester
Obwohl, lässt sich das eigentlich wirklich automatisieren? Also man kann ja auch aus Daten, wo man eigentlich glaubt, dass die gar keine personenbezogenen Informationen eigentlich haben, gibt es aber trotzdem personenbezogene Informationen. Eigentlich müsste man das doch frei bezogen auswerten, also gerade auch unter Datenschutzaspekten. Also wenn zum Beispiel irgendwie ein Waldarbeiter ein Stück Wald abholzt, dann sind da ja auch die Daten von dem Waldarbeiter mit erfasst.
00:28:59:10 - 00:29:10:27
Ulla Coester
Also es sind ja nicht nur die Daten jetzt der, der der Wald, der das da zur zur Auswertung kommt, sondern tatsächlich auch personenbezogene Daten. Wie kann man damit eigentlich umgehen?
00:29:11:00 - 00:29:37:18
Professor Dieter Kugelmann
Das ist genau der Punkt der, dass je nach Kontexten kann Datum das erst mal nicht auf eine Person hin dann doch wieder zu den Personen in Bezug genommen werden. Also da gibt es auch neuere Rechtsprechung muss. Genau darum geht auch die Frage wer hat denn die Zusatzinformationen? Weil man die Forstverwaltung hat ja die natürlich die Personendaten des Waldarbeiters im System galt, sagen also insoweit, die können das.
00:29:37:20 - 00:30:11:28
Professor Dieter Kugelmann
Wenn es aber nur darum geht, der soundso viele Kubikmeter Holz abgeholzt, andere Datenbank, dann spielen die Daten keine Rolle. Es kommt eben erst mal auf die Qualität der Daten an Mangel haben von Datenräumen gesprochen. Wenn man Gesundheitsdaten Raum denken, völlig andere Daten. Also wenn ich jetzt nur Kundendaten habe und deshalb ist es bei der Automatisierung von Auswertungen dann auf jeden Fall wichtig sicherzustellen, dass die das Level an Personenbezug auch sichergestellt ist, auf dem sie läuft und der.
00:30:12:00 - 00:30:56:18
Professor Dieter Kugelmann
Man kann dann eben auch durch die entsprechenden Verschlüsselungen und andere Methoden versuchen, diese Automatisierungen zu machen. Aber ich würde auch sagen in dubio lieber aufpassen, was zweifelhaft ist. Dann Datenschutzrecht einhalten und dann macht man sich nicht weniger angreifbar, weil es kann immer mal passieren, dass dann irgendwie wieder plötzlich ein Personenbezug auftaucht und gibt auch diese eine Vorschrift, weil Sie vorhin gesagt hatten, es geht nicht um die Anbieter und diejenigen, die vom Anbieter einer KI das Ding kaufen oder sind ja nur Betreiber, wollen auch nur Betreiber sein, weil man da weniger Pflichten.
00:30:56:21 - 00:31:19:03
Professor Dieter Kugelmann
Aber es gibt ja auch so eine versteckte Vorschrift, wo man, wenn man nicht aufpasst, vom Betreiber zum Anbieter werden kann, wenn man eben das KI System bis zum anderen Zweck nutzt. Der aber riskant ist. Also zum Beispiel da komme ich gerade drauf, dann wird die KI, die von der Forstverwaltung genutzt wird, eigentlich immer um den schlag zu steuern, dann plötzlich auch von der Personalabteilung genutzt und dann hat man Pech.
00:31:19:03 - 00:31:29:25
Professor Dieter Kugelmann
Dann also voll drin, weil man dann plötzlich Anbieter geworden ist. Also deshalb auch sinnvoll beim Zweck zu bleiben, der auch festgelegt ist, genau dieses Risiko auszuschalten.
00:31:29:28 - 00:31:52:09
Ulla Coester
Genau das ist auch ein wichtiger Punkt, den wir bei uns im Commitment berücksichtigen dass genau die Zweck Prägnanz der KI Lösung dargelegt wird, dass wenn der Anwender oder das Anwender Unternehmen tatsächlich das anders anwendet, dass der KI Anbieter ein Stück weit halt befreit ist von der Verantwortung. Genau.
00:31:52:12 - 00:32:19:05
Oliver Schonscheck
Und das glaube ich, unterstreicht auch wieder, wie wichtig die Transparenz ist hinsichtlich Wer ist Anbieter zu welchem Zweck? Welche Maßnahmen ergreift der Anbieter? Wir sind da wirklich am an der und der Gesetz der Rechtsprechung. EUGH Das meinen Sie auch gerade mit, dass Man hat ja immer gesagt, pseudonyme Daten unterliegen ja trotzdem Datenschutz, weil es könnte, wenn es kein zu großer Aufwand ist, möglich sein, re Personalisierung zu machen.
00:32:19:07 - 00:32:50:15
Oliver Schonscheck
Und jetzt gibt es ja sozusagen das Urteil, dass man sagt, wenn das verschiedene Verantwortliche sind und man davon ausgehen kann, dass die nicht den Zugriff das ob das Waldarbeiter Beispiel werden, wenn das Unternehmen gar nicht das den Zugriff hat, um das Pseudonym aufzulösen, dann ist dieses Pseudonym nicht personenbezogen. Wenn man aber, wenn die Möglichkeit besteht, dass derjenige doch an die Informationen kommt, dann wiederum ist es personenbezogen, so dass ein Datum kann sozusagen Personenbezug haben und da und da muss.
00:32:50:21 - 00:32:50:25
Professor Dieter Kugelmann
Man.
00:32:50:25 - 00:33:04:11
Oliver Schonscheck
Dann wechseln, ob es jetzt dem Datenschutz unterliegt oder nicht. Und das sind diese Transparenz so wichtig, wie es der Anbieter was macht, wie schützen wir das, um auch sozusagen so einen Zugriff auf die Pseudonyme und Aufschlüsselung zu verhindern?
00:33:04:18 - 00:33:08:25
Professor Dieter Kugelmann
Das war die Frage an Professor Pohlmann, ob eine Automatisierung das leisten kann.
00:33:09:00 - 00:33:30:20
Norbert Pohlmann
Also wird sie muss also man kann es ja auch sagen in Abhängigkeit, was ich berechnen will, nämlich die personenbezogenen Daten. Ich denke also, dieses selektive Disclosure sagen kann Normalerweise ist im Datensatz der Waldarbeiter mit drin, aber weil ich sind für den Holzschlag nicht brauche nämlich die Daten gar nicht. Ich kriegt da nur die Daten, obwohl der eigentliche der Datenraum Anbieter die hat.
00:33:30:20 - 00:33:46:01
Norbert Pohlmann
Aber die gibt es ja nicht weiter, weil der Zweck dafür da nicht notwendig ist. Und das sind die Dinge, die man automatisieren müsste. Das heißt, es werden Policies definiert, die dann genau das feststecken. Und dann brauchen wir halt Mechanismen, die dafür sorgen, dass sie das genauso umsetzen.
00:33:46:04 - 00:34:19:24
Oliver Schonscheck
Vielleicht schauen wir so zum Schluss noch mal ein klein bisschen in die Zukunft, was sozusagen jetzt kommen wird. Und ich erwarte jetzt keine Vorhersagen der nächsten EuGH Rechtsprechung, aber manchmal wird man da doch etwas überrascht. Aber wenn wir schauen, was die Aufsichtsbehörden haben, glaube ich schon ein sehr starkes Interesse und machen auch sehr viel Kraft hinein. Das Thema Datenschutz bei KI zu forcieren und das weiter voranzubringen.
00:34:20:02 - 00:34:41:16
Oliver Schonscheck
Und das finde ich auch sehr wichtig, Dass man Aber wie, wie, wie ist das jetzt für Unternehmen, die eben schauen müssen mit der Vielzahl der Aufsichtsbehörden? Wenn ich jetzt gucke, wird es da zum Beispiel mit der Bundesnetzagentur gemeinsame Arbeitsgruppen geben, Wie wird man, wie wird man das machen, dass man dieses Thema KI möglichst von allen Seiten aufsichtsrechtlich begleitet?
00:34:41:19 - 00:35:13:10
Professor Dieter Kugelmann
Das ist in der Tat eine spannende Thematik. Noch sind die Umsetzungsgesetze die Deutschen ja gar nicht abgeschlossen. Also. Aber Sie sprechen zurecht an, dass wir vom Datenschutz weiter zuständig sind, ist klar. Allerdings wird dann die Bundesnetzagentur, die Markt Überwachungsbehörde für den Einsatz von KI Systemen der Privatwirtschaft werden. Das scheint relativ deutlich. Wir haben in der Tat schon im Rahmen der DSK zwei Knotenpunkte gemacht, einen Kontakt zu den Kartellämtern, also Wettbewerbsbehörden.
00:35:13:13 - 00:35:46:26
Professor Dieter Kugelmann
Und wir haben auch schon Kontakt zu der auf der Abteilung der Bundesnetzagentur aufgenommen. Das ist im Moment informell, weil es gibt ja keine formelle Grundlage in dem Sinne und in dem Referentenentwurf zur Umsetzung der KI Verordnung, da war da eine Vorschrift, da stand, muss noch entwickelt werden, dass nämlich die Verhältnisse Datenschutzbehörden Also wir würden uns wünschen, dass es in der Tat dann entsprechende substantielle Kooperation gibt, weil kann es Unternehmen ja nicht sein, dass wir vier verschiedene Antworten kriegen.
00:35:47:03 - 00:36:07:03
Professor Dieter Kugelmann
Wir wollen ja eine Antwort sein, die wollen ja wissen, wir machen, was sie wollen, keine tief gründen, sondern die meisten wollen ja wissen Wie machen wir was wir machen, was rechtmäßig? Und dann fragen wir eben und das wäre für uns dann auch der Punkt. Auch das scheint wohl jetzt bei den neuen Bemühungen der Kommission ein Punkt zu sein Single point of contact.
00:36:07:06 - 00:36:38:04
Professor Dieter Kugelmann
Also ich frage einen und dann müssen die Behörden sich halt irgendwie zusammenschließen, um da halt das wäre die Idealvorstellung, eine einhellige Antwort zu bekommen. Etwa in dem Sinne, dass man sagt, So, liebe Datenschutzbehörde, hier sind das personenbezogene Daten, ja nein, ist der Zweckbindung eingehalten und diese Ergebnisse dann von zum Beispiel der Macht Überwachungsbehörde, also etwa Bundesnetzagentur, dann übernommen werden, ja okay, alles klar das die Datenschutzseite jetzt können wir gucken ist ja auch noch die Vorschrift zum Training eingehalten werden.
00:36:38:06 - 00:37:02:20
Oliver Schonscheck
Das heißt, wir werden weiterhin auch natürlich bei dieser Plattform sehr genau beobachten berichten, was DSK und überhaupt die Datenschutz Aufsichtsbehörden in dem Bereich machen. Die machen wirklich sehr viel und sehr spannende Themen. Und da freuen wir uns über den fortgesetzten Austausch mit Ihnen bei diesem Thema. Und wenn du oder schaust Sky Trust gut, das ist das große Thema.
00:37:02:22 - 00:37:18:24
Oliver Schonscheck
Bei KI gibt es ja noch so viel Dinge auch zu betrachten, dann kommen die Datenräume hinzu. Das Thema, würde ich mal sagen, bleibt nicht nur spannend, sondern bekommt eigentlich immer mehr Prägnanz, immer mehr Wichtigkeit, je weiter das eigentlich in die Anwendung langsam kommt.
00:37:18:27 - 00:37:48:26
Ulla Coester
Ja, auf jeden Fall. Und ich denke, da unsere Plattform etwas verwurzelt ist, vor allen Dingen deswegen so wichtig, weil wir fest davon überzeugt sind, dass Vertrauenswürdigkeit auch ein Differenzierungsmerkmal ist. Zu den Anbietern aus den USA, aus China und wir überzeugt davon sind, dass die gute Qualität eigentlich der KI Anbieter in Deutschland und Europa mehr präsentiert und dargestellt werden soll.
00:37:48:28 - 00:37:54:21
Ulla Coester
Und dazu möchten wir mit unserer Plattform auf jeden Fall beitragen.
00:37:54:24 - 00:38:25:28
Oliver Schonscheck
Und ich kann mir vorstellen, das ist im Bereich der Cybersicherheit auch ganz wichtige Impulse kommen, wenn man daran denkt, das Thema Souveränität von KI in dem Sinne, wie wir souveräne Cloudlösung haben, ist es ja eigentlich die Sicherheit, die der Schlüssel ist. Die Kontrolle ist, um Souveränität zu erreichen. Wir haben ja technologische Souveränität, Datensouveränität, die rechtliche Kontrolle. Aber eben ist der Schlüssel dazu, dass ich die Souveränität, die ich erreichen möchte, ist ja eigentlich die Sicherheitstechnologie.
00:38:25:28 - 00:38:41:13
Oliver Schonscheck
Natürlich muss es rechtlich vertraglich absichern, aber wenn ich es technisch umsetzen muss, geht das eigentlich nur durch souveräne Sicherheitslösungen. Deshalb denke ich, dass die Cybersicherheit, was KI und Datenräume angeht, weiterhin ganz wichtig flankieren muss.
00:38:41:15 - 00:39:13:28
Norbert Pohlmann
Also wir müssen immer wieder feststellen, dass wir auch kulturell bedingt andere Kontinente anders denken, andere Sicherheits und andere Aspekte umsetzen. Und das ist ja das, was oder gestern gesagt hat Wir glauben, dass Vertrauenswürdigkeit ein Differenzierungsmerkmal ist und dass wir quasi, also alle, die auf diese Plattform gehen und dann genau das, was sie eben schon mal gesagt haben, aussuchen, welches Produkt nämlich den und nämlich das, was am vertrauenswürdigsten ist, weil da kann ich Vertrauen aufbauen, da weiß ich halt, dass alle Aspekte Datenschutz, Ethik oder sonstige Aspekte erfüllt sind.
00:39:13:28 - 00:39:36:27
Norbert Pohlmann
Und ich glaube, damit werden wir erfolgreich werden und das wird in der Zukunft immer wichtiger, weil es wird immer komplexer und die Unternehmen können es nicht mehr selber. Oder die Menschen in den Unternehmen können es nicht selber überprüfen, sondern sie brauchen starke Commitments der Anbieter und sich darauf verlassen zu können. Und das kontrollieren wir ja auch. Wenn das nicht stimmt, dann wird das ja auch diskutiert und werden Lösungen gesucht.
00:39:36:29 - 00:39:46:18
Norbert Pohlmann
Von daher glaube ich, dass es enorm wichtig und wird uns helfen, Vertrauen in die KI Technologien oder in die Datenraum Technologie der Zukunft aufzubauen.
00:39:46:21 - 00:40:17:12
Oliver Schonscheck
Und wir wissen, ohne dieses Vertrauen können wir keinen Erfolg haben, wird kein. Wir brauchen diesen Erfolg bei KI und zwar bei uns in Deutschland und in Europa und müssen eben da die Grundlagen für schaffen unter Beachtung des Datenschutzes, unter Beachtung der Sicherheit, unter Beachtung der Ethik. Und ich glaube, dieses Panel hat das sehr schön gezeigt, wie diese verschiedenen einerseits verschiedenen Aspekte zusammenkommen, aber doch alle das gleiche Ziel haben, um eben KI erfolgreich zu machen.
00:40:17:12 - 00:40:41:04
Oliver Schonscheck
Und zwar um dem Menschen zu helfen, damit KI als Werkzeug, als Hilfsmittel fruchtbar werden kann, ohne eben Risiken unüberschaubare Risiken für uns Menschen zu haben. Und deshalb herzlichen Dank, Herr Professor Kugelmann, Herzlichen Dank! Ulla, herzlichen Dank für dieses Gespräch und ich freue mich auf die Fortsetzung unseres Dialoges. Danke schön!
00:40:41:06 - 00:40:42:01
Norbert Pohlmann
Danke, Danke!