Subscribe
Share
Share
Embed
In unserem Tech und Tacheles Podcast geht es um Business, Tech und Digitalisierung im Mittelstand. In unseren Folgen nehmen wir euch ein wenig mit in die Themen KI, Softwareentwicklung und Digitalisierung, aber auch Probleme und Lösungen im Mittelstand.
Denis: Alright, jetzt
sind wir schon fast drin.
Lass uns einfach mal rein starten.
So, willkommen zu einer
neuen Podcast-Folge.
Heute habe ich ein ganz spannendes
Thema ehrlicherweise dabei.
Wir reden glaube ich über etwas, was
viele aktuell beschäftigt Und zwar,
was darf ich bei dem Thema rund um KI?
Dafür habe ich heute zu Gast Herrn Dr.
Veit Lindholz und mal so ein bisschen
Kurzprofil in 60 Sekunden Du bist
Rechtsanwalt mit KI-Fokus, was
macht dich so zu dem Go-To-Experten,
warum sollte man zu dir kommen?
Veit: Ja also erstmal danke für
die Einladung, schön hier zu sein.
Ja, also wie du schon sagst ich bin
Rechtsanwalt für KI-Recht, daneben auch
noch geistiges Eigentum und Sportrecht.
Das ist so mein juristisches Zuhause,
in den Bereichen bewege ich mich.
Und es ist einfach meine Faszination
für technische Sachen, für Innovationen
für digitale Lösungen, die mein Herz
höher schlagen lassen und wo ich dann
gerne in komplexe Themen reingehe,
rechtliche, schwierige Materie.
Die erstmal wie ein Riesendickicht
erscheint, aber auch händelbar ist
und eben für Unternehmen auch so
umsetzbar ist, dass praktische Use Cases
rauskommen, dass man es nutzen kann.
Das ist für mich die groÃe Faszination die
dahinter steht, hinter dem KI-Recht, das
ist ja auch nur ein Buzzword und es gibt
jetzt keinen Fachanwalt zum Beispiel für
KI-Recht, aber es steckt viel drin, sehr
viele Themenbereiche sehr breit man muss
auch links und rechts schauen können, aber
es ist eben viel zu holen in dem Bereich.
Denis: Wie kommt man zu dem Thema,
also ich glaube, du warst vorher, wenn
man das sagen darf klassischerweise
Corporate-Anwalt eher für gröÃere
Unternehmen gearbeitet, soweit ich weiÃ,
auch in gröÃeren Kanzlei gearbeitet.
Wie kommt man dazu, dass du sagst ich
habe jetzt richtig Lust auf KI-Recht
und dann selber gegründet auch?
Veit: Ja.
Also mich hat, wie gesagt, das schon
immer fasziniert als es losging mit
Smart Contracts und alles, wie das so
funktioniert, wie es rechtlich abgebildet
wird wie es technisch abgebildet wird,
die Schnittstelle genau zwischen den
beiden Bereichen und in der GroÃkanzlei
kamen dann Produktsicherheitsthemen dazu.
Schon mal ein kleiner Spoiler,
KI-Recht ist letzten Endes auch
Produktsicherheitsrecht und da
geht es auch um solche Risiken und
wie man sie beherrscht und es wird
immer so unter dem Aspekt drauf
geschaut wo die Verantwortung liegt.
Und ja, so ging es weiter.
Dann bin ich ins Unternehmen gekommen, war
da hauptsächlich für IP erstmal zuständig,
aber habe gemerkt, ja, da bewegt sich
was, da sind viele Möglichkeiten.
Wir haben vorher schon bei unserer
kleinen Vorstellungsrunde, als wir
uns getroffen haben, gesprochen über
Transkriptionen über Aufnahmemöglichkeiten
Solche Technologien hatte ich dann
gleich vorgeschlagen aber dann eben
auch Strukturen, wie es möglicherweise
sein kann, wie man es umsetzen kann,
wie man es rechtssicher umsetzen kann
und ja, du hast ja die Gefahr Corporate
zu Selbstständigkeit, wie kommt
In gröÃeren Unternehmen ist es manchmal
so, dass man seine Pläne nicht so
verwirklichen kann vielleicht, wie
man es wollte, dass man Ideen hat.
Das aber Fragen in jedem Unternehmen sind
klassischerweise, wie geht man sowas an?
Wird es von oben aufoktroyiert?
Wächst es von unten?
Installiert man ein Kompetenzteam, also
wie ist die Strategie auch und da hatte
ich dann auch mehrere Fortbildungen,
Schulungen selber und habe es selber
versucht dann in die Praxis umzusetzen
und ja, aber die Idee war so stark in mir,
dass ich gesagt habe, das ist genau mein
Ding, ich befähige gerne, ich versuche
gerne komplexe Materie aufzubrechen,
begreifbar zu machen und dann aber auch
so zu machen, dass Einzelunternehmen
davon profitieren können.
Also gerade dieses Systemverständnis
und eben nicht Missverständnisse Und das
ist ja auch so ein bisschen Thema heute.
Darf auch nochmal spoilern?
Vielleicht Missverständnisse
oder irgendwelche Irrglauben
zu widerlegen oder aufzudecken.
Was Unternehmen annehmen aber was wirklich
ist, genau, das finde ich spannend und auf
diesem Weg begleite ich gerne Unternehmen.
Denis: Da gibt es ja wirklich einen
wahnsinnigen Bedarf ehrlicherweise.
Ich meine, ich bin ja selber immer wieder
mit Anwaltskanzleien oder Anwälten in
Kontakt, natürlich auch zu diesem Thema.
Und das schwierigste Thema ist
wahrscheinlich, wie du sagst, einfach
dieses Systemverständnis von Tech.
Was ist denn irgendwie KI,
mit was arbeite ich dort?
Und das auf legal zu mappen, was
genauso komplex das Thema ist.
Und ich glaube, da irgendwo die Balance
zu finden beide Themen zu verstehen, da
gibt es ja einen wahnsinnigen Bedarf.
Ansonsten gehst du natürlich zu
einem Anwalt und sagst okay, ich
will hier irgendwie KI nutzen.
Und er sagt, naja, ich habe halt diese
15 Paragraphen und so sieht das aus.
Und wo ist das dann gehostet
und was ist denn überhaupt KI
und wird die trainiert und etc.
Und du musst dann ein Riesenthema erstmal
aufholen Bis die andere Partei überhaupt
verstanden hat, was du da vorhast.
Und da hast du einen wahnsinnigen
Vorteil, wenn du sagst, naja, ich
weià schon ungefähr, was jeder macht,
weil ich habe das fünfmal gemacht,
ich kenne mich mit KI aus und ich
gebe dir hier die rechtliche Beratung.
Veit: Ja, absolut.
Das ist auch mein Eindruck.
Das ist auf beiden
Seiten komplexe Materie.
Deshalb ist es auch immer hilfreich,
so wie wir gerade zusammenkommen als
Techie und Rechtler, dass man den
Austausch sucht dass man weiterkommt,
interdisziplinäre Arbeit innerhalb
des Unternehmens Unverzichtbar,
wenn einer, also dieses Hero-Denken,
das ist da absolut viel am Platz.
Es muss von ganz oben gehen, vom
Geschäftsführer der es will, der auch
mal ein Stück weit auch ins Risiko
geht, bis ganz unten, also unten in
Anführungszeichen bis zum wichtigen
Mitarbeiter, der das geschult werden
muss, der das verstehen muss, der
das auch da genauso mitwirken muss,
wie auch andererseits keine Fehler
machen sollte Um ein Gesamtsystem
zu haben, das passend ist.
Denis: uns doch mal in den
Problem-Space ein bisschen einsteigen.
Also aktuell gibt es viel Verwirrung,
glaube ich auf dem Markt rund um
ChatGPT, KI, was darf ich tun?
Darf ich KI überhaupt in
meinem Unternehmen nutzen?
Woher kommt dieses ganze Thema eigentlich?
Veit: ist was Neues Immer wenn
was Neues kommt, weià man nicht so
recht, wie man damit umgehen soll.
KI wird ja häufig mit der Erfindung
von Strom und Elektrizität verglichen.
Vielleicht, wenn man dieses Bild
aufgreift, dann überlegen sich viele
Unternehmen, ja, soll ich jetzt halt
auch meinen Stecker da einstecken, soll
ich mich verbinden, soll ich das machen?
Ja Also dieses Ob, diese Obfrage,
also groÃe Unternehmen haben das
natürlich schon lang implementiert
aber es gibt viele, die noch zögern
noch nicht in die Umsetzung gegangen
sind, noch keine Strategie haben
und eben noch bei einem Ob hängen.
Dabei geht es aus meiner Perspektive
vielmehr um das Wie, nämlich, also wie
verbinde ich, welche Sicherheitsschalter
habe ich welche Welche Erdung,
welche Sicherungsmechanismen
welche Notabschaltmechanismen
welchen Stromzähler, den ich
brauche möglicherweise Themen um
Datenfluss Transparenz Erklärbarkeit,
Blogging, was weià ich was.
Alle diese Themen, die dann in der
KI-Verordnung dann auch widerspiegeln.
Auch Kompetenz im Bild des Stroms,
also ein Kinderschutz beispielsweise
oder halt Schutz für Personen,
die nicht so geübt darin sind.
Umgang mit sensiblen Daten, also wie
baut man das sicher, dass ich anstecken
kann, aber dass es funktioniert und
funktioniert Aber es kann funktionieren
und es funktioniert in den meisten Fällen.
Die Frage ist immer nur, wie
man es konkret macht und immer
anwendungsbezogen und projektbezogen,
für was denn überhaupt?
Also nicht pauschal das Modell
JGPT kann ich nicht einsetzen
oder dieses Modell nicht.
Man muss halt überlegen, für was
ist es denn überhaupt da und für
was soll es denn gebraucht werden?
Denis: Ich hatte da letztens ein
sehr interessantes Gespräch wo es
quasi hieÃ, bei uns im Unternehmen
oder bei meinem Kunden im Unternehmen
darf KI nicht eingesetzt werden.
Und da war meine Rückfrage, was
darf da nicht eingesetzt werden?
Ja, GCPT darf nicht eingesetzt werden.
Und dann haben wir so ein bisschen
diskutiert ich meine, okay,
nutzt doch Microsoft Azure etc.
Gibt es da nicht Alternativen?
Nee, ich darf ja KI gar nicht einsetzen.
Ich meine, wie kann das denn sein?
Also was darf da nicht eingesetzt werden?
Und da hat es schon
aufgehört ehrlicherweise.
Also da wurde einfach,
ich glaube, tabuisiert ist
wahrscheinlich das richtige Wort.
Ich darf KI nicht einsetzen,
egal in welcher Form.
Und ich frage mich aber immer,
woher kommt diese Angst?
Also hat sich da rechtlich
überhaupt irgendwas geändert
groÃartig zu anderen Cloud-Tools?
Also ich meine es gibt ja so ein
bisschen das Thema, ich darf nicht
auf meine Daten trainieren etc.,
aber viele dieser Tool-Anbieter
in den kommerziellen Varianten
sagen ja, ich trainiere nicht
auf deine Daten, wenn du zahlst.
Also gibt es da überhaupt irgendeinen
Unterschied zu, ich nutze jetzt Excel
in der Cloud oder KI in der Cloud
Veit: Also es gibt schon Unterschiede
Die KI-Verordnung geht nochmal
über das hinaus, was da war.
Aber du hast vollkommen recht, eine
super Frage, weil letzten Endes sind
viele Erscheinungen nochmal das Ergebnis
von dem, was ohnehin schon da war.
Wir können später vielleicht
einige Themen aufgreifen, aber
von Haftung über Schulung.
Bei Schulung zum Beispiel gab es früher
Organisationsverfahren Schulungspflichten
vom Unternehmen und wenn gewisse
Risiken da sind, dann musste man das
so organisieren, dass die Mitarbeiter
befähigt sind, die Risiken zu erkennen.
Da gab es also schon als Best Practice
sozusagen eine Schulungspflicht, aber
nur als eigener Standard, wenn man
dagegen verstöÃt kommt man in die
Haftung und jetzt ist es sozusagen
zur Pflicht erhoben, auch in anderen
Bereichen wie eben angesprochen schon.
Beim Risikomanagement, Logging, beim
Datenschutz, bei den Toms, da gibt es
auch nochmal spezifische Anforderungen,
also die gibt es schon, aber vollkommen
richtig, also es ist sozusagen, ich komme
so ein bisschen aus dem Sportbereich,
wie eine FuÃballmannschaft, die auf der
Bank bleibt nach der Halbzeitpause, weil
sie gehört hat, das Regelwerk hat sich
geändert und nicht mehr spielen, das kann
nicht sein, man muss weitermachen, es
gibt natürlich hier Die Erforderlichkeit,
Dinge anzupassen, aber wenn ich es
höre dann ist es halt einfach eher
unverständlich und beziehungsweise
auch ein riesen Risiko, denn was ist
denn, was passiert denn faktisch?
Faktisch wird es gebraucht
faktisch passiert es, also
diese KI-Schatten-Nutzung
das Thema kennen wir ja alle.
Und dann kommen Unternehmen eher
in die Haftung rein, juristisch und
technisch unternehmensbetrachtet
verlieren die Kontrolle über ihre Daten.
Also das ist eher das gröÃere
Risiko, nichts zu machen.
Also es ist eine Technik die
unaufhaltsam ist oder unaufhaltbar.
Und ja, da sollte man nicht den
Anschluss verlieren sondern eher
strukturiert da drangehen und schön
aufbauen damit es funktioniert.
Und dann geht es auch.
Denis: KI-Schatten-Nutzung
finde ich einen geilen Begriff.
Ist das was Offizielles oder
hast du dir das ausgedacht?
Veit: Nein, nein das habe
ich mir nicht ausgedacht.
Das steht in vielen
Beiträgen auch schon drin.
Es ist halt ein Riesenthema, dass entweder
der Geschäftsführer das halt sieht und
trotzdem duldet oder aber überhaupt nicht
so genau hinschaut In welcher Form auch
immer dann potenziell Unternehmensdaten
dann in den Free-Versionen rein landen.
Und
Denis: dann werden sie
tatsächlich zum Training benutzt.
Veit: Richtig, und dann landen
die da und dann gab es auch
schon einige Datenskandale oder
irgendwie Rückverfolgbarkeit von
irgendwelchen unternehmensinternen
Daten, Das ist gefährlich.
Also wenn man das zulässt, da kommen
mal ganz schnell datenschutzrechtliche,
KI-rechtliche, sonstige Haftungsfragen
und sonstige Probleme rein.
Das sollte man dringendst vermeiden.
Denis: Deswegen finde ich das auch so
interessant, wenn es dann mal heiÃt,
wir dürfen, wollen, können nicht KI
bei uns im Unternehmen einsetzen.
Ich denke mir genau das.
Also die Mitarbeiter tun es
höchstwahrscheinlich sowieso.
Ich meine, ich nutze das ja privat, das
ist mittlerweile auf Android-Geräten
irgendwie dabei, es gibt eine Free-Version
von ChatGPT, also die meisten Leute
sind damit irgendwie in Kontakt und
dann denkst du dir doch auch nicht, wenn
ich gerade irgendwie die Tür aufmache
zum Büro, okay, ich bin jetzt ein
anderer Mensch, ich nutze nicht mehr
die Tools, die ich privat nutze, ich
plane damit meinen Urlaub innerhalb von
Minuten anstatt von Stunden und Tagen
und dann denke ich mir in Arbeit...
Ja gut, dann schreibe ich jetzt das
aber hier irgendwie innerhalb von
10 Stunden per Hand, obwohl ich das
in ein paar Minuten mit KI schreibe.
Das passiert einfach nicht.
Deswegen glaube ich auch, dass die
Unternehmer eher darauf setzen müssen,
wie kriege ich das hin, dass meine
Mitarbeiter das compliant nutzen.
Anstatt zu sagen, ja bei uns,
vergiss es, machen wir nicht, da
habe ich gar keine Lust drauf.
Veit: Ich bin absolut bei dir.
Um vielleicht noch ein Bild zu bringen,
oder Bild, eine Meinung, die ich neulich
gelesen habe von einem Anwaltskollegen,
das ist ein Beitrag der schon länger
her war, der hat auch aus Sicht des
Geschäftsführers skizziert dass es
irgendwann Zum Pflichtenprogramm und
zum ordnungsgemäÃen Leitung eines
Unternehmens gehört, KI einzusetzen
und nicht darauf verzichten darf.
Also, dass das sozusagen in gewissen
Dingen als Pflichtenverschluss
vielleicht irgendwann gelten könnte.
Ist ja auch interessant, mal
die Perspektive zu hören.
Also, man darf den Anschluss nicht
verlieren man darf keine Panik haben,
man darf sich nicht reinfallen auf
irgendwelche Angebote die es jetzt
da so rumflattern auf dem Markt.
Aber man muss einfach selber sich ehrlich
machen und Ja, das ist ein schöner Aufbau.
Denis: Vielleicht ein gutes Stichwort,
weil du sagst, Angebote, die es gerade
auf dem Markt gibt, also es fliegt
ja wirklich wahnsinnig viel rum.
Irgendwelche Schulungen die
ich vermeintlich machen muss.
Ich glaube, auf LinkedIn wird mir ja
wirklich zugespampt mit, es gibt jetzt
eine neue Verordnung, du musst jetzt
eine Schulung machen, bitte mach das
sofort, sonst kommen irgendwelche Strafen.
Es gibt aber auch Zertifizierung,
KI-Beauftragte etc.
Was steckt da alles dahinter?
Also was muss man aktuell wirklich machen,
wenn man überhaupt irgendwas machen muss?
Veit: Also...
Es ist natürlich schon wichtig und
im Sinne der KI-Verordnung seine
Mitarbeiter und jeden, der damit mit
KI-Modellen Systemen oder Anwendungen
damit zu tun hat, zu befähigen,
die Systeme zu verstehen und danach
zu handeln, Chancen und Risiken zu
erkennen, mögliche Schäden zu erkennen
und das entsprechend zu handeln.
Das ist eine der Grundpfeiler der
KI-Verordnung, immer wieder wiederholt
und es ist natürlich schon wichtig.
Andererseits ist es so, dass eben diese
Marktangebote irgendwie den Eindruck
machen, als würde die Welt untergehen wenn
man jetzt nicht jeden Mitarbeiter für so
und so viel, Tausende von Euro schult.
Was steht denn überhaupt in
der Verordnung, Artikel 4?
Das ist ein Satz zur KI-Kompetenz,
da gibt es natürlich dann auch eine
Begriffserklärung Und ein Erwägungsgrund,
der es nochmal ausführt, aber in
Artikel 4 ist ein Satz wo eben von
einem ausreichenden Maà an Kenntnis
gesprochen wird und das sind nach
besten Kräften die Unternehmen alle
MaÃnahmen ergreifen sollen, damit eben
die Arbeiterschaft und entsprechende
Dritte dann auch geschult sind.
Was heiÃt das konkret?
Ja, es steht nicht drin, es steht weder
drin, wer geschult werden muss, wie
er geschult werden muss, durch wen,
intern, extern, in welcher Form das
zu erfolgen hat, durch Zertifikat,
also wie soll es dokumentiert werden,
das steht auch nicht drin, ob es
fortlaufend gemacht werden muss.
Es sind da groÃe Fragezeichen und
letzten Endes spielt der Kontext
halt eine riesengroÃe Rolle.
Man muss immer kontextgebunden überlegen,
für welchen Mitarbeiter macht es Sinn,
Welche Rolle hat der im Unternehmen,
ist er ITler, ist er Financer, ist
er Jurist, ist was weià ich was im
Marketing zuständig und da gibt es halt
entsprechende Risiken und so würde ich
dann als Unternehmen drangehen, nicht die
am lautesten Schreien in der Belegschaft
da hinschicken und auch nicht wild,
sodass überhaupt kein System versteht
und jeder wird irgendwo gebildet, sondern
für mich wäre es sinnvoll, ja, intern
Festzulegen, auch hier strukturell
dranzugehen und zu sagen, für welche
Rolle brauche ich welchen Kenntnisstand
oder welches Anforderungsprofil, also
intern eher mal den Aufwand eingehen
zu klären, was brauche ich denn da,
wenn ich die und die Stelle habe.
Und dann überlegen, ja, wie mache ich
das, mache ich das intern, extern, durch
welches Format, genau, ich kann ja halt so
extern gehen, das ist ja nicht verboten,
das ist ja manchmal auch sinnvoll,
manchmal ist es aber nicht erforderlich
und weil du auch so ein bisschen die
Frage aufgeworfen hast, in welcher Form
das geschieht richtig, also es kann sein,
dass eben einzelne Vertreter für die
es ausreicht wenn sie Online-Beiträge
studieren und sich so weiterbilden und
wenn das halt wirklich funktioniert und
auch nachweisbar ist und dokumentiert
in irgendeiner Form und jeder weià und
das hat stattgefunden und es ist gut so.
Es wird aber nicht überall
so funktionieren und manchmal
braucht man halt eher einen Plan,
wie man Anforderungen aufstellt
und wie diese erfüllt werden.
Thema Compliance dann auch, wie
überprüfe ich das, wie überwache ich
das, wie dokumentiere ich das, wie
halte ich das laufend korrekt Aber was
Denis: bringt mir, also so eine Frage,
die mir aufkommt, was bringt mir so
eine Verordnung, wenn eigentlich gar
nicht drinsteht wer was machen soll?
Ich glaube, die Kernaussage ist so ein
bisschen, es ist nicht definiert und
ich muss keine Schulung kaufen, ich muss
einfach ausreichen, die Leute schulen und
das ist so ein bisschen abhängig davon,
von ihrem wahrscheinlich Kenntnisstand.
Aber warum ist das so vagedefinierend
also ist das für die Unternehmen oder
ist das eigentlich eher schlecht,
weil irgendwann, soweit ich es
raushöre kommen ja Strafen oder
Wenn ich dann die Leute nicht schule.
Veit: Jetzt kann ich das ganz
groÃe Fass natürlich aufmachen
und die ganze Gesetzesgenese da
irgendwie nochmal rekapitulieren.
Und es ist im ursprünglichen
Vorschlag der Kommission war
davon überhaupt nicht die Rede.
Also da gab es sowas nicht, da war es
eher technologiebezogen und jetzt halt
nicht schulungsbezogen Das Parlament
hat da relativ Druck gemacht, das
EU-Parlament, dass da entsprechend eine
Normen reinkommen, wollten viel mehr
haben, auch dass Mitgliedstaaten dafür
zahlen für Ausbildung und sonst was, ist
alles nicht gekommen, ist abgeblockiert
worden, also politischer Widerstand, aber
immerhin steht drin, recht vage und in
einem Thomas-Mann-Satz, der recht lang
ist, dass eben dieses ausreichende MaÃ
an KI-Kompetenz vorhanden sein soll.
Also das ist so ein bisschen
der Hintergrund, der
rechtspolitische Hintergrund
Konkreter ging es halt nicht,
auf was Konkretes hat man
sich nicht einigen können.
Es ist sowieso, also im Englischen
steht drin Shell, Shell ist ja eher,
man denkt in Deutschland an eine Sollte.
Es gibt es im Englischen aber auch
sozusagen eine Form von Shell,
die Verpflichtungscharakter hat.
Es soll auch letzten Endes eine Pflicht
sein, aber es ist relativ Zahnlust
weil eine Pflicht ohne Sanktionen, kann
man vielleicht auch kurz besprechen,
es ist nicht BuÃgeld bewährt.
Denis: Es gibt keine Sanktionen.
Den Eindruck habe ich immer, wenn
ich auf LinkedIn unterwegs bin,
da wird richtig in die Tasche
gegriffen wenn ich es nicht tue.
Veit: Richtig.
Und das ist die drohend geschwungene
Keule, aber die gibt es Es gibt
keine BuÃgeldbewehrung, was es schon
gibt, gibt es eben nach Artikel 85,
die Marktüberwachungsbehörden, die
gerade installiert werden überhaupt,
da ist gerade der Fremdenentwurf in
Deutschland, der hin und her geht und
bezüglich der Umsetzung in nationales
Recht, die Bundesnetzagentur würde
die Marktüberwachungsbehörde, die hat
dann entsprechende Möglichkeiten bei
VerstöÃen gegen diese Verordnung, so
heiÃt es da in dem Artikel, MaÃnahmen
zu ergreifen Was das jetzt sein wird,
müssen wir abwarten was da rauskommt.
Kann auch sein, dass es finanziell
was gibt, aber schaut's, glaube
ich Stand jetzt nicht danach aus.
Man weià es noch nicht, muss man schauen.
Aber ja, also so eine direkte
BuÃgeldbewehrung gibt es zumindest nicht.
Es kann halt indirekt sein Dann schon
relevant werden bei Hochrisikosystemen
beim Thema menschliche Aufsicht da
brauchst du einfach, also hintenrum
brauchst du diese Kompetenz und die
Fähigkeit, weil wenn du es nicht
verstehst begreifst ja erklären
kannst, ja Dein System, dann hast du
ein Problem nach der KI-Verordnung.
Denis: Du hast jetzt
Hochrisikosysteme gesagt.
Gibt es Unterschiede bei den Sachen,
die ich tun muss, je nachdem, was
für KI ich betreibe oder einsetze?
Ich meine, das ist auch ein
Begriff, den man immer wieder hört.
... ob man quasi Anbieter oder Betreiber ist,
... ... was sind da so die Unterschiede?
Ich meine, die meisten Leute
sind wahrscheinlich Betreiber,
weil sie irgendwie KI einbinden in
ihre Prozesse, ... ... entweder bei
ChatGPT oder die API oder irgendwas.
Aber gibt es da irgendwelche
Unterschiede ... ... die ich beachten
muss oder ist das alles gleich?
Veit: Nee, nee das ist natürlich
aufdifferenziert und abgestufeltes
System, ist ein risikobasierter Ansatz,
du musst schauen bei der KI-Verordnung,
wo bin ich drin, habe ich gar kein
Risiko, weil du ganz rausfällst, dann
ist alles schön und gut, auch wenn
du im Ãbrigen gar keine KI hast, was
auch manchmal ein Thema ist, genau.
Ich glaube, das
Denis: ist wirklich ein Thema, weil
aktuell ist halt alles KI irgendwie,
was vor vielleicht zwei Jahren einfach
ein Algorithmus gewesen wäre oder
ein Stück normale Software, ist jetzt
aktuell wirklich alles KI eigentlich.
Gibt da einen Legal-Begriff,
wie man KI definiert?
Also was ist KI überhaupt
im rechtlichen Sinne?
Veit: Da gibt es eine ganze Latte
an Definitionsversuchen schon
immer, die heià diskutiert wurden.
Es gibt jetzt einen Definitionsversuch
der auch so einigermaÃen brauchbar
ist in der KI-Verordnung.
Aber ja, auch da gibt es
Auslegungsschwierigkeiten
und es wird spannend.
Es wird spannend, man kann
versuchen einzugrenzen, aber um
den Gedanken weiter zu Aufzubauen.
Also es gibt dann eben die mit geringem
Risiko mittlerem Risiko und höherem Risiko
oder Hochrisiko und je nachdem, wo man
drunter fällt, gelten halt verschiedene
Anforderungen und Pflichten und muss
man verschiedene Dinge einhalten.
Also bei mittlerem Risiko eher
Transparenzpflichten und so, dass
das System Risiko anläuft und als
Hochrisikoanbieter musst du Risiko
Abschätzung machen musst du entsprechende
technische organisatorische MaÃnahmen
machen, dich um Logging, um Transparenz
kümmern, auch um alle möglichen Themen.
Also da ist eine richtig, also da
gibt es viel auch Zertifizierungen,
also da gibt es eine richtige
lange Latte an Anforderungen und
da muss man dann schon schauen.
Und das Zweite ist eben, wie du
sagst welche Rolle habe ich denn?
Also das eine ist Risiko betrachtet,
was Risikoklasse ist und das andere ist,
bin ich Anbieter von solchen Systemen
oder verwende ich sie, bin ich beteiligt
und ja, also das eine ist, also wenn
du das System herstellst, wenn du es
in Betrieb nimmst oder in den Verkehr
bringst erstmal, das ist ein einmaliger
Post, den du in Betrieb hältst Dann
bist du halt in der ersten Kategorie
und wenn du es sozusagen nutzt und
verwendest, praktisch, so einfach mal
ausgedrückt, dann bist du der Verwender
und genau, du hast so ganz grob die
Abgrenzung Wobei es dann natürlich
auch dann im Detail darauf ankommt und
Artikel 25 ist ein schönes Beispiel.
Es gibt drei Möglichkeiten, wie
man vom Verwender wieder zum
Anbieter plötzlich selber wird.
Und auch das, weil wir es am Anfang
angesprochen haben, ist alles neu.
Nein, auch das ist nicht neu.
Wie gesagt, das ist letzten Endes
spezielles Produktsicherheitsrecht.
Im Produktsicherheitsrecht gibt
es auch den Quasi-Hersteller.
Also wenn du nicht der Hersteller bist,
aber es entweder unter eigener Marke
vertreibst gibt diesen Rollenwechsel.
Beim Quasi-Hersteller gibt es das
schon, habe ich gesagt, aber was
steht in der KI-Verordnung drin?
Einmal wenn du ein System einer
KI-Anwendung plötzlich unter eigenem Namen
verwendest und auf den Markt bringst.
Ich will immer so ein bisschen praktische
Beispiele nennen damit man das versteht.
Also stell dir vor, HR-Abteilung hat
ein HR-Tool, das sie dann aber unter
eigenem Logo eigenem Brand dann dem
Markt zur Verfügung stellt, da bewerben
sich Leute drauf und es schaut aus,
als wäre es von Ihnen, dieses KI-Tool.
Dann sind die plötzlich
in der neuen Rolle drin.
Das ist ein Beispiel.
Es kann auch sein, ja, irgendwie eine
Digitalagentur, die dann die KI-Agentur
da ist, einen eigenen Servicebereich
dann hat und aber nicht Was eigentlich
dahinter ist, welche groÃe Player auf
den er da setzt, aber selbst fast so
den Eindruck erweckt, weil es eher
der Agentur-KI oder sowas dann ist,
dass er dann plötzlich dann eben
auch dann in diese Rolle schlüpft.
Denis: Aber das ist interessant, weil
das betrifft wirklich viele Leute.
Also es gibt so ein bisschen
im Startup-Umfeld mittlerweile
diesen Begriff GPT-Rapper-Company.
Veit: Das
Denis: sind einfach diese ganzen Firmen,
die irgendwas um die GPT-API bauen und
dann halt einen neuen Service machen
Also quasi so ein bisschen veredeln, aber
die werden dann alle zum KI-Anbieter,
wenn du nicht vernünftig klar machst,
dass eigentlich quasi Chat-GBT nach
wie vor im Hintergrund da läuft und du
eigentlich nur den Prompt weitergibst.
Veit: Absolut und das ist auch
meine Einschätzung, dass viel mehr
in der Anbieterrolle als in der
Betreiberrolle sein werden, weil
sie es so nutzen, wie sie es nutzen.
Und das war nur ein Beispiel
jetzt mit dem eigenen Namen oder
mit der eigenen Marke auftreten.
Das andere wäre, oder die anderen
beiden, um es komplett zu machen, das,
Das eine ist, dass du technisch das so
umbaust, dass du was Eigenes hast, also
dass du zum Beispiel Feintuning, dass
du nochmal das trainierst auf deinen
speziellen Anwendungsfälle und auch
da zum Beispiel im HR-Bereich stell
dir vor, man hat ein fertiges Produkt,
aber man erweitert es um ein bestimmtes
Skill-Match-System, weil du es selber
entwickelst und sagst, du willst den Skill
haben und erweiterst es in dem Bereich.
Plötzlich bist du auch Anbieter und
hast die entsprechenden Pflichten mehr
Pflichten deutlich mehr Pflichten.
Denis: Jetzt wahrscheinlich
eine tricky Frage, wo fängt
Training an und wo hört es auf?
Also man spricht häufig davon, ich habe
so ein bisschen das rausgehört wenn ich
es feintune, das heiÃt, wenn die Daten
in den Datensatz reingearbeitet werden,
aber was ist denn mit Prompt Engineering?
Veit: Sehr gute Frage und das sind
genau die Praxisfälle, die wirklich die
diffizilen Abgrenzungsfragen aufwerfen.
Da kommt es auf den Einzelfall an, das
kann ich jetzt so pauschal nicht sagen,
aber natürlich, also das ist eine feine
Abgrenzung und da besteht das Risiko
zumindest, wenn man, man muss natürlich
schauen, wie macht man es, wie tritt man
auch in Erscheinung Mit welcher Intention,
wie ist es dokumentiert, was machst du da?
Also es ist wirklich ein Ansatz
von dir im Unternehmen, das
umzumodellieren sage ich mal.
Oder willst du halt nur vereinzelt
irgendwie ein Feintuning machen, irgendwas
um ein Rädchen drehen damit dein Ergebnis
da und da an der Stelle besser ist?
Also da würde man schon genauer
hinschauen müssen, auf was es da ankommt.
Aber es besteht da immer das
Risiko in Anbieterrolle zu kommen.
Und das Letzte ist, Wenn du von
plötzlich die Kategorie wechselst
also von einer, das sind diese
Risikokategorien wenn du eine mittlere
Kategorie hast, du hast beispielsweise
im professionellen Sportbereich hast
du Drohnen, die dich überfliegen und
die versuchen Positionen zu erkennen
und schauen, wie sich wer bewegt.
Und es mag meinetwegen oder in
einem anderen Bereich, wo vielleicht
keine Menschen dabei Also so ein
Tracking-System funktionieren, aber wenn
du es beispielsweise dann bei deinen
Mitarbeitern einsetzt und dann auch
erkennst, wo bewegen sie sich machen sie
gerade Kaffeepause, sind sie müde oder
sowas dann bist du ganz schnell, also
wenn du sie zweckentfremdest sozusagen
und dann in eine höhere Risikoklasse
kommst, weil es eben risikoreich ist,
weil es ein sensibler Bereich ist.
HR, Finance, auch Kreditgeschäfte, du
verwendest irgendein Tool, eigentlich ein
Sprachmodell oder irgendein Analyse-Tool,
um plötzlich Entscheidungen zu treffen
über Kreditvergaben oder ähnliches.
Also auch nicht so weit hergeholt.
Auch das sind Fälle, die es in Deutschland
glaube ich immer mal wieder gibt.
Also da muss man aufpassen.
Also wenn man es sozusagen...
Da
Denis: gab es doch mit der Schufa letztes
Jahr oder sowas auch ein gröÃeres Thema,
dass da nicht automatisiert entschieden
werden darf über das Credit Scoring.
Veit: Genau, das Profiling.
Ja, ein Riesenthema.
Und das sind drei Themen, wo ganz
praktisch man plötzlich in die
Anbieterrolle rutschen kann und
keiner hat es so wirklich auf dem
Schirm und vor allem nicht, welche
Pflichten dann auf einen zukommen.
Und dann ist man nämlich ganz schnell
im Verstoà weil man die Pflichten
natürlich nicht erfüllt hat, weil
man gar nicht daran gedacht hat.
Denis: Ja.
Was kann ich denn jetzt als
mittelständisches Unternehmen tun,
also in der Praxis um irgendwie
compliant zu sein, um mich abzusichern?
Weil allein aus unserem Gespräch
merke ich, das ist ein wahnsinnig
vielschichtiges Thema und du
bist extrem tief in KI und
natürlich Legal-Themen drin.
Aber was kann ich jetzt als Mittelständler
machen, der wahrscheinlich in beiden
Themen gar nicht so tief drin ist und
einfach mal mit dem Thema anfangen möchte?
Ja
Veit: Man muss einen Fuà in die
Tür bekommen, man muss anfangen,
das strukturiert anzugehen und das
Thema aufzumachen, es zu erlauben.
Manche beginnen damit erstmal im
Einzelfall für einen Use Case einmal das
zu erproben und dann gröÃer werden zu
lassen, andere fangen andersherum an.
Und machen interne Richtlinien und
wie, wo, was und mit Verbotslisten,
welche Tools nicht, aber auch
mit erlaubten Anwendungen.
Genau, dass jedes Unternehmen anders wie
es dann herangeht aber Ich als Unternehmen
wird erstmal mir überlegen, okay, wie
kriege ich erstmal die Kuh vom Eis, also
welche Gefahr ist da und das sind so
Themen wie KI-Schatten-Nutzung, da muss
ich ganz schnell raus, da mache ich halt
intern beispielsweise eine Richtlinie und
stelle klar, was erlaubt ist, was nicht
erlaubt ist, um diese Themen dann...
Anzugehen und uns da aus der
Verantwortlichkeit rauszukommen und dann
zu überlegen wie brauche ich es denn auf?
Und dann suche ich mir, wenn ich
nicht die eigenen Fähigkeiten habe,
muss ich mir die extern suchen.
Man kann es intern schaffen, das
haben auch viele geschafft, aber wenn
man es nicht schafft, dann muss man
halt sich extern einen Rat holen, wie
man das möglicherweise angehen kann.
Denis: würdest du das
technologisch angehen?
Also etwas, was mich immer wieder
quasi ... begleitet ist, dass die Leute
sagen, naja, ich darf ChatGPT nicht
nutzen, das hatten wir vorher, aber
neben ChatGPT gibt es noch ganz viele
andere Sachen, also was ich häufig
empfehle ist, die meisten Unternehmen,
vor allem im Mittelstand, nutzen
Microsoft-Produkte und von Microsoft
gibt es die OpenAI-Kollaboration,
Und da kann ich quasi diese ganzen
Modelle in der Microsoft Cloud laufen
lassen und da kann ich das auch in
meinem Datacenter laufen lassen,
alles in Frankfurt, Deutschland,
wo auch immer ich das haben möchte.
Ist das eine Alternative oder hole ich
mir damit dieselben Probleme eigentlich
ins Haus, die ich mit CGPT machen würde?
Veit: Nein das ist also wahrscheinlich
API, was du dann sagst und genau
die Möglichkeit dann eben über
Datenlokalisierung, Frankfurt
hast du gesagt, der versucht die
Kontrolle darüber zu bekommen.
Ja, es ist immer ein heiÃes Thema
diese Datenlokalisierung, ja,
nein, ist es sinnvoll braucht man
es, ist es anders auch möglich.
Ja, es ist anders möglich.
Natürlich gibt es einen gewissen Komfort
dadurch, dass es dann in der EU gehostet
ist und dass es dann eben in der EU ist.
Es ist ein Vorteil aber nicht
kriegsentscheidend Also das ist
auch ein Irrglaube dass es anders
gar nicht geht, aber wegen des
Angemessenheits Das hatte ich
Denis: tatsächlich irgendwo gelesen.
Also USA ist auch in Ordnung oder?
Also es ging, soweit ich mich erinnere
darum, dass ähnliche MaÃnahmen
getroffen werden wie in der EU.
Oder bin ich da komplett falsch?
Veit: Stimmt schon.
Es gibt eine lange Historie mit
Schrems Urteilen vom EuGH und Abkommen
zwischen den USA und Europa, wann
das Datenschutz Niveau gewahrt
ist auf amerikanischer Seite.
Und nachdem Vorgänger Versionen
gescheitert Sind und kassiert wurden
vom EuGH, da gibt es jetzt eben den
neuen Vorstoà und da gibt es einen
Angemessenheitsbeschluss Der EU-Kommission
und das Handelsministerium der auf
amerikanischer Seite kann Unternehmen
da zulassen, und das ist dann ein
Ausdruck dessen dass die ein ähnliches
Datenschutzniveau dann garantieren.
Und wenn da Unternehmen drin sind, wie im
Ãbrigen Microsoft, Amazon, Facebook und
Meta dann gilt grundsätzlich, dass die ein
angemessenes Niveau bescheinigt bekommen.
Aber das ist die weitere Diskussion
wie lange hält das, wie lange geht
das gut, wie lange ist der aufkundbar,
also Angemessenheitsbeschluss von der
EU-Kommission, also da kann es scheitern,
aber wird er faktisch unterlaufen von
Seiten der USA, wie vertrauenswürdig ist
das jetzt in der geopolitischen Lage,
also das sind so eher die Erwägungen
und vor allem Künftig, also auch in die
Zukunft blickend, auch wenn es jetzt
okay ist, will ich mich oder will ich
mich dem Risiko aussetzen, dass es
möglicherweise irgendwann wieder anders
ist und ihr das dann wieder kassiert
und ich dann wieder Unsicherheit habe.
Das heiÃt, es ist schon gut, die EU-Lösung
zu haben und in Frankfurt und dann hat
man auch viel mehr Kontrolle und im
Ãbrigen Dadurch, dass man die API-Lösung
hat und eine Business-Lösung, dann, du
hast jetzt Open AI angesprochen, in dem
Bereich gibt es dann eben AVVs also DBAs,
Auftragsdatenverarbeitungsmöglichkeiten
Verträge die ich abschlieÃen
kann überhaupt, im Free
Account geht das ja gar nicht.
Das heiÃt, da kann man ein bisschen
steuern und selbst Themen wie, Ja,
sensible oder geheimhaltungsbedürftige
Themen bei bestimmten Berufsgruppen
Rechtsanwälter Steuerberater, Ãrzte
oder Ãhnliches, auch da gibt es mit
gewisser Kreativität noch Lösungen,
die machbar, vertretbar sind.
Also es geht, es geht, man
muss es nur richtig machen.
Es kommt auf das Wie
an, wie gesagt, und ja.
Man sagt ja immer, KI ist ein sehr guter
Mitarbeiter, man muss ihn nur richtig
ansprechen muss ihn da richtig befähigen.
Das stimmt, aber andererseits muss man
ihn halt auch richtig bedienen und wenn
ich im GroÃraumbüro bin, dann plähe ich
auch nicht einmal rüber und frage, was
denn das Gehalt von den Kollegen und
die sensiblen Daten von meinen Kunden,
die hätte ich auch gerne einmal, sondern
man geht in den abgeschlossenen Raum und
spricht und schaut, dass die Tür zu ist.
Man muss halt Vorkehrungen treffen.
Damit das funktioniert.
Und dann hat man auch eben über diese
Lösungen die Möglichkeit, die Verwendung
für Trainingsdaten auszuschlieÃen oder
auch sonstige Verwendungen auszuschlieÃen.
Also einfach die Datenhoheit,
Datensouveränität, Datenqualität,
Nachvollziehbarkeit all das.
Technisch organisatorische MaÃnahmen
selbst befähigen und selbst ein
bisschen die Kontrolle darüber zu haben.
Klar, das ganz andere groÃe Thema
ist lokal das alles aufzuziehen,
aber hat man zwar mehr Sicherheit,
aber hat andere Probleme.
Denis: Da hat man wirklich ganz
andere Probleme, es ist lustigerweise
immer wieder ein Thema, was bei mir
auftaucht, weil die Leute, ich meine,
es ist einfach ein riesiges Thema und
die Leute wollen dann halt absolute
Sicherheit haben und dann kommen sie
halt immer mit, ich will irgendwie mein
Modell lokal hosten geht das denn nicht?
Geht schon, aber ich
muss es ja auch warten.
Also ich muss ja dann alles, was
mir quasi Microsoft, um mal bei
dem Beispiel zu bleiben, garantiert
mit der Datenhoheit und dass das
nicht irgendwie abflieÃt und alle
Sicherheitskriterien erfüllt, das muss
ich ja selber dann plötzlich erfüllen.
Und das ist gar nicht so einfach, neben
den Kosten, um so ein Modell laufen zu
lassen, einer ähnlichen Performance, du
brauchst die Hardware oder du leistest ja
die Hardware aus, aber ehrlicherweise hast
du dann wieder dieselben Probleme, die du
ja vorher auch hattest, weil du leistest
ja die Hardware auch in Anführungszeichen
nur aus, wenn ich das KI-Modell in der
Cloud nutze Und wenn ich dann plötzlich
mein eigenes KI-Modell in einer anderen
Cloud nutze, naja, ich habe dieselben
Probleme, weil wer garantiert mir, dass
ich Datenhoheit über diese Cloud habe?
Das heiÃt, um es wirklich sicher, sicher
in Anführungszeichen oder abgekapselt zu
haben, müsste ich es bei mir in der Praxis
im Büro oder irgendwas laufen haben.
Aber dann habe ich wieder genau die
Probleme, wer garantiert mir, wenn
das Ding ja Internetzugang hat,
dass diese Daten da nicht abflieÃen.
Das heiÃt, ich muss diese ganzen
Sicherheitsmechaniken, die mir
der Cloud-Provider per Vertrag
garantiert selber einbauen.
Von daher, ich persönlich, für die
meisten Use Cases muss ich zugeben,
finde ich es absoluten Quatsch darüber
zu reden, KI-Modelle lokal zu hosten.
Weil davon sind wir die letzten
Jahre weggekommen mit diesem
ganzen On-Premise-Software.
... CDs ja gehabt und alles irgendwie
installiert ... ... und dann
habe ich plötzlich SaaS-Lösungen
und jeder fand es geil, weil ich muss
diese ... ... Lösungen nicht mehr warten,
ich kriege die Updates ... ... automatisch
aber bei diesem KI-Thema ... ... wollen
alle plötzlich wieder eigentlich
drei ... ... Schritte zurückgehen
und diese ganzen Sachen ... ... in
ihren Büros hosten was eine absolute
Katastrophe ist, meiner Meinung nach.
Veit: Ne, toll, toll, danke für die
Ausführungen, also ... ... sehe ich
genauso, es hat vielleicht auch mit
dieser ... Anfangs angesprochenen
Angst zu tun da rein zu gehen und dann
vielleicht das Gefühl von Sicherheit zu
haben, wenn es irgendwo noch kein läuft.
Aber es ist halt a faktisch nicht
der Goldstandard und b auch unter
Gesichtspunkten des Nutzens oder
auch Chancen Risiko Schäden nicht
wirklich immer empfehlenswert.
Es gibt Anwendungsfälle, da würde ich
es auch machen, also gerade wenn es um
sensible Daten geht oder Risikobereich
oder Themen, die einfach nicht nach
auÃen dringen sollen, dass man es auch
macht oder nur macht, je nachdem, wie
man aufgestellt ist unternehmerisch.
Es kann Sinn ergeben,
aber Nicht als Standard.
Denis: Ja, absolut.
Das heiÃt, ich glaube, so ein bisschen
zusammengefasst also auf die Frage,
wie setze ich das dann praktisch um?
Ich glaube, der Anfang ist eigentlich,
damit erstmal auseinanderzusetzen
und es nicht zu tabuisieren,
sondern zu sagen, okay, wo stehen
denn meine Mitarbeiter gerade?
Nutzt denn schon jemand KI?
Die Antwort ist wahrscheinlich
ja, sehr wahrscheinlich sogar.
Und sich dann einen Plan zu machen,
wie kann ich das Ganze denn halbwegs
Oder sehr compliant sogar in dem Fall,
einsetzen und da ist natürlich die
Frage, okay, es gibt nicht nur OpenAI,
es gibt auch andere Anbieter gerade
am Markt, die ich vielleicht sogar
nutze oder andere Produkte von denen
nutze und da sich einfach schlau zu
machen, gibt es KI-Lösungen, die ich
verwenden darf in meinem Unternehmen.
Veit: Und im besten Fall baut man das
dann nicht komplett unabhängig von
allen bisherigen Systemen und Strukturen
auf, sondern wenn man zum Beispiel für
DSGVO-Compliance gesorgt hat und da
Prozesse hat, dann dockt man da an dann
baut man das parallel auf und schaut,
dass sich Synergieeffekte ergeben können
Und dann hat man seine Strukturen schon.
Dann geht es einfacher schneller
und auch zügiger, als sich
mancher vielleicht auch vorstellt.
Es ist nicht einfach, aber das haben
schon viele geschafft und es ist machbar.
Man muss sich nur wirklich damit
auseinandersetzen und das angehen Ich bin
auch nicht für Panikmache, aber in einem
Jahr ist dann die allgemeine Anwendbarkeit
im zweiten, achten sechsten zwanzig
und bis dahin ist noch, glaube ich, ein
bisschen was zu tun gerade im Mittelstand,
da sollte man die Dinge schon mal angehen.
Denis: Vielleicht als abschlieÃende Frage,
weil du auf 2028 ansprichst, wie siehst
du die nächsten paar Jahre, also wie wird
sich das Thema so ein bisschen entwickeln,
wird der Hype abflachen werden sich diese
ganzen Regularien etwas regeln dass ein
Verständnis aufkommt, wird es irgendwelche
Ãnderungen geben, wie siehst du das Ganze?
Veit: Also was regulatorisch noch kommt,
sind so Praxisleitfäden und sonstige
Empfehlungen von EU-Seite, also Softlaw
nennt man das, also sozusagen Anweisungen,
die zwar nicht Rechtscharakter haben
oder Gesetzescharakter Normen sind,
aber so ein bisschen Hilfestellung
geben sollen und da wird man sich so
ein bisschen auch orientieren müssen.
Es gibt es jetzt schon für General
Purpose AI, das ist gerade am 2.8.
jetzt auch rausgekommen, aber es wird
es auch für andere Bereiche geben.
Das heiÃt, Antragung Hilfestellung,
Leitfäden, Praxishilfen wie Unternehmen
zum Beispiel auch in Fragen von
KI-Kompetenz sich aufzustellen
haben, da kommt noch einiges, da
muss man sich orientieren, da gibt
es noch begleitende Gesetzgebung,
neue Produktsicherheitsrichtlinie
und die Umsetzung dann ins
deutsche Recht, die dann kommt.
Eine KI-Haftungsrichtlinie hat es nicht
geschafft, die ist erstmal auf Eis
gelegt, da ging es Der Endverbraucher
dann möglicherweise vor dieser
Black-Box-Problematik geschützt wird.
Aber das sind vielleicht zu spezielle
Themen jetzt, also ich will nur sagen,
da kommt noch einiges nach, auch
von Gesetzesseite und technologisch
ist er der Wahnsinn, da bist du eher
der Experte, also wenn wir uns in
zwei Monaten wieder zusammensetzen,
dann würden wir wieder über andere
technische Anwendungen sprechen.
Was da gerade geschieht
ist ja⦠Höchst erstaunlich.
Trotzdem glaube ich dass diese
absolute Hype-Phase, es gibt ja diese
Diagramme wie Hypes entstehen wie sie
dann weitergehen, abflachen und dann
kontinuierlich und zwar beständig
dann wachsen und wirklich verlässlich,
nachdem der erste Hype vorbei ist.
Ja, ich glaube, dass da
so ein bisschen gerade
Der Hype vorbei ist, Enttäuschung,
Chat-GPT-5 und sowas da haben wir schon
gemerkt, okay, die Erwartungshaltung
ist schon ganz schön hoch.
Also ähnlich wie bei...
Ich
Denis: glaube, dass wir AGI einfach
relativ schnell jetzt erwartet haben
und gedacht haben, okay, das Ding
kann alles übernehmen und jetzt
flacht das so ein bisschen ab.
Aber es ist doch nicht so einfach,
Menschen zu ersetzen und wirklich komplett
General Intelligence herzustellen.
Veit: Ja, genau, absolut.
Und trotzdem, also das ist eher dann
deine Arbeit auf der technischen Seite
Ebene also was da dann zu tun ist, also
da wird es jetzt viel Arbeit, denke ich
mal, auch geben, viele Prozesse, die
umgestellt werden müssen, viele Strukturen
die neu aufgesetzt werden müssen und da
geht Technik wird recht häufig einher und
es muss versöhnt werden und ganzheitlich
gedacht werden und also, ja, auch wenn der
erste Hype vorbei ist, geht es dann jetzt
darum, wirklich Fuà zu fassen, es ernst zu
nehmen, das Thema und sich dran zu setzen.
Das ist so ein bisschen mein Take.
Denis: Absolut, kann ich nur bestätigen.
Ich glaube, auch Hype wird
natürlich wie immer weniger werden.
Ich glaube, das Thema ist aber
trotzdem nicht mehr wegzudenken.
Dementsprechend wird sich einfach
über die Zeit etablieren und wir
werden immer mehr KI-Systeme haben,
die wir nicht KI-Systeme nennen.
Ich glaube, genau das also
vielleicht einfach nicht...
Umgangssprachlich KI-Systeme rechtlich
wird es eins sein, aber ich glaube, die
Leute werden einfach nicht mehr diesen
Hype haben von das nächste KI-Ding
hinter dem ich hinterherrenne, sondern
es ist einfach dabei, ich werde es
nutzen, es wird Dinge automatisieren
und meinen Alltag erleichtern.
Veit: Das sehe ich genauso.
Also DeepL zum Beispiel, da haben
wir uns auch alle dran gewöhnt,
ja, das ist ein Tool, ist das KI?
Ja nein.
Wahrscheinlich sogar
Denis: mehr KI als die meisten Systeme von
denen wir gerade sagen, dass sie KI sind.
Veit: Absolut, absolut.
Und auch da ist es mehr so, es
geht auch wieder um das Gefühl.
Also es normalisiert sich, es wird...
Ãblicher und dadurch fällt dann auch die,
um den Bogen zu spannen, vielleicht auch
diese Angst dann auch so ein bisschen weg
und ja man kann sich dann auch wirklich
auf das Eigentliche konzentrieren, nämlich
wie man damit Effizienz gewinnen hat, wie
man vorankommt, wie man das in Use Cases
umsetzen kann und dann sind wir erst an
dem Punkt, wo es wirklich dann halt Sinn
ergibt, nicht irgendwie als theoretische
Möglichkeit, irgendwelche technischen
Neuerungen da auszuprobieren, egal ob
es Gewinnbringung ist nicht, sondern
wirklich praktische Use Cases aufzubauen.
Denis: Abschluss.
Vielen Dank für das Gespräch
hat echt Spaà gemacht.
Ich könnte ehrlicherweise noch
Stunden darüber reden, ich glaube,
das ist einfach so ein vielfältiges
Feld Aber wahnsinnig cool.
Ich hoffe, wir haben auch ein paar
Mythen und Unwahrheiten auflösen
können für unsere Hörer ich werde
alles in die Shownotes am Ende
packen, dass man dich auch erreicht.
Cooles Gespräch vielen Dank
und bis zum nächsten Mal.
Vielen Dank,
Veit: hat Spaà gemacht.