Mit dem neuen Datenschutzgesetz trat – von vielen unbemerkt – die erste Regulierung für «künstliche Intelligenz» in der Schweiz in Kraft.
Gemeint ist Art. 21 DSG über die Informationspflicht bei einer automatisierten Einzelentscheidung nach Vorbild von Art. 22 DSGVO.
Jens Kaessner, der sich beim Bundesamt für Kommunikation (BAKOM) seit Jahren um Gesetze für die Digitalisierung kümmert, veröffentlichte bei LinkedIn einen kurzen Hinweis auf diesen «ersten KI-Gesetzesartikel der Schweiz».
Der Hinweis war Anlass für mich, mit Jens Kaessner über die neue Regulierung ein Podcast-Gespräch für die «Datenschutz Plaudereien» zu führen:
Jens Kaessner erklärte im Gespräch, was es mit der neuen Regulierung auf sich hat, zeigte aber auch, was mit seinem Anspruch, «die abstrakte Theorie der Digitalisierung und ihre konkrete, praktische Anwendung» zu verbinden, in diesem Zusammenhang gemeint ist. Thema in unserem Gespräch war auch, wieso man aktuell nicht von «künstlicher Intelligenz», sondern von maschinellem Lernen beziehungsweise Machine Learning sprechen sollte, wenn man ernst genommen werden möchte.
Ferner erläuterte Jens Kaessner, wieso «künstliche Intelligenz» im Datenschutzgesetz nicht als Begriff zu finden ist, worin die Gemeinsamkeiten mit der «Cookie-Richtlinie» in Art. 45c FMG bestehen und wieso ihn das Ergebnis von maschinellem Lernen häufig an Lossy Compression erinnert.
Transkript
Das nachfolgende Transkript wurde mit dem AI-Dienst CastMagic automatisiert erstellt. Es gilt das gesprochene Wort, denn das Transkript enthält Fehler.
Martin Steiger: Guten Tag, mein Name ist Martin Steiger. Heute habe ich einmal mehr einen Spezialgast in den Datenschutz Plauderein. Jens, herzlich willkommen. Sag doch gleich rasch, wer du bist.»
Jens Kaessner: Hallo Martin, ich bin Jens Kaessner. Ich bin stellvertretender Leiter Telekomrecht beim Bundesamt für Kommunikation. Und ich mache schon seit zwei Jahrzehnten Gesetz für Digitalisierung.
Martin Steiger: Wunderbar. Wenn man dein LinkedIn-Profil anschaut, habe ich gesehen, du schreibst unter anderem und deckst die abstrakte Theorie der Digitalisierung mit der konkreten und praktischen Anwendung verbinden. Und du hast auch den Claim «Ab und zu deckst du bei LinkedIn Artikel schreiben». Das hast du kürzlich gemacht und darum habe ich dich eingeladen. Der Titel des Artikels war «Erster KI-Gesetzesartikel der Schweizer Inkraft» und zwar im Zusammenhang mit dem neuen Datenschutzgesetz. Jens, ich habe noch nicht viel darüber gehört. Was geht es hier?
Jens Kaessner: Ja, Es gibt im neuen Datenschutzgesetz Artikel 21. Das ist die Informationspflicht bei einer automatisierten Einzelentscheidung. Eine automatisierte Einzelentscheidung kann man nicht nur als normale Entscheidung eines Computers verstehen, sondern man muss vor allem die Entscheidung eines Computers verstehen, das KI einnutzt.
Martin Steiger: Genau, das ist der neue Artikel 21. Wirklich ein noch völlig unterentwickeltes Thema aus meiner Sicht. Auch in den schon vorhandenen Kommentaren wird das zwar natürlich behandelt, aber eigentlich nicht gross unter dem Gesichtspunkt künstliche Intelligenz, Artificial Intelligence, Machine Learning. Was denkst du, Jens? Eigentlich ist das sensationell. Wir reden alle über KI-Regulierung, im Parlament gibt es Vorstösse. Und jetzt haben wir seit dem 1. September schon etwas.
Jens Kaessner: Ja, das ist genau der Punkt von wegen Theorie und Praxis verbinden. Was ist eine KI? Das ist eigentlich, man hat normale Programme, die von Leuten geschrieben werden. Und KI oder Machine Learning, das ist einfach ein Programm, das ein Teil von Menschen geschrieben wird, das sich aber dann durch Trainingsdaten verändern kann. Das ist also auch einfach ein Programm wie andere auch. Insofern gibt es da keinen grossen, riesen Unterschied zwischen KI und anderen Programmen, anderen Automaten, anderen Computerprogrammen. Der Punkt ist einfach, dass man bei CAI noch wichtiger ist, dass man vielleicht nachforschen kann, wie kommt sie zu dieser Entschädigung, weil man das bei CAI eben nicht so genau weiss. Vielleicht kommt sie aufgrund der Trainingsdaten zu dieser Entschädigung.
Martin Steiger: Weisst du, wann dieser Artikel überhaupt ins neue Gesetz gekommen ist? Ich weiss natürlich, es gibt ein Vorbild in der Datenschutz-Grundverordnung, auch in der Europäischen Datenschutz-Konvention. Haben wir da so etwas bei diesem Thema drin? Man hatte schon Vorgaben, Aber auch bei deinem LinkedIn-Beitrag hast du geschrieben, dass der Artikel verloren gegangen sei, aber es sei Maschine-Learning damals schon eine grosse Sache gewesen, dass die Artikel absehbar werden würden. Kannst du da etwas dazu sagen?
Jens Kaessner: Also ohne zu fest in die Details zu gehen, ich war da so ein bisschen dabei zwischen 2012 und 2017. Und zeitweise fand man, der Artikel braucht es eigentlich nicht. Die beste Idee, die ich hatte, war, dass ich zwischen 2012 und 2017 dabei war. Und seitdem hat man gefunden, dass man Artikel nicht braucht. Und dann war es schon absehbar, dass Machine Learning in der Branche ein grosses Ding werden könnte. Und jetzt haben wir gedacht, der Artikel kann uns genau beim Machine Learning helfen. Und der ist wichtig. Und zudem, Ich meine, wir wollen ja auch, dass die EU das Schweizer Datenschutzrecht für angemessen hält, ein Angemessenheitsbeschluss macht. Und für das ist es so sinnvoll, dass wir ein ähnliches Datenschutzrecht haben wie die EU. Das ist noch ein Grund für so einen Artikel zu haben. Aber der Hauptgrund von mir war schon die Idee, dass Maschine Learning etwas kommt, das wirklich gross ist.
Martin Steiger: Ja, stimmt. Da ist noch eine Pendenz. Nehmen wir einen neuen Angemessenheitsbeschluss der Europäischen Kommission. Jetzt wird ein neuer Gesetz. Wir sind gespannt, was da kommt. Wir haben schon ein wenig über die Begriffe gesprochen. Bei dem KI-Thema interessiert mich immer, wie man selber mit diesen Begriffen umgeht. Gerade du als interessierte Person, als Fachperson. Eben, Machine Learning, KI, AI, Software usw. Verwendest du das Synonym? Oder sagst du, du redest bewusst nur von Machine Learning? Weil KI ist eigentlich nur ein Hype-Begriff. Oder wie gehst du damit Was ist richtig?
Jens Kaessner: Weil Leute von Machine Learning sprechen, höre ich eher zu. Weil Leute von AI sprechen, höre ich eher aus, blende es aus. Ich will den Dingen auf den Grund gehen. Häufig gehen die Leute, die von AI reden, den Sachen nicht so auf den Grund wie die anderen. Ich weiss nicht, wie siehst du das eigentlich? Würde mich jetzt mal wundern.
Martin Steiger: Ich schwanke da manchmal. Ein bisschen zu weit lang habe ich KI und AI nur in Anführungszeichen verwendet. Genau aus diesem Grund. Machine Learning oder eben auf Deutsch Maschinelles Lernen ist eigentlich schon der passende Begriff, finde ich. Oder eben, ich sage, Es ist auch nur eine Art von Software, mit der man Training führt, auch mit den Large-Language-Models, die sehr bekannt sind, dank ChatGPT und anderen GPT-basierten Modellen. Aber ich glaube, der Zug ist abgefahren. Den Begriff AI, KI, haben wir jetzt, ob wir wollen oder nicht. Wir können jetzt lange von Machine Learning reden, aber wir haben die freie Wahl. Wobei mir aufgefallen ist, dass du bei LinkedIn auch erst den KI-Gesetzesartikel geschrieben hast. Ich weiss nicht, ob der Beitrag gleich gut funktioniert hätte, wenn du gesagt hättest, irgendwie erst der ML-Gesetzesartikel.
Jens Kaessner: Ja genau, Und das finde ich einen ganz wichtigen Punkt. In dem Artikel vom Datenschutzgesetz, da ist nie eine Rede von KI. Und ich habe schon Erfahrungen mit solchen. Wenn man das Schlagwort nicht aufbringt, dann wird der Artikel nicht so eingeordnet in die Regel. Ich habe schon mal einen Artikel geschrieben, Artikel 45c des Fernmeldungsgesetzes, den kennt fast niemand. Aber es geht Cookies. Cookies kennt jeder. Aber bei der Gesetzgebung gilt die Regel, dass man keine Fremdwörter, keine Hype-Wörter brauche. Darum braucht man auch nicht so Hype-Begriffe. Niemand weiss das nachher einzuordnen. Darum ist es mir ein Anliegen, bei der automatisierten Einzelentscheidung klar zu sein, dass es auch KI geht. Das finde ich wichtig.
Martin Steiger: Das stimmt natürlich. In Artikel 21 steht nichts von KI, auch nichts von Machine Learning. Es steht tatsächlich so, man definiert automatisierte Einzelentscheidungen. Da müssen wir nicht gross einsteigen. Man kann nachlesen, was im Artikel steht. Man kann auch den Show Notes verlinken. Es gibt Kommentare usw. Es gibt auch Ausnahmen und Diskussionen, was darunter überhaupt fällt. Bisher ist man in den Kommentaren eher restriktiv, was darunter fallen soll. Das muss natürlich auch getestet werden. Und ja, Jens, ein sehr interessanter Hinweis auf Artikel 45c, Daten auf fremden Geräten, also im FMG-Fernmeldegesetz. Heute hat man in der Datenschutzaktion häufig kleine Textdateien. Von dem sind wir schon recht lange abgekommen. Oder man denkt noch immer an Sätze von Cookies, aber nicht daran, dass noch andere Daten auf fremden Geräten sind. Dass man auch alleine das Auslesen darunter fallen kann. Für all die, die sich mit dem befassen wollen. Man hat eben Cookies, obwohl es vielleicht gar keine Cookies mehr sind, sondern ganz andere Sachen. Da ist auch der Zug abgefahren. Da kann man lange sagen, neben Cookie-Banner, ja, Content-Banner und so, das sieht man vielleicht noch häufiger. Aber da etablieren sich einfach so Begriffe, die man da hat. Jens, vielleicht noch eine Frage, jetzt unabhängig vom Gesetz, wenn man schon von Machine Learning oder eben halt AIK einredet, setzt du dann so Mittel auch schon ein? Privat oder vielleicht auch beruflich?
Jens Kaessner: Ja, privat schon. Beruflich noch nicht so. Es ist dann noch ein bisschen blöd als Jurist. Du willst nicht nur das, was am meisten im Internet erwähnt ist. Ich finde, eine gute Vorstellung von diesen Large-Language-Models ist so wie Lossy Compression. Ich tue nichts. Genau. Es gibt einfach Das weiter, was die meisten Leute denken. Wir hatten zum Beispiel einen, der uns geschrieben hat, ob es eigentlich diesen und diesen Gesetzesartikel gibt. Wir sagten, nein, diesen gibt es nicht. Er hat gesagt, ja. Weil der ChatGPT hat mir gesagt, dass es diesen gibt. Super. Das ist dann für unsere Arbeit nicht so hilfreich.
Martin Steiger: Ja, genau. Das sind die Blamagen. Wenn man als Anwalt das vielleicht nicht merkt, sind auch schon viele Medien öffentlich geworden, dass da eben halt Sachen erfunden worden sind. Wobei am Schluss ist das einfach eine Qualitätsfrage. Also wenn ich sonst Quellen nutze, muss ich auch prüfen, stimmt das? Oder es geht mir ab und zu oder man merkt, die Quelle ist nicht überprüft worden. Man hat die einfach übernommen, aus der Fussnode, da kann es ja auch Fehler geben. Du hast jetzt noch den Begriff von dieser Lossy Compression erwähnt. Ich habe ein wenig geknickt und ein wenig geschmunzelt. Ich weiss nicht, ob das alle, die uns jetzt zuhören, verstehen. Ich verlinke Ihnen dann auch etwas, da finden wir sicher einen Wikipedia-Artikel, der das beschreibt. Aber ich würde es vielleicht so zusammenfassen, Jens. Lossy Compression, eben typisch für das Bild. Beispiel, man reduziert eigentlich Datenmengen so weit, dass das Bild einfach noch genug sichtbar ist. Aber Filmen ist dann nicht mehr so. Dann haben wir halt stark komprimiert. Dann gibt es ein Artefakt und man sieht gar nichts mehr. Für mich das bekannteste ist das JPEG-Format.
Jens Kaessner: Ja, genau. Du spiecherst nicht alles, du machst es einfacher, aber du kannst nicht mehr zum Original zurück, weil du schon Details verloren hast.
Martin Steiger: Das wäre bei Machine Learning oder KI die Frage der Quellen, vielleicht auch des Urheberrechts. Aber wir sind ja in der Datenschutz-Plauderei. Machen wir das vielleicht anders, in einem anderen Format. Zum Glück. Du sagst, wir können nicht alle Probleme der Welt lösen. Ja. Jens, vielen Dank, dass du dir Zeit genommen hast. Ich weiss das sehr zu schätzen. Ich hoffe, Artikel 21 der DSG bekommt jetzt mehr Aufmerksamkeit. Die hat er nämlich verdient. Dass man jetzt im Hinterkopf behaltet, eben hey, wir haben schon eine KI-Regulierung in der Schweiz. Ja, noch nicht den ganz grossen Wurf, aber wir haben mal angefangen und mit dem können wir jetzt arbeiten.
Gibt es weiterhin freien Datenverkehr zwischen der EU und der Schweiz?
Bild: Microsoft Bing Image Creator.