In dieser Episode bei Turtlezone Tiny Talks...
Michael:Ein Politiker sagt etwas, das er nie gesagt hat. Eine Nachrichtensprecherin moderiert eine Sendung, die sie nie aufgezeichnet hat. Ein CEO veröffentlicht ein Video, das vollständig von einer KI erzeugt wurde und Millionen Menschen können den Unterschied kaum noch erkennen.
Oliver:Und genau deshalb führt die Europäische Union ab August 2026 neue Transparenzpflichten für KI Inhalte ein. Was zunächst nach einer einfachen Regel gegen Deepfakes klingt, entwickelt sich allerdings zu einer der spannendsten Debatten rund künstliche Intelligenz überhaupt.
Michael:Ja, Oliver, denn plötzlich geht es nicht mehr nur offensichtliche Fälschungen. Es geht vielmehr die Frage, was ist eigentlich noch echt? Wenn eine KI auf einem Gruppenfoto geschlossene Augen öffnet, ist das noch Bildbearbeitung oder ist das bereits eine kennzeichnungspflichtige Manipulation?
Oliver:Und wenn ein Hörbuchsprecher seine eigene Stimme klont und damit ein neues Hörbuch produziert, ist das dann wirklich schon ein Deepfake? Und wenn ein Moderator seine eigene KI Stimme verwendet, einen Podcast anzusprechen, wen täuscht der da
Michael:bitte eigentlich? Ja, Oliver, noch spannender wird es bei so Sachen wie Satire oder all dem, was sich so nennt, denn der UAI Act ausdrücklich satirische und künstlerische Inhalte. Und da haben ja schon einige Erfahrungen in der Vergangenheit mitgemacht, was das im dehnbaren Begriffskontext so alles bedeuten kann. Und im Sinne der Kunstfreiheit, so betonst Du ja als Jurist immer schon, seitdem ich dich kenne, sicher zurecht ist das manchmal etwas flexibel, aber es sind ausgerechnet jene Inhalte, also die häufig besonders täuschend echt wirken und in Zeiten von Social Media nicht sicher als Satire erkannt werden.
Oliver:Und dann gibt es eben noch die technische Seite. Der Gesetzgeber fordert maschinenlesbare Kennzeichnung. Doch was passiert, wenn ein einfacher Screenshot genau diese Metainformationen dann wieder entfernt?
Michael:Ja, geht es wirklich also nur Transparenz oder beginnt hier eine viel größere Debatte darüber,
Oliver:wie wir künftig Authentizität, Vertrauen und digitale Kommunikation definieren sollten? Genau darüber sprechen wir heute. Michael, es geht Artikel 50 des EU AI Act und es betrifft uns alle. Das wird spannend, also unbedingt dranbleiben, denn gleich geht's los.
Oliver:Herzlich willkommen zur Episode einhundertsechsundneunzig der Turtlezone Talks, diesmal wieder in Zusammenarbeit mit dem KI Expertenforum. Es geht die Transparenzpflichten des Artikel 50 vom EU AI Act, die Anfang August in Kraft treten. Und wir greifen heute einen aktuellen Artikel vom KI Expertenform auf, das wichtige Thema zu vertiefen.
Michael:Ich freu mich auf jeden Fall drauf. Oliver, servus. Auch von mir ein herzliches Hallo an unsere Hörerinnen und Hörer und natürlich auch an die Leser vom k-i-Expertenforum. Am Mikrofon begrüßt Sie wie immer Michael Gebert. Und Oliver Schwartz.
Michael:Oliver, wir müssen natürlich noch mal alle Hörer ein bisschen abholen, denn bei diesen ganzen EU Verordnungen und so weiter, das ist jetzt nicht leicht verdauliche Ware für so jedermann, der gerade hier vom Thromben kommt, von Claude und all den anderen Tools. Also ja, als ich dann deinen Artikel gelesen habe, dachte ich zunächst, klingt doch vernünftig, denn Deepfakes sollen gekennzeichnet werden. Also wo ist denn das Problem?
Oliver:Dieser Gedanke, Michael, ist völlig verständlich, denn wenn man den Begriff deepfake hört, hat man sofort Bilder vor Augen. Ein Politiker sagt etwas, das er nie gesagt hat. Ein CEO kündigt einen Börsenschritt an, den es nie gab. Ein Prominenter wird in kompromittierende Zähnen montiert. Darüber müssen wir eigentlich gar nicht diskutieren.
Michael:Ja, lass es nicht Coline Fernándes hören, aber ich weiß, was Du meinst. Da dürfte es einen gesellschaftlichen Konsens, glaube ich, für diese Regulierung geben. Absolut. Die spannende Frage beginnt immer dort, wo die Fälle eben nicht mehr eindeutig sind.
Oliver:Und genau dort landet man sehr schnell, wenn man Artikel 50 als Jurist wirklich liest.
Michael:Okay, das heißt, die eigentliche Debatte dreht sich gar nicht die krassen Deepfakes, die wir jetzt mal ansatzweise versucht haben, beschreiben.
Oliver:Genau. Bei dem, was Du krasse Deepfakes nennst, haben wir bislang oft eine Diskrepanz zwischen dem gesellschaftlichen Konsens und der rechtlichen Bewertung und Verfolgbarkeit gab. Das hat der europäische Gesetzgeber natürlich zu Recht auch immer vor Augen. Aber das ist nicht der Knack- oder Streitpunkt bei den neuen Regelungen des Artikel 50. Die eigentliche Debatte beginnt bei den 1000 alltäglich KI unterstützenden Anwendungen, die heute schon in Smartphones, Bildbearbeitung, Podcasts, Videos und Social Media stecken.
Oliver:Spannend, ja. Also ich mein, da war ich ganz ehrlich gesagt, wenn ich
Michael:mir das mal bei mir anschaue, dann weiß ich ja gar nicht, ist da KI schon am Werk gewesen oder nicht? Ich hab jetzt ja ein Android Telefon und da ist ja auch Google Foto drauf und wir wissen ja beide, Google ist da ja 1 der auch führenden Unternehmen, die wild da rein investieren und alles ja KI konform beziehungsweise KI gerecht gestalten worden. Also machen wir es mal konkret. Ich habe ein Gruppenfoto gemacht und eine Person hat die Augen geschlossen. Passiert ja oft.
Michael:Und die KI öffnet jetzt die Augen und sorgt dafür, dass alle wunderschön in die Kamera schauen, lächeln und Spaß haben. So muss ich jetzt dann künftig mit einem KI Hinweis hier dieses Foto deutlich kennzeichnen.
Oliver:Genau solche Beispiele, Michael, zeigen das Problem. Juristisch ist das überraschenderweise schwer zu beantworten, denn technisch betrachtet wurde das Bild manipuliert. Die Augen waren ja ursprünglich geschlossen.
Michael:Ja, andererseits würde man natürlich denken, dass jeder sagt, ja, das Foto ist dadurch ja schöner, richtiger geworden. Alle Beteiligten auf dem Foto freuen sich, dass sie möglicherweise auch noch bisschen flotter aussehen und die Augen offen haben, denn eigentlich haben sich ja dann auch, wie so oft bei diesen Fotos, alle, die
Oliver:auf dem Foto sind, das perfekte Bild gewünscht. Genau. Die Situation ist sogar authentischer geworden als das Originalfoto. Und plötzlich merkt man, die Kategorien echt und manipuliert reichen nicht mehr wirklich aus.
Michael:Ja, ich hatte es ja vorhin schon erwähnt, am Ende des Tages, also wir sind ja kurz hier auch vor dem großen Apple Event, was da so kommen wird im September und da stellen die bestimmt viel vor. Und ich kann mir vorstellen, dass das, was wir jetzt schon als Funktion praktisch in jedem Smartphone und jeder Kamera sehen, noch deutlich ausgebaut wird. Und all die zusätzlichen neuen Digitalkameras und auch die zusätzlichen hintendran verlaufenden im Backoffice quasi vielen Softwarewerkzeuge, das sind Funktionen, die sind ja Gang und Gebe mittlerweile. Das ist Default Einstellung. Da braucht man auch kein besonderes Kraftsmanshift als Software Engineer, das einzustellen, glaube ich.
Oliver:Ja, seien wir mal ehrlich, das werden unsere Hörerinnen und Hörer kennen. Es gibt auf dem Markt draußen Hunderte KI Softwaretools, die sich damit rühmen, wie viele Dutzende oder teilweise sogar mehrere Hunderte Funktionalitäten sie haben, Bilder entsprechend zu bearbeiten, Tattoos zu entfernen, vielleicht eine Uhr hinzuzufügen, die Farbe der Kleidung zu ändern und, und, und. Und all das muss man jetzt unter den Bestimmungen des Artikel 50 natürlich bewerten. Also insofern, Michael, richtig. Und genau deshalb warnen viele Experten inzwischen vor 1 Überdehnung des Deepfake Begriffs.
Oliver:Wenn jede KI gestützte Veränderung ein Deepfake wäre, müssten wir ja wirklich in Zukunft fast jedes moderne Foto kennzeichnen.
Michael:Ja, also ich glaube, das ist natürlich 'n Irrsinn, weil so wie sich das ja anhört, ist ja wieder eine EU eigene Richtlinie. Was ist denn mit den ganzen Bildern, die eben nicht aus den EU kommen und von woanders her kommen? Aber dann verliert letztendlich ja jegliche Kennzeichnung ihren Sinn, oder? Exakt.
Oliver:Dann würden wir irgendwann dieselbe Entwicklung sehen wie bei Cookiebannern. Jeder klickt nur noch weg. Lass mich an dieser Stelle, Michael, aber noch mal betonen, dass wir gerade ja mit bewusst einfachen Beispielen versuchen, in das Thema einzusteigen. Bevor jetzt Juristenkollegen nervös werden, die uns vielleicht auch zuhören. Hier eine kurze Ergänzung.
Oliver:Der politische Ausgangspunkt war natürlich primär ein Täuschungs- und Vertrauensschutz. Doch sobald man den Gesetzestext genauer betrachtet, wird deutlich, dass der AI Act nicht nur offensichtliche Deepfakes reguliert. Die Formulierungen sind bewusst technologieneutral gehalten und dadurch erheblich weiter. Und genau darin liegt das eigentliche Problem. Die öffentliche Debatte über KI Manipulation arbeitet häufig ja mit sehr klaren Kategorien, schwarz weiß, echt oder fake.
Oliver:Die Realität moderner Medienproduktion sieht jedoch längst völlig anders aus. Und der EU AI Act versucht, diese Problematik über eine zentrale Ausnahme einzugrenzen. Artikel 50 sieht nämlich vor, dass keine Kennzeichnungspflicht besteht, wenn KI Systeme lediglich unterstützende Funktionen ausführen oder die Semantik der Inhalte nicht wesentlich verändern. Aber genau diese Formulierung dürfte zu 1 der wichtigsten Auslegungsfragen der kommenden Jahre werden, denn der Begriff der wesentlichen semantischen Veränderung bleibt natürlich wie so oft in Gesetzestexten weitgehend undefiniert.
Michael:Kommt also einiges auf uns zu und ja, ich denke mal, das war sehr wichtig erst mal für eine 1. Einordnung. Erstmal danke dafür, Oliver. Steigen wir also mal weiter in das Thema ein. Und auf dem KI Expertenforum gibt es ja mittlerweile bereits eine ganze Reihe von Fachartikeln von dir zum Thema synthetische Stimmen.
Michael:Und dieses Stimmencloning funktioniert ja mittlerweile erstaunlich und erschreckend gut. Ja, heute habe ich auch wieder einen Anruf bekommen, einen Fake Anruf von PayPal, der also mir gesagt hat, es wäre eine Überweisung gesperrt worden. Natürlich war es einen Spam Anruf. Also man sieht, das wird in alle Richtungen verwendet, aber ja, wenn ich jetzt sage, täuschend echt, sind wir wieder richtig drin beim Thema Transparenzregeln und Kennzeichnungspflicht, genau diese und solche Täuschungen zu verhindern.
Oliver:Absolut. Ich halte das Stimmencloning für eine große Regulierungsherausforderung und einen zentralen Aspekt, weil Stimmen eine enorme psychologische Wirkung haben. Wir verbinden Stimmen automatisch mit 1 Person, mit Identität und mit Authentizität. Mit Stimmen kann ich besser täuschen und manipulieren als mit jedem Video und jedem Foto.
Michael:Ja, und wir müssen, glaube ich, hier auch noch mal beachten, wir haben nicht alles mit AI Cracks zu tun und es gibt auch Personengruppen, die noch zwar ein Handy haben, aber das wirklich nur zum Telefonieren benutzen und da ist die Stimme natürlich, primärer Bestandteil des Nutzungsverhaltens. Und wenn da nicht mehr eine Unterscheidung stattfindet, dann haben wir da wirklich Thema, was deutlich schwerwiegender ist, als wir uns alle, glaube ich, vorstellen können. Aber nehmen wir mal 'n Hörbuchsprecher. Ja? Der ein oder andere mag Audiobuchs, wir beide mögen Audiobuchs und jetzt der Hörbuchsprecher trainiert eine KI mit seiner eigenen Stimme, zum Beispiel professionell mit 1 Firma wie ElevenLabs.
Michael:Da gibt's ganz viele, aber nehmen wir mal die Firma und die KI liest anschließend dann neue Hörbücher in, ja, im Auftrag, könnte man sagen, des professionellen Hörbuchsprechers ein. Ja, wo liegt denn jetzt eigentlich der Schaden und wo ist die Täuschung?
Oliver:Und es ist einfach nur Effizienzthema. Danke Michael für das Beispiel. Das ist genau der Punkt. Die politische Debatte richtete sich ursprünglich gegen Identitätsmissbrauch. Der professionelle Sprecher in unserem in deinem Beispiel eben missbraucht hier aber niemanden.
Oliver:Er nutzt ja seine eigene Stimme.
Michael:Ja, und wie so oft, ich mein, jetzt machen wir ja Digitalthemen ja jetzt schon mittlerweile seit fast über 30 Jahren, dann ist es halt ja mal, ein neues Produktivitätswerkzeug, ein neues digitales Tool, so würd ich's mal einkategorieren bei mir zumindest.
Oliver:So sehen es ja auch viele Experten und viele Juristenkolleginnen und -kollegen. Klar, bereits wenige Sekunden Sprachmaterial reichen heute aus, täuschend echte Stimmen zu synthetisieren. Das Missbrauchspotenzial ist offensichtlich. Fakeanrufe, wie Du sie grad von PayPal geschildert hast, CEO Fault, gefälschte Statements oder synthetische Interviews standen ja deshalb politisch auch zurecht stark im Fokus des Gesetzgebers. Gleichzeitig wird dieselbe Technologie inzwischen aber auch völlig legitim eingesetzt.
Oliver:Und diese Fälle differenziert der Artikel 50 des EU AI Act nicht besonders deutlich. Der AI Act unterscheidet nur unzureichend zwischen identitätstäuschendem Missbrauch und autorisierter professioneller Nutzung. Und seien wir mal ehrlich, Amateurdeepfakes werden vermutlich in der Mehrheit nicht transparent gekennzeichnet werden in Zukunft, während professionelle Medienakteure plötzlich Gefahr laufen, sich in regulatorischen Grauzonen zu bewegen.
Michael:Ja, und glaub ich, das Thema abmahnen haben wir da auch noch mal drin. Und wir kommen jetzt dann, wenn das wirklich so läuft und wir sind ja, ja, das August erwähnt, kurz davor in eine extrem paradoxe Situation, denn die gefährlichen Missbrauchsfälle werden immer einfacher im Sinne von Umsetzung, Ausführung und auch ja, mal drauf reinzufallen und die seriösen Anwendungsfälle werden rechtlich unsicherer.
Oliver:Das ist tatsächlich 1 der zentralen Kritikpunkte, wobei Kritik klingt ja immer so, als wär das Gesetz falsch. Das sehe ich überhaupt nicht so. Aber diese sehr offenen Formulierungen, für die man sich im Übrigen bewusst entschieden hat und die Fachdebatte darum, wird in 1 größeren Debatte münden, wenn die Auswirkungen in der Breite erst einmal offensichtlich werden. Und zumindest hier in Deutschland gehen wir damit ja traditionell immer, ja, sehr zögerlich Vermutlich sind wieder alle sehr überrascht am zweiten August und die üblichen Gurus versuchen dann wieder Unsicherheit und Ängste zu schüren und daraus ein Geschäft zu machen.
Michael:Ah, also das die ersten Webinaranbieter in 60 Minuten zum astrein deep fake und mündelt sicher wird's bestimmt dann schnell geben, aber ja, damit ist zu rechnen. Und ja, die Tragik ist ja, dass es immer wieder gleich läuft. Aber ja, ein Punkt hat mich jetzt ganz besonders in unseren Ausführungen in ihrem bisherigen Dialog überrascht, denn ausgerechnet Satire bekommt hier jetzt eine Sonderrolle. Und ich mein, wir haben ja in unseren politischen Satirethemen, da haben wir auch schon oft drüber geredet, die kann man ja dehnen, solang man will und teilweise ist auch extrem grenzwertig. Und genau das wirkt zumindest bei mir auf den ersten Blick völlig widersprüchlich, weil ja Satire oft bewusst als Stilmittel täuscht.
Michael:Ja, und längst auch mit KI Hilfe zusammen.
Oliver:Genau, Michael. Politische Satire lebt teilweise davon, journalistische Realitäten nachzuahmen. Fake News Shows kennen wir ja alle, machen das ja schon lange. Und ganz klar, Kunstfreiheit ist ein hohes Gut und die Sonderrolle von Satire ist überhaupt nicht überraschend, sondern das stand halt auch ganz oben auf der Agenda im Trilogverfahren. Es ist einfach konsequent.
Oliver:Das Problem liegt woanders. Der AI Act privilegiert ausdrücklich satirische, kreative, künstlerische und fiktionale Werke und will dies politisch auch so. Alles gut. Die EU wollte verhindern, dass Transparenzpflichten, Kunstfreiheit oder politische Satire faktisch unmöglich machen. Aber heute nehmen eben auch Aktivisten und Influencer für sich in Anspruch, satirisch unterwegs zu sein.
Oliver:Das ist genauso problematisch wie der Habitus, das heutzutage alle Aktivisten und Influencer bei Bedarf immer sehr, sehr gerne als Journalisten gelesen werden wollen. Hinzu kommt, früher, da erinnern wir uns ja noch alle dran, kannte man Kabarett und Satiresendung. Heute sieht man aber auf TikTok oft nur einen 10 oder 20 Sekunden Ausschnitt und meistens auch ganz ohne Kontext.
Michael:Ja, und und am Ende des Tages sind diese Ausschnitte ja auch aus, wie Du sagst, aus einem Gesamtbild gerissen und damit wirken sie nicht nur real, sondern werden auch als Realität wahrgenommen und vielleicht auch ganz bewusst als solche gestreut. Und also da kommt was auf
Oliver:uns zu. Aber das heißt, Du sagst jetzt, ein satirischer KI Clip zum Beispiel kann ohne Kontext faktisch dieselbe Wirkung entfalten wie klassische Desinformation. Ohne Zweifel, zumindest kurzfristig. Und genau deshalb dürfte die Satireausnahme noch viele juristische Diskussionen auslösen. Der AI Act löst dieses Problem bewusst nicht vollständig.
Oliver:Statt harter Warnpflichten verlangt er bei Satire lediglich eine Offenlegung in geeigneter Weise, die die Wirkung des Werkes nicht beeinträchtigen darf. Im Sinne der Kunstfreiheit echter Satire absolut sinnvoll. Nur was ist echte Satire heutzutage? Auf Social Media ist das wirklich nicht mehr einfach zu beantworten.
Michael:Ja, spannend, Oliver. Auch da wirkt die paradoxe Situation, dass sich künftig in echten Kabarett- und Satiresendungen die Künstler Gedanken eine geeignete Kennzeichnung machen müssen. Aber die ganzen Manipulateure im Netz mit ihren Clips, die da immer wieder durch TikTok und Co durchscheinen, sich eben nicht darum kümmern werden oder bei Ärger dann laue Sortiere rufen. Die Aufgabe für die Plattformen wird nicht einfacher und da steht natürlich der Elefant auch bereits im Raum, die maschinenlesbare Kennzeichnung und genau darüber sprechen wir gleich.
Oliver:Absolut. Nach unseren Sponsorenhinweisen bleiben Sie unbedingt dran.
Michael:Wir sind wieder zurück, liebe Hörerinnen und Hörer und Sie hören jetzt die Episode 196 der Turtlezone tiny Talks und wir sprechen über die neuen Transparenzpflichten aus dem Artikel 50 des EU AI Acts. Oliver, die EU fordert maschinenlesbare Kennzeichnungen. Das klingt ebenfalls erst mal sinnvoll, oder? Absolut. Das Problem dabei ist nur die technische Realität.
Michael:Ja, Realität und EU Verordnungen, das sind 2, glaube ich, dann schon unterschiedliche Fässchen oft, aber weil die Informationen jetzt oft verloren gehen oder was sprichst Du da im Genauen an?
Oliver:Ja, teilweise reicht ja schon ein Screenshot oder ein Upload auf eine Plattform, dann verschwindet genau die Information, die erhalten bleiben sollte. Der Gesetzgeber verfolgt ihr eigentlich auch ein sehr legitimes Ziel. Die technische Umsetzung ist aber eben noch längst nicht wirklich lückenlos gelöst. Viele Juristenkollegen interpretieren Artikel 50 derzeit daher eher so als eine, wir nennen das Bemühens- oder Sorgfaltspflicht und nicht als eine Garantie dauerhaft manipulationssicherer Kennzeichnung. Dabei gibt es ja seit Jahren spannende Ansätze.
Oliver:Der Gesetzgeber wollte insofern auch ausdrücklich Raum schaffen für mehr als bloße Disclaimer oder Bauchbinden. Ziel war ein technisches Herkunftssystem für KI Inhalte mit Metadaten, Wasserzeichen, digitalen Signaturen. Und im Zentrum der Debatte steht dabei insbesondere der Standard der. Die Idee dahinter ist, dass KI Inhalte entlang so der gesamten digitalen Lieferkette identifizierbar bleiben sollen. Das kann man sich bisschen wie bei der Blockchain vorstellen.
Oliver:Ein Teil der Industrie arbeitet übrigens bereits seit Jahren an der Umsetzung davon.
Michael:Ja, und das ist ja genau der Punkt, ein Teil, also Firmen wie jetzt zum Beispiel Leica, Canon und Adobe, aber eben nur ein Teil.
Oliver:Absolut und viele weitere noch mehr. Das ist durchaus schon eine lange Liste. In 1 journalistischen Prozesskette kann dies sogar schon eine große Hilfe sein, aber solange die überwiegende Mehrheit der endlosen Software und KI Tools und natürlich auch Plattform kein Mitglied dieser Koalition sind, genügt wie gesagt ein kleiner Schritt und schon sind alle revisionssicher eingebundenen Metadaten über KI Mitwirkung verschwunden. Dadurch entsteht halt einfach eine erhebliche Spannung zwischen regulatorischem Anspruch und technischer Realität.
Michael:Ja, wenn Du also dann deine gesamte Recherche auf einen Gedanken reduzieren müsstest, ja, worum geht es eigentlich wirklich?
Oliver:Ja, der Ausgangspunkt ist, das ist eine Regulierung für Deepfakes. Das hast Du ja am Anfang auch direkt betont. Richtig und wichtig, doch schnell bekommt man das Gefühl, eigentlich reden wir über etwas viel Größeres, nämlich über die Zukunft von Authentizität. Über die Frage, ja, lass die mich mal so formulieren, was bedeutet überhaupt nur echt, wenn KI immer stärker Bestandteil jeder Kommunikation wird?
Michael:Ja, also bei all den Events, die ich jetzt aktuell verfolge und Sie wahrscheinlich auch da draußen, liebe Hörerinnen und Hörerinnen, dann ist ja KI der große Gralsbringer in allen Tools und nicht nur integriert, sondern so integriert, dass wir es teilweise gar nicht mehr aktivieren müssen. Ob Transparenz alleine genügt, das Vertrauen zu erhalten, mache ich mal ein ganz großes Fragezeichen dran, Oliver, oder?
Oliver:Genau. Die Frage in Zukunft lautet wahrscheinlich nicht, ist dieser Inhalt KI generiert, sondern vielmehr ist nachvollziehbar, wie dieser Inhalt entstanden ist und entsteht daraus eine relevante Täuschung. Noch mal zur Erinnerung, Artikel 50 sieht ja vor, dass keine Kennzeichnungspflicht besteht, wenn KI Systeme lediglich unterstützende Funktionen ausführen oder die Semantik der Inhalte nicht wesentlich verändern. Aber genau diese Formulierung dürfte zu 1 der wichtigsten Auslegungsfragen, ja, zumindest der kommenden Jahre werden. Ja, die wir in Europa führen müssten, nicht nur auf dem Kontinent, sondern weltweit.
Oliver:Und genau deshalb beginnt ja die Debatte über Artikel 50 vermutlich gerade jetzt und jetzt erst. Davon bin ich fest überzeugt und das ist auch wichtig und richtig, die EU Kommission selbst, das gehört einfach zur Vollständigkeit auch mit dazu, hat auch schon einen Entwurf für einen Verhaltenskodex vorgelegt und will, so das Versprechen, noch vor dem Inkrafttreten im August finalisierte Empfehlung veröffentlichen.
Michael:Ja, spannend. Ich mein, das ist natürlich auch, wissen wir aus der EU Arbeit, Oliver, auch immer ein Kompromiss, der sich da ja finden muss. Und ob dieser Kompromiss dann ausreicht, wird sich zeigen. Und wieder einmal kommt auch den Portalen eine sehr, sehr wichtige Aufgabe zu, die aber natürlich auch zu einem starken Eingriff in die Rechte von Creatoren und auch Nutzern führen könnte.
Oliver:Absolut. Ich mein, wir haben in der politischen Debatte oft so, dass das Fingerpointing auf die Plattform ist im Sinne von, die haben die Verantwortung, alles zu kontrollieren, was die User als Creator uploaden. Das ist juristisch auch in vielen Punkten auch durchaus so herbeileidbar. Aber wir haben natürlich noch ganz andere Problematik, dass die Plattformen an sich eben nicht nur eine neutrale Rolle spielen, sondern sehr wohl auch sich selber in Position bringen. Und Youtube löscht derzeit in großem Stil Konten und Kanäle, da Creator mit den neuen Spielregeln, die auch wirklich nicht so einfach zu verstehen sind, fremdeln oder diese einfach nicht wirklich durchdringen.
Oliver:Und TikTok geht sogar noch Schritt weiter und macht gerade einen Deal mit dem Musikmultiuniversal und verbannt erfolgreiche KI Musik, die nicht von Universal genehmigt ist von der Plattform. Und das wird immer so weitergehen. Plattformen werden sich im europäischen Markt nicht wegducken können und werden teils überzogene KI Regeln durchdrücken, selber rechtlich weniger angreifbar zu sein, aber teilweise eben auch aus eigenen strategischen Überlegungen heraus. Und all das betrifft dann überwiegend nicht die von dir eingangs erwähnten krassen, bösen Deepfakes, sondern vor allen Dingen Inhalte, die völlig legal sind, im Prinzip auch den Communitystandards entsprechen, bei denen aber die Bewertung der Rolle der KI bei der Erstellung nicht so klar zu erkennen ist, zumindest nicht für eine automatisierte Prüfung. Und seien wir doch mal ehrlich, KI zensiert dann in Zukunft KI Inhalte und das wird zumindest anfangs mit Sicherheit noch zu vielen Problemen führen.
Oliver:Und die an sich sinnvolle Kennzeichnung, ich bin da ein großer Freund von, wird bei Inhalten erzwungen, bei denen sie vielleicht gar nicht notwendig und hilfreich ist. Und viele der wirklichen manipulativen Inhalte, die werden vermutlich so durch dieses Netz durchrutschen und werden alles dransetzen, die neuen Pflichten auszutricksen.
Michael:Es ist wird definitiv spannend und da hängen natürlich auch Existenzen dahinter, teilweise auch Netzwerke, die ja nicht nur Umsatz damit machen, sondern eben auch ihr Business damit aufgebaut haben, weil die Frage ist ja jetzt nicht nur Inhalte zu transportieren, die KI generiert sind auf persönlichen, politischen, gesellschaftlichen Ebene, sondern auch produktbasierte Inhalte. Da fällt ja viel rein, wenn man das nicht mal ein bisschen nachdenkt. Und dennoch summa summarum würdest Du sagen, bist Du kein Gegner der Regulierung, oder?
Oliver:Nein, die entscheidende Frage wird sein, wie sich Innovation, Transparenz, Vertrauen und Verantwortung in Einklang bringen lassen. Moderne KI bewegt sich längst in einem Kontinuum zwischen Optimierung, kreativer Erweiterung und tatsächlicher Manipulation. Umso wichtiger werden klare Regeln, nachvollziehbare Verantwortlichkeiten und transparente Kommunikation. Da bin ich fest von überzeugt. Die Debatte die Auslegung des Artikels 50, die ist wichtig.
Oliver:Genauso wertvoll sind aber die gesetzlichen Transparenzpflichten. Ohne diese wäre das Vertrauen der Nutzer content, glaube ich, schon bald unwiederbringlich verloren. Wir haben übrigens heute ja vor allem über die Absätze 2 und 4 des Artikel 50 vom EU AI Act gesprochen, also über synthetische Inhalte und über Deepfakes, weil es da nach meiner Einschätzung die größte Debatte und einen rechtlichen Auslegungsbedarf geben wird. Weiterhin regelt der Artikel 50 im Absatz 1 aber ja zum Beispiel noch so Dinge wie KI Telefonassistenten und ähnliche Service Spots für die direkte Interaktion. Und da glaube ich, ist unstrittig und auch schon gelebte Übung, dass diese transparent gekennzeichnet werden oder sich auch schon selber so melden, ich bin dein fröhlicher KI Telefonassistent, sprich mit mir.
Oliver:Und in Absatz 3 geht es KI basierte Emotionserkennung und biometrische Klassifizierung. Das wird schon deutlich haariger. Das nimmt im Trilogverfahren deshalb auch immer sehr viel Raum ein, da typischerweise hier der Schutz von Bürgerrechten auf die Interessen von Sicherheitsorganen prallt. Und vielleicht dann noch letzter Gedanke, ebenso wie man professionellen Contenterzeugern wie Medien ja in dem Gesetz entgegenkommen wollte, wenn diese KI erzeugte Inhalte redaktionell kontrollieren und auch verantworten, dass man dann von Kennzeichnungspflichten ausgenommen sein könnte, wird das Ganze bei diesem Thema Biometrie und Emotionserkennung, ja, da wird auch von angemessenen Garantien gesprochen, die es Behörden dann erlauben sollen, solche Technologie eventuell auch heimlich einzusetzen, wenn, und das ist die Voraussetzung, sie in Unionsrecht zur Aufdeckung, Verhütung oder Untersuchung von Straftaten zulässig sind. Da spielt natürlich dann auch der Datenschutz wieder eine gewichtige Rolle.
Oliver:Ein, ja, einfaches Malen nach Zahlen wird das alles in jedem Fall nicht. Und mein Tipp für alle, die da noch bisschen tiefer eintauchen wollen, sind eben diese Entwürfe für Verhaltenskodezes der EU Kommission.
Michael:Also starkes Schlusspfazit Oliver, danke dafür und wir werden noch mal den Verweis natürlich aufs KI Expertenforum auch geben, wo alles alles noch mal drinsteht und freuen uns dann auch nicht nur hierüber, sondern mal zu begleiten, wie das Thema jetzt in der Eröffnung dann auch wirklich exekutiert wird und nach der Eröffnung, nach August dann sich entwickelt. Denn glaube mal, da ist noch definitiv viel Musik drinnen, möglichst nicht KI generierte. Ja, wenn Ihnen, liebe Hörer und Hörern, die heutige Episode gefallen hat, finden Sie natürlich den vollständigen Artikel meines Kollegen Oliver Schwartz in unserem Onlinemagazin KI Expertenforum. Da gibt's auch noch viele andere Artikel, aber genau den, den es hier gerade geht, ist da in kompletter, ja, epischer Länge auch ausgeführt mit auch entsprechenden Links zu zusätzlichen Informationen.
Oliver:Ja, und den Link eben genau zu dem Forum, zu den Artikel finden Sie in den Shownotes ebenso wie dann auch ein Link zu den Drafts der Empfehlung der EU Kommission.
Michael:Wir danken Ihnen für Ihr Interesse. Wir danken Ihnen dafür, dass Sie weiterhin wahrnehmen, dass Sie hier 2 echte Stimmen hören, denn die sind nicht KI generiert. Und wir freuen uns auf ein Wiederhören in der nächsten Sendung. Das ganze Backrepertoire spannender Themen, wo wir beide, der Oliver und ich, immer wieder auch erstaunt sind, was wir schon für tolle Sachen besprochen haben, finden Sie in unserer Mediathek.
Oliver:Und wie immer gilt, Ihr Feedback zum Thema der heutigen Episode ist herzlich willkommen per E-Mail, per WhatsApp oder als Sprachnachricht. Es verabschieden sich am Mikrofon Oliver Schwartz.
Michael:Und Ihr Michael Gebert. Bis zum nächsten Mal.