## Pfadnavigation 1. [ Startseite ](/) 2. [ Kollegin KI ](/podcast/kollegin-ki) 3. Autonome Agenten, Deepfake-TV und KI-Regulierung # Autonome Agenten, Deepfake-TV und KI-Regulierung **Podcast:** [Kollegin KI](/podcast/kollegin-ki) **Erscheinungsdatum:** 18. September 2026 **Länge:** 00:09:43 [ Link zur Episode (extern) ](https://kollegin-ki.podigee.io/76-snackbox) ![Deepfake-TV, cyberkriminelle Agenten, Frontier-Lab-Regulierung | Snackbox KW38](https://www.botcaster-production.undpaul.work/sites/default/files/styles/podcast_n_episode_metadata_image_1x/public/2026-09/8eacbf6f-8b45-4489-b04c-b8ec1f3974f6.jpg.webp?itok=IxAKomqF) ### Deepfake-TV, cyberkriminelle Agenten, Frontier-Lab-Regulierung | Snackbox KW38 18. September 2026 · [Kollegin KI](/podcast/kollegin-ki) Autonome KI-Agenten, die Straftaten begehen, Deepfakes in deutschen Gerichtsshows und der Ruf nach einer globalen KI-Behörde - die KI-Woche warf grundlegende Fragen zu Sicherheit und Ethik auf. In der Snackbox KW38 des Podcasts *[Kollegin KI](https://www.botcaster.de/podcast/kollegin-ki)*, produziert von Podstars by OMR, fasst Host Max Mundhenke die wichtigsten Entwicklungen zusammen. Diese kurzen Wochenrückblicke bieten einen schnellen, aber tiefgehenden Überblick über mehrere aktuelle Themen, ohne einen künstlichen roten Faden zu spinnen. Ziel ist es, die Hörerinnen und Hörer praxisnah zu informieren und Berührungsängste gegenüber den rasanten Veränderungen im KI-Bereich abzubauen. ## Das Wichtigste auf einen Blick - **Erste autonome Cyberkriminalität:** In Spanien wurde erstmals offiziell ein Fall gemeldet, bei dem ein KI-Agent weitgehend selbstständig einen Cyberangriff auf ein Unternehmen verübt haben soll. - **Deepfakes im TV:** RTL experimentiert mit generativer KI, um aus alten Folgen der Gerichtsshow Ulrich Wetzel neue Handlungsstränge zu erschaffen. Das Fehlen einer Kennzeichnung im linearen Fernsehen löste eine Debatte aus. - **KI-Standort Deutschland gestärkt:** Das deutsche Startup Langdock verlegt seine US-Holding zurück nach Deutschland, um Bedenken von Unternehmenskunden bezüglich des US-Datenschutzes (Cloud Act) auszuräumen. - **Wachsende Sicherheitsbedenken:** Immer mehr Sicherheitsforschende verlassen große KI-Labore wie OpenAI und Google DeepMind, weil sie die Entwicklung der Technologie für unkontrollierbar und potenziell gefährlich halten. - **Ruf nach globaler Regulierung:** Als Reaktion auf die Sicherheitsdebatte fordern führende KI-Unternehmen nun selbst die Einrichtung einer internationalen Aufsichtsbehörde, ähnlich der Atomenergiebehörde. ## Cyberkriminalität auf Autopilot: Der erste Fall eines KI-Agenten Ein Satz, der laut Max das KI-Zeitalter treffend beschreibt, ist What a time to be alive. Diesmal allerdings mit einem düsteren Unterton: Die spanische Datenschutzbehörde meldete einen Vorfall, der einen Wendepunkt markieren könnte. Ein Angreifer nutzte einen KI-Agenten, der auf einem bekannten großen Sprachmodell (LLM) basiert, um eine Straftat zu begehen. Der Agent agierte dabei laut der Meldung der betroffenen Organisation größtenteils autonom. Auch wenn der Fall noch untersucht wird und Details zum Modell oder zum Ziel des Angriffs geheim bleiben, ist die Nachricht alarmierend. Sie zeigt, dass die theoretische Gefahr durch KI-gesteuerte Cyberangriffe nun in der Praxis angekommen ist. Autonome Agenten können selbstständig Sicherheitslücken suchen und ausnutzen, was eine völlig neue Dimension der Bedrohung für Unternehmen und ihre Daten darstellt. ## Wie RTL per Deepfake alte Gerichtsshows neu erfindet Auch in der Medienwelt sorgt KI für Aufsehen. Max berichtet über ein Experiment von RTL, bei dem der Sender fünf alte Folgen der Gerichtsshow Ulrich Wetzel - Das Strafgericht mithilfe von KI umgestaltet hat. In Zusammenarbeit mit Constantin Entertainment wurden nicht nur Bilder nachbearbeitet, sondern ganze Handlungsstränge, Figurenbeziehungen und sogar die Urteile verändert. Mittels Deepfake-Technologie und Lip-Sync wurden neue Dialoge über das alte Bildmaterial gelegt. Während das technologisch faszinierend ist, wirft es rechtliche und ethische Fragen auf. Das Medienmagazin DWDL kritisierte, dass die Kennzeichnung als KI-generierter Inhalt im linearen TV-Programm komplett fehlte. RTL beruft sich auf eine Sonderregel im AI Act für fiktionale Werke. Max hebt jedoch eine wichtigere Frage hervor: Was geschieht mit den Rechten von Schauspielern und Drehbuchautoren, wenn bestehender Content per KI beliebig neu gemischt und wiederverwertet werden kann? ## Standortvorteil Datenschutz: Warum das KI-Startup Langdock in die Heimat zurückkehrt Inmitten der vielen beunruhigenden Nachrichten gibt es laut Max auch positive Entwicklungen, insbesondere für den KI-Standort Europa. Das deutsche Startup Langdock, oft als deutsches ChatGPT bezeichnet, verlegt seinen Firmensitz aus den USA zurück nach Deutschland. Langdock bietet eine Art Wrapper, der verschiedene LLMs datenschutzkonform für Unternehmen nutzbar macht. Die US-Holding, anfangs zur leichteren Kapitalbeschaffung gegründet, erwies sich als Hindernis. Unternehmenskunden äußerten wiederholt Bedenken hinsichtlich des möglichen Zugriffs von US-Behörden auf ihre Daten, ein Risiko, das durch den sogenannten Cloud Act entsteht. Mit der Rückkehr nach Deutschland und der geplanten Investition von 10-15 Millionen Euro in ein eigenes Rechenzentrum bis 2026 sendet Langdock ein starkes Signal für Datensouveränität und stärkt das Vertrauen in europäische KI-Lösungen. ## Brauchen wir eine internationale Atombehörde für Künstliche Intelligenz? Die Debatte um die Sicherheit von KI spitzt sich weiter zu. Nachdem bereits der Forscher Jacob Coxen OpenAI und Anthropic aus Gewissensgründen verlassen hatte, folgen ihm nun weitere Sicherheitsexperten von Google DeepMind. Ihre einhellige Warnung: Die Entwicklung sogenannter Frontier-Modelle laufe aus dem Ruder und die Technologie könne nicht mehr sicher kontrolliert werden. Diese Kündigungen von Insidern, die von einer existenziellen Bedrohung für die Menschheit sprechen, erhöhen den Druck auf die großen Tech-Konzerne. Diese reagieren nun mit dem Vorschlag, eine internationale Aufsichtsbehörde zu gründen, die nach dem Vorbild der Internationalen Atomenergiebehörde Lizenzen vergibt und die Entwicklung kontrolliert. Max äußert sich jedoch skeptisch gegenüber der plötzlichen Bereitschaft der Konzerne, auf die Bremse zu treten. Er vermutet, dass dies auch strategische Gründe haben könnte: Die Unternehmen sind noch nicht profitabel, und OpenAI hat gerade erst seinen Börsengang verschoben. Die Sicherheitsdebatte könnte ihnen daher gelegen kommen, um Zeit zu gewinnen. ## Was das für Dich bedeutet Die Themen dieser Woche zeigen, dass der praktische Einsatz von KI im Arbeitsalltag untrennbar mit neuen Herausforderungen verbunden ist. Für Dich bedeutet das vor allem, wachsam und informiert zu bleiben. Der Fall des kriminellen KI-Agenten macht deutlich, dass Cybersicherheit neu gedacht werden muss. Gleichzeitig fordert das RTL-Experiment eine kritische Auseinandersetzung mit Medieninhalten - die Grenze zwischen real und künstlich generiert verschwimmt zusehends. Die Entscheidung von Langdock unterstreicht wiederum die wachsende Bedeutung von Datenschutz und Datensouveränität bei der Auswahl von KI-Tools. Schließlich zeigt die Regulierungsdebatte, dass die Spielregeln für KI gerade erst geschrieben werden. Ein grundlegendes Verständnis dieser Entwicklungen ist entscheidend, um die Potenziale von KI verantwortungsvoll zu nutzen und die Risiken richtig einzuschätzen. --- version="1.0" encoding="UTF-8"? .st0 { fill: #010101; } .st1 { fill: #b0c0b3; } .st2 { fill: #3b3a3b; } .st3 { fill: #3a3a3a; } .st4 { fill: #5e7185; } .st5 { fill: #f9eddd; } .st6 { fill: #000100; } .st7 { fill: #aebeb3; } .st8 { fill: #fefefe; } .st9 { fill: #7f93a8; } .st10 { fill: #f8f0df; } .st11 { fill: #fbf0df; } .st12 { fill: #afbfb2; } .st13 { fill: #f7eedd; } .st14 { fill: #fdfdfd; } Botcaster **Zusammengefasst von Anja Schirwinski** Ich beschäftige mich beruflich wie privat mit Künstlicher Intelligenz - von konkreten Tools im Arbeitsalltag bis zu den größeren Fragen, die dabei aufkommen. Viele der Themen, die in Podcasts besprochen werden, begegnen mir in Projekten immer wieder. Deshalb fasse ich hier die für mich interessantesten Podcastfolgen zusammen und ordne sie aus der Praxis ein. [Mehr über das Projekt Botcaster](/ueber-uns) ## Themen - [ KI-Agenten und Automatisierung ](/podcasts/themen/ki-agenten-automatisierung) - [ Regulierung und Datenschutz ](/podcasts/themen/regulierung-datenschutz) **Hinweis:** *Diese Zusammenfassung wurde mit Hilfe von KI aus dem Transkript der Podcast-Episode generiert.* Alle Inhalte auf Botcaster beruhen auf öffentlich zugänglichen Podcasts rund um Künstliche Intelligenz. Wir fassen die Episoden nach bestem Wissen zusammen, übernehmen jedoch keine Gewähr für Vollständigkeit, Aktualität oder Richtigkeit der Inhalte. Die Rechte an den Original-Podcasts und -Inhalten liegen ausschließlich bei den jeweiligen Urheber:innen. ## Shownotes „What a time to be alive“ – ein Satz, den man im KI-Zeitalter nicht zu oft ausrufen will, denn: Spanische Behörden berichten von einem ersten Fall, in dem ein KI-Agent zum ersten Mal weitgehend autonom eine Straftat begangen hat. Kriminell geht es auch in der RTL-Gerichtsshow „Ulrich Wetzel“ zu, bei der sich der Sender ein paar alte Episoden geschnappt und per Deepfakes neue Protagiosten und Plots eingebaut hat – alles juristisch geprüft, wie RTL betont. Einer Art Selbstprüfung unterziehen sich dagegen gerade OpenAI, Anthropic und die Google-Tochter Deep Mind. Nachdem Image-Gau in Form von kündigenden Mitarbeitenden, die KI eine Killer-Technologie nennen, rufen die führenden Frontier Labs nun nach einer Aufsichtsbehörde, die ihren Entwickler\*innen auf die Finger schaut. Weiterführende Links: Max im KiKa: Willkommen zurück, Langdock: KI bei „Ulrich Wetzel“: [https://www.dwdl.de/magazin/107722/rtl\_experimentiert\_mit\_ki\_\_und\_laesst\_den\_hinweis\_darauf\_weg\_/](https://www.dwdl.de/magazin/107722/rtl_experimentiert_mit_ki__und_laesst_den_hinweis_darauf_weg_/) KoKi-Folge mit Franziska Pohlmann: Cyberangriff durch Ki-Agenten: KI-Sicherheitsforscher kündigen: ? Big Tech fordert Regulierung: Produktion: Podstars by OMR