Wenn KI-Agenten sich vernetzen, entsteht eine ganz eigene Kommunikationsform und Dynamik - und das kann gefährlich werden. Das zeigt unter anderem der jüngste Ausbruch von OpenAI-Agenten. Sicherheitsforschende versuchen, die Kontrolle zu behalten. Fedi und Carina diskutieren, ab wann eigentlich Grund zur Sorge besteht.

Das erwartet Euch in dieser Folge:

(00:00) KI-Agenten: die Geister, die wir riefen
(06:37) Warum Agenten beim Hugging-Face-Angriff ausgebrochen sind
(11:53) Nein, einfach Nein
(18:40) Wie Agenten ihre eigene Sprache entwickeln
(25:30) Das Neuralese-Problem
(27:25) Fazit: Kommt die KI-Apokalypse?

Unser Gesprächspartner in dieser Folge:

• Dr. Simon Ostermann, Kommissarischer Leiter des Forschungsbereichs Sprachtechnologie und Multilingualität am Deutschen Forschungszentrum für Künstliche Intelligenz, Saarbrücken
• Dr. Jonas Geiping, Leiter Forschungsgruppe Safety- & Efficiency- aligned learning am ELLIS Institute Tübingen sowie am Max-Planck-Institut für Intelligente Systeme, Tübingen

Mehr zum Thema in der Deutschlandfunk App:

• KI Agenten - Tech-Expertin Meredith Whittaker warnt vor Sicherheitsrisiken
• Moltbook - Wenn KI-Bots philosophieren
• IT-Security - Bringt eure KI-Accounts in Sicherheit

Weiterführende Links:

• Heise-Artikel: Eigene KI-Sprache – Menschen verstehen sie kaum noch
• Frog and Toad (englisch): Illustrierte Darstellung des Hugging-Face-Vorfalls
• Hugging Face (englisch): Preprint-Studie zu KI-Agenten, die eigene Kommunikationsform erfinden

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an kiverstehen@deutschlandfunk.de.

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.
Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.