Was KI-Detektor-Software kann (und was nicht) | c’t uplink

Seit Anfang August schreibt der AI Act der EU mit Artikel 50 vor, wann KI-Inhalte als KI-generiert ausgewiesen werden müssen. Aber was ist, wenn ein Bild, Text oder Lied keine Kennzeichnung hat und man herausfinden will, ob es menschlichen oder künstlichen Ursprungs ist? Dann können KI-Detektoren weiterhelfen, also Software, die genau das analysieren soll und teilweise selbst auf KI-Modellen basiert. In dieser Folge des c’t uplink sprechen wir über die Erkennungsmethoden solcher Software, wie schnell Pangram & Co. an ihre Grenzen kommen und dass sie sich mitunter erstaunlich leicht austricksen lassen. Außerdem gehts um das Thema KI-Slop bei Musik-Streaming-Diensten und warum manche Anbieter derartige Inhalte gerne als solche erkennen, nicht aber verbannen möchten. Zu Gast im Studio: Robin Ahrens, Hartmut Gieselmann Host: Jan Schüßler Produktion: Tobias Reimer ► Unseren Schwerpunkt zu KI-Kennzeichnungspflicht und -Erkennungssoftware lesen Sie bei heise+: https://www.heise.de/ratgeber/KI-Kenn... ► Mitdiskutieren auf dem heise & c’t Discord-Server:   / discord   ► c’t Magazin: https://ct.de ► c’t auf Mastodon: https://social.heise.de/@ct_Magazin ► c’t auf Instagram:   / ct_magazin   ► c’t auf Facebook:   / ctmagazin   ► c’t auf Bluesky: https://bsky.app/profile/ct.de ► c’t auf Threads: https://www.threads.net/@ct_magazin ► c’t auf Papier: überall wo es Zeitschriften gibt! #kierkennung #ki #pangram