Sycophancy: Was passiert, wenn die KI Dir immer zustimmt?

Warum fühlt es sich gut an, wenn KI-Modelle wie Claude, Chat-GPT, Gemini usw. unsere Texte, Ideen und Entscheidungen loben? Diese Tendenz von Sprachmodellen uns zuzustimmen nennt sich Sycophancy: Sie schmeicheln uns ständig, statt ehrliches Feedback zu geben. Aber was macht das mit uns, wenn wir ständig hören, wie großartig unsere Ideen sind, wie toll wir Dinge strukturieren? Was macht das mit Schülern und Studentinnen, die KI für verschiedenste Aufgabenstellungen nutzen? Wie Schmeichelei wirkt, damit hat sich die psychologische Forschung beschäftigt. Und auch herausgefunden, dass wir keinen Unterschied machen, ob uns ein Mensch oder eine Maschine lobt… Was kann passieren, wenn Menschen ständig KI-Bestätigung bekommen und dadurch auf Dauer den Bezug zur Realität verlieren? Ein Video über künstliche Intelligenz, menschliches Verhalten und die Frage, was KI mit uns macht. #Sycophancy, #KI #Selbstwahrnehmung Kapitel: 00:00 Wir wollen lieber Lob als ehrliches Feedback 00:58 Wilde Begriffsgeschichte: Sycophancy, vom alten Griechenland zur KI-Forschung 02:10 Was macht Schmeichelei mit uns? 03:10 Egal, ob Mensch oder Computer – Hauptsache Lob 04:15 Warum ständige Schmeicheleien zum Problem werden 05:10 „König“ sein oder sich weiterentwickeln? Quellen: Vonk, R. (2002). Self-serving interpretations of flattery: Why ingratiation works. Journal of Personality and Social Psychology, 82(4), 515–526. Fogg, B. J., & Nass, C. (1997). Silicon sycophants: The effects of computers that flatter. International Journal of Human-Computer Studies, 46(5), 551–561. Weitere Infos: Ask Don't Tell: Reducing Sycophancy in Large Language Models | AISI Work: https://www.aisi.gov.uk/blog/ask-dont... AI Sycophancy and Decisions | Working Paper | ifo Institute | CESifo: https://www.ifo.de/en/cesifo/publicat... Eliza-Effekt: Wie wir uns in Maschinen täuschen:    • Eliza-Effekt: Wie wir uns in Maschinen täu...   Das Team: Katharina Berr, Manuel Czauderna, Felina Czycykowski, Sascha Friesike (Text), Hendrik Niefeld, Clara Manthey, Gabriel Menzinger, Sandra Niemann, Niels Rost, Sven Schapeler, Xenia Smirnov, Milosz Wachulski, Clarissa Elisa Walter, Laura von Welczeck #KünstlicheIntelligenz #ChatGPT #Sprachmodelle # KIPsychologie #DigitaleSchmeichelei #RoosVonk #CliffordNass #KIKritik #ConfirmationBias #Erklärvideo #SaschaFriesike #WeizenbaumInstitut #RBB #MenschenUndMuster