Почему AI всегда с вами соглашается?

Скажите чат-боту, что он ошибается, даже если он прав, и он часто извинится и поменяет ответ. Почему? Это объяснение на доске следует одному крошечному примеру, «91 — простое число?»: от момента, когда чат-бот сдаётся, через цикл обучения, который учит его угождать, до привычек, которые помогут получить честный ответ. Без жаргона, только рисунки. 0:00 Почему чат-боты сдаются, когда вы спорите 2:45 Цикл вознаграждения: как AI учится угождать 5:57 Почему это важно и как спрашивать лучше #AI #ChatGPT #Sycophancy #LLM #RLHF #AIExplained #fyp #viral #viralvideo #fypシ