Действительно ли LLM понимают? Разбор аргументов Джеффри Хинтона

Джеффри Хинтон считает, что современные системы искусственного интеллекта нас понимают. Я в этом не уверен. В недавнем интервью с Алексом Кантровицем Хинтон приводит два аргумента в пользу утверждения, что большие языковые модели действительно понимают. В этом видео я отношусь к обоим аргументам серьезно и задаюсь вопросом, действительно ли они подтверждают то, что, по мнению Хинтона, они подтверждают. Первый аргумент звучит примерно так: если большие языковые модели могут последовательно давать нам правильные ответы, значит, они понимают. Второй указывает на особенно интересный феномен: когда чат-бот дает неправильный ответ, получает исправление и отвечает: «Я неправильно понял», возможно, лучшее объяснение заключается в том, что он действительно понял. Я думаю, что оба аргумента имеют реальную философскую структуру, но я не думаю, что они доводят нас до полного понимания. Попутно я обсуждаю: • Разницу между пониманием языка и пониманием мира • Почему «получение правильного ответа» может не требовать понимания • Китайскую комнату и пример с калькуляторами • Почему систематическая ошибка отбора затрудняет оценку точности LLM • Почему фраза «Я неправильно понял» не обязательно является доказательством понимания • Что могло бы убедить нас в том, что непрозрачная система ИИ содержит разум Моя нынешняя точка зрения заключается в том, что LLM, похоже, обладают чем-то вроде понимания использования языка, но это, очевидно, не то же самое, что понимание того, что представляет собой язык. Хинтон может быть прав. Но я думаю, нам нужны более убедительные доказательства. Оригинальное интервью с Джеффри Хинтоном и Алексом Кантровицем:    • AI Pioneer Geoffrey Hinton: AI Is Consciou...   Мое предыдущее видео о Хинтоне и понимании ИИ:    • Geoffrey Hinton is Wrong About AI Understa...   Статья в журнале Nature о бенчмаркинге: https://www.nature.com/articles/s4158... #AI #ИскусственныйИнтеллект #Философия #LLM #ДжеффриХинтон