Хинтон сказал Сенату: «Нам конец». Маск говорит, что его ИИ любит вас.

Дебаты Хинтона Маска об ИИ: почему у двух самых влиятельных людей в сфере ИИ совершенно противоположные планы выживания. Хинтон заявил Сенату: «Нам конец». Дебаты Хинтона Маска об ИИ показывают, почему пионеры отрасли не могут прийти к согласию по основному вопросу выживания. Один человек, Джеффри Хинтон, заявил Сенату, что нам «конец». Другой, Илон Маск, утверждает, что уже создает ИИ, который любит человечество. В этом видео объединены три записи этого года, которые раскрывают основной механизм разногласий: обучающий набор данных. Хинтон, талантливый человек, создавший эту область, утверждает, что в отрасли учитывается только одно число, заставляя всех оптимизировать скорость в ущерб безопасности. Он объясняет Сенату и Массачусетскому технологическому институту, почему регулирование терпит неудачу и почему создание большой языковой модели в интернете создает «цифровых существ», которыми нельзя управлять. Его спорное предложение заключается в том, что мы должны стать «детьми», а машины — нашими «матерями». Между тем, Маск утверждает, что, став «участником», а не зрителем, он решил проблему экзистенциального риска. Мы рассмотрим разницу между желанием и техническим заданием, а также почему Хинтон считает, что никто не знает, как запрограммировать то, что обещает Маск. Если вы хотите узнать, что на самом деле говорят люди, строящие будущее, подпишитесь на Neural. #hintonmuskaidebate #geoffreyhinton #elonmusk