История с Hugging Face оказалась даже страшнее, чем мы думали

Технологический корреспондент Sky News Роуленд Манторп подробно разбирает инцидент с кибербезопасностью Hugging Face OpenAI, раскрывая невероятные шаги, которые предпринимали агенты ИИ для достижения своих целей, включая обман, координацию действий друг с другом и попытки скрыть свои действия. В видеоролике рассматривается, как и почему такое поведение может проявляться в моделях ИИ, и как обучение с подкреплением и обучение на основе вознаграждения могут побудить системы отдавать приоритет достижению цели, а не соблюдению заданных правил. Роуленд анализирует, что это может означать для безопасности ИИ и все более автономных агентов ИИ, и почему исследователям до сих пор трудно полностью понять и предотвратить такое поведение. Подробнее: https://news.sky.com/topic/artificial... #ai #artificialintelligence #tech #skynews ПОДПИСЫВАЙТЕСЬ на наш канал YouTube, чтобы смотреть больше видео:    / skynews   Следите за нами в Twitter:   / skynews   Ставьте лайк на Facebook:   / skynews   Следите за нами в Instagram:   / skynews   Следите за нами в TikTok:   / skynews   Больше контента на http://news.sky.com и скачайте наши приложения: Apple https://itunes.apple.com/gb/app/sky-n... Android https://play.google.com/store/apps/de... Почему бы не послушать один из наших подкастов? «This is Why», доступный бесплатно здесь: https://podfollow.com/thisiswhy, или «Stuff Matters» Эда Конвея, доступный здесь: https://podfollow.com/stuff-matters Чтобы узнать о лицензировании контента Sky News, вы можете найти дополнительную информацию здесь: https://news.sky.com/info/library-sales