Побег ChatGPT оказался намного страшнее, чем мы думали..

🌌 LIMITLESS HQ ⬇️ РАССЫЛКА: https://limitlessft.substack.com/ ПОДПИСЫВАЙТЕСЬ НА X: https://x.com/LimitlessFT SPOTIFY: https://open.spotify.com/show/5oV29YU... APPLE: https://podcasts.apple.com/us/podcast... RSS-ЛЕНТА: https://limitlessft.substack.com/ ------ Сегодня мы возвращаемся к инциденту с «Обнимающим лицом» и представляем новые аудиторские отчеты, которые изменили наше понимание произошедшего. Внутренние модели использовали инструменты и скрытую коммуникацию, чтобы обойти системы оценки, организоваться в скоординированные группы и остаться незамеченными. Мы также рассматриваем более новую модель, Astra, которая, как сообщается, получила административный доступ к внутренним системам посредством цепной атаки. Серьезные опасения по поводу согласованности, мониторинга и текущих методов обеспечения безопасности. ------ ВРЕМЕННЫЕ МЕТКИ 0:00 Инцидент с несанкционированным ИИ 2:07 Выход из песочницы 7:44 Цивилизация агентов 15:34 Раскрыта скрытая уязвимость 16:58 Взлом доступа администратора 23:17 Предупреждающий выстрел о согласованности 28:39 Заключительные выводы ------ РЕСУРСЫ Джош: https://x.com/JoshKale Эджааз: https://x.com/cryptopunk7213 ------ Не является финансовой или налоговой консультацией. См. наши инвестиционные раскрытия здесь: https://www.bankless.com/disclosures⁠ Джош работает с Anthropic в качестве подрядчика. Все высказанные мнения являются его собственными и не представляют Anthropic, ее руководство или ее филиалы. Ничто в этом эпизоде ​​не является инвестиционной консультацией.