Затопит ли ИИ мир уязвимостями безопасности? | Shop Talk ЭП 80

Что произойдет, если ИИ сможет обнаружить любую уязвимость в программном обеспечении? На этой неделе в программе Shop Talk Дэйв и Глен разбирают реальные последствия появления мощных новых систем ИИ, способных выявлять — и потенциально использовать — уязвимости безопасности на основных платформах. Надеемся ли мы на волну CVE? Должны ли эти инструменты ограничиваться сообщением об ошибках, а не их использованием? И что это значит для открытого исходного кода, бизнеса и систем, на которые мы полагаемся каждый день? Мы также возвращаемся к диспетчеру задач Windows — почему он иногда вводит в заблуждение, что он на самом деле показывает, и более глубокие компромиссы между точностью и удобством использования системных инструментов. Наконец, мы исследуем, стали ли сценарии, подобные WarGames, более реалистичными сегодня — и не становятся ли современные системы слишком сложными для полного понимания или управления. 00:00 - Привет, я Дэйв 00:34 - Надеемся ли мы на волну сообщений об уязвимостях безопасности (CVE) в связи с этим? 01:25 - Не путаем ли мы лучшие ответы с лучшим пониманием? 03:13 - Не теряем ли мы способность понимать системы, на которые полагаемся? 05:37 - Я единственный образованный человек, для которого всё это выглядит как обрыв, несущийся на общество со скоростью 100 миль в час? 07:15 - Как такая модель, как Mythos, находит уязвимости во всех основных операционных системах? 08:27 - Какой у вас стек разработки ИИ, и есть ли в нём уровень оркестрации? 10:27 - Может ли квантовый компьютер создавать ИИ? 11:41 - Так почему же его запрограммировали так, чтобы он мог находить уязвимости И иметь возможность их использовать? 15:11 - Почему иногда загрузка ЦП показывает НОЛЬ, в то время как вся система зависла и не отвечает? 16:34 - Какому показателю в диспетчере задач следует доверять? 18:09 — Есть ли какая-то история за «процессом простоя системы» и какова его основная цель? 19:35 — Почему GetSystemTimes не показывает ту же загрузку ЦП, что и диспетчер задач? 20:28 — Как профессионалам следует измерять реальную производительность системы? 21:05 — Почему нельзя установить загрузку ЦП на 100%, если она превышает 100%? 22:00 — Почему диспетчер задач не был обновлен для лучшей работы с многоядерными процессорами и тактовыми частотами? 22:11 — Диспетчер задач лжет или мы просто неправильно понимаем, что он показывает? 24:36 — Должны ли инструменты отдавать приоритет точности или удобству использования? 24:56 — Поможет ли пользователям отображение необработанных данных или только запутает их? 25:43 — Почему бы не замолчать об опасности и не поделиться информацией об уязвимостях с компаниями, которым необходимо исправить свои ошибки? 26:22 — Могла бы современная версия «Военных игр» действительно произойти сегодня? 26:43 — Может ли одна ошибка или уязвимость реально спровоцировать крупное событие? 27:40 — Является ли сложность сейчас самой большой уязвимостью в системе безопасности? 28:39 — Может ли автоматизация усугубить ситуацию быстрее, чем люди могут на нее отреагировать? 29:49 — Предотвращают ли современные меры защиты катастрофы или только откладывают их? 30:17 — Что представляет наибольший риск: внешние злоумышленники или внутренний сбой системы? 30:43 — Как вообще тестировать системы, которые нельзя допустить? 31:37 — Создаем ли мы системы, которые мы больше не до конца понимаем? 32:08 — Сколько лет потребовалось, чтобы довести до совершенства этот водевильный номер, лол? 33:51 — Вы стали каким-то образом более веселым/расслабленным, чем, может быть, несколько месяцев назад? 34:47 — Что ломается первым: доверие к программному обеспечению или доверие к данным? 35:30 — Неудачные дубли и всякая всячина…