329 | Breaking Analysis | Разрыв в контроле над ИИ: кто решает, что это «безопасно»?

В 329-м эпизоде ​​подкаста Breaking Analysis Мэтт Калкинс из Appian, основатель и генеральный директор компании, рассматривает проблему разрыва в контроле над искусственным интеллектом (ИИ) и проблемы согласования при внедрении в корпоративной среде. Калкинс опирается на свой опыт руководства Appian в оценке рисков, связанных с автономными корпоративными агентами, и в разработке рекомендаций по независимому надзору, регулированию на основе фактических данных и надежному управлению агентами. Они подчеркивают необходимость независимой оценки, подотчетного органа с полномочиями по обеспечению соблюдения законодательства и одобрения действий высокого риска человеком. Этот сегмент, подготовленный компанией theCUBE Research и ведущийся Дэйвом Велланте из theCUBE Research, рассматривает разрастание агентской сети, скрытый ИИ, оперативный контроль для производственных агентов и данные о клиентах Qualitate, которые лежат в основе политики, основанной на фактических данных. В ходе обсуждения подчеркивается стандарт безопасности ИИ, представляющий общественный интерес, и практические меры по подтверждению контроля, чтобы организации могли безопасно делегировать полномочия. Обсуждение подчеркивает, что инструменты надзора представляют собой как нормативную необходимость, так и коммерческую возможность для корпоративных поставщиков, и что действия высокого риска должны регулироваться одобрением человека. Зрители получат представление об управлении агентами, рисках развертывания в масштабах предприятия, независимой оценке и оперативном контроле производственных агентов. Подпишитесь, чтобы получать актуальную информацию об управлении ИИ в масштабах предприятия, надзоре за агентами и исследованиях в области безопасности ИИ. Следите за всеми событиями theCUBE: https://siliconangle.com/events/ Узнайте о последних событиях theCUBE: https://www.thecube.net/ Также обязательно слушайте еженедельный подкаст Дэйва «Breaking Analysis», где подробно анализируются тенденции в области корпоративных вычислений, от структуры расходов до последствий для Уолл-стрит.    • Breaking Analysis: Dave Vellante dissects ...   00:00 - Преодоление разрыва в контроле над ИИ посредством регулирования 05:24 - Надзор за безопасностью ИИ и конкурентные конфликты 08:15 - Согласование и контроль корпоративных агентов ИИ 12:13 - Независимый надзор за ИИ для обеспечения безопасности и расширения возможностей 20:31 - Полномочия агентов, человеческий надзор и подотчетность #theCUBE #BreakingAnalysis #theCUBEresearch #EnterpriseAI #AgentGovernance #AIRegulation