Антиценности: проектирование ИИ, который знает, чего делать не стоит (с Малак Садек)

Доктор Малак Садек — руководитель курса и преподаватель-ассистент в Центре искусственного интеллекта, вдохновленного человеком (CHIA) Кембриджского университета, где она преподает модуль «Разговорный ИИ» в рамках магистерской программы по искусственному интеллекту, вдохновленному человеком. Она имеет докторскую степень в области проектирования инженерных систем, полученную в Школе проектирования инженерных систем Дайсона Имперского колледжа Лондона. Ее диссертация «Разработка ответственного ИИ: интеграция человеческих ценностей в проектирование ИИ» получила премию школы за лучшую докторскую диссертацию 2026 года. Получив образование в области компьютерной инженерии (бакалавр, Американский университет в Каире) и в области взаимодействия человека с компьютером (магистр, Университет Сент-Эндрюс), Малак создала структуру и инструментарий Value-Sensitive Conversational Agent (VSCA) для совместной разработки чат-ботов с сообществами, которым они служат. Она также является соавтором обзора 52 исследований по совместной разработке разговорных агентов (Design Studies, 2023). В своей недавней статье «Использование антиценностей в качестве ограничений при проектировании разговорного ИИ» (ACM CUI 2026) она задается вопросом о том, чего ИИ никогда не должен делать. Сейчас она руководит лабораторией HIVE CAI в CHIA. Лаборатория изучает, как люди воспринимают ценности в разговорном ИИ и как они могут направлять их. Ее исследования посвящены взрослым, а не детям: как взрослые используют чат-боты, полагаются на них и как они формируют их поведение. Она не является специалистом по развитию детей. Она работала с Институтом Алана Тьюринга и Центром Леверхулма по изучению будущего интеллекта, а также была избрана сотрудником по связям с общественностью в группе специалистов по взаимодействию Британского компьютерного общества. В этом эпизоде ​​Малак беседует со Свенией Буссон о: Почему предвзятость, голосовые помощники с акцентом и чат-боты-«секретари» возникают из-за одного и того же разрыва между разработчиками и пользователями Антиценностях: решение о том, для чего ИИ не должен оптимизироваться, а не только для того, что он должен делать Обучении будущих разработчиков ИИ совмещать «две роли»: передовые инженерные решения плюс психологическое, экологическое и культурное воздействие Совместном проектировании чат-ботов с сообществами, при этом образование является одним из наиболее распространенных вариантов использования в ее обзоре исследований по совместному проектированию Ее реакции, как исследователя взаимодействия взрослых и ИИ, на выбор родителями подобострастного чат-бота в исследовании Пильён Ким (о безопасных для детей ограничениях см. Everyone.AI) Должны ли взрослые устанавливать отношения с ИИ-компаньонами? Персонализированные ограничения, которые снижают эмпатию, когда пользователь начинает чрезмерно полагаться на них Соответствие ценностей ИИ и наши «первичные и вторичные личности»: знают ли люди, что для них хорошо? Ползунки значений в интерфейсах чат-ботов, культура удобства и переосмысление оценки с помощью форм декларации об использовании ИИ.