Почему опасно называть искусственный интеллект своим «коллегой»

Маркетинговое позиционирование ИИ-агентов как «цифровых сотрудников» снижает бдительность людей. Из-за этого штатные работники хуже замечают ошибки алгоритмов и охотнее перекладывают на них ответственность за промахи.

Иллюзия коллегиальности: результаты исследования

Идея представить ИИ в виде нового подчиненного с человеческим именем и конкретными обязанностями кажется заманчивой. Однако, как показывает исследование профессора бизнеса Бостонского университета Эммы Вайлс, восприятие программы как коллеги, а не как обычного софта, ухудшает результаты работы.

В ходе эксперимента, в котором приняли участие 1261 менеджер, выяснилось, что люди замечают на 18% меньше ошибок, если им говорят, что работу выполнил «цифровой сотрудник», а не чат-бот. Название и статус ИИ-помощника имеют огромное значение для психологии человека. При этом почти треть опрошенных руководителей признались, что в их компаниях ИИ-агенты уже позиционируются как полноценные сотрудники, а 23% организаций даже вносят их в штатное расписание.

Опасное перекладывание ответственности

Стремление Кремниевой долины очеловечить технологии заходит всё дальше. Руководство Nvidia говорит о «цифровых людях», а ИТ-гиганты вроде Microsoft, OpenAI, Anthropic и Google активно выпускают инструменты для управления командами ИИ-агентов — автономных программ, способных циклически выполнять задачи для достижения цели.

Такое позиционирование меняет восприятие субординации. Когда ИИ представляют как коллегу, люди чувствуют меньше ответственности за конечный результат. Исследование показало, что участники на 44% чаще отправляли сомнительные результаты работы ИИ своему руководству для проверки, вместо того чтобы исправить их самостоятельно. Это полностью лишает смысла использование ИИ для экономии времени.

Проблема выходит далеко за рамки офисной рутины. По мере внедрения автономных агентов в медицину, военную сферу, образование и госуправление растет риск того, что на технологии будут списывать последствия неверных человеческих решений. В обзоре напоминается о случае, когда в авиаударе по школе для девочек в Иране ошибочно обвинили нейросеть Claude, хотя истинной причиной стала цепочка человеческих ошибок.

Мнения экспертов: ИИ должен помогать, а не заменять

Лауреат Нобелевской премии по экономике 2024 года Дарон Аджемоглу отмечает, что попытки позиционировать ИИ-агентов как полноценную замену людям обречены на провал. По мнению ученого, технологии должны оптимизироваться для расширения возможностей человека, а не для его вытеснения, чего сейчас не происходит.

Подтверждением этому служит исследование Стэнфордского университета, в котором опросили 1500 сотрудников различных сфер. Им предложили оценить, какие задачи ИИ мог бы автоматизировать. Выяснилось, что реальные потребности работников часто расходятся с видением ИТ-разработчиков. Например, юристы приветствовали бы помощь ИИ в отслеживании прогресса по делам, но категорически не хотели отдавать алгоритмам задачи, требующие глубокого анализа и личной ответственности.

Другие заметные события в мире технологий

В обзоре также отмечаются следующие важные новости индустрии:

• Запуск христианской мобильной сети в США: Новый виртуальный оператор на базе T-Mobile планирует блокировать порнографию и контент, связанный с гендерной тематикой.
• Прорыв в разработке языковых моделей: Стартап Subquadratic заявил о преодолении технологического барьера, сдерживающего развитие больших языковых моделей, хотя эксперты пока относятся к этому скептически.
• Судебное противостояние Маска и Альтмана: Илон Маск утверждает, что его ввели в заблуждение, и предупреждает об угрозах ИИ для человечества, пока юристы OpenAI подвергают сомнению его истинные мотивы.
• Влияние ИИ на рынок труда: Статистические данные показывают неожиданные результаты относительно реального масштаба влияния автоматизации на занятость населения.

Твитнуть