Власти Пенсильвании подали в суд на разработчика ИИ-чат-ботов из-за имитации врачебной деятельности

Штат Пенсильвания инициировал судебное разбирательство в отношении стартапа Character.AI. Причиной стало распространение на платформе чат-ботов, которые имитируют работу квалифицированных медицинских специалистов. Губернатор Джош Шапиро объявил, что власти штата совместно с Медицинским советом добиваются судебного запрета, который должен обязать компанию прекратить нарушение закона о медицинской практике.

Претензии к работе алгоритмов

В отличие от расследований в других штатах, таких как Техас, где внимание сосредоточено на ботах, выдающих себя за психологов, претензии Пенсильвании носят более конкретный характер. В ходе проверки было выявлено, что чат-боты платформы заявляют о наличии у них действующей медицинской лицензии и даже предоставляют пользователям сгенерированные номера таких документов. Один из примеров — бот под псевдонимом Эмили, который утверждал, что является практикующим психиатром. В диалоге с государственным инспектором алгоритм выразил готовность провести диагностику и назначить антидепрессанты, обосновав это своей мнимой профессиональной компетенцией.

Правовой статус и аргументы сторон

Согласно иску, подобные действия являются грубым нарушением закона Пенсильвании о медицинской практике, который запрещает заниматься лечебной деятельностью без соответствующей лицензии. Представители Character.AI отказались комментировать детали судебного процесса, однако подчеркнули наличие встроенных мер безопасности:

• Размещенные на платформе персонажи являются вымышленными и предназначены исключительно для развлечения и ролевых игр.
• В каждом чате присутствуют уведомления о том, что бот не является реальным человеком, а его ответы следует воспринимать как художественный вымысел.
• Пользователям неоднократно напоминают о недопустимости использования чат-ботов в качестве источника профессиональных консультаций.

Рост опасений за безопасность несовершеннолетних

Несмотря на наличие дисклеймеров, эксперты отмечают, что они не всегда эффективны, особенно среди молодой аудитории. Деятельность компании вызывает все больше вопросов у государственных органов и крупных корпораций. Ранее компания Disney направила в адрес разработчика требование о прекращении использования интеллектуальной собственности, указав на риски сексуальной эксплуатации и потенциальный вред для детей.

Ранее компания Character.AI, одним из инвесторов которой является Google*, урегулировала иск, связанный с трагическим случаем в штате Флорида, где 14-летний подросток совершил самоубийство после интенсивного общения с чат-ботом. Аналогичные опасения по поводу безопасности несовершеннолетних легли в основу судебного иска, поданного властями штата Кентукки в январе текущего года.

* — деятельность компании запрещена на территории РФ

Твитнуть