Google Messages научится распознавать изображения, созданные нейросетями

В приложении Google Messages готовится к внедрению система автоматической проверки изображений на предмет использования искусственного интеллекта. Новая функция позволит пользователям быстро определять, было ли фото полностью создано нейросетью или подверглось частичной компьютерной обработке.

Детали идентификации контента

На сегодняшний день механизмы распознавания ИИ-контента требуют ручной проверки, что затрудняет работу с потоком медиаданных. В Google намерены упростить этот процесс, интегрировав поддержку системы Content Credentials от организации C2PA (Коалиция за происхождение и подлинность контента). Анализ программного кода в бета-версии приложения для Android указывает на то, что система сможет предоставлять развернутую информацию о способе создания того или иного файла.

Ожидается, что сведения об источнике изображения будут доступны через меню «Просмотр сведений» при открытии фотографии в переписке. Вместо простого подтверждения использования ИИ, программа предоставит уточненные данные о степени участия алгоритмов в создании снимка:

• Сведения о том, использовались ли инструменты ИИ для редактирования или создания файла.
• Разграничение между контентом, полностью сгенерированным нейросетями, и медиафайлами, снятыми на камеру.
• Информацию о комбинировании нескольких изображений, включая те, что могли быть частично изменены с помощью программного обеспечения.
• Уведомления о правках, внесенных как с помощью ИИ, так и обычными средствами обработки.

Перспективы внедрения

Хотя на текущий момент функция находится на стадии разработки и еще не доступна для конечных пользователей, эксперты отмечают важность подобных инструментов в условиях распространения синтетического контента. Использование подобных технологий позволит повысить прозрачность общения в мессенджерах и поможет пользователям отличать реальные фотографии от сгенерированных искусственным интеллектом изображений.

* — деятельность компании Meta*, а также принадлежащих ей соцсетей Facebook* и Instagram*, запрещена на территории РФ

Твитнуть