Стартап ZeroDrift привлече 10 миллионов долларов на разработку системы контроля безопасности ИИ

В процессе внедрения искусственного интеллекта в корпоративные рабочие процессы компании все чаще сталкиваются с проблемами безопасности и соблюдения нормативных требований. Стартап ZeroDrift предложил инновационный подход к решению этой задачи: использование специализированной модели, которая контролирует работу основного ИИ и предотвращает возможные нарушения. В рамках посевного раунда финансирования компания привлекла 10 миллионов долларов от таких инвесторов, как a16z Speedrun, Reign Ventures, PitchDrive Ventures и U&I Ventures.

Механизм работы и архитектурные преимущества

Система ZeroDrift выступает в роли промежуточного звена между нейросетью и конечным пользователем. Она анализирует ответы ИИ, выявляет потенциально опасный контент и заменяет его на безопасные формулировки. В отличие от стандартных языковых моделей, решение ZeroDrift опирается на комбинацию детерминированных алгоритмов и ИИ-редактирования.

Процесс контроля включает несколько этапов:

• Традиционное программное обеспечение проверяет текст на соответствие установленным стандартам комплаенса, таким как SOC 2 или GDPR.
• Если система фиксирует нарушение, в работу включается языковая модель, которая переписывает сообщение в строгом соответствии с правилами.
• Весь цикл обработки происходит с минимальной задержкой, что делает систему более эффективной по сравнению с базовыми решениями от крупных лабораторий вроде OpenAI или Anthropic.

Рыночные перспективы и востребованность решения

В обзоре технологии отмечается, что ключевым преимуществом ZeroDrift является высокая надежность и скорость работы. По словам генерального директора компании Кумеша Арумугана, система способна точно определять регулируемые области и конкретные типы нарушений, после чего ИИ оперативно корректирует текст.

На текущем этапе основным сценарием использования являются чат-боты, взаимодействующие с клиентами. Ошибочные или некорректные ответы в этой сфере могут повлечь за собой серьезные юридические последствия для бизнеса. Однако руководство компании видит гораздо больший потенциал, включая контроль над автоматически генерируемыми сообщениями во внутренних системах, которые даже не попадают на глаза человеку.

Высокий спрос на подобные инструменты подтверждается скоростью проведения инвестиционного раунда. Глава компании сообщил, что привлечение средств заняло всего три недели, а итоговая сумма заявок от инвесторов в три раза превысила изначально запланированный объем.

Твитнуть