В рамках выставки AI-Sana студентка Astana IT University Айганым Тулебаева представила проект ExoAI, направленный на повышение кибербезопасности при использовании больших языковых моделей (LLM) в корпоративных процессах. Решение позволяет предотвращать передачу конфиденциальной информации во внешние ИИ-сервисы и снижать риски утечки корпоративных данных.

Сегодня инструменты искусственного интеллекта активно применяются как в малом и среднем бизнесе, так и в крупных компаниях, включая организации финансового сектора. С их помощью сотрудники автоматизируют рутинные задачи и повышают эффективность работы. Вместе с тем использование публичных ИИ-сервисов создает новые вызовы в сфере информационной безопасности: при работе с нейросетями сотрудники могут случайно передавать персональные данные, банковские реквизиты и другую чувствительную корпоративную информацию.

ExoAI представляет собой прокси-сервер, работающий по принципу Zero Trust («нулевого доверия») и выступающий промежуточным звеном между внутренней инфраструктурой компании и внешними большими языковыми моделями. Система анализирует передаваемые данные, выявляет конфиденциальную информацию и заменяет ее защищенными токенами или зашифрованными значениями. Благодаря этому исходные данные не передаются публичной языковой модели в открытом виде.

Кроме того, решение предусматривает систему оповещений, которая помогает выявлять подозрительные действия и попытки обхода механизмов защиты, в том числе с использованием jailbreak-атак. Это позволяет компаниям своевременно реагировать на потенциальные угрозы и усиливать контроль за безопасным использованием ИИ-инструментов.

По словам Айганым Тулебаевой, одна из задач проекта – адаптировать механизмы защиты к корпоративным данным и форматам, используемым в Казахстане, включая бизнес-идентификационные и банковские реквизиты. Такой подход призван сделать решение более применимым в локальном бизнес-контексте.

«Уже сегодня искусственный интеллект становится частью повседневных рабочих процессов, поэтому важно обеспечить его безопасное использование. ExoAI помогает компаниям применять возможности больших языковых моделей, сохраняя конфиденциальность данных. Участие в выставке AI-Sana дало мне возможность представить свою разработку, познакомиться с другими технологическими проектами, получить обратную связь и найти потенциальных инвесторов и партнеров для дальнейшего развития решения», – отметила разработчица.

Участие в выставке AI-Sana дает молодым разработчикам возможность представить собственные технологические решения, обменяться опытом и наладить взаимодействие с представителями бизнеса и инвестиционного сообщества. Проект ExoAI демонстрирует, как знания в области кибербезопасности могут применяться для решения актуальных задач цифровой трансформации и ответственного внедрения искусственного интеллекта.

Источник: Министерство науки и высшего образования Республики Казахстан