Разработчики из Кубанского государственного технического университета создали нейросеть, способную распознавать в режиме реального времени сообщения от мошенников в чатах. По словам авторов проекта, прототип системы уже готов, а его модули написаны на языке программирования Python.
Разработчик Олег Лейнвебер пояснил СМИ, что алгоритм нейросети каждые 15 секунд делает скриншот рабочего окна и распознаёт обнаруженный на экране текст. Далее ИИ определяет, пришёл ли пользователю спам или нет. Если ИИ поймёт, что пользователю пишет злоумышленник, то в этом случае система показывает уведомление о том, что присланное сообщение небезопасно. Тут же «всплывает» нотификация, где показывается вредоносное сообщение и то, к какой категории оно относится — это может быть фишинг (например, просьба перейти на сайт) или же социальная инженерия, когда человека призывают что-либо сделать.
Нейросеть этого проекта КубГТУ обучена на распространённых примерах мошенничества, таких как предложения работы на маркетплейсах. Система также способна распознавать злоумышленников, которые обманом пытаются получить данные банковской карты и другие сведения. Алгоритм нейросети способен к самообучению, а каждый новый случай мошенничества вносится в специальную базу данных, чтобы в дальнейшем система сопоставляла эту информацию с уже имеющимися фактами обмана.
По словам разработчиков проекта, текущая версия системы поддерживает работу на ПК с Windows и Linux, но не в macOS. Авторы считают, что их проект будет полезен как для обычных пользователей, так и для корпоративных клиентов. Также планируется выпустить версию для государственных и образовательных учреждений.
Авторы проекта рассчитывают распространять доступ к нейросети по условно-бесплатной модели, то есть скачать клиент можно будет бесплатно, однако за дополнительные функции пользователям придётся заплатить. Разработчики пообещали, что протестировать бета-версию нейросети можно будет во втором квартале 2024 года, а её полноценный релиз ожидается в 2026 году.
Профильные эксперты пояснили СМИ, что пока ещё неясно, насколько эта нейросеть эффективно помогает в выявлении и предотвращении фишинговых атак. По им мнению, использование только анализа изображения рабочих окон или изображений экрана — не лучший способ определить содержимое канала коммуникации, а такой подход ведет к различным трудностям обработки и очистки входных данных для анализатора и, как следствие, появлению ошибок срабатывания и дополнительных трудозатрат сотрудников безопасности. Также непонятно, будет ли нейросеть способна анализировать QR-коды, ведущие на вредоносные веб-ресурсы
