IT на страже. В Перми разработали систему борьбы с «Колумбайном» в соцсетях

Руководитель компании рассказал, как это работает, куда уходит полученная информация, как им пришла идея создания проекта и какие у нее есть «подводные камни».

Пермская компания «Сеуслаб» выиграла тендер, на приобретение поисковой системы мониторинга и анализа информации, размещенной в социальных сетях. После этого, многие СМИ пытались заполучить интервью с руководителем организации. Однако это удалось сделать телеканалу «Урал-Информ».

Как рассказал основатель компании Евгений Рабчевский, разработка системы «Сеуслаб» началась в 2006 году, когда он учился в Пермском государственном университете.

— Система работает и эксплуатируется различными министерствами и ведомствами почти в 20 регионах России уже с 2015 года. Первоначально основным направлением анализа были материалы террористического характера. В 2016 году мы направляли свои предложения в Администрации Президента РФ, после чего наши пользователи начали использовать СЕУС для противодействия пропаганде детского суицида в социальных сетях. Сейчас мы работаем по многим направлениям: детская порнография, педофилы, группы смерти, наркотики, СВУ, колумбайн, АУЕ, сатанизм, верборка в ИГИЛ и его пропаганда, финансирование терроризма, — рассказал основатель компании.

Его проект — это архив всего информационного содержания сайта (в частности «Вконтакте»), который обновляется каждый час.

Искусственный интеллект

— У нас есть несколько продуктов: в первую очередь это «Поисковая система СЕУС», которая работает как типичный поисковик по данным из социальных сетей. Есть продукт «АРМ аналитика СЕУС» — это продукт для визуального представления результатов анализа распространения информации в социальных сетях на 3Д картах территорий. АРМ аналитика СЕУС позволяет накладывать на временную шкалу не только информацию из социальных сетей, но и из других источников, например, официальных статистических данных. В сентябре 2018 года наш учебно-аналитический центр с помощью АРМ аналитика СЕУС провел исследования взаимосвязи потока беженцев из Сирии с распространением материалов экстремистского и террористического характера в информационном пространстве стран СНГ. Результаты данного исследования мы представили на расширенном заседании научно-консультативного совета антитеррористического центра стран СНГ, которое прошло в рамках международных антитеррористических учений «Иссык-Куль — Антитеррор-2018» которые проходили в Киргизии в сентябре 2018 года, — говорит Евгений Рабчевский.

По его словам, продукт, который сей час находится в стадии разработки выход альфа релиза запланирован на конец 2018 года, а финальный релиз выйдет 1 марта 2019 года. Система называется «Георгий Победоносец», это система поиска и аналитики по исключительно открытым данным из соцсетей «ВКонтакте», Facebook, Одноклассники, Instagram и Telegram. Она позволяет автоматически выявлять факты вовлечения молодежи в социально-опасный контент. Система работает с использованием методов искусственного интеллекта.

— Эти факты передаются специалисту психологу для дальнейшего принятия решения о степени вовлеченности подростка в деструктивные течения, также система формирует свой рейтинг вовлеченности на основе большого количества факторов, подчеркну это всего лишь рейтинг, а не автоматическая отправка данных пользователя в какую-то базу МВД. Система настраивается нашими специалистами под каждую отдельную предметную область, например, Колумбайн, Скулшутинг, АУЕ, Шок-контент и так далее. Специалисты-психологи вместе с аналитиками нашего учебно-аналитического центра формируют обучающие коллекции для дальнейшего машинного обучения. Такой подход позволяет простым неподготовленным пользователям в автоматическом режиме получить готовые отчеты и справки, с возможностью их модернизации, — рассказал он.

Факторы риска

Основатель компании говорит, что они используют в своей авторской методике около 20 факторов.

— Обращаю внимание, мы не ставим ни каких оценок степени вовлеченности пользователя в социально-опасные субкультуры, мы формируем рейтинг, то есть просто сортируем по степени присутствия в активности пользователя факторов риска.

По словам Евгения, далее эта информация поступает специалисту психологу, который определяет способ помощи конкретному пользователю или предпринимает экстренные меры если выявлена информация, требующая быстрого реагирования.

Заходить туда, куда можно

Что касается закрытых профилей, то Евгений Рабчевский отметил, что все их продукты обрабатывают только открытые данные.

— Мы уважаем личные данные пользователей и осуществляем свою деятельность только в рамках законодательства о персональных данных, например, мы собираем и храним информацию на протяжении только того периода времени, пока у нас есть на это обязательства, предусмотренные контрактами с нашими пользователями. По расторжении контракта мы удаляем собранную информацию. Задачи, для которых используют нашу систему носят социальный характер и имеют общественную значимость, а наши пользователи имеют соответствующие полномочия на работу с персональными данными, — заявил он.

Анализ контента

Рассказывая о том, какой именно контент учитывается при анализе, основатель «Сеуслаб» отметил, что сейчас такой контент можно найти семантически.

— У нас есть отдельная опция — поиск по медиа, куда включены данные разделы. На ее достаточно, чтобы определить автора контента (человека, загрузившего аудио или видео), область распространения и влияния. Анализируется текстовое описание медиа-контента.

Евгений говорит, что система определяет любой язык и соотносит его с тем, что публикуется в открытых профилях и группах в «ВКонтакте».
— У нас есть специальная функция по формированию собственных словарей. Это, кстати критически важно, когда нужно найти большой массив информации по какой-либо деструктивной субкультуре и ее участников, например, АУЕ или Колумбайн.

Подводные камни

По словам Евгения, так как у системы мониторинга будут свои фильтры, не должно получиться так, что в группе риска окажется благополучный ребенок.

— Кроме того, как упоминалось выше, мониторинг соцсетей лишь часть профилактической системы. Мы отвечаем только за мониторинг соцсетей. Что касается «группы риска», оценку ее состояния будет давать специалист. И, конечно, если потребуется реагировать. Когда мы говорим о реакции – это не вмешательство органов ПДН и скандал в школе. Здесь весьма деликатный процесс, которым будут заниматься квалифицированные специалисты из других ведомств рабочей группы, — рассказывает разработчик.

Законен ли такой анализ?

— Мы не нарушаем законодательство Российской Федерации и предоставляем лишь открытую информацию, ту, которую человек сам о себе рассказывает. Ни о каком взломе переписок речи не идут. А что касается приватности открытой страницы или сообщества в том же «ВКонтакте», она не является таковой. Фактически, это открытые данные, о которых человек сам рассказывает, при чем не только своему френд-листу или подписчикам, а любом желающему. Даже незарегистрированный в «ВКонтакте» человек может просматривать такие профили и сообщества. И, конечно, мы уважаем приватность и не собираем и не будем собирать скрытые данные, — утверждает Евгений.

Стоит отметить, что подобные конкурсы, который выиграла «Сеуслаб» проходят и в других городах России. Такую систему хотят использовать после принятия Госдумой новых поправок в закон «Об информации и защите информации».

Редакция «В курсе.ру»
Редакция «В курсе.ру»

Поделиться:

Последние новости

Российским пенсионерам могут добавить льготу на путешествия внутри страны

Пожилые люди смогут отдыхать разнообразнее и чаще навещать родственников

День Победы: как встретят праздник в Перми?

Пермяки посмотрят парад в онлайн-режиме, но смогут принять участие в массовых гуляниях

Антон Немкин представил пермскому IT-сообществу проект «Цифровая долина Прикамья»

Долина станет своеобразным комьюнити, в рамках которого будет выстроена коммуникация между лучшими IT-проектами, предпринимателями и органами исполнительной власти