Роскомнадзор готовится запустить систему обезвреживания инфобомб в интернете

Подведомственное Роскомнадзору ФГУП «Главный радиочастотный центр» (ГРЧЦ) проводит внутренние испытания системы обнаружения информационных бомб «Вепрь», рассказал «Ведомостям» представитель ГРЧЦ. «Разработка информационной системы «Вепрь» ведется с 2022 г. На сегодняшний день первые модули системы проходят внутреннее тестирование, запуск запланирован на вторую половину 2023 г.», – сообщил он.

Систему разрабатывает для Роскомнадзора петербургский разработчик IT-решений «Необит», с 2021 г. находящийся под санкциями США, указано в тендерной документации ГРЧЦ. Среди уже реализованных проектов – система в виде флеш-карты «Инфоскальпель» для удаления остаточной информации из памяти оборудования видеоконференцсвязи, устройство криптографической защиты данных на флеш-накопителях «Флэшкриптор» и защищенная гибридная операционная система «Фебос», указано на сайте компании, которая разрабатывает технологические решения для ФСБ, Минобороны и других ведомств.

В офисе «Необита» на запрос «Ведомостей» не ответили. Стоимость разработки системы «Вепрь» составила 30 млн руб., при этом изначальная цена контракта была 60 млн руб., следует из документов закупки ГРЧЦ, с которыми ознакомились «Ведомости»: снижение стоимости произошло из-за того, что заявка «Необита» стала единственной. Это вполне типичная ситуация для подобных госзакупок, констатирует партнер коллегии адвокатов Pen & Paper Екатерина Токарева.

За эти деньги, согласно документации закупки ГРЧЦ, исполнитель должен выполнить работу «по созданию информационной системы раннего выявления угроз в информационной сфере и прогнозирования рисков их возникновения». Разработку должны завершить до конца июля 2023 г. «ИС «Вепрь» предназначена для выявления потенциальных точек напряженности в сети, способных перерасти в информационные угрозы, их анализа, прогнозирования последующего распространения деструктивных материалов», – заявил «Ведомостям» представитель Роскомнадзора.

Сообщения, которые потенциально могут привести к «реализации угроз для личности, общества и государства», в техническом задании разработки названы «точками информационной напряженности».

Как сообщала в июле 2022 г. газета «Известия», под этим определением подразумеваются фейки, т. е. не соответствующие действительности сообщения.

В то же время однозначно говорить о том, что речь именно о них, исходя из технического задания, нельзя: оно предполагает довольно обтекаемую формулировку: «Вепрь» будет бороться с «распространением общественно значимой информации под видом достоверных сообщений, которая создает угрозу причинения вреда жизни и (или) здоровью граждан, имуществу, угрозу массового нарушения общественного порядка и (или) общественной безопасности». О том, что сообщения должны быть, к примеру, недостоверные, в документах не сказано. 

Что сможет «Вепрь»

Речь действительно не идет о поиске только лишь фейков, соглашается гендиректор компании – разработчика решений по интеллектуальному сбору и анализу данных «Социальная лаборатория» Наталия Тылевич. В техническом задании говорится о прогнозировании рисков от появления в инфополе тех или иных сообщений, и они не всегда могут быть ложными. «Например, речь может идти о рисках для губернатора от сообщения о каком-то крупном пожаре или другой аварии в регионе, – говорит Тылевич. – Но это и не значит, что данная информация будет удаляться из инфопространства, чтобы исказить положение реальных дел. Мониторинг рисков необходим, чтоб обеспечить своевременную реакцию ответственных госорганов».

Более того, как отмечается в техническом задании, «Вепрь» должен также работать с анонимными сообщениями – на основании собственных алгоритмов он должен определять вероятного автора того или иного контента. Также система должна определять «вероятный трафик (стационарное количество посетителей за день) для заданного медиаматериала при его публикации», а также давать оценку тональности того или иного сообщения (негативная, нейтральная или позитивная) и показывать всплески популярности той или иной темы в инфополе. 

«Вепрь» сможет прогнозировать развитие той или иной темы, но не предугадывать с точностью до 100%, говорит Тылевич. Такие системы используют разные подходы в прогнозировании информационной волны. С одной стороны, система анализирует источники и их аффилированность между собой и с какими-то третьими структурами, к примеру политическими силами. При публикации на одном ресурсе «Вепрь» будет прогнозировать дальнейшее развитие темы. Также система может анализировать повторяющееся развитие однотипных сообщений – когда они появляются, например, на сайтах информационных агентств, подхватываются другими крупными СМИ и др. или же когда тема появляется в каких-то Telegram-каналах и подхватывается определенными инфлюенсерами. 

Кроме того, задача «Вепря» – анализировать информпространство по определенным темам-триггерам. «Например, люди боятся аварий газового оборудования, потому что сами часто его используют, поэтому вероятность того, что сообщение о взрыве газа в жилом доме широко разойдется и вызовет волну обсуждения и общественного недовольства, высока, и этот риск как раз и зафиксирует система», – поясняет эксперт. Общество осуждает какие-то определенные вещи – типа насилия, агрессии и др., поэтому можно ожидать информационного всплеска от сообщений об убийствах, издевательствах и т. п. Какие-то темы часто связаны с сезонностью – поломки снегоуборочной техники, снежные завалы, падения сосулек с крыш зимой или же пожары, всплески ротавирусных инфекций в водоемах летом. 

Распознать автора того или иного анонимного текста – трудоемкая, но вполне реальная задача, говорит эксперт. «У каждого человека своя уникальная когнитивная карта: определенный набор выражений, внимание к различным деталям и т. п. У профессиональных журналистов закрепляются привычки в использовании речевых оборотов и логике подачи текстов. Те же принципы работают в антиплагиатных системах или чат-ботах на базе искусственного интеллекта», – говорит Тылевич. 

Союз «Вепря» и «Окулуса»

По ее словам, «Вепрь» будет работать в комплексе с другими системами Роскомнадзора – «Окулусом» или системой «Мир», которую ГРЧЦ использует с 2021 г. Эта система-краулер, которая собирает сообщения из различных источников, сортируя их по внешним признакам – тексты, изображения, видео и др. В дальнейшем «Окулус» анализирует изображения и видео на предмет соблюдения законодательства, а «Вепрь» – анализирует уже тексты, а также формирует семантические связи между ними, прогнозирует дальнейшее распространение и др. 

«ИС «Вепрь» с системой распознавания образов с запрещенной информацией «Окулус» входят в единую систему мониторинга информационного пространства», – подтвердил «Ведомостям» представитель ГРЧЦ.

Если подобный «Вепрю» проект и можно реализовать, то за большие деньги, считают эксперты. «Я про такое на рынке не слышал», – считает директор АНО «Инфокультура» Иван Бегтин. По его словам, идея «выглядит, скажем так, антинаучно»: «Из-за попыток определения автора и оценки вероятности волнений». По его мнению, такая система или должна стоить гораздо больше, чем 30 млн руб., или же описание в техническом задании будет мало коррелировать с реализованным решением.

«Просчитывать трафик сообщения в интернете – это мечта любого маркетолога. Но на практике это реализовать практически невозможно», – говорит IT-специалист, автор Telegram-канала «Эшер 2», Филипп Кулин. По его мнению, распространение той или иной темы может произойти стихийно, без каких-либо разумных объяснений. Также для работы искусственного интеллекта нужна большая статистика. А при той быстроте, с которой сегодня происходят события, прогнозировать что-либо в принципе затруднительно. 

«Но даже если искусственный интеллект определит по стилистике, кто написал то или иное сообщение, что делать дальше с этой информацией, какой правовой статус будет у вывода этого искусственного интеллекта?» – недоумевает Кулин. Даже если система такой аналитики и появится в будущем, ее разработка будет стоить колоссальных денег. «Первый человек, который сможет вытащить из искусственного интеллекта хотя бы примерное предсказание тех или иных событий, станет мультимиллиардером», – считает Кулин.