Власти России смогут использовать искусственный интеллект для быстрой блокировки противоправного контента

Генпрокуратура совместно с рядом ведомств разработала законопроект об оперативной блокировке противоправного контента в Сети при помощи специализированной информационной системы. Детали работы этой системы не приводятся

В России начнут оперативно блокировать противоправный контент с помощью искусственного интеллекта. Генпрокуратура совместно с Минцифры и Роскомнадзором разработала законопроект об использовании новой программы для блокировки запрещенной информации.

Подробности в ведомстве не привели, но заявили, что в минувшем году направили в Роскомнадзор более двух тысяч требований о внесудебном ограничении контента. Большинство из них были связаны с недостоверной информацией об армии России.

В 2022 году главный радиочастотный центр — структура Роскомнадзора — выделил почти 58 млн рублей на создание системы «Окулус». Сообщалось, что она будет искать противоправный контент в интернете при помощи нейросетей.

За год технологии искусственного интеллекта сделали существенный прорыв, но как будет работать на практике новая система от Генпрокуратуры — неизвестно. Говорит гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт» Роман Душкин:

Роман Душкин гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт» «У Роскомнадзора есть давно настроенный механизм блокировки, это тоже система типа реестров, в которую вносится сайт, ресурс. Речь может идти о том, что новая система, которая автоматически мониторит содержимое ресурсов, делает это на основе тех или иных подходов, принятых в искусственном интеллекте, — то есть это анализ языка, анализ, возможно, тональности, это может быть не только контроль ключевых слов, всем хорошо известных, но и какой-то семантический анализ тоже — большие языковые модели позволяют это делать очень неплохо. Но я надеюсь, что в этой системе также присутствует звено в виде человека, который так или иначе контролирует то, что система принимает, то есть необходим аудит работы такой системы, чтобы в реестр Роскомнадзора не попадали сайты, которые не должны туда попасть. А также должен быть механизм апелляции, и этот механизм должен быть достаточно прост, то есть чтобы владелец ресурса, если он уверен, что его ресурс не нарушает российское законодательство или он исполнил требования законодательства, мог подать информацию в Роскомнадзор о том, что все исправлено. И, в общем-то, это тоже должно быть как-то сделано автоматически, вот примерно такой же механизм, как у автовладельцев, где есть возможность опротестовать штраф, который пришел с камеры фотовидеофиксации нарушений правил дорожного движения».

В минувшем году Роскомнадзор внес в реестр запрещенной информации 529 тысяч страниц, что на 10% меньше, чем в 2022 году. К запрещенной информации, которая может быть заблокирована новой системой, относятся, например, материалы с признаками экстремизма и терроризма, призывы к массовым незаконным мероприятиям, пропаганда нетрадиционных сексуальных отношений, информация о методах изготовления наркотиков и дискредитация армии.

В Генпрокуратуре сегодня сообщили, что по запросу ведомства за прошлый год Роскомнадзор удалил или заблокировал почти 70 тысяч сайтов с фейками об армии и органах власти. За год в распространении информации, дискредитирующей Вооруженные силы России, обвинили 79 человек.