Пишите, Шура, пишите

27 сентября 2021
Российские власти разработают систему выявления потенциально опасных настроений среди подростков по их письменным работам

Центру изучения и сетевого мониторинга молодежной среды (ЦИСМ) поручат разработку специальной умной системы, которая будет в автоматическом режиме анализировать тексты учеников российских школ на предмет выявления потенциально опасных настроений - например, склонности к насилию или суициду.

В обоей сложности на разработку проекта из российского бюджета планруют выделить порядка 1,6 миллиадра рублей: ежегодно более чем по 500 миллионов в 2022-2024 годах.

ЦИСМ уже сейчас занимается анализом сетевого контента, и данные проведенной им работы оказываются неутешительными: по оценкам руководителя организации Дениса Заварзина, более чем а 60 миллионах аккаунтов в соцсетях хотя бы раз появлялась информация деструктивного характера. Правда, руководитель центра уточнил, что некоторые из этих аккаунтов могут принадлежать одним и тем же людям, так что реальное число граждан, настроенных опасно для общества, может оказаться несколько ниже.

Впрочем, даже несмотря на эту оговорку, становится ясно, что поле деятельности ЦИСМ в плане анализа настроений российской молодежи весьма велико, а важность этой работы трудно переоценить: ярким примером того, что могла бы предотвратить эта деятельность, является недавнее происшествие в Перми, когда в результате действий студента Пермского государственного научного исследовательского университета погибли шесть человек.

В основу проекта планируют положить алгоритм выявления потенциально опасных слов и выражений, которые будет искать и анализировать искусственный интеллект. Впрочем, прежде, чем он станет способен это делать, разработку таких паттернов должны будут провести специалисты-лингвисты.

Однако если общее направление работы в этой области понятно, то в отношении деталей пока остается много вопросов. Ключевыми из них являются проблема защиты персональных данных учащихся, а также возможность обработки рукописного текста: с одной стороны, машиночитаемые записи обрабатываются гораздо точнее и быстрее, а с другой, почерк человека способен дать много дополнительной информации к содержанию текста.

хотя бы один раз касались» деструктивного контента, в 61 млн, уточнив, что за одним человеком может стоять сразу несколько таких аккаунтов.

Подробнее на РБК:
https://www.rbc.ru/society/23/09/2021/614b226f9a79476967062f72более