Как сообщает РБК, Автономная некоммерческая организация «Центр изучения и сетевого мониторинга молодёжной среды» (АНО «ЦИСМ») намерена заняться разработкой системы, которая будет выявлять социально опасных обучающихся.
Ссылаясь на пояснительную записку к проекту трёхлетнего бюджета, представители пресс-службы РБК рассказали о том, что созданная в 2018 году по поручению Владимира Путина АНО «ЦИСМ» может получить из бюджета почти 1,6 миллиарда рублей на разработку системы мониторинга распространения информации, которая может склонить или побудить детей «совершить действия, представляющие угрозу их жизни» или жизни и здоровью других.
Данные средства планируют выделить в рамках федерального проекта «Социальная активность», которым занимается Росмолодёжь.
Как отмечается в документе, деньги направят на создание программного обеспечения, с помощью которого будут анализировать письменные работы учеников и выявлять их «склонность к социально опасному и деструктивному поведению».
Пока в агентстве не прокомментировали, по каким принципам упомянутое ПО будет действия и каким образом организуют защиту персональных данных.
Однако эксперты пояснили, какой алгоритм будет взят за основу. Руководитель Liquid Studio Accenture в России Арсений Кондратьев полагает, что для функционирования программы может быть задействована нейросеть, которую сначала обучат на примере текстов, написанных людьми с психическими или социальными отклонениями, а затем она сможет распознавать общие паттерны в работах и соотносить с ними новые тексты. И в случае если процент совпадения будет высок, ПО даст об этом сигнал.
По словам разработчика поисково-аналитической системы Avalanche Андрея Масаловича, тексты для обучения нейросети могут быть на разные темы и написаны разными людьми, главное — правильно их «разметить». Таким образом, предварительно над базой должны поработать специалисты-психологи, указав слова и паттерны, которые свидетельствуют о нарушениях психики у пишущего.
