Опасных школьников вычислят по сочинениям с помощью ИИ

Учащихся со склонностями к социально опасному и деструктивному поведению начнут выявлять путем анализа их письменных работ. На создание программного обеспечения для такого анализа в бюджете нацпроекта «Образование» предусмотрено 1,7 млрд руб., следует из пояснительной записки к проекту федерального бюджета на 2022 г. и на плановый период 2023–2024 гг., с которой ознакомились «Ведомости».

Проект бюджета утвержден правительством 21 сентября, его внесение в Госдуму планируется до 1 октября. Расходы на создание ПО включены в федеральный проект «Социальная активность». В 2022–2023 гг. на разработку технологии анализа письменных работ учащихся планируется направить по 551,1 млн руб. ежегодно, в 2024 г. – 555,7 млн руб.

В пресс-службе Минпросвещения, ответственного за реализацию нацпроекта «Образование», вопросы о программном продукте переадресовали в Росмолодежь. В пресс-службе последней не предоставили комментарии к моменту сдачи материала в печать. В пресс-службе правительства не ответили на запрос «Ведомостей» о деталях создания ПО и планах по срокам его внедрения в российских учебных заведениях.

Толчком для создания проекта по разработке подобного ПО послужили участившиеся случаи насилия в учебных заведениях, считает первый заместитель председателя комитета по образованию и науке в Госдуме VII созыва Олег Смолин. 20 сентября 18-летний молодой человек совершил вооруженное нападение на Пермский госуниверситет, убив восемь человек и многих ранив. 11 мая в казанской гимназии № 175 один из школьников совершил нападение на учеников и учителей, его жертвами стали семь детей и две учительницы.

Детский психиатр Европейского медицинского центра Павел Зайцев рассказал «Ведомостям», что ему неизвестно о существовании в России или за рубежом доказательного ПО по психологическому анализу письменных работ: «Определенные паттерны мышления действительно проявляются в устной и письменной речи, и алгоритмы могут позволить выявить те из них, что настораживают.

Однако непонятно, как будет использоваться результат этой разработки». Зайцев отмечает, что анализ даст эффект, только если речь идет о текстах на свободную, а не на заданную тему: «По такому принципу работают лингвисты-психологи, которые проводят судебную экспертизу: для выявления психологических особенностей и наклонностей человека они собирают большой массив его писем, постов в соцсетях, литературных трудов».

Выявить изменения в поведении человека можно при анализе больших данных, например сочинений за несколько лет, пояснил Игорь Ашманов, президент компании «Крибрум»: «Велика вероятность, что созданная за средства бюджета программа будет выдавать случайный результат, который предстоит интерпретировать учителю или школьному психологу. Технические средства для определения уровня стресса и наличия склонностей действительно существуют, однако они применяются для анализа больших групп людей, а не конкретного человека».

Ашманов сомневается, что в создании подобного программного обеспечения есть смысл, а заявленную в пояснительной записке смету проекта в 1,7 млрд руб. называет завышенной в 2–3 раза.

У подобного отбора могут быть непредсказуемые последствия, добавляет юрист BMS Law Firm Дмитрий Лесняк: «Учитель начнет косо смотреть на ребенка, расскажет об этом окружающим его детям. Родители могут начать присматривать за ребенком, а могут начать отдаляться. Кроме этого школьника могут перевести в специальную группу или поставить на учет в психдиспансер». 

Если разработка ПО будет завершена успешно, потребуются изменения в действующее законодательство и только после этого программный продукт можно будет использовать, считает член Ассоциации юристов России Дмитрий Уваров. Он затруднился ответить на вопрос, какие именно изменения потребуется внести.

«Для исследования работ учащихся и любых всех последующих действий потребуется как минимум согласие тестируемого или его законного представителя», – уверен детский психиатр Зайцев.