Нейросеть посоветовала правительству подумать о стандартах ИИ в образовании
Вице-премьер Чернышенко принял идею, отметив, что языковые модели нужно обучать на отечественных данных
Использование искусственного интеллекта (ИИ) в образовании должно регулироваться так, чтобы поддерживать высокий уровень подготовки специалистов, а внедрять ИИ необходимо вместе с мерами контроля качества образовательного процесса. Такой совет дала нейросеть GigaChat вице-премьеру Дмитрию Чернышенко в рамках формата «100 вопросов о будущем России» 26 декабря. ИИ считает, что нужно усилить программы по информационной грамотности, а также разработать стандарты и рекомендации по использованию нейросетей в школах, колледжах и вузах. Зампред правительства согласился с этой идеей.
«Такую подсказку можно принять. Вы должны относиться к искусственному интеллекту как к поддерживающей системе, которая не должна заменять мышление», – сказал он, обращаясь к молодежи в зале национального центра «Россия». Далее вице-премьер поделился деталями работы – оказывается, члены правительства используют ИИ для работы с чувствительной информацией и во внутреннем управлении. Чернышенко сообщил, что у них в координационном центре есть отдельные стойки с ИИ. Он отрезан от внешней среды «для того, чтобы ответы, которые он дает, не были достоянием кого не надо». В документообороте правительству помогают специальные цифровые агенты, уточнил вице-премьер.
По словам Чернышенко, более 60% преподавателей и студентов «считают, что они используют ИИ в своей работе», но эффективно пользоваться им умеют не более 20%. Вице-премьер не уточнил вводные данные исследования и какое учреждение пришло к этому выводу. Он также выразил мнение, что промт-инжиниринг – дисциплина, которая учит правильно задавать вопросы ИИ и добиваться качественных ответов, – скоро уйдет в прошлое. При этом важно уделять внимание тому, как правильно работать с нейросетями, подчеркнул спикер.
В этом контексте Чернышенко озвучил свое пожелание: российские языковые модели важно обучать на собственных данных, поскольку альтернативы «представляют и представлены государствами, которые исповедуют другие ценности». Вице-премьер считает, что ИИ используется как инструмент патернализма, «мягкого подталкивания» и управления обществом, а у России отсутствуют «замашки манипулирования – у кого-то что-то отобрать, захватить колониально».
Национальные цели по развитию ИИ
В феврале 2024 г. президент Владимир Путин подписал указ, вносящий изменения в действующую национальную стратегию развития искусственного интеллекта до 2030 г. Согласно документу, вузы должны увеличить впятеро количество выпускников, которые освоили образовательные программы в сфере ИИ, т. е. до 15 500 человек с 3048 в 2022 г. До 80% сотрудников российских компаний к 2030 г. должны владеть навыками использования ИИ. В 2022 г. только 5% россиян владели подобными компетенциями, писали «Ведомости».
На стратегической сессии по развитию кинематографа и производства видео было принято решение о создании «озера данных», рассказал Чернышенко. По словам вице-премьера, в него войдут лучшие отечественные фильмы – новые и советские, а ИИ будет учиться у них. Сейчас ИИ – это всеядная сеть, которая обучается на доступных источниках, в результате чего не исключено не совсем удачное влияние «голливудской» продукции, подчеркнул спикер.
Говорить о непосредственном или обязательном применении нейросетей и больших языковых моделей в обучающем процессе пока рано, однако игнорировать ИИ тоже нельзя, считает СЕО группы компаний ST IT, эксперт рынка TechNet НТИ Антон Аверьянов. Учащиеся, например, могут использовать ИИ для создания творческих работ и систематизации материала, а преподаватели – для разработки целевого подхода к классу или конкретному обучающемуся, говорит эксперт. Вместе с этим он отмечает, что школьникам и студентам стоит обращаться с нейросетями с большой осторожностью, поскольку ИИ может откидывать часть необходимого для изучения материала.
Использование технологий ИИ в образовательном процессе допустимо с учетом требований законодательства, возрастных ограничений, особенностей конкретной образовательной сферы и внутреннего положения конкретной организации, заявили «Ведомостям» в пресс-службе Альянса в сфере искусственного интеллекта. Вместе с этим стоит предупредить о таком возможном недостатке при внедрении нейросети, как чрезмерная зависимость от ИИ при поиске решений, отметили в организации. «Применение искусственного интеллекта поднимает ряд этических проблем, связанных с конфиденциальностью данных, предвзятостью алгоритмов и возможным дискриминационным поведением систем», – говорится в ответе альянса.
Недостатки использования ИИ в первую очередь заключаются в «галлюцинациях», в результате которых нейросети генерируют несуществующие факты, события и названия, дополняет замдиректора по трансферу технологий Центра компетенций НТИ по направлению «Технологии хранения и анализа больших данных» на базе МГУ им. Ломоносова Тимофей Воронин. Для решения этой проблемы нужно установить четкие и конкретные правила использования ИИ, считает он. В этом контексте идея борьбы с «чуждыми ценностями» правильная, поскольку она затрагивает вопрос и суверенитета, и суверенного ИИ, говорит эксперт. «Но важно учитывать, что нейросетям для обучения необходимы большие объемы данных, которые должны обеспечиваться и зарубежными источниками», – заявил Воронин.
GigaChat – нейросеть, разработанная «Сбером». В этом году она использовалась при подготовке прямой линии президента Владимира Путина. Искусственный интеллект помог в обработке обращений населения, говорил глава государства. С помощью нейросети еще до старта «Итогов года» можно было увидеть, какие вопросы актуальны для россиян, разделить обращения по темам и регионам, а также дать поручения губернаторам и ведомствам, сообщал Путин.
России нужно создать независимую систему обучения генеративного ИИ на данных, которые не исключают роль и место нашей страны в мировой науке, культуре, спорте, искусстве и других сферах, соглашается директор по развитию EKF, эксперт рынка НТИ «Нейронет» Татьяна Мосендз. «В данном случае создание дата-сетов на базе нашего культурного кода и исторических фактов является основой нашей идентичности и независимости», – говорит она.
ИИ в образовательном процессе следует также рассматривать как средство актуализации устаревающих материалов, заявил руководитель департамента расследований T.Hunter, эксперт рынка НТИ SafeNet Игорь Бедеров. «За счет внедрения ИИ появится возможность все новые исследования, научные работы почти моментально интегрировать в базу образовательных материалов», – отметил он. По словам эксперта, ИИ сможет помочь и в создании новых программ профессиональной подготовки.