Сотрудники OpenAI и Google DeepMind заявили о рисках технологии ИИ

Бывшие и действующие сотрудники американских разработчиков искусственного интеллекта OpenAI и Google DeepMind подписали открытое письмо, в котором заявили о рисках, которые несет искусственный интеллект (ИИ), и призвали защитить их от возможного возмездия компаний за критику. Об этом пишет агентство Bloomberg со ссылкой на обращение.

«Эти риски варьируются от дальнейшего углубления существующего неравенства до манипуляций и дезинформации, до потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества», – говорится в письме. Его подписали 16 человек, восемь из них являются бывшими сотрудниками OpenAI и Google DeepMind.

Авторы обращения указывают, что, пока за разработчиками не будет эффективного государственного надзора, работники корпораций являются одними из немногих, кто может привлечь их к ответственности перед обществом. В связи с этим повышается риск оказания давления на информаторов. Кроме того, компании обязывают их подписывать широкие соглашения о конфиденциальности. Поэтому подписанты призывают разработчиков ИИ придерживаться ряда принципов, в том числе поддерживать культуру открытой критики и проверять анонимные сообщения о возможных рисках, которые несет технология.

В феврале основатель и гендиректор американской компании-разработчика чат-бота ChatGPT OpenAI Сэм Альтман призвал создать международное объединение для выработки мер безопасности при работе с программами на основе ИИ. По его мнению, это следует сделать прежде, чем создавать наиболее мощную технологию, сообщал ABC News. В мае прошлого года разработчик нейросети уже обращался к сенату США с предложением урегулировать ИИ. Альтман заявил, что необходимо создать новое агентство для лицензирования разработчиков и ввести для них независимый аудит.