Глава OpenAI Альтман предупредил о риске быстрого развития ИИ

Развитие систем искусственного интеллекта (ИИ) может опередить способность человечества реагировать на происходящие изменения. Об этом заявил глава OpenAI Сэм Альтман на заседании Совета Безопасности ООН, передает Reuters.

По его словам, риск заключается в слишком быстром развитии ИИ. Альтман отметил, что значение этих рисков будет возрастать по мере приближения к созданию систем, которые смогут самостоятельно совершенствовать себя и последующие версии. В таком случае темпы развития технологий могут существенно увеличиться.

Альтман отдельно подчеркнул возможность автоматизации самого процесса создания искусственного интеллекта.

12 сентября основатель SpaceX Илон Маск и Альтман поддержали предложение главы Anthropic Дарио Амодеи замедлить развитие искусственного интеллекта из соображений безопасности. Амодеи призвал снизить темпы разработки ИИ. По его мнению, для сокращения связанных с технологией рисков недостаточно только инвестировать в меры безопасности. Необходимо также контролировать скорость развития возможностей ИИ, чтобы системы предотвращения рисков успевали совершенствоваться вместе с технологией.

14 сентября председатель «Единой России», зампред Совбеза РФ Дмитрий Медведев назвал опасения по поводу стремительного развития ИИ реальными. Создатели генеративного ИИ при этом опасаются прежде всего не гибели человечества, а последствий возможных аварий с участием разработанных на его основе систем, сказал он. Медведев отметил, что программный продукт с продвинутой версией ИИ может использоваться для управления крупным производством или транспортным узлом. Ошибка такой системы, считает он, способна привести к масштабному ущербу – например, к столкновению самолетов или уничтожению АЭС.