Стивен Хокинг: Люди проиграют компьютерному разуму

Астрофизик Стивен Хокинг предупредил, что искусственный интеллект может «перехитрить» человечество, и призвал людей создавать колонии на других планетах, чтобы избежать возможной технологической катастрофы. Его мрачные прогнозы соответствуют недавним предупреждениям некоторых предпринимателей из Кремниевой долины.

Искусственный интеллект может стать «настоящей угрозой в не столь отдаленном будущем», если научится самосовершенствованию, рассказал Хокинг Financial Times. По его словам, генная инженерия тоже позволит улучшить ДНК человека. Однако Хокинг отметил, что это будет медленный процесс и он займет 18 лет, прежде чем люди увидят какой-либо прогресс. «Для сравнения: по закону Мура скорость компьютеров и размер их памяти удваиваются каждые 18 месяцев, - сказал он. - Есть риск, что компьютеры разовьют интеллект и получат контроль над ним. Люди, ограниченные медленной биологической эволюцией, не смогут конкурировать, и их вытеснят».

Сооснователь PayPal Питер Тиль и Элон Маск, основатель производителя электромобилей Tesla и частной космической компании SpaceX, тоже предупреждали о рисках легкомыслия перед лицом неограниченных достижений в области искусственного интеллекта. Люди теперь все чаще сталкиваются с такими «умными» машинами, как летающие беспилотники и прототипы самоуправляемых автомобилей. А исследователи из Oxford Martin School Оксфордского университета недавно сделали доклад о риске «робовойн», когда автономное оружие сможет идентифицировать и уничтожать цели без участия человека.

Хокинг признался, что ценит преимущества, привнесенные искусственным интеллектом. Из-за болезни он может говорить и писать только с помощью специальных коммуникационных устройств. Благодаря новой системе, разработанной Intel и британским стартапом SwiftKey, он может это делать в два раза быстрее, чем раньше.

Но Хокинг также предупредил о разрушительных плодах технологических прорывов, таких как ядерная война, глобальное потепление и генетически созданные вирусы. «Их число, вероятно, увеличится в будущем с появлением новых технологий и новых способов того, как вещи могут пойти не так», - сказал он.

По мнению Хокинга, очень велика вероятность того, что в следующие 1000 или 10 000 лет на Земле произойдет катастрофа. Поэтому он считает, что человечеству необходимо осваивать космическое пространство, если оно не хочет исчезнуть в случае катастрофы на Земле. «Чтобы создать самодостаточные колонии, потребуются время и усилия, но с развитием технологий это будет проще», - сказал он.

Перевел Алексей Невельский