Маск против Цукерберга: два разных пути в будущее искусственного интеллекта

#Мир
6 ноября 2018. 10:17

Развитие искусственного интеллекта чревато новыми и непредсказуемыми рисками. Об этом всерьез говорили философ Ник Бостром, физик-теоретик Стивен Хокинг и магнаты из Силиконовой долины Илон Маск и Билл Гейтс. Впрочем, они пока не убедили большинство. Ведь и среди оптимистов — не менее влиятельные люди: Марк Цукерберг, Ларри Пейдж или футуролог Рэймонд Курцвейл. Они, напротив, в искусственном интеллекте видят решение всех проблем человечества. Почему же основатель Space X и создатель Facebook разошлись во мнениях?

По оценкам многих известных исследователей, искусственный интеллект может привести к появлению сверхразума — интеллекта, превосходящего когнитивные возможности человека во всех ключевых областях. Именно он кажется одним главной угрозой, а другим — главной надеждой. И он может появиться быстрее, чем мы ожидаем, так как темпы технологического прогресса ускоряются в геометрической прогрессии.

Чуть больше 50 лет назад появился компьютер — машина, способная совершать математические и логические операции и заменять человека в отдельных областях, которые считались исключительно интеллектуальными. Вы замечаете, как в целом сокращается временной интервал между радикальными изменениями? Так вот, если смотреть назад на историю технического прогресса из нашего времени, то это бесконечная долина, а впереди перед нами — отвесная вертикаль. Мы стоим на «экспоненциальной кривой». Следующий рывок может произойти скоро, и, скорее всего, он будет связан с искусственным интеллектом.

По разные стороны прогресса

В первом лагере — генеральный директор Facebook Марк Цукерберг. Он считает технологии непререкаемым достоянием человечества. По его мнению, любые социальные и этические проблемы можно решить по мере развития технологий. Кажется, такой точки зрения по умолчанию придерживается большая часть жителей Силиконовой долины, но это не так.

Его основной оппонент — генеральный директор Tesla и SpaceX Илон Маск. Он проявляет осторожность в работе, например, с искусственным интеллектом, опасаясь потери контроля над ним со стороны человека.

Ни один из них не отвергает технологии. Оба уверены, что будущее зависит от быстрого прогресса. Но недавний скандал с Facebook обнажил их идеологический разрыв. Не случайно Маск удалил страницы Tesla и SpaceX из этой социальной сети, хотя на них были подписаны около 5 миллионов человек.

Марк Цукерберг, CEO Facebook Марк Цукерберг (№5 в глобальном рейтинге Forbes, состояние $56 млрд).

Цукерберг рассматривает мир как бесконечный эксперимент, или тест, который к тому же приносит прибыль. Маск считает, что искусственный интеллект необходимо обуздать уже сейчас, поскольку машинный разум неизбежно станет «фундаментальным риском для существования человеческой цивилизации». Цукерберг отрицает такие взгляды. Во время прямого эфира в Facebook в июле прошлого года он сказал:

«В некотором роде, я на самом деле думаю, что это (взгляды Маска) очень безответственно».

Маск быстро ответил в Twitter:

«Я говорил с Марком об этом. Его понимание предмета ограниченно».

Взгляды обоих предпринимателей на риски и преимущества технологий воплощены в их компаниях. Девиз жизни Цукерберга: «Двигайся быстро, и ты сможешь сломать порядок вещей». Этот же принцип воплощен в Facebook, который начинался как экспериментальная работа в университете в 2004 году, а впоследствии стал крупнейшей соцсетью в мире.

Если говорить философски, Маск руководствуется убеждением о том, что человечеству нужно быстро измениться. Неслучайно инновации его компаний связаны с изменениями климата и межпланетными исследованиями, безопасности искусственного интеллекта и очевидном, но до сих пор не созданном подземном транспорте. Маск считает, что вымирание человечества гораздо более вероятно, чем мы могли бы подумать — из-за рискованных технологий и стихийных бедствий.

Илон Маск (№80 в глобальном рейтинге Forbes, состояние $13,9 млрд)

В лагере Цукерберга — соучредитель Google Ларри Пейдж, изобретатель Рэй Курцвейл и компьютерный ученый Эндрю Ын, выдающаяся фигура в сообществе искусственного интеллекта, ранее возглавлявший подразделение искусственного интеллекта в китайской компании Baidu. Все трое, по-видимому, придерживаются мнения о том, что технологический прогресс почти всегда положителен и сбалансирован.

Маск наряду с Биллом Гейтсом, покойным физиком Стивеном Хокингом и венчурными инвесторами Сэмом Альтманом и Фредом Уилсоном не считают технический прогресс безусловным благом. По этой причине они открыты для регулирования. После выборов Трампа, например, Уилсон сказал:

«Я готов заплатить налог, который создаст хороший нормативный надзор в нашей отрасли».

Человек как препятствие

Дело в том, что вне зависимости от того, какие изначальные цели будут поставлены перед сверхразумом, у него в любом случае появится промежуточная цель — обеспечение ресурсами для реализации этой цели. И на пути к реализации промежуточной цели сверхразум может воспринять человечество как препятствие. В худшем сценарии он станет нашим последним изобретением. Человечество на эволюционной лестнице станет загрузочной программой для нового типа разума.

В связи с этим обычно возникают два любопытных вопроса: а действительно ли развитие искусственного интеллекта в узких областях, то развитие, которое мы наблюдаем сейчас, может привести к появлению сверхразума? И действительно ли машины могут мыслить, ведь они только оперируют нулями и единицами?

Несомненно, успехи машин в отдельных областях являются свидетельством возможности прогресса в создании общего интеллекта у машины. При этом уже сейчас есть некоторые подвижки и в его разработке. Эти исследования ведутся в рамках проектов DeepMind, The Human Brain Project и «Открытый ИИ».

Например, компания DeepMind, принадлежащая Google, разработала программу AlphaZero, которая способна учиться играть не в одну конкретную игру, а почти во все, причем сама… Ее поведение в играх очень неожиданно и непредсказуемо для экспертов. Как говорят некоторые мастера, игравшие с ней, «она ведет себя как инопланетянин. Она может неожиданно подставить ценную фигуру для того, чтобы приобрести позиционное преимущество».

Серверные The Human Brain Project. В обществе Human Brain Project (HPB) уже окрестили «Большим адронным коллайдером от нейрофизиологии»

А что касается принципиальной возможности машин мыслить, здесь тоже нет особенных проблем. Они способны обыгрывать нас в интеллектуальных задачах. Чем это не мышление? Конечно, можно придираться к тому, как они это делают, с помощью каких механизмов. Но с таким же успехом можно говорить, что самолеты не летают, так как они не машут крыльями, как птицы.

Интеллект — это, прежде всего, интеллектуальное поведение, а не особенности внутреннего устройства. И в этом машины очень скоро могут нас обойти. Не значит ли это, что беспокойство Илона Маска оправданно и что перед нами сейчас два разных пути в будущее, один из которых может обернуться большой бедой?

АРТЕМ ЭСАУЛОВ

комментарии

Новые события нижнего новгорода