Искусственный интеллект - конец человечества?

«Изобретение полноценного искусственного интеллекта может означать конец человечества» — предостерегает астрофизик Стивен Хокинг. Опасается его появления и Билл Гейтс. Главная фобия связана с тем, что роботы станут хозяевами человечества, а мы станем биологическими рабами.

Эта идея эксплуатируется в научной фантастике, антиутопиях и поп-культуре уже очень давно. Учитывая, в какой степени за последние годы разрослось киберпространство, неудивительно, что эти опасения выйдут из области фантазий. Как и в случае с другими страхами, связанными с новыми технологиями, самое время начать бояться с умом.
Первый шаг – анализ того, на что способны компьютеры. Системы, построенные на основе технологий «глубинного обучения», настроены на самообучение простейшим операциям, вроде обнаружения паттернов и перевода, с помощью имитации нейронных слоев человеческого мозга и сжатия больших объемов данных. Эти операции уже сейчас получаются у систем не хуже, чем у людей. Так алгоритм Deep Face, представленный Фейсбуком в 2014 году, позволяет распознавать реальные человеческие лица с вероятностью 97%.
Это не такая уж тривиальная задача. Математические способности компьютеров несоизмеримо выше человеческих, для этого их и создавали. Но простейшие для человека действия, вроде визуального или аудиального распознавания, для них еще крайне сложны. Просто потому что эти действия не предполагают следование формальным правилам, как происходит в случае с алгоритмами. Собственно, юриспруденция — такая сложная и высокооплачиваемая область, потому что людям приходится создавать формальные правила для того, что всем кажется как бы само собой очевидным.

Но нельзя не отметить, что сегодняшний вариант искусственного интеллекта (далее ИИ) производит видимость человеческого интеллекта через обработку данных без интереса к тому, что делает человеческий мозг человеческим – автономности, интересов, желаний. Он не способен делать выводы, суждения и решения.
Тем не менее, ИИ уже сейчас может быть очень полезным, дополнять и усиливать человеческую деятельность. Например, Гарри Каспаров (известный опытом первого в истории проигрыша человека машине) говорит, что на данный момент самые совершенные игроки в шахматы – это не компьютеры, а команды из людей и алгоритмов. Такой симбиоз можно использовать в любой вообразимой сфере: медицине, компьютерной технике, науке, государственной безопасности и т.д. Google-glass был не таким уж бессмысленным проектом, как многим сейчас кажется. Социальные последствия сложно переоценить. Например, сколько финансовых средств пойдут в более прогрессивные области, сколько появится новых профессий.

Что больше всего пугает в искусственном интеллекте? Способности его, превышающие способности человека. Когда машина получит способность к самосовершенствованию, она не остановится: совершенству предела нет, как все мы знаем.
Но пока все это мысли об очень далеком будущем. Легко написать сценарий фильма «Матрица», но чтобы создать интеллект хотя бы приближающийся к уровню человеческого, нужно хорошо понимать, что представляет собой человеческий мозг. А до совершенного понимания нам еще далеко.
Но все же. У человечества имеется богатый опыт создания предметов со сверхчеловеческими способностями. С того момента, как человек стал человеком, он начал расширять свои возможности, делая то, на что он никогда не был бы способен одними «голыми руками».

Операционные системы можно сравнить не только с камнем или колесом, но и с институтами: рынками, государствами, армиями. Все это также позволило делать то, что не может делать отдельных человек сам по себе. И все таит в себе точно такие же опасности, как и искусственный интеллект. Просто мы к ним слишком привыкли, чтобы бояться потери контроля. Но все эти примеры могут подсказать, как нам следует в будущем поступать с ИИ, какую систему сдержек и противовесов выстраивать. Не факт, что система будет работать идеально – вспомним современные демократии. Но, какой бы несовершенной демократия ни была, она все же работает (как не могли себе представить ее ярые противники в далекие времена) и никакой катастрофы, в общем-то, не происходит.