Недавно десятки известных ученых, предпринимателей и инвесторов подписали открытое письмо с призывом уделять более пристальное внимание безопасности и общественной полезности разработок искусственного интеллекта (ИИ).

Список подписантов внушительный: среди них основатель компаний SpaceX и Tesla Motors Илон Маск и астрофизик Стивен Хокинг.

В письме призывают исследовать, как сделать ИИ максимально полезным и одновременно минимизировать негативные побочные эффекты. В качестве последних называются не только возможные экономические проблемы, рост неравенства и безработица.

Илон Маск, например, считает, что неконтролируемое развитие ИИ «потенциально гораздо опаснее ядерного оружия».

Как часто было в новейшей истории, ученых опередили фантасты: давным-давно многие из них предупреждали о том, к чему может привести неконтролируемое развитие информационно-управляющих систем.

Мы решили оценить реальность угроз и попросили ученых-практиков прокомментировать устрашающие прогнозы, которые теперь обсуждают не только фантасты, но и технологическая элита.


Крик новорожденного

Великий писатель-фантаст ХХ века Артур Кларк предсказал много интересных вещей. Его «Космическая Одиссея: XXI век», «Фонтаны рая» и другие произведения разбираются на цитаты.

Чаще всего изумляются его предсказанию будущего спутниковых коммуникаций, которые сделают общение в любой точке планеты легким делом.



Артур Чарльз Кларк.


Но гораздо реже говорят о его произведениях-предупреждениях. Одним из них был небольшой рассказ 1963 года, опубликованный на русском языке под названием «Зазвонил телефон», в котором специалисты телефонной компании пытаются понять, почему миллионы абонентов спустя пару часов после подключения очередного спутника связи услышали телефонный звонок.

В процессе они замечают странности наступающего утра: летящий на крайне низкой высоте реактивный лайнер, задержку доставки завтрака из кафе, мерцание ламп. И постепенно приходят к выводу, что они построили искусственный мозг, приобретший законченную архитектуру именно с запуском нового спутника, который связал ранее изолированные системы в одно целое.

И телефонный звонок сразу всем абонентам — это был первый крик новорожденного, который стал играть всем, что ему доступно. А доступны ему все системы управления полетом самолетов, дорожным движением, энергетическими сетями, вооружениями.

Кларк показал, что создание системы ИИ может произойти случайно: просто в какой-то момент будет перейден порог увеличения связей, количество ячеек памяти и переключений перейдет в качество, — и появится система с собственной волей и своим «я».

Причем система совсем не обязательно обрадуется своему появлению на свет.

 

---

Майкл Боулинг
Профессор Альбертского университета, глава Computer Poker Research Group, разработчик программы, основанной на искусственном интеллекте и способной выигрывать у человека в покер

Надо понимать, что любые существующие системы, в том числе и наша, — это не попытки создать искусственный интеллект, это попытки понять, как он может родиться, попытки выйти за пределы текущего понимания вещей.

Называя альтернативный интеллект искусственным, мы уже совершаем ошибку. Совершаю ее и я, просто потому, что этот термин удобен и понятен, хотя и не соответствует нашей новой технологической реальности. Если применять те знания и наработки, которые уже есть у человечества в этой области, становится понятно, что искусственный интеллект — оксюморон.

Его искусственность в прямой рукотворности, а это значит, что интеллект, будучи самодостаточной, саморождающейся и саморазвивающейся сушностью, перестает быть интеллектом, а остается лишь компьютерной программой.

Футуролог Google Рэй Курцвейл давно сделал важнейший вывод: альтернатива человеческому интеллекту появится как результат мысли альтернативного интеллекта. Это сложный и дискуссионный философский вопрос, но, не приняв к рассмотрению эту концепцию, мы не сможем двигаться дальше.

В практическом плане такую концепцию можно расшифровать так: человек не может создать искусственный интеллект, но он может создать почву, мир, экосистему, вселенную, в которых самозародятся зачатки нового интеллекта.

Построив этот мир, нам придется долго и терпеливо ждать. Возможно, ждать результата придется бесконечно долго.

Может ли при этом произойти нечто, что человек уже не сможет контролировать? Гипотетически может. Ведь самозарождение — это по определению автономный, не зависящий от нас процесс.
 

---

Ответственность родителей

Кто принимает в расчет мнения детей, когда родители их только зачинают? Подавляющее большинство людей держатся за дар жизни и сознания, но есть и те, для кого эта жизнь — мука. И отношение таких детей к родителям доходит до ненависти: зачем вы меня произвели на свет?!

Такой вариант развития событий предсказал в 1967 году Харлан Эллисон в своей антиутопии «У меня нет рта, что бы кричать», удостоенной премии «Хьюго» — самой престижной награды в области научной фантастики.

Он представил себе ситуацию, когда создаваемые для атомной войны интеллектуальные системы разных стран вошли в контакт друг с другом и, объединившись, уничтожили человечество, оставив пять человек, которых этот сверхмозг подвергает изощренным пыткам и испытаниям.



Фрагмент обложки первого издания «У меня нет рта, чтобы кричать». Харлан Эллисон