ЗАДУМАТЬСЯ СТОИТ

В интервью "ГА" доктор физико-математических наук Армен ДЖРБАШЯН размышляет о возможностях человека и перспективах развития искусственного интеллекта.

- Г-н Джрбашян, как вы считаете, развитие искусственного интеллекта связано с какими-то опасностями для человечества?

- В общем-то я не занимаюсь искусственным интеллектом, сфера моей профессиональной деятельности – математика, но свое субъективное мнение по этому вопросу я могу высказать. Много людей в этой области утверждают, что искусственный интеллект полностью находится под контролем и всего лишь выполняет задания человека. То есть оснований для беспокойства вроде бы нет.

- Пока у искусственного интеллекта не появились свои интересы…

- Да. Но недавно я прочитал в одном британском источнике, что, когда захотели стереть какую-то версию искусственного интеллекта, он попытался обмануть создателей и перейти на другой сервер… Правда, потом, приложив немало усилий, стереть нежелательную версию все-таки удалось. Но это не значит, что так будет всегда. Может быть, эта информация недостоверна, всякое бывает в интернете. Но возможно, у искусственного интеллекта могут появляться свои желания и интересы, а это может привести к самым непредсказуемым последствиям. Ведь возможности анализа, обработки и сопоставления информации искусственного интеллекта значительно превышают человеческие. И если к этому еще прибавится мотивация, что тогда?

- Тем более, наверное, следует учитывать, что искусственный интеллект изначально лишен морали, значит, есть, чего опасаться. Причем интересы искусственного интеллекта могут проявиться раньше, чем человечество будет к этому готово.

- А человечество во всех случаях не будет готово.

- Почему?

- Потому, что люди сначала делают, а потом думают. И так было всегда.

- То есть действия опережают разум.

- По крайней мере, очень часто. Разработчики прикладывают большие усилия, что-то создают, но не всегда понимают, что с этим делать и чем это чревато.

- А как вы считаете, можно ли принять какие-то превентивные меры, чтобы избежать негативных развитий?

- Не думаю, что это реально. Кто это сделает? Какие-то запреты и ограничения не помогут. Одни будут их придерживаться, а другие нет.

- То есть так же, как в исследованиях в области вирусологии, создания новых вирусов…

- Конечно. Ведь в каких-то лабораториях эта деятельность все равно продолжается, и никакие ограничения не помогают.

- То есть не исключено, что найдутся люди, которые захотят сделать так, чтобы искусственный интеллект вышел из-под контроля?

- Думаю, да. Тем более, что не только какие-то люди, но и страны и организации с серьезным финансированием.

- То есть человечество не осознает последствий своих действий.

- Дело в том, что человечество не является чем-то однородным, единым, оно очень разнообразно, как по интеллектуальным, так и по нравственным и культурным характеристикам. У человечества нет единого мнения, позиции по какому-либо вопросу. Этого единства и единообразия нет даже в пределах одной нации, государства, не говоря о человечестве в целом.

- Поэтому контролировать процесс развития и использования искусственного интеллекта невозможно?

- Думаю, да. Кто-то, привязанный к культурным корням и нравственным основам своей нации, осознает необходимость ограничений, а другие нет, поэтому полный реальный контроль невозможен.

- Сегодня люди рады возможности переложить выполнение сложных задач, даже принятие решений на искусственный интеллект. Какие это может иметь последствия?

- Не знаю, к чему это приведет. Но полностью полагаться на искусственный интеллект определенно не стоит. Да, он значительно быстрее человека справляется с большими вычислениями, может обработать огромный объем информации, но некоторые задачи ему не под силу, поскольку он лишен фантазии. Решабельные задачи искусственный интеллект может взять на себя, но с нерешабельными он не справляется, по крайней мере, сегодня. Однажды, ради шутки, я задал искусственному интеллекту одну из нерешенных, а может быть, и нерешабельных задач, которую известный немецкий математик Давид Гильберт представил на II Международном конгрессе математиков в Париже в 1900 году как одну из 23-х проблем математики. Как и ожидалось, искусственный интеллект лишь проинформировал меня о важности и сложности решения этой проблемы – и все. А от специалистов можно услышать что-то более вразумительное, что, возможно, эту задачу неправильно формулировать в териминах теории функций, как это сделал Риман, так как попытки ее решения приводят обратно к теории чисел.

Отмечу также, что в 1932 году австрийский математик Курт Гедель доказал две теоремы, одна из которых гласит, что в любой теории, содержащей аксиомы теории чисел, а это почти все человеческие знания, имеются высказывания, справедливость или несправедливость которых, оставаясь в рамках данной теории, доказать невозможно. Таким образом возникает вопрос: а не фикция ли все знания человечества? Тем более, что нечто подобное имеется и в физике.

- Потому что есть другая физика?

- Может быть. Но я не об этом. Я говорю, например, о "так называемом" парадоксе наблюдателя. При некоторых условиях, если есть наблюдатель, происходит дифракция света, а если наблюдателя нет, то и дифракции нет. Таким образом, наличие или отсутствие наблюдателя меняет физический процесс. При этом не важно: смотрящий рядом или наблюдает за происходящим через камеру, находясь за тысячи километров.

- Это явление имеет какие-то объяснения?

- Попытки объяснить парадокс наблюдателя предпринимаются, но они неубедительные. Наверное, это так и останется тайной для человечества. Природа смеется над нами, а мы часто значительно преувеличиваем наши достижения и возможности. По-видимому есть вещи, которые человечеству понять не дано. И с этим надо смириться, хотя бы учитывать. Это к тому, что наши возможности понимания природы весьма ограничены. Наши прогнозы на будущее сомнительны, не доказуемы. Люди смогли создать искусственный интеллект, но в плане управления его развитием, контроля его поведения в будущем человек может оказаться бессильным, особенно, если искусственный интеллект начнет свободно самообучаться. И обо всем этом стоит задуматься.