ПОКА ВСЕ ПОД КОНТРОЛЕМ

В интервью «ГА» участник проходившей в Ереване международной конференции по эволюции и искусственному интеллекту, сотрудник Лондонского института математических наук Михаил БУРЦЕВ говорит об искусственном интеллекте, его возможностях и перспективах использования.

- Г-н Бурцев, какими исследованиями вы занимаетесь?

- Начну с достаточно общего представления об искусственном интеллекте. Сегодня все знают, что существуют системы, позволяющие что-то объяснить, описать или подсказать решение какой-то проблемы, дать ответы на интересующие вопросы. И эти системы позволяют писать код на разных языках программирования. То есть можно задать вопрос на одном языке, а получить ответ на другом. Системы искусственного интеллекта могут быть очень сложными, но они построены на очень простом принципе.

- Как создаются программы, позволяющие решать очень сложные задачи?

- Круг задач, которые способен решать искусственный интеллект, действительно очень широкий. И все начинается с того, что мы обучаем программу подсказывать следующее слово предложенного ей текста. На первый взгляд не вполне ясно, почему это важно и какой это даст результат при решении разнообразных задач. Но в интернете имеется огромное количество книг и разного рода текстов, по которым мы обучаем программу, и на основании усвоенных текстов программа учится находить продолжение, следующее слово в новом предложенной ей тексте. То есть программа учится строить ответ, похожий на тексты, с которыми она уже знакома, и если задать программе какой-то вопрос, то мы получим ответ, похожий на то, что уже встречается в других текстах, по которым она обучалась.

Программа легко справляется с экзаменационными вопросами, ответы на которые имеются в знакомых ей текстах учебников. Ответы будут представлены в разных формулировках и на разных языках. Или если, например, вы зададите вопрос, связанный с поломкой автомобиля или какого-то другого устройства, то она предложит вам определенную последовательность действий, которые необходимо предпринять для решения возникшей проблемы, потому что подобные ситуации уже встречались в знакомых ей текстах, связанных с данным типом устройств. Но при этом система обладает широким кругозором, она может предлагать и оригинальные решения, обобщать и комбинировать информацию, полученную из разных источников. То есть если задача требует знаний из разных областей, то программа их найдет, объединит и предложит в качестве решения.

Оказалось также, что предсказание следующего слова очень важно для программирования. Дело в том, что в интернете есть много программ, и в принципе есть описание того, что программа делает, и когда она предсказывает следующий элемент, то мы можем попросить ее написать тот элемент, который нужен, например, для сортировки. Разработчикам не придется самим писать алгоритм, они просто закажут то, что им в данном случае нужно, они только адаптируют его под тот проект программы, в которой работают. То есть такая система универсальна. А я занимаюсь тем, что пытаюсь улучшить архитектуру этих систем, чтобы они обучались более эффективно и могли не только использовать имеющиеся у них знания, но и создавать некоторые абстракции, делать выводы относительно окружающего их мира.

- Как будут использоваться новые возможности?

- Они найдут применение при проведении научных исследований, формировании новых теорий, доказательствах теорем и т.д. И один из способов построения алгоритмов для решения таких задач - эволюционный поиск.

- Что значит эволюционный поиск?

- Это когда у нас есть некоторое начальное решение, а затем мы вносим в него изменения. Когда нужно решить какую-то задачу, то для этого можно написать программу, которая дает ее решение, но оно не будет оптимальным. Тогда мы просим другую программу сгенерировать, сделать модификации, то есть как бы вносим мутации в наши решения, создаем разные варианты этой программы, а потом оцениваем каждый из них, чтобы понять, насколько хорошо он решает нашу конечную задачу.

- Существует ли какой-то общий алгоритм эволюции?

- Существует эволюционная теория, включающая вариацию и отбор.  В живой природе разные организмы по-разному приспособлены к окружающей среде, поэтому те, которые лучше приспособлены, дают больше потомства и таким образом выживают. То же самое применимо и к решениям математических задач или решению задач по программированию, когда мы сдаем набор программ, каждая из которых решает одну и ту же задачу, но по-другому. Потом мы из них отбираем те, которые лучше решают, и на их основе создаем новые варианты. Так мы постепенно улучшаем наш подход к решению задачи и достигаем таких решений, которые человек не смог бы найти, то есть решаем задачу более эффективно. Это приложение эволюционных принципов к искусственному интеллекту.

Но можно посмотреть и на глобальные процессы – развития вселенной, природы, интеллекта, и тогда мы увидим, что искусственный интеллект вписывается в эти процессы. Он дополняет интеллект человека, и мы продвигаемся в эволюции сложности, имеющейся во вселенной. То есть никакой другой вид не смог создать искусственный интеллект, это удалось только человеку, что вывело его интеллектуальные возможности на более высокий уровень и позволило решать более сложные задачи, чем те, которые были доступны нам прежде.

- Значит ли это, что возможности искусственного интеллекта превосходят человеческие?

- Калькулятор тоже решает быстрее нас, но он не может ставить задачи, как и не может этого делать, по крайней мере сегодня, искусственный интеллект.

- А что произойдет, когда искусственный интеллект сможет сам ставить задачи?

- Какие-то задачи он может ставить и сегодня, но только в рамках той цели, которую поставил перед ним человек как пользователь. Мы так строим систему.

- Стивен Хокинг предупреждал, что при развитии искусственного интеллекта нужно избегать ловушек…

- Но мы строим систему таким образом, чтобы она делала только то, что мы хотим, проектируем ее так, чтобы она была предсказуемой.

- То есть вы считаете, что никаких опасностей с развитием искусственного интеллекта не связано? Вы уверены, что он не выйдет за рамки задач, поставленных человеком? 

- Гипотетически все возможно, но пока я не вижу реальных угроз. Искусственный интеллект возник в середине ХХ века на стыке нейрофизиологии и математики. Тогда ученые пытались понять, как организована работа мозга и использовали современные математические методы. Это стало технологической основой для проведения этих исследований. Так возникло новое направление – искусственный интеллект. В 60-х годах прошлого века некоторые специалисты были уверены в том, что уже через 10 лет искусственный интеллект сможет полностью заменить человека. Как видим, этот прогноз не оправдался. Это вызвало разочарование, и интенсивность этих исследований резко снизилась, что значительно затормозило развитие этого направления. Сейчас интерес к развитию искусственного интеллекта снова активизировался, он все шире используется в разных областях деятельности, но задача воспроизвести интеллект человека не ставится, мы пытаемся разработать новые технологии, которые не заменят человека, а просто облегчат выполнение некоторых очень трудоемких задач. Так что о ловушках и опасностях говорить пока рано. Деятельность и развитие искусственного интеллекта полностью контролируются. Люди используют те технологии, которые соответствуют их целям.