О ЗОЛОТОЙ РЫБКЕ И ЧЕЛОВЕЧЕСКОЙ ГЛУПОСТИ

- Г-н Алахвердян, в нашей прошлой беседе рассматривался вопрос: грозит ли человечеству интеллектуальная деградация, если решение все большего числа задач будет перекладываться на искусственный интеллект.  Проблема действительно актуальная, ведь ограничить использование искусственного интеллекта уже невозможно. Вы видите в этом опасность для человечества?

- Говоря проще, вас интересует вопрос: станут ли люди глупее при снижении интеллектуальной нагрузки? Если для аналогии обратиться к физическому состоянию человека, то отсутствие физических нагрузок действительно приводит к негативным последствиям для состояния организма. Но перед тем, как перейти к основному вопросу, давайте постараемся определиться с понятием «глупость». Это очень важно, чтобы адекватно представить возможности компьютера. Однако дать определение глупости сложно, поскольку глупость чрезвычайно разнообразна, она имеет множество проявлений, в том числе связанных с принятием решений. Стоит формализовать этот процесс, а уж потом перепоручать выполнение этой задачи машине.

 Сегодня очень часто приходится слышать обвинения в глупости, непонимании каких-то вопросов не только отдельными людьми, но и целыми народами, которые ведут себя глупо. Но глупость очень нетривиальна. Этим вопросом занимались многие известные философы Кант, Шопенгауэр, Гегель, а также психологи, поскольку эта проблема лежит на пересечении психологии и философии.

- Но большая часть человечества состоит из людей скромных интеллектуальных возможностей.  И если целые народы ведут себя глупо, то стоит предъявлять претензии к лидерам, ведь из любого народа можно сделать все, что угодно, и в истории мы знаем такие примеры.

- В мире действительно много достаточно глупых людей, но еще лет 20-30 назад обвинения в глупости не были такими масштабными.

- В шуточном произведении «Похвала глупости», написанном еще в ХVI веке, Эразм Роттердамский называл глупость великим счастьем. И с приводимыми в пользу этого утверждения аргументами трудно не согласиться. Глупый человек доволен собой, он всегда убежден в своей правоте, не тратит много времени и сил на учебу, меньше устает и сохраняет здоровье. Возможно, глупость не так уж плоха, разумеется, если она не влечет за собой опасных последствий для других.

- В том-то и дело, ведь жертвами чужой глупости нередко становятся не только отдельные люди, но и целые народы. Поэтому и сегодня вопрос глупости активно исследуется. Он имеет отношение к интеллекту, но дать определение глупости сложнее, чем определение интеллекта. И если мы хотим понять, что такое искусственный интеллект, надо понять, что такое человеческая глупость, хотя бы для того, чтобы ее не повторял компьютер.  Машина часто ведет себя глупо по человеческим понятиям. Представлю свое понимание этого вопроса и приведу два примера. Надо отличать глупость от незнания, неинформированности, чрезмерно рискованного поведения и медицинских проблем. В прошлой беседе мы уже говорили об IQ, но разработчики этих тестов ориентируются на достаточно обобщенное определение интеллекта.

- Но ведь ум и интеллект – разные вещи. Вы не согласны?

- Трудно однозначно ответить на этот вопрос.

- Но мы все встречали интеллектуальных людей, достаточно глупых в жизни...

- Это не редкость. Но важно определиться с целями человека. Если для их достижения человек использует неверную концепцию, приносящую вред ему и другим, а цель не достигается, это глупость. А если цель неизвестна, лучше не говорить о глупости.

- Мы знаем имена великих завоевателей, стремившихся завладеть миром, по крайней мере, значительной его частью. Цель явно была нереальной и глупой, выходит, те, кто ставил ее перед собой, глупы. Разве целеполагание не связано с умом?

- Например, если у человека цель кому-то навредить и ему это удалось, нет оснований считать его глупым. Можно говорить о моральной стороне дела, но не о глупости. Человек может быть аморален, злобен, но не глуп. Хотя можно сказать, что всякий аморальный человек глуп.

- Это так, поскольку зло так или иначе неизменно наказуемо. Злобные люди всегда несчастны, хотя нередко добиваются поставленных целей.

- А у них была цель стать счастливыми?

- Этого хотят все.

- Стоит остерегаться таких обобщений. Иначе нет смысла говорить о глупости компьютера, который лишен моральных ограничений.  Искусственный интеллект аморален по сути, его деятельность не ограничена моральными представлениями. Он только выполняет приказы, у него нет свободы воли и выбора. Возможно, компьютер когда-то докажет присутствие своей морали. Но до этого далеко. Не будем сегодня связывать мораль с глупостью.

- У компьютера может появиться мораль, если он обработает огромный объем информации и поймет, что зло нерационально.

- Но мы говорим о том, снизится ли со временем человеческий интеллект, если решение сложных задач передать компьютеру. Напомню, что сегодня искусственный интеллект берет на себя выполнение задач, в которых человек не очень силен. Он не может успешно и быстро выполнять очень сложные вычисления. Тут не обойтись без машины.

- Но, может, лучше говорить о преимуществах компьютера по количественным показателям. Человек не может так быстро обработать огромный объем информации или выполнить очень сложные вычисления.  Тут действительно искусственный интеллект опережает человеческий.

- Но в других вопросах человек пока сильнее компьютера. Сейчас дети часами сидят в телефонах, и мы против этого. Но что бы они делали без телефона? Просто бездельничали? Разве это менее вредно? Ведь и люди прежних поколений бессмысленно теряли много времени.

- Но сотовый телефон работает с мозгами. Он предлагает свою информацию, причем многое не всегда явно, вот в чем опасность.

-  Вопрос интеллекта и информации рассмотреть стоит. Но все-таки вернемся к определению глупости. Вопрос целеполагания важен, но моральную сторону мы обсуждать не будем. Интересны методы и концепции, которые человек использует для достижения целей. Оказывается, что глупый человек не применяет правильных концепций, а используя неправильные, не добивается поставленных целей. Давайте рассмотрим два примера, один – стандартный, а другой - мой. Один пример - известное утверждение, что генералы всегда готовятся к прошедшей войне. А это признак глупости, поскольку, если цель - выиграть новую войну, то к ней надо готовиться по-другому, надо менять концепцию. Вспомним и утверждение Канта о том, что с глупостью бороться сложно, если вообще возможно. Кант утверждал, что даже если глупому человеку предложить что-то умное, он не сумеет этим воспользоваться.  Примером глупости может служить не только неправильный выбор цели, но и концепция ее достижения,  приносящая вред как самому человеку, так и другим. Но располагал ли он достаточной информацией, возможностью использовать правильную концепцию? Это один пример глупости. Другой намного сложнее. Это «Сказка о золотой рыбке». Поведение старухи глупое, а сама она – существо подлое. И все-таки, что-то старуха поняла глубже, чем большинство читателей, хотя  использовала глупую концепцию.

- Старуха стала жертвой собственной жадности и непомерных амбиций.

- Но она совершенно правильно поняла, что за рыбкой стоит морская стихия, огромная сила, и последний ее шаг был направлен на то, чтобы подчинить эту стихию себе. Глупая старуха все же сумела понять, что именно овладение этой стихией даст ей неограниченные возможности, но она неправильно поняла возможности рыбки как представителя этой стихии. Она думала, что рыбка попала в полную зависимость от отпустившего ее старика. Однако, если слегка задуматься, становится ясно, что возможности самой рыбки огромные, и это подтверждают ее дары глупой старухе. Она бы и сама выбралась из невода, вряд ли она так уж сильно нуждалась в помощи старика.

- Но зачем же тогда она просила старика ее отпустить? Это было испытание для старика и старухи на глупость?

- Возможно, это был действительно эксперимент, испытание судьбы, тест на ум и мораль, способность мыслить логически. Не исключено, что рыбка дала старику и старухе шанс совершить хороший поступок. Тут можно думать о многом. Но старуха допустила стратегическую ошибку, полагая, что если старик отпустил рыбку, то теперь она навсегда окажется в его власти. Но, повторюсь, совсем отказать в уме старухе нельзя. Она догадалась что за рыбкой стоит стихия, и к своей цели шла постепенно, можно сказать, эмпирически, применяя научный метод и все время усложняя задачи. Это сказка не об опасности алчности, она об опасности глупости. Став царицей, прожившая всю жизнь в нищете старуха уже имела все материальные блага, но теперь уже хотела неограниченной власти. Она поняла, что рыбка – посредница, и решила отобрать власть у могучей морской стихии.  Старуха не лишена интеллекта, но она недооценила возможности морской стихии и ее представителя – рыбки. Важно и нам в работе с искусственным интеллектом не повторить той же ошибки.

- То есть вы полагаете, что, если сегодня искусственный интеллект всего лишь выполняет задания человека, это не значит, что так будет всегда. Возможно, мы вступили в отношения со стихией, возможности которой представляем достаточно слабо и в далекой перспективе может сложиться обратная ситуация?

- По крайней мере, этого нельзя исключить. Ведь, возможно, искусственный интеллект - это не золотая рыбка, выполняющая наши желания, не бонус, добытый усилиями тысяч специалистов, а испытание на глупость и даже моральные качества человечества. Остановить этот процесс уже невозможно. Но это уже проблема будущих поколений, разумеется, если эти поколения будут.