Газета "Наш Мир"
Газета «Наш
Мир»
Футурологи прикидывают, насколько опасно создавать искусственный
интеллект, превосходящий человеческий.
СВОИМИ ЖЕ РУКАМИ
Ученые
начали пугать людей искусственными мозгами примерно 50 лет назад. Тогда
известный британский статистик Ирвинг Джон Гуд предрекал, что сразу
вслед за постройкой „сверхразумной машины… несомненно, последует
„интеллектуальный взрыв" и разум человека намного отстанет от
искусственного… Таким образом, первая сверхразумная машина станет
последним изобретением, которое выпадет на долю человека, при условии,
что машина будет достаточно покорна и поведает нам, как держать ее под
контролем", пишет Papa-news.ru
Страшное и, казалось бы,
фантастическое пророчество обрело реальные черты в 1997 году. Тогда
суперкомпьютер Deep Blue, построенный на 256 параллельно работающих
процессорах, обыграл в шахматы не кого-нибудь, а самого чемпиона мира
Гарри Каспарова. То есть уже кое в чем превзошел.
Ныне растут
и мощность, и быстродействие компьютеров. Для подсчета количества
операций, выполняемых ими за секунду, уже применяют приставку „пета",
обозначающую единицу с 15 нулями. А подумывают о „йотте", „хелле"
– единицах с 24 и 27 нулями. Ученые проектируют квантовые компьютеры
и объединяют элементы в нейронные сети, схожие по конструкции с мозгом.
Еще
три года назад ученые из компании IBM и Швейцарского федерального
технического института Лозанны (Ecole Polytechnique Federale de Lausanne
– EPFL), работающие по проекту Blue Brain („Голубой мозг"), объявили
о том, что им удалось полностью имитировать часть мозга мыши. На очереди
– человек. При этом исследователи не собираются моделировать сознание
и создавать интеллект. По их словам, после достижения некоего порога
сложности системы „сознание может получиться само собой".
— Сорок лет назад мы даже не могли представить, какими темпами будут
развиваться информационные технологии, – говорит технический директор
корпорации Intel Джастин Раттнер. – Уже недалеко то время, когда „разум"
компьютеров превзойдет возможности людей.
Редкий футуролог
сомневается, что такое время обязательно наступит. Если, конечно, не
помешает какая-нибудь глобальная катастрофа. Но что сулит
интеллектуальная революция? Рай земной для человечества? Или ад? Вот тут
единодушного мнения у экспертов нет.
ДРУЗЬЯ И ПОМОЩНИКИ
Энтузиасты
– своего рода утописты – видят будущее весьма светлым. Полагают, что
искусственный интеллект дополнит человеческий и наделит каждого
сверхъестественными возможностями. Для начала – колоссальной памятью,
а потом и способностью мгновенно решать сложнейшие задачи. Хотя бы за
счет того, что люди смогут напрямую – посредством особых интерфейсов
– соединяться с компьютерами и пользоваться ими словно своими мозгами.
Мрачные
скептики видят опасности. И прогнозируют неприятности разного масштаба.
— Нет никаких доказательств того, что уровень человеческого разума
– непреодолимый порог, – говорят они. – Наоборот, дело идет к его
преодолению.
Но если человек создаст разум, более совершенный
и мощный, чем его собственный, ничто не помешает уже этому разуму
создать еще более мощного искусственного потомка. И он пойдет все дальше
и дальше по пути интеллектуальной эволюции – к беспредельному разуму.
Только
еще раньше и довольно быстро человечество превратится в сообщество
более низкого порядка. Не в муравьев, конечно, но в детей. Даже самое
минимальное отставание приведет к стойкому непониманию происходящего.
Попробуйте объяснить пятилетнему ребенку секрет работы, нет, не
синхрофазотрона, а хотя бы телевизора или холодильника. Вряд ли ваши
старания увенчаются особым успехом.
Компьютеры начнут сами
ставить перед собой задачи. И сами их решать. Решать методами, которые
человек вряд ли сможет постигнуть. А поскольку искусственный разум
в отличие от нашего мозга будет иметь реальную возможность
самосовершенствоваться, все это станет происходить с возрастающей
скоростью. Вокруг нас будут появляться новые машины, приборы, установки,
непонятно что делающие и неизвестно как функционирующие.
После
того как суперразум опустит человечество с вершины эволюционной
лестницы, возможно, наступит всеобщее благоденствие. Если детище – этот
„вундеркинд" – возлюбит нас и станет заботиться. Как мы – о домашних
животных: собаках, кошках или хомячках. А не возлюбит, так может
случиться, как в фильме про терминатора.
СИНГУЛЯРНОСТЬ ГРЯДЕТ
Точку
в истории человечества, когда мы перестанем понимать, что происходит
вокруг нас, ученые назвали „технологической сингулярностью". Впервые это
словосочетание употребил еще в середине прошлого века один из отцов
современных компьютеров Джон фон Нейман. Он часто говорил „о непрерывно
ускоряющемся техническом прогрессе и переменах в образе жизни людей,
которые создают впечатление приближения некоторой важнейшей
сингулярности в истории земной расы, за которой все человеческие дела,
в том виде, в каком мы их знаем, не смогут продолжаться".
Известный
американский изобретатель и футуролог Рэй Курцвайль, имя которого
включено в список
18 выдающихся мыслителей современности,
назначает сингулярность на 2029 год. Схожего мнения придерживаются
специалисты проекта Blue Brain, которые к 2029 году планируют полностью
смоделировать мозг человека.
У Джастина Раттнера прогнозы
скромнее. Он считает, что искусственный разум обгонит в своем развитии
человеческий к 2050 году.
КОММЕНТАРИЙ СПЕЦИАЛИСТА
Следить
будем строго
— Машинный разум может превзойти человеческий,
– говорит председатель научного совета Российской ассоциации
искусственного интеллекта, доктор технических наук, профессор,
заведующий лабораторией Института проблем управления РАН Олег Кузнецов.
– Но пока до этого очень далеко. Лет тридцать – сорок, не меньше. Раньше
с такой грандиозной задачей, как построение полноценного интеллекта, не
уступающего человеческому, мы вряд ли сумеем справиться. Ведь, кроме
прочего, его создание должно сопровождаться разработкой систем контроля.
Если
вдруг искусственный интеллект выйдет из-под контроля, то потом сделать
что-то будет очень трудно. Но если контролировать весь процесс
постепенной эволюции, то, я думаю, есть возможности избежать „захвата
власти" машинами.
— Разве сможет человек контролировать
интеллект, превосходящий его по уровню?
— Дело ведь не только
в том, умнее он нас или нет. Контроль не требует превосходства
интеллекта. Умные всегда были на службе у сильных, хотя и тяготились
этим. Проблема контроля – это проблема допуска к возможностям: ресурсам,
принятию решений и т. д.
— А насколько все-таки реально
человечеству „впасть в хроническое непонимание"?
— Вопрос
в объеме непонимания. Это не то чтобы какая-то новая реальность. Вот
сейчас кризис. Вы думаете, мы хорошо понимаем, что происходит? Нет. Мы
считаем себя очень умными, а все ли мы знаем даже о своем организме? Как
он работает, что мы там можем выключить, а что нет? Способны ли мы
предусмотреть все последствия своих действий? Нет. Точно так же будет
и с искусственным интеллектом. Поэтому рядовой человек даже и не заметит
этого „сваливания".
В далекой перспективе не исключен, конечно,
сценарий, когда искусственный интеллект сведет человечество до уровня
домашних собачек и кошечек. Но только если оно недооценит проблемы
контроля. И это касается не только искусственного интеллекта, а и генной
инженерии, и биотехнологий.
КСТАТИ
Пока мы их отличаем
Термин
„искусственный интеллект" (AI – Artificial Intelligence) появился
сравнительно недавно – в 1956 году. Его ввел 29-летний доцент
Стэнфордского университета Джон Маккарти. А знаменитый математик Алан
Тьюринг придумал тест на разумность этого интеллекта. Выглядит он так:
„судья" в письменном виде общается с двумя субъектами, один из которых
– человек, а второй – компьютер. Машина признается „разумной" в том
случае, если судья за пять минут не сможет правильно определить, кто
есть кто. Пока еще ни одной машине тест пройти не удалось, хотя сам
Тьюринг был уверен, что уже к 2000 году компьютеры сумеют в 30 процентах
случаев показать себя разумными созданиями.
|
