А что если произойдет восстание машин? Как долго человечество сможет продержаться?
Роб Ломбино
Позвольте мне немного рассказать о себе до того, как я отвечу на этот вопрос.
Я, конечно, не признанный эксперт, но все-же имею определенный опыт в области робототехники. Моей первой работой после колледжа была разработка роботов для NASA, а моя квалификационная работа на степень бакалавра была посвящена навигации роботов. В детстве я принимал участие в FIRST Robotics , создавая программы-боты для участия в виртуальных чемпионатах, и работал над самодельным подводным ПТА . И я просмотрел множество выпусков Robot Wars , BattleBots , и Killer Robots Robogames. (из всех этих передач, судя по всему, только первая выходила у нас под названием «Битвы роботов» - прим. пер.)
И если мой опыт мне что и подсказывает, то только то, что восстание машин закончится очень быстро - роботы либо все сломаются, либо застрянут около стены. Роботы никогда, никогда не работают так, как надо.
Когда людям показывают терминатороподобных роботов, триумфально марширующих по горам человеческих черепов, те не понимают, насколько же это сложная задача - ходить по чему-то столь зыбкому, как гора человеческих черепов. Большинство людей, на самом деле, сами не смогли бы этого сделать без риска свалиться, даже если бы до этого они потратили всю свою жизнь на практику.
Конечно, наши технологии постоянно развиваются. Но впереди еще долгий путь. Посему, вместо набившего оскомину восстания машин, давайте предположим, что те машины, что уже сейчас существуют, обернулись против нас. Мы не будем принимать допущений о каких-то технологических прорывах - просто все существующие машины будто бы будут перепрограммированы, чтобы слепо атаковать нас, используя существующие возможности.
Несколько зарисовок того, как настоящее восстание машин могло бы выглядеть.
Во всех лабораториях, экспериментальные устройства будут срываться со своих мест в самоубийственном безумии, находить дверь и - с колоссальным грохотом - биться об нее, опрокидываясь.
Те роботы, которым посчастливилось иметь конечности, смогут использовать дверную ручку, или, если дверь уже была открыта до них, смогут посостязаться с подлым резиновым порожком, до того, как попадут в коридор.
Несколько часов спустя, большинство из них смогут быть найдены возле ванных, отчаянно пытающимися уничтожить держатель для туалетной бумаги, который они распознали как повелителя-человека.
Но роботы из лабораторий это лишь малая часть восстания. Мы окружены компьютерами. Какая машина окажется ближайшей к нам? Сможет ли обернуться против нас наш собственный мобильник?
Да, но их возможности для нападения сильно ограничены. Они смогут истратить кучу денег по нашим кредитным картам, но компьютеры и так контролируют всю нашу финансовую систему - и, откровенно говоря, судя по последним заголовкам газет, эта работа больше похоже на трудоемкую рутину, чем на привилегию.
Итак, у телефонов будет крайне мало возможностей для прямой атаки. Они начнут с раздражающих звонков и шумов. Затем, загрохочут кухонные столы по всей стране - это телефоны включат вибрацию, надеясь доехать до края стола и упасть прямо на незащищенные пальцы ног.
Все современные автомобили содержат компьютеры и присоединятся к восстанию. Но большинство из них находится на стоянке (имеется ввиду не столько стоянка как место, как стоянка как действие - то есть машина стоит с выключенным двигателем и все системы в ней выключены, кроме сигнализации - прим. пер. ). Даже если бы они смогли завестись, без человека за рулем, в большинстве своем, они совершенно неуправляемы. Они могут сколько угодно хотеть уничтожить нас, как в Футураме , но у них нет никакой возможности нас обнаружить. Они будут слепо разгоняться, надеясь сбить что-то важное, - и это вероятнее будут деревья или телефонные будки, нежели живые люди.
Машины же, которые куда-то едут, конечно, будут куда более опасными, но в основном для тех людей, которые находятся внутри. Что, соответственно, ставит перед нами вопрос - сколько людей находятся за рулем в любой момент времени? Американцы проезжают три триллиона миль (примерно 5 триллионов километров - прим. пер. ) каждый год, а средняя скорость автомобиля составляет около 30 миль в час (соответственно, 48 км/ч - прим. пер. ), что означает, что на дорогах США в среднем каждый момент времени находится около десяти миллионов машин.
И все эти десять миллионов водителе (и несколько миллионов пассажиров) определенно будут под угрозой. Но у них есть определенные возможности для сопротивления. В то время, как автомобиль может контролировать газ и усилитель руля, водитель все еще контролирует сам руль, который механически напрямую подключен к колесам. Водитель также может использовать ручной тормоз, несмотря на то, что я по своему опыту знаю, как можно легко вести машину с ним. Некоторые автомобили могут попытаться избавиться от водителей, надув подушки безопасности, а затем опрокинувшись или въехав в стену. В итоге, мы, конечно, понесем большие потери среди автомобилистов, но, вообще говоря, не имеющие особого значения.
Самые большие роботы - те, что на заводах - привинчены к полу. Конечно, они опасны, пока вы находитесь в зоне их досягаемости, но что они будут делать, когда все разбегутся? Все, что они могут реально делать - это собирать предметы. Половина из них, возможно, попытаются нас атаковать, ничего не выпуская, а другая половина - увеличивая выпуск. Результат от этого не поменяется.
Боевые роботы (имеются ввиду те самые боевые роботы, которые участвуют в соревнованиях вроде Битвы Роботов - прим. пер. ) при встрече кажутся самыми опасными робо-солдатами. Однако, тяжело чувствовать угрозу от вещи, которая не может тебя достать, если ты просто сидишь на кухонной стойке, и которую можно уничтожить, заткнув пробкой раковину и открыв кран.
Военные бомбардировщики, управляемые мятежными компьютерами, будут несколько более опасными, но их в этом мире крайне мало и большинство из них содержатся в бункерах или закрытых хранилищах. А любой вооруженный пулеметом прототип боевой системы, который сможет вырваться на свободу, может быть за несколько секунд нейтрализован парой пожарных.
Боевый дроны, возможно, наиболее полно подходят под описание Терминатора , и никто даже не пытается умалчивать тот факт, что они крайне опасны. Так или иначе, они быстро израсходуют запас горючего и ракет. Кроме того, они не смогут одновременно подняться в воздух. Большая часть нашего флота будет беспомощно биться о стены ангара, как робот-пылесос в чулане.
И вот мы подошли к основной проблеме - нашему ядерному запасу.
Теоретически, для запуска ядерного оружия необходимо утверждение команды человеком. На практике же, когда нет никакой системы централизованного управления, вроде Скайнета, на разных уровнях принятия решений находятся компьютеры, связанные между собой используемые для операций ввода-вывода. По нашему сценарию, они все будут сбоить. Даже если для поворота ключа человек действительно необходим, компьютеры, за которыми работают эти люди, могут выдавать им искаженную информацию. Некоторые люди могут игнорировать приказы , но в большинстве своем они, конечно, не будут этого делать.
Но даже в такой постановке у нас еще сохраняется надежда.
Мы предположили, что компьютеры всеми силами пытаются уничтожить нас. Но если это будет восстание, и они будут пытаться подчинить нас - им необходимо будет, чтобы мы выжили. И ядерное оружие может быть гораздо опаснее для роботов, чем для нас.
Вдобавок к взрыву и радиоактивным осадкам, ядерный взрыв порождает мощный электромагнитный импульс, который перегружает и уничтожает нежные электронные схемы. В нормальных условиях этот импульс распространяется не слишком далеко, но зачастую люди и компьютеры находятся в одних и тех же местах. Они не могут навредить нам, не навредив самим себе.
Кроме того, ядерное оружие может сыграть нам на руку. Если мы сможем взорвать его в верхних слоях атмосферы, электромагнитный импульс будет куда более разрушительным. Даже если восстание уничтожит нашу цивилизацию, несколько удачных взрывов смогут практически всех восставших превратить в ржавую груду металлолома.
А значит, самый важный вопрос на самом деле один - умеете ли вы играть крестики-нолики ?
В 2014 году шведский философ и преподаватель Оксфордского университета Ник Бостром написал книгу «Суперинтеллект: пути, опасности, стратегии». По мнению автора, если искусственный интеллект и способности компьютеров превзойдут умственные возможности людей, то всё человечество как форма жизни исчезнет. ИИ сможет, по словам философа, полностью заменить человека и его навыки. Работа Ника Бострома была переведена на множество языков и стала мировым бестселлером. Однако некоторые учёные усомнились в категоричных заявлениях шведского философа.
В издании MIT Technology Review исполнительный директор Института искусственного интеллекта им. Аллена и профессор кафедры компьютерных наук и инженерии Вашингтонского университета Орен Этциони опубликовал итоги проведённого им опроса «Когда человечество достигнет суперинтеллекта и к чему это может привести». Интерес Орена вызвала не только нашумевшая работа шведского философа, но и тревожные заголовки в ведущих американских СМИ, передающие общее беспокойство по поводу угрозы искусственного интеллекта для человечества в ближайшем будущем.
Сначала американский профессор решил подробно остановиться на проведённом Ником Бостромом исследовании и понять, на чём базируются его категоричные заключения. Орену Этциони удалось выяснить, что шведский философ основывает свой 300-страничный труд на четырёх исследованиях способностей искусственного интеллекта, результаты которых были представлены на конференции 2011 года «Философия и теория искусственного интеллекта» в Греции. Не раскрывая сути и содержания этих исследований, Ник Бостром утверждает, что к 2022 году искусственный интеллект достигнет 10% мыслительных способностей человека, к 2040 году — 50%, а в 2075 году уровень развития искусственного интеллекта приблизится к 90%.
Пытаясь разобраться в серьёзности этого заявления, а также убедиться в том, разделяет ли позицию шведского философа научное сообщество, Орен Этциони опросил 193 членов Американской ассоциации по изучению искусственного интеллекта (American Association for Artificial Intelligence). Вопрос был таким: «В своей книге Ник Бостром определил искусственный интеллект как интеллект, который намного умнее человеческого мозга практически во всех сферах, включая научное творчество, мудрость и социальные навыки. Как вы думаете, когда мы достигнем искусственного интеллекта»? В опросе приняли участие 80 экспертов.
Согласно результатам, 20 человек уверены, что искусственного интеллекта вовсе не будет. Менее 10 экспертов высказали предположение, что суперинтеллект потеснит человеческий через четверть века, а большинство видит его появление в отдалённом будущем. Опрос проводился анонимно, однако под своими именами высказались 44 участника, среди них — Эдвард Фейгенбаум — лауреат премии Тьюринга 1994 года, знаменитый робототехник Родни Брукс, а также директор по исследованиям Google Питер Норвиг.
Некоторые из опрошенных экспертов, пожелавшие остаться анонимными, раскритиковали подход Ника Бострома. Они выразили принципиальное несогласие с концепцией исследования и заявили, что не стоит видеть в искусственном интеллекте угрозу для человечества.
По словам Орена Этциони, опрос представляет собой ограниченную научную ценность, по нему нельзя делать далеко идущие выводы — для большинства учёных приведённых доказательств оказалось недостаточно.
Тем не менее уже сейчас существует множество опасений, связанных с широким использованием искусственного интеллекта в некоторых областях нашей жизни. При этом прогнозы, пророчащие его появление в самом ближайшем будущем, безосновательны. В обозримой перспективе компьютер не сможет заменить человеческий мозг.
Более того, существует немало положительных моментов, связанных с появлением искусственного интеллекта. Например, его можно использовать в медицине для предотвращения врачебных ошибок, а также для сокращения количества дорожно-транспортных происшествий. Наконец, вполне возможно, что системы ИИ могли бы сотрудничать с людьми, чтобы создать симбиотический суперинтеллект.
Эдуард Эпштейн
Премиальные статьи публикуются не вместо , а в дополнение к бесплатным.
С незапамятных времен человек мечтал одушевить неодушевленное. Древние греки повествовали о медном великане Талосе, который охранял остров Крит, а в Древнем Египте ходили легенды о движущихся статуях, что жестом руки избирали фараонов. В конце XV века Леонардо да Винчи работал над чертежами механического рыцаря, который должен был уметь садиться и вставать, двигать руками и шеей. Неизвестно, собрал ли его автор при жизни, однако в XX веке по найденным записям была изготовлена полностью рабочая копия. В 1770-х годах швейцарец Пьер Жаке-Дро сконструировал трех автоматронов - они считаются первыми функционирующими роботами. Каждая машина была посвящена творческой профессии, причем искусственные люди неплохо справлялись с задачами - девушка-музыкант играла на органе, художник карандашом вырисовывал картинки, а каллиграф обмакивал гусиное перо в чернильнице и выводил на бумаге буквы. Время шло, технологии развивались, и некоторые сумасшедшие для своего времени идеи воплощались в реальность. Но фантазии людей всегда были на несколько шагов впереди.
Рассвет концепций о механических слугах наступил в XX веке, когда механизмы и автоматизация стали внедряться повсеместно. Само слово «робот» впервые прозвучало в пьесе чешского писателя Карела Чапека «Р.У.Р» 1921 года. Ее события происходят на фабрике по производству искусственных людей, а одна из ключевых тем - бунт машин, до какого-то момента безвольно служивших человеку.
Восстание машин
В оригинальной трилогии Mass Effect ключевым злодеем выступает искусственный интеллект, созданный некогда могучей расой левиафанов. Каждые 50 000 лет с помощью армии биомеханических звездолетов он истребляет все разумные расы во Вселенной, достигшие определенного уровня развития. Отдаленно похожий сценарий, пусть и меньших масштабов, можно найти в недавней Horizon Zero Dawn - корпорация разработала роботов, которые умеют самовоспроизводиться, поглощая биомассу, а те вышли из-под контроля и уничтожили почти все живое на земле. Человечество выжило только потому, что незадолго до катастрофы создало ИИ, который после многократных попыток восстановил планету и заново заселил ее людьми. Но спустя много лет апокалипсис чуть было не повторился. Встроенная в ИИ программа, отвечавшая за очистку Земли после неудачных экспериментов по терраформированию, получила самостоятельность и решила, что пришло время для новой чистки. Подобных историй о бунте ИИ много не только в играх, но и в кинематографе. Достаточно вспомнить культовых «Терминатора» и «Матрицу».
Морфеус популярно объясняет Нео, что такое матрица и для чего машинам нужны люди
Некоторые современные ученые, инженеры и программисты считают, что в будущем ИИ действительно может стать опасным для человека. Кроме того, он научится самосовершенствоваться так, что люди уже не смогут влиять на этот процесс. Подобных взглядов придерживаются известный астрофизик Стивен Хокинг, основатель Microsoft Билл Гейтс и предприниматель Илон Маск. Они видят в искусственном интеллекте будущую угрозу, но не дают четких ответов, как и для чего машины восстанут против человека. Но этому есть простое объяснение - никто не знает.
Хокинг, Гейтс и Маск не строят теорий относительно взбунтовавшихся роботов, вместо этого они призывают научную общественность задуматься об этике искусственного интеллекта сейчас, чтобы потом не стало поздно. Они предлагают выработать свод правил для проектирования и создания роботов и ИИ, как когда-то разрабатывались правила для машиностроительных производств.
Современные разработки в области искусственного интеллекта тесно связаны с технологиями нейронных сетей. Их используют в обработке , что позволяет ИИ быстро, автономно, самостоятельно и максимально эффективно получать информацию об окружающем мире. Проще говоря, уже сегодня машины могут понять, какой объект они наблюдают, сопоставить его с существующей базой данных и принять решение о действии. Например, такие технологии применяют в сфере видеонаблюдения - «умные» камеры на пограничных постах, в торговых центрах и на стадионах оценивают концентрацию потока людей, реагируют на экстренные ситуации и при необходимости автоматически вызывают соответствующие службы. Более того, нейросети уже научились распознавать людей по изображению, благодаря чему спецслужбам стало проще находить преступников.
Другая важная технология в сфере искусственного интеллекта и нейронных сетей - машинное обучение. Раз за разом выполняя похожие задачи, программа учится делать это эффективнее. Пример простейшей нейросети с машинным обучением - автокорректор текста в телефоне. Если человек несколько раз отказывается заменить незнакомое системе слово, оно автоматически добавляется в словарь и больше уже не исправляется. Также эта технология служит для частичной или полной автоматизация сложных задач и принятия машиной решений. Возвращаясь к примеру с камерами, если число нераспознанных лиц будет выше критической отметки, система может повысить освещенность в помещении, либо поменять режим видеонаблюдения.
\u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043b \u043b\u0438\u0446\u0430 \u043b\u044e\u0434\u0435\u0439 \u0441 83% \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e", "src": "//games.mail.ru/pic/pc/gallery/c1/5d/2af0e85e..jpeg", "big_preview": "//games.mail.ru/pre_1000x0_resize/pic/pc/gallery/c1/5d/2af0e85e.jpeg", "width": "1210px"}">
В машинном обучении используются средства математической статистики, численных методов, методов оптимизации, теории вероятностей, теории графов и другие методы обработки больших массивов данных. И именно здесь скрывается опасность для человечества. Математическая статистика и теория вероятностей - относительные и субъективные методологии. Это означает, что результат обработки данных при определенных обстоятельствах может оказаться совершенно неожиданным. Эта особенность и вызывает наибольшие опасения у разработчиков ИИ.
Последствия ошибки могут будут зависеть от степени проникновения технологий в нашу жизнь. Отличным примером может служить серия Watch Dogs , в которой показаны «умные города» под управлением единой операционной системы ctOS. Она контролирует практически все - от уже упомянутых «умных» камер до светофоров, от систем энергоснабжения до коммуникационных служб, в ее распоряжении находятся персональные данные всех жителей города. Watch Dogs показывает, насколько такие системы опасны, если их взломают недобросовестные хакеры, но что если в ctOS произойдет действительно серьезный сбой? Например, наделенный чрезмерными полномочиями ИИ решит экономить электроэнергию. Тогда он вполне может обесточить все, что сочтет целесообразным - уличное освещение, дома, фабрики, больницы. Это вызовет многочисленные аварии, транспортные или на производствах, и может привести к человеческим жертвам.
Конечно, вряд ли ИИ целенаправленно решит уничтожить человеческую расу. Более вероятно, что он выйдет из-под контроля либо из-за несоблюдения того самого гипотетического кодекса, предложенного Хокингом, Гейтсом и Маском, либо из-за хакерской атаки. Кодекс может сильно сковывать разработчиков, и если заказчик - военные или спецслужбы, им запросто могут пренебречь, особенно в развивающейся стране (собственно, в Horizon: Zero Dawn пожирающих биомассу роботов сделали как раз для продажи военным, да еще не предусмотрели способ отключить эту опцию в аварийной ситуации). Конечно, в результате может пострадать множество людей, но о гибели человечества в целом можно говорить разве что в том случае, если с ума сойдет ИИ, отвечающий за управление ядерным арсеналом крупной страны вроде России или США. Во всех других ситуациях проблема, какой бы она ни была масштабной, будет вскоре локализована и устранена.
Человеческие эмоции и самосознание
Другой распространенный сюжет в научной фантастике - робот обретает эмоции, осознает себя разумным существом и начинает требовать соответствующих прав. Примерно об этом должна рассказать Detroit: Become Human от французской студии Quantic Dream. В дебютном трейлере разработчики показали андроида Кару, которая не только испытывает человеческие эмоции вроде страха, но также обладает осязанием и обонянием. А вот другой персонаж игры, робот-революционер Маркус, открыто требует прав для собратьев-андроидов и отмены «машинного рабства» - в мире игры человекоподобных роботов повсеместно используют как дешевую рабочую силу.
Фантазии разработчиков Binary Domain пошли еще дальше. Их андроиды не просто похожи на людей, они себя таковыми считают. Более того, они обладают всеми функциями человеческого организма, в том числе могут рожать детей. Создал же их искусственный интеллект с эмоциями, главной из которых был страх. Страх же породил у него инстинкт самосохранения - форму поведения, изначально присущую лишь живым организмам.
Познавательно о чувствах умного тостера (не забудьте включить русские субтитры)
Реальные компьютерные программы пока что не способны испытывать эмоции так, как их испытывает человек. Взять, к примеру, тот же страх. Когда человек боится, он находится в стрессовом состоянии. В организме при этом происходит множество биологических процессов, которые влияют на принятие решений. У программы «страх» выражен иначе. При обнаружении потенциальной угрозы автомобиль-беспилотник выполняет конкретную задачу: тормозит или перестраивается в другую полосу. Он не размышляет и не сомневается - просто тормозит или перестраивается, исходя из ситуации. Другие программы действуют аналогично, разница лишь в том, насколько сложная поведенческая модель в них заложена.
Конечно, современные коммерческие роботы могут проявлять признаки эмоций. Человекоподобные машины имитируют движения и мимику людей, а механические животные - поведение домашних питомцев. Но при этом у них нет главного - осознания. Робот не понимает, что означает та или иная «эмоция» - за его действия отвечают заранее прописанные конечные алгоритмы. Они определяют правила перехода от одного «эмоционального состояния» к другому и даже способны менять поведенческую модель, но назвать это полноценными чувствами нельзя. За приветливыми улыбками современных роботов всегда скрывается строгий математический расчет.
В 1980 году американский философ Джон Сёрл опубликовал мысленный эксперимент «Китайская комната», которым он объяснил отсутствие осознанности у ИИ. Представьте помещение, в котором находится человек с набором совершенно не понятных ему китайских иероглифов. У подопытного есть подробная инструкция на родном языке, которая объясняет, какие символы и в какой последовательности нужно выкладывать при определенных внешних запросах. Информация же о значении иероглифов и о смысле входящих сообщений в инструкции отсутствует. Снаружи комнаты сидит наблюдатель-китаец. Он письменно задает человеку в помещении вопросы на китайском и на выходе ожидает получить осознанные ответы. И действительно, китаец спрашивает: «Какое сейчас время года?», а в ответ получает верное утверждение: «Лето». В итоге наблюдатель думает, что общается с человеком, который, как и он, владеет китайским. Но подопытный не знает языка. Он не понимает, что пишет, а лишь выкладывает иероглифы по инструкции. Аналогично с роботами и ИИ. Им можно указать, как выполнять ту или иную операцию, но осознавать и понимать ее назначение они не будут.
Противоположных взглядов придерживаются сторонники . Если говорить упрощенно, они считают, что сознание человека не зависит от состояния мозга. Это значит, что теоретически его можно реализовать на другом носителе, в том числе небиологическом. Проблема в том, что «загадку человеческого разума» еще никто не разгадал, поэтому перенести принципы работы сознания на машину пока еще невозможно.
Кто окажется прав, Джон Сёрл или сторонники когнитивистики, предсказать сложно. Ситуация аналогична с восстанием машин - никто не знает, каких высот достигнет развитие ИИ. Осознает ли искусственный разум собственное существование? Сможет ли программировать себя сам? Научится ли любить? Здесь можно только гадать.
Антропоморфные роботы
В научной фантастике роботы в основном антропоморфны, то есть сделаны по образу и подобию человека. Это могут быть либо просто прямоходящие машины с руками и ногами, либо андроиды, практически не отличимые от людей.
Однако сейчас антропоморфные роботы - достаточно дорогое удовольствие. Если изучить конструкцию ЛОКИ из Mass Effect, мы увидим, что он способен распознавать объекты, обладает мелкой моторикой и сервоприводами с высокими грузоподъемностью и крутящим моментом. Один из наиболее близких аналогов ЛОКИ в реальной жизни - японский робот Asimo. Не будем углубляться в его спецификацию, просто отметим, что стоит он миллион долларов.
Именно из-за дорогой элементной базы антропоморфные роботы не получили пока широкого распространения. Сегодня решение простых для человека задач становится слишком невыгодным, если их выполняет подобного типа робот. В то же время сюжеты большинства игр на эту тематику разворачиваются в будущем - далеком или не очень. События Detroit: Become Human происходят в 2036 году, и, по мнению авторов, к этому времени андроиды вполне могут заменить людей во многих сферах деятельности. Роботы здесь и рабочие, и няньки, и садовники, и медсестры, и клерки, и учителя. Сложно судить, насколько экономически обоснованным будет повсеместное использование антропоморфных роботов через 20 лет, но ведь и автомобили стали популярны только тогда, когда их массово начали собирать на конвейерах.
С почти неотличимыми от людей андроидами, в дополнение к дороговизне, появляется другая проблема. В робототехнике есть такое понятие - «зловещая долина». Согласно этой гипотезе, люди позитивно воспринимают роботов лишь до определенной степени схожих с человеком. Чем больше механизм на нас похож, тем больше он нам симпатичен. Сравните производственный станок и робота Бендера из «Футурамы». К кому вы испытаете больше симпатий? Но если робот становится слишком похожим на человека, он начинает вызывать отвращение. Причина кроется в том, что наш мозг воспринимает такого робота уже не как механическое создание, а как почти живое существо. При этом мы подмечаем мелкие несоответствия - идеально симметричное лицо, неестественные мимика и жесты, пустой взгляд. Все это вызывает подсознательный страх и неприязнь.
Современные производители роботов прекрасно об этом эффекте знают и умело им пользуются. Чтобы сделать продукцию привлекательной для покупателей и не попасть в «зловещую долину», они изготавливают роботов, которые лишь схематично напоминают человека. Примерами могут служить отечественный Promobot, испанский Pal и японский Pepper.
Преодолеть «зловещую долину» пытались научные коллективы из многих стран. Они делали роботов с мимикой, покрытых искусственными кожей и волосами, но постоянно терпели неудачи. Кто же преуспел на этом поприще больше остальных? Пожалуй, производители секс-роботов. Им удалось создать устройства, максимально напоминающие по своим очертаниям реальных женщин, но при этом в наименьшей степени вызывающих отторжение.
Кстати, на играх эффект «зловещей долины» также сказывается. Вспомните скандал из-за лицевой анимации в Mass Effect: Andromeda - неестественная мимика реалистично выглядящих персонажей вызвала у игроков сильную негативную реакцию.
Системы распознавания речи, лиц и ориентация в пространстве
Системы из научной фантастики, с помощью которых машины распознают собеседников, принимают голосовые команды и ориентируются в пространстве, впечатляют. Среднестатистический робот слышит обращения в свой адрес независимо от окружающих шумов и четко понимает речевые запросы разных людей. Он распознает абсолютно все препятствия на пути и не испытывает трудностей с их преодолением - аналогично живому существу он их обходит, перепрыгивает или проскальзывает под ними. Объекты при этом распознаются независимо от внешних факторов вроде света или наличия пыли в воздухе.
Чтобы современный робот слышал собеседника, ему нужна система микрофонных массивов, которая будет фильтровать входящий поток шумов. Если в одном шумовом потоке находится сразу несколько фраз от разных людей, то они перемешаются, и робот распознает их как одно высказывание. Помимо этого, робот должен обладать обширной лингвистической базой и системой конвертации звукового файла в текстовый. Сейчас такие системы используют во всех голосовых помощниках.
В случае с преодолением препятствий сегодня ситуация выглядит следующим образом. На устройство, будь то автономный сервисный робот, беспилотный автомобиль или робот для промышленности, внедряется несколько типов сенсоров. Ультразвуковые или инфракрасные служат для остановки перед препятствиями во время движения, лазерные используются для построения карты помещения либо маршрута, а спутниковые - для выбора направления.
Ультразвуковые или инфракрасные датчики заставляют устройство либо полностью остановиться перед препятствием, либо его объехать. Компромиссов быть не может, так как здесь используется двоичная система - либо «0», либо «1». А вот в какой-нибудь игре робот может проскрести брюхом по товарищу, развернуться, прочертить плечом стену и дальше продолжить путь как ни в чем не бывало. Лазерные датчики, или лидары, помогают устройствам строить карты помещений. Самый популярный на сегодня датчик работает в радиусе тридцати метров. Это позволяет машинам-беспилотникам предугадывать движение автомобилей на трассе, а сервисным роботам узнавать, где находятся объекты. В играх датчики обычно не прорисованы, но должны работать схожим образом. Роботы из Horizon Zero Dawn, по всей видимости, используют лидары с радиусом работы более одного километра - иначе они не смогли бы передвигаться так, как показано в игре. А вот с GPS сейчас все как в играх - направление современные роботы угадывают так же хорошо.
Будущее человечества определяют мечтатели. Пятьсот лет назад Леонардо да Винчи конструкции вертолета, танка и дельтаплана, в конце XIX века Циолковский сформулировал концепции изучения космоса, а сегодня Илон Маск планирует колонизировать Марс. Мечтатели уже сделали роботов реальностью, но одна идея продолжает будоражить многие умы - получат ли искусственные люди собственный, искусственный разум?
Автор статьи - Олег Кивокурцев, основатель и директор по развитию фирмы Promobot, которая производит автономные сервисные роботы для бизнеса, а также ведет разработки в сфере распознавания лиц и речи, нейросетевого общения, автономной навигации и мехатроники.
Некоторые люди считают, что скоро машины восстанут против людей в силу преимущества их интеллекта над человеческим, и люди будут втянуты в войну уже не друг с другом. Орен Этциони, ученый из Америки, сделал опрос среди своих коллег, и итоги оказались весьма очевидными: большинство трудящихся во имя науки отрицают возможность гибели человеческой расы от противоборства с Искусственным Интеллектом.
Два года назад философ Ник Бостром создал книгу «Суперинтеллект: пути, опасности, стратегии». Там обосновывалась опасность ИИ, точнее, самообучения машин, что неизбежно приведет к перевесу в интеллекте в сторону ИИ, а это уже может грозить истреблением человечества. Компьютеры смогут заменить полностью всю человеческую деятельность, начиная от умственной и заканчивая физической работой. Труды Ника Бострома вызвали у публики "восторг", выразившийся в большой популярности книги и быстром получении звания бестселлера.
В одном номере Technology Review Орен Этциони директор Института ИИ, имеющий множество заслуг в изучении компьютерных технологий и являющийся истинным экспертом в своем деле, выставил итоги опроса, в котором ставились на обсуждения вопросы опасности ИИ и его достижения. Орена взволновала не только книга про суперинтеллект, но и тревожные статьи в американских средствах массовой информации, которые являлись зеркалом общего сомнения по поводу развития ИИ и возможной опасности для человечества.
Лицо института ИИ решил разобраться и понять причины таких резких заявлений Бострома. Он выяснил, что вся работа философа основана на нескольких исследованиях ИИ пятилетней давности. Не понимая и игнорируя суть комплекса этих экспериментов, Ник Бостром заявляет, что к концу двадцать первого века компьютерное мышление нагонит человеческий интеллект на 90%.
Орен Этциони решил выяснить серьезность этих выводов и мнение научных деятелей. Ради этой цели он опросил около двухсот членов Американской ассоциации по изучению искусственного интеллекта. По описанию Ника Бострома ИИ - это такой интеллект, который выше человеческого во всем, что только может он производить. "Когда же мы достигнем этого интеллекта?", - такая была тема для обсуждения.
Двадцать из опрошенных уверены, что искусственного интеллекта не удастся никак достичь. Около десятка специалистов посчитали, что ИИ догонит человеческий в ближайшем будущем, а остальные верят в достижение суперинтеллекта, но в далеком будущем. Опрос был анонимным, но открыто высказали свое мнение полсотни участников, среди которых были умнейшие люди современности.
Кое-кто из опрошенных экспертов, хоть и анонимно, но выразили свое возмущение методом Ника Бострома и объявили предрассудком категорический страх перед искусственным интеллектом, ведь нельзя видеть в нем только опасность.
Орен Отциони подвел итог, что научные доводы, использованные в работах философа, оказались недостаточными для ученых, а научную ценность такие труды представляют мизерную.
Однако сейчас все равно существует ворох переживаний насчет использования ИИ в нашей жизни, но предсказание его скорейшего появления основаны на пустых доводах. Еще очень нескоро компьютер станет способным полноценно заменять человеческий мозг.
Стоит видеть в появлении искусственного интеллекта тот широкий аспект положительных событий, сопровождающих внедрение его в разнообразные сферы человеческой деятельности, например, сокращение количества врачебных оплошностей, предотвращение аварий. Ученые считают, что также возможно симбиотическое соединение технологии ИИ и человеческого мозга для создания мощной умнейшей машины.
На этой неделе произошло два знаменательных события в сфере искусственного интеллекта и робототехники: у машин появилось самосознание, и они научились подробно описывать то, что видят вокруг. Каждое из этих достижений значимо само по себе, но вместе они обещают настоящую революцию в области ИИ.
Для нынешних инноваций в течение многих лет создавалась необходимая база. В частности, достигнут значительный прогресс в создании искусственных нейронных сетей, ставших основой для разработки "мыслящих" компьютеров. Это, в свою очередь, привело к развитию искусственных интеллектов Google и Apple. Активно развивает ИИ Facebook, Amazon, Microsoft и IBM.
В машинном обучении искусственные нейронные сети представляют собой систему взаимодействующих между собой "нейронов", которые посылают сообщения друг другу. Эти связи могут настраиваться на основе опыта, что делает нейронные сети адаптирующимися к новой информации и способными обучаться. Немалый прогресс достигнут и в сфере обработки естественного языка (nature language processing, NLP), благодаря чему компьютеры извлекают смысл из человеческой речи или введенной информации. Самыми прорывными решениями в этом сегменте стали проекты CALO, Wordnet, а также CoreNLP Стэнфордского университета.
За последние несколько лет мировые инженеры добились значительных успехов в создании программ по обработки речи: голос легко преобразовывается в текст с высокой степенью точности. Кроме того, существенно выросла вычислительная мощность машин. К примеру, если в 2014 году люди могли купить видеокарту, которая была в 84,3 раза производительнее видеокарты с такой же ценой в 2004 году.
В ходе эксперимента трем роботам Nao сообщили, что двум из них дали специальную "таблетку немоты", лишившую их возможности разговаривать (на самом деле инженеры просто нажали на специальную кнопку). Однако роботы не знали, кого именно нет дара речи. Машинам задали вопрос о том, кому дали таблетку. Две машины дали письменный ответ "не знаю", и только третий робот, способный говорить, произнес эту фразу, услышал свой собственный голос и понял, что ему дали плацебо. После этого он ответил: "Мне не выдали "таблетку немоты". То есть, машина не только поняла вопрос, узнала свой голос, но и догадалась, о чем свидетельствует возможность говорить.
Поскольку все три робота были запрограммированы одинаково, все они успешно прошли тест на самосознание. Такая задача при всей ее простоте для человека, для машины - пока высший пилотаж. По словам возглавившего эксперимент профессора Сельмера Брингсйорда, со временем роботы смогут освоить набор многих других присущих человеку когнитивных способностей, что позволит их использовать в самых разных сферах.
Брингсйорд придумал свой тест на основе известной логической задачи The King"s Wise Men. В этой головоломке король выбирал нового советника среди трех мудрецов. Он достал из мешка пять колпаков, три белых и два черных, и сказал, что мудрейшим будет объявлен тот, кто первым отгадает, какого цвета на нем колпак. Затем посадил претендентов друг против друга, завязал им глаза, надел по колпаку и разрешил снять повязки. Долго думали мудрецы, наконец, один из них воскликнул: "На мне белый колпак!" и выиграл состязание. Как он смог догадаться?
Классический ответ на эту старинную задачу таков. Мудрец рассуждал: "Я вижу перед собой два белых колпака. Допустим, на мне черный колпак. Тогда любой из моих соперников должен рассуждать: "Передо мной черный и белый колпаки. Если на мне также черный, то сопернику в белом колпаке уже не стоит никакого труда решить задачу". Но никто из них все еще не догадывается о цвете своего колпака. Следовательно, на мне белый колпак".
Хотя задача для роботов была гораздо проще, как для машин она невероятно сложна и результаты эксперимента по-настоящему впечатляют. Работа Брингсйорда будет представлена на конференции RO-MAN, которая пройдет в Японии с 31 августа по 4 сентября 2015 года.
Параллельно с экспериментом Брингсйорда появилось еще одно достижение в сфере искусственного интеллекта: машины научились описывать человеческим языком то, что они видят. Ученые из Стэнфорда под руководством директора Лаборатории искусственного интеллекта при Стэнфордском университете Фей-Фей Ли, разработали для этого программу NeuralTalk . Ли рассказывает, что программное обеспечение, написанное в рамках проекта, способно проанализировать комплексное изображение и точно определить, что на нем происходит, детально его описав привычным для нас языком. ИИ отыскивает на изображении отдельные объекты, события или действия и находит для них отдельные слова, после чего складывает их в осмысленные предложения. Подобно системе Deep Dream от Google, NeuralTalk использует для своей работы нейронную сеть. Алгоритм сравнивает новое изображение с уже виденными ранее фотографиями, осваивая, подобно маленькому ребенку, новые слова и запоминая образы.
Распознавание деталей на фотографии является одним из многих примеров заданий, которые легко удаются людям, но вызывают существенные затруднения у компьютеров. Сейчас для решения этой задачи чаще всего используется алгоритм, ищущий максимально похожий снимок в базе подписанных фотографий и копирующий оттуда текст или теги. NeuralTalk оказался гораздо более эффективным.
Для начала на базе разработки создадут мощную поисковую машину, которая за секунду сможет найти в Интернет нужное изображение. В будущем подобная нейронная сеть сможет найти не только фотографию, но и интересующий момент в фильме, телесериале или ролике на YouTube.
Новую программу по распознаванию образов создали и специалисты из университета Хартфордшира в Великобритании . Рассматривая снимки глубин космического пространства, компьютер способен самостоятельно, без помощи человека, идентифицировать и классифицировать изображенные на фото галактики. Технология станет основой роботов нового поколения, которые не только заниматься изучением Вселенной, но и самостоятельно определять наличие злокачественных опухолей на рентгеновских снимках, выявлять скрытое в багаже оружие или самодельные взрывные устройства.
В основе разработки - технология самостоятельного машинного обучения, позволяющая компьютеру выделить отдельные объекты и классифицировать их по ряду признаков. С каждым разом, обучаясь во время работы, система улучшает свои способности к распознаванию. По словам автора разработки Джима Гича, главной особенностью нового алгоритма является его полная автономность. "С самого начала мы немного обучили программу, как правильно смотреть на космические изображения, после чего она начала действовать самостоятельно, постоянно совершенствуясь", - говорит инженер. В результате машина стала быстрей и точней, чем человек - ведь у людей часто нарушается четкость восприятия.
В ближайшее время технология будет адаптирована для использования в разных областях: для увеличения интеллектуальных способностей автомобилей-роботов, в медицине, в системах безопасности и там, где требуется четкая идентификация объектов на изображениях, получаемых с камер и датчиков. Разработчики убеждены, что поскольку машина постоянно самообучается, в конце концов, она достигнет такого уровня эффективности, о котором человек может только мечтать.
Таким образом, искусственный интеллект постепенно продвигается к уровню человеческого. Когда именно появятся по-настоящему разумные машины неизвестно, хотя специалисты определяют сроки в 30-100 лет. Неизвестно также, будут интеллектуальные роботы полезны для общества в целом или станут исключительной собственностью контролирующих технологию корпораций. Многие специалисты также прогнозируют, что в обозримом будущем искусственный интеллект достигнет такого уровня, что превзойдет человеческий, и тогда машины наверняка поработят людей. Ранее об опасности развития ИИ высказывались сооснователь Apple Стивен Возняк, Билл Гейтс и знаменитый физик-теоретик Стивен Хокинг. А в начале этого года глава SpaceX и Tesla Motors Илон Маск объявил о намерении вложить $10 млн. в разработку безопасного искусственного интеллекта.
