Когда люди видят машины, которые реагируют как люди, или компьютеры, которые совершают подвиги стратегии и познания, подражающие человеческой изобретательности, они иногда шутят о будущем, в котором человечество должно будет принять повелителей роботов.
Но похоронен в шутке это семя беспокойства. Научно-фантастические сочинения и популярные фильмы от «2001: Космическая одиссея» (1968) до «Мстители: Эра Альтрона» (2015) рассуждают об искусственном интеллекте (ИИ), который превосходит ожидания его создателей и ускользает от их контроля. в конечном итоге превосходит и порабощает людей или направляет их на вымирание.
Конфликт между людьми и ИИ стоит на первом месте в научно-фантастическом сериале AMC «Люди», который вернулся во второй сезон во вторник (5 июня). В новых эпизодах сознательные синтетические люди сталкиваются с враждебными людьми, которые относятся к ним с подозрением, страхом и ненавистью. Насилие накаляется, когда Синтезы сражаются не только за основные права, но и за само выживание, против тех, кто считает их менее чем людьми и опасной угрозой.
Даже в реальном мире не все готовы приветствовать ИИ с распростертыми объятиями. В последние годы, когда компьютерные ученые раздвинули границы того, что ИИ может достичь, ведущие деятели в области технологий и науки предупреждали о надвигающейся опасности, которую искусственный интеллект может представлять для человечества, даже предполагая, что возможности ИИ могут обречь человеческую расу.
Но почему люди так встревожены идеей ИИ?
«Экзистенциальная угроза»
Элон Маск - один из выдающихся голосов, поднявших красные флаги об искусственном интеллекте. В июле 2017 года Маск сказал присутствующим на заседании Национальной ассоциации губернаторов: «Я знаком с очень передовым ИИ, и я думаю, что люди должны быть действительно обеспокоены этим».
«Я продолжаю бить тревогу», добавил Маск. «Но пока люди не видят, как роботы, идущие по улице и убивающие людей, они не знают, как реагировать, потому что это кажется таким неземным».
Ранее, в 2014 году, Маск назвал ИИ «нашей самой большой угрозой существованию», а в августе 2017 года он объявил, что человечество столкнулось с большим риском ИИ, чем из Северной Кореи.
Физик Стивен Хокинг, который умер 14 марта, также выразил обеспокоенность по поводу злонамеренного ИИ, сообщив в 2014 году Би-би-си, что «развитие полного искусственного интеллекта может означать конец человеческой расы».
Это также меньше, чем заверение, что некоторые программисты, особенно те, кто работает в MIT Media Lab в Кембридже, штат Массачусетс, похоже, полны решимости доказать, что ИИ может быть ужасающим.
Нейронная сеть под названием «Машина кошмара», представленная компьютерными учеными MIT в 2016 году, превратила обычные фотографии в ужасные, тревожные адские пейзажи. ИИ, который группа из Массачусетского технологического института под названием «Шелли» сочинил страшные истории, обучил 140 000 рассказам ужасов, которые пользователи Reddit разместили на форуме r / nosleep.
«Нас интересует, как ИИ вызывает эмоции - страх, в данном конкретном случае», - сказал Мануэль Себриан, менеджер по исследованиям в MIT Media Lab, ранее в интервью Live Science по электронной почте о страшных историях Шелли.
Страх и отвращение
Отрицательные чувства по поводу ИИ обычно можно разделить на две категории: идея о том, что ИИ станет сознательным и будет стремиться уничтожить нас, и представление о том, что аморальные люди будут использовать ИИ в злых целях, Килиан Вайнбергер, доцент кафедры компьютерных наук. в Корнелльском университете, рассказал Live Science.
«Одна вещь, которой боятся люди, это то, что если сверхинтеллектуальный ИИ - более умный, чем мы - станет сознательным, он может относиться к нам как к низшим существам, как мы относимся к обезьянам», - сказал он. «Это, безусловно, было бы нежелательно».
Однако опасения, что ИИ будет способствовать осознанию и свержению человечества, основаны на неправильных представлениях о том, что такое ИИ, отметил Вайнбергер. ИИ действует с очень конкретными ограничениями, определяемыми алгоритмами, которые определяют его поведение. Некоторые типы задач хорошо соотносятся с наборами навыков ИИ, что делает ИИ относительно легкими для выполнения. «Но большинство вещей не соответствуют этому, и они не применимы», - сказал он.
Это означает, что, хотя ИИ может быть способен на впечатляющие умения в пределах четко определенных границ - например, играя в шахматы уровня мастера или быстро идентифицируя объекты на изображениях, - на этом его способности заканчиваются.
«ИИ достигает сознания - в этой области не было абсолютно никакого прогресса в исследованиях», - сказал Вайнбергер. «Я не думаю, что это где-нибудь в нашем ближайшем будущем».
Другая беспокоящая идея - что недобросовестный человек будет использовать ИИ по вредным причинам, - к сожалению, гораздо более вероятна, добавил Вайнбергер. По словам Вайнбергера, практически любой тип станка или инструмента может использоваться как в хороших, так и в плохих целях, в зависимости от намерений пользователя, и перспектива использования оружия в искусственном интеллекте, безусловно, пугающая и выиграет от строгого государственного регулирования.
Возможно, если бы люди могли отложить в сторону свои страхи перед враждебным ИИ, они были бы более открыты для признания его преимуществ, предположил Вайнбергер. Например, усовершенствованные алгоритмы распознавания изображений могут помочь дерматологам идентифицировать родинки, которые потенциально могут быть злокачественными, в то время как автомобили с самостоятельным вождением могут в один прекрасный день уменьшить количество смертей от автокатастроф, многие из которых вызваны человеческими ошибками, сказал он в интервью журналу Live Science.
Но в мире "Людей" самосознающих Синтов страх сознательного ИИ вызывает ожесточенные столкновения между Синтами и людьми, и борьба между людьми и ИИ, вероятно, будет продолжать разворачиваться и обостряться - по крайней мере, в текущем сезоне.
Примечание редактора: Это последняя функция в серии из трех статей, связанных с AMC "Люди". Третий сезон дебютировал 5 июня в 10 часов вечера. EDT / 9 вечера CDT.
