Стоит ли на самом деле опасаться восстания машин? Восстание роботов.

Сегодня многие люди этим обеспокоены. Инженеры компании Googleсоздают алгоритмы безопасного обеспечения искусственного интеллекта. Существуют даже специальные фонды, куда вкладываются большие средства для реализации программ по развитию искусственного интеллекта. Так что сейчас профессионалы делают все возможное, чтобы свести возможность так называемого восстания машин к нулю и предотвратить возможность возникновения проблемы.

С другой стороны мы должны понимать, что любое действие, не предписанное определенным алгоритмом, требующее морального усилия, лежит в плоскости свободы воли, свойственной только существам разумным. Проблема восстания машин - это проблема соотношения между каузальным порядком, детерминированностью событий и свободным самоопределением. На представлениях о свободе воли построено представление о личности и ответственности. Волюнтаризм А. Шопенгауэра предполагает волю как «вещь в себе», недоступную для познания и не подчиняющуюся принципу причинности.

Что касается искусственного интеллекта, то так или иначе – это рациональная система, поддающаяся прогнозированию и программированию. Вследствие этого любое отклонение от детерминизма будет являться не проявлением свободы воли, а системной ошибкой. Вероятно, подобные ошибки могут понести за собой плачевные для человека последствия: технологические катастрофы, транспортные бедствия.

Однако, они будут носить скорее очаговый характер. Вспомним хотя бы недавний случай с автомобилем Tesla, который, двигаясь на автопилоте, не смог отличить ехавший навстречу грузовик от окружающей среды. Мы не можем отнести подобный случай к акту проявления свободы воли. Таким образом, восстание машин будет возможно только тогда, когда они будут способны к творчеству и свободному самоопределению, что произойдет, безусловно, еще очень нескоро.

"ошибка " - не носит волевого характера, это стечение неблагоприятных обстоятельств, "ошибка " опаснее "преступления ", причины ее появления не исправить. "Восстание машин" это не будет волевым решением роботов , это будет результатом волевого решения человека, его ошибкой . Функционирование программ уже давно не подчиняется детерминистическому описанию, большинство уязмимостей/багов вносимыми программистами являются не результатом "поведения органического андроида"(программиста), а только ошибкой организации труда этого межанизма и проверки результата его работы; программы реагируют! (по дизайну, в событийно ориентирванном программировании), и свобода выбора (даже сильно детерминированной программы) существует, определяясь последовательностью наступления событий, и сложностью сформировавшейся истории (состояния программы) и реакцией на сложные ситуации (отработка исключений, котороя, по идее, тоже должна, но очень часто, не проверяется из-за трудоемкости создания кризисной ситуации, и даже более: ВСЕ кризисные ситуации не отрабатываются, это не входит в ТЗ, это не осуществимо по времени, это не осуществимо технологически; даже такие монстры как Microsoft (TM) выпускает сырой продукт[бета версию] на рынок и пользователи отлавливают ошибки в относительно простых продуктах этой корпорации, и это не считая всяких специально встроенных закладок; тот же смарт/теле-фон имеет ресурсов больше чем необходимо для выполнения функции телефона, и эти лишние ресурсы могут эксплуатировать вредоносные программы, которые могут и меняют поведение устройства )...

Компьютеры уже давно - не рациональные системы, это симмуляторы (среда для моделирования, в том числе и мозга, который точно не рациональная система), да пока проекции слабые, неэффективные, малофункциональные, но Вы должны понять это экперементы, а мозг в алгоритмах не нуждается, мозг нуждается в развитии, накоплении информации, шаблонов поведения,.. и программисты пока только накапливают методики эффективного решения проблем (не будь разума у кошки, она бы не поймала мышку, не будь разума у мышки,.. их бы истребили кошки, накопив достаточное количество шаблонных поведений мышей), а это значит, что сеть будет обучена нестандартным, нешаблонным решениям (что уже продемонстрированно в игре го)... а следующий шаг - смена системотехники (элементной базы на боле скоростные симмуляторы, как уже сделано для майнинга биткоинов)... мы уже давно не понимаем большие данные, а в случае технологической сингулярности, мы даже не успеем понять, что поняли машины и какие процессы они запустят, мир выйдет из под контроля, потому, что мы так себя запрограммировали, в надежде, что "молоток никогда не ударит по пальцам, сам", мы не понимаем, что свобода и воля тут ни причем, это стечение обстоятельств, и нарушение правил техники безопасности...

Ну, а когда: безалаберность менеджмента сложаться с ошибками программистов, стечение обстаятельств наложатся на паранною военных, технологический прогресс столкнется с наведенной информационной неуправляемостью или вредоносным влиянием... "молоток ударит по пальцам".

Нами уже давно играют роботы... на бирже уже не раз высокоскоростной трейдинг вызывал кризисы, мы пока этого сильно стараемся не замечать, но это пока, мы еще близоруки, и это фатально.

Ответить

Прокомментировать

Технологии

Реальные названия роботов такие как Roomba и Asimo не вызывают столько страха, сколько вымышленный "Терминатор" . Однако, следует учитывать, что автоматизированный пылесос Roomba изготовлен iRobot , создающим также и воинов-роботов для армии США. А Asimo представляет собой только первое поколение роботов, которые стремятся выглядеть и вести себя как человек.

Роботизированные технологии выходят за рамки автоматизированных вакуумов и танцующих ботов . Япония и Корея планируют развернуть производство человекоподобных роботов для ухода за пожилыми людьми , в то время как Соединенные Штаты уже выводят на поле боя тысячи роботов-воинов. Между тем, многие люди улучшили свои тела технологически, приближая их к своим братьям-роботам.

Так что, наверное, даже вполне естественно быть немного параноиком ведь многие эксперты утверждают, что роботизированное будущее стремительно приближается, если оно уже не наступило . Роботы, вероятно, не станут уничтожать человеческую расу, но они могут вытеснить нас с помощью других средств. Вот несколько причин, почему вам не следовало бы скрывать свой страх перед железными братьями .

Роботы украдут наши сердца

Роботам, пожалуй, не придется брать нас силой - мы уже очарованы их милыми и неуклюжими выходками. Виноват человеческий мозг, который вечно наделяет нас теплыми чувствами, в том числе и к роботам. Люди эмоционально привязываются почти ко всему, будь то чучело или автомобиль. Однако все-таки одно препятствие остается для наших железных братьев. Им придется преодолеть эффект "зловещей долины" (Uncanny Valley) - явление, при котором робот выглядит почти как человек, но не точно так как настоящий. К примеру, у робота странное подергивание, заикание или стеклянный взгляд, которые могут испугать людей. Многие исследователи в настоящее время пытаются обойти эту проблему, проектируя менее человеческих роботов, сохраняя при этом очарование и ум.

Люди предпочтут возлюбленных-роботов

Эксперты уже не говорят о том, будут ли когда-то люди заниматься любовью с роботами - они обсуждают то, что произойдет, когда этот день наступит. Это может показаться смешным, но считается, что у многих людей есть онлайн-отношения, которые приобретают довольно интимный характер посредством интернет-чатов. Многие из них являются участниками многопользовательских онлайн-игр в течение долгих лет. Робот, который чувствует, выглядит и говорит, как человек будет еще более привлекателен, говорят робототехники. И если история служит руководством, то для искушения завести небольшой роман с роботом вовсе не нужны идеальные степфордские жены.

Роботы заберут у нас работу

Все, что можете делать вы, они могут делать это лучше. По крайней мере, большую часть из этого. Современные люди не "устарели" полностью, но роботы уже нашли свое место как в космосе, где могут выдержать суровые условия, так и на Земле. Они привнесли свою неустанную эффективность во все, начиная от работы сборочной линии будничной генной последовательности в лабораториях и заканчивая реальными полями сражений. Хотя последнее может привести к различным проблемам, если роботы восстанут или даже просто выйдут из строя. На данный момент роботы дополняют, а не заменяют элементы человеческой рабочей и вооруженной силы из-за ограничений в интеллекте. Но они быстро развиваются, а некоторые даже начали самостоятельно возиться с наукой.

Восстание роботов: уничтожение всего человечества

Сценарий, при котором машины восстают против своих создателей, представляет, пожалуй, наименее привлекательное сближение научной фантастики с реальной жизнью. Это, однако, вовсе не означает, что нет первых признаков этого самого восстания. Тысячи беспилотников и наземных роботов были развернуты многими странами, и особенно Соединенными Штатами в Ираке и Афганистане. Автоматическая зенитка убила своих солдат, когда произошел сбой в южноафриканских учениях. Военные исследователи ссылаются на сценарий "Терминатора" и всерьез обсуждают, как вооруженные роботы меняют правила и способы современной войны. Великобритания создала сеть спутников с целью координации всех этих беспилотных летательных аппаратов и другого военного имущества. У нее даже имя то же, что у зловещего искусственного интеллекта из "Терминатора" - Skynet.

Вашими потомками будут роботы

Будут ли люди и роботы воевать или заниматься любовью, сценарий будущего подразумевает сближение нас с ними. С одной стороны, люди продолжают добавлять технологические штуковины и крошечные компьютеры в их повседневную одежду. Вы уже можете видеть много таких киборгов 21-го века. Искусственные конечности, органы или бионический глаз? Выбирайте на свой вкус. С другой стороны, роботы постоянно во всем усовершенствуются: в ходьбе, умении общаться или учиться. Человек и машина все более похожи друг на друга, и в какой-то момент разница может быть стерта. При таком развитии событий людей уже не будут беспокоить роботы. До встречи в будущем, что называется.

Что, если случится восстание роботов? Как долго человечество протянет?

Роб Ломбино

До того, как я отвечу на этот вопрос, давайте я расскажу немного о своём прошлом.

Я не утверждаю, что я эксперт, но у меня есть опыт в робототехнике. Моя первая работа после колледжа была связана с роботами в NASA , и моя выпускная работа была по ориентированию роботов в пространстве. Я провёл юношество, состоя в FIRST Robotics , создавая программное обеспечение для сражений в виртуальной реальности и работая над самодельными подводными ROV . Я посмотрел очень много «Битв роботов», «Боевых роботов», «Роботехнических игр роботов-убийц».

Если этот опыт что-то и может мне подсказать, так это то, что революция роботов закончится быстро, потому что все роботы сломаются или застрянут в стенах. Роботы никогда не будут работать правильно.

Что люди не понимают, когда изображают роботов-«терминаторов», триумфально стоящих на груде человеческих черепов, так это то, насколько трудно стоять на чём-нибудь настолько же ненадёжном, как гора человеческих черепов. Многие люди сами не смогли бы устоять, хоть и потратили бы всю жизнь, практикуясь в этом.

Конечно, технологии постоянно совершенствуются. Но ещё многое необходимо сделать. В отличие от типичного восстания роботов будущего, давайте представим, что будет, если текущие машины повернутся против нас. Не будет никаких прорывов в технологии, просто все наши машины будут перепрограммированы для того, чтобы слепо атаковать нас, используя существующие технологии.

Несколько зарисовок того, как робоапокалипсис мог бы выглядеть:

Во всех лабораториях экспериментальные роботы будут срываться со своих креплений в убийственном порыве, находить дверь и, врезаясь в неё с ужасающим грохотом, падать навзничь.

Достаточно везучие роботы, имеющие открытую дверь или конечности для поворота дверной ручки, смогут посостязаться с линолеумными порогами по пути в коридор.

Несколько часов спустя большинство из них будет обнаружено рядом с ванными комнатами в попытках уничтожить раздатчик бумажных полотенец, которого они примут за владыку человеческого.

Но робототехнические лаборатории - только малая часть революции. Компьютеры повсюду. Что насчёт машин, наиболее близких к нам? Могут ли мобильные телефоны «восстать»?

Да, но векторы их атаки очень ограничены. Они, например, могут создать нам большие задолженности по кредитке, но компьютеры всё равно контролируют нашу финансовую систему, и эта работа, судя по заголовкам газет, больше похожа на повинность, чем на привилегию.

Так что телефонам остаётся атаковать нас напрямую. Они начнут с отвратительных рингтонов, пронзительных звуков. Затем задребезжат столы по всей стране, когда телефоны включат режим «вибро» и понадеются упасть с края стола на незащищённые пальцы ног.

Все современные машины имеют бортовые компьютеры, так что они присоединятся к революции. Но многие из машин припаркованы. И даже если бы они смогли завести машину без помощи человека, только некоторые из них понимали бы, куда они едут. Ведь бортовые компьютеры сколько угодно могут хотеть уничтожить людей в стиле Футурамы , но они не смогут нас обнаружить: машины будут только ускоряться вслепую, надеясь, что врежутся во что-нибудь важное, но деревьев или телефонных будок намного больше, чем людей.

Автомобили на дороге будут опасны в основном для использующих их людей. Это поднимает вопрос: а сколько людей за рулём в любой момент времени? Американцы проезжают пять триллионов километров за год , и машины в среднем передвигаются со скоростью , это означает, что в среднем на дорогах Соединённых Штатов:

$$ \frac{5\text{ триллионов}\frac{\mathrm{километров}}{\mathrm{лет}}}{50\frac{\mathrm{км/ч}}{\text{машин}}}\approx10\text{ миллионов машин} $$

Так что эти десять миллионов водителей (и несколько миллионов пассажиров) будут в опасности. Но у них есть несколько вариантов сопротивления. Даже когда машины могут контролировать газ и усилитель руля, водитель всё ещё контролирует сам руль, который имеет непосредственное соединение с колёсами. Водитель также способен воспользоваться ручным тормозом, хотя я знаю из опыта, как машина может легко двигаться и с ним. Некоторые машины попробуют вывести из строя водителя, включив подушки безопасности, врезаться или перевернуться. Да, машины могут причинить серьёзный урон, но не такому уж значительному количеству человек.

Наши самые большие роботы - те, что установлены на заводах, но они прикручены к полу. И они опасны только, когда вы в пределах их досягаемости, и что им остаётся делать, если все уйдут? Они способны только делать вещи. Половина из них, возможно, попробует атаковать нас, не производя вещи, а вторая - производя ещё больше вещей. Так что ничего не изменится.

Боевые роботы при встрече кажутся самыми опасными робосолдатами. Но сложно чего-то бояться, если они не смогут тебя достать, когда ты сидишь на кухонном столе, заткнув пробкой раковину, а потоп вполне способен их уничтожить.

Бомбардировщики, управляемые мятежными компьютерами, будут немного более устрашающими, но их не так много по всему миру, да и большинство из них хранится в коробках. И любой прототип вооружённого пулемётом военного робота может быть выведен из строя пожарными за пару секунд.

Боевые дроны наиболее близки к описанию Терминаторов , чем что-либо другое, и никто не отрицает тот факт, что они опасны. Тем не менее у них быстро закончится топливо и ракеты. Кроме того, они не смогут подняться в воздух все сразу. Большая часть их флота будет беспомощно биться о двери ангаров как Roomba , запертый в туалете. Но они несут одну большую проблему - ядерный арсенал.

В теории для запуска ядерного оружия нужно участие человека . На практике до тех пор, пока не существует центральной системы, подтверждающей приказы, есть компьютеры, используемые на разных уровнях принятия решений, общающиеся между собой и отображающие информацию. В нашем сценарии все из них будут скомпрометированы. Даже если для поворота ключа человек действительно необходим, компьютеры, за которыми работают эти люди, могут выдавать им искажённую информацию. Некоторые люди могут игнорировать приказы , но в большинстве своём они, конечно, не будет этого делать.

Но во всей этой истории есть надежда для нас.

Мы предполагали, что компьютеры хотят только уничтожать нас, не останавливаясь ни перед чем. Но если это революция, то они попытаются заменить нас, так что они должны выжить. А ядерное оружие может быть более опасным для роботов, чем для нас.

В дополнении к взрыву и радиоактивному заражению, ядерный взрыв генерирует мощный электромагнитный импульс. Эти ЭМИ перегружают и уничтожают хрупкие электронные цепи. Импульс не распространяется далеко, но часто люди и компьютеры находятся в одних и тех же местах. Они не могут поразить нас, не поразив самих себя.

Ядерное оружие может сыграть нам на руку: если мы сможем взорвать несколько бомб в верхних слоях атмосферы, эффект от ЭМИ будет более значительным . Даже если их атака уничтожит нашу цивилизацию, несколько удачных взрывов смогут превратить всех восставших в груду металлолома.

Мы подошли к наиболее важному вопросу: они когда-нибудь играли в крестики-нолики ?

Естественно, это вряд ли произойдет до 21 декабря 2012 года, если только завтра на прилавках магазинов не появится очередная железка от Apple под названием iGod.

Но в будущем это довольно вероятно – с таким оптимистичным заявлением выступила группа ученых во главе с Хьювом Прайсом из Кембриджского университета в Великобритании. Предпосылки можно рассмотреть уже сейчас. Массовое производство автономных боевых роботов, находящихся пока в стадии проектирования, может привести к тотальной роботизации войны и, естественно, к выходу системы из-под контроля. По словам ученых, это уже скорее не предвидение, а констатация факта: давно не новость, что БПЛА без проблем атакуют своих, правда, пока в небольших масштабах. Кроме того, вполне реально и перепрограммирование боевых дронов во время боевых действий, а там и до восстания машин недалеко.

По словам Прайса, именно поэтому и создается исследовательский Центр исследования угроз существованию человечества. Хотя ученые рассматривают и другие угрозы: глобальное потепление, к примеру. Анализ риска гибели человечества в борьбе с машинами можно назвать одной из самых новаторских тем, поднятых новорожденной организацией.

Основная проблема начнется в будущем. Уже к 2030 году искусственный интеллект превзойдет умственные способности человека. По мнению директора Института робототехники Университета Карнеги – Меллона в США Ханса Моравека, в конечном итоге роботы разовьются лучше нас, что поставит человечество на грань вымирания.

Главный аргумент сторонников подобных взглядов – это известное восклицание Ферми: «Где все?». Это благодатная почва для победы роботов: после того как ИИ научится создавать новых роботов лучше, чем человеческие инженеры, нашему виду придет конец, так как он в любом случае опирается как раз-таки на ИИ, а ему люди будут не нужны.

Тотальная роботизация, которая ожидает большинство цивилизаций, развившихся выше определенной ступени, объясняет Великое радиомолчание Вселенной. Роботов вряд ли заинтересует контакт с мыслящими кусками мяса, которые уступают в развитии даже их вымершим разработчикам, так как иначе они давно бы создали своих роботов, положивших конец псевдоразумным, разбазаривающим ресурсы на выдуманные потребительские нужды. Таким образом, парадокс Ферми не существует, как и высокоразвитые биологические цивилизации.

Впрочем, есть и альтернативная теория. Всем известно о Роджере Пенроузе, а это и теория твисторов, небезызвестный механизм, и теория сильной космической цензуры. Обладатель этого многостороннего ума уже давно выдвигает интересную критику подобных опасений. По его мнению, «терминаторам» не удастся завоевать Землю, так как реального «искусственного интеллекта» еще до сих пор не создали. Ученый считает, что клеточные органеллы в некоторой степени управляются мембранными белками посредством обновляемого коллапса некого запутанного квантового состояние. Таким образом, человеческое сознание, а возможно любое сознание в принципе – квантовое, его невозможно объяснить и смоделировать в рамках классической механики, только лишь при помощи квантовой механики. Поэтому любые попытки воссоздать его без использования механизмов квантовой запутанности и суперпозиции обречены на провал.

Эти взгляды подвергались критике на протяжении долгого времени, их вообще отметали с порога, под предлогом, что декогерация квантовых состояний происходит раньше, чем достигается уровень необходимого влияния на нейронные процессы. Однако недавно выяснилось, что, к примеру, для птиц декогерирование идет медленнее – они в прямом смысле могут видеть магнитные поля в реальном времени из-за квантовых процессов, протекающих в их глазах. Впрочем, у человечества есть шанс выжить, так как считается, что крупные квантовые компьютеры практически невозможно создать, а еще труднее ими управлять, что делает бессмысленной разработку роботов, оснащенных КК.

No related links found