Разоблачение мифов о человеческом интеллекте. Всё самое интересное в одном журнале

Все смотрели фильмы о «Терминаторе», где суперкомпьютер Скайнет обрел свободу воли и решил уничтожить человечество. Чего-то подобного от разработки ИИ ожидают Илон Маск и Стивен Хокинг. Разбираемся, правдивы ли их опасения.

Что такое искусственный интеллект? Почему важно понимать, что это такое? Почему сегодня все о нем говорят?

Если вы читаете прессу, вы наверняка знаете, что с помощью именно этой технологии работают виртуальные помощники Amazon и Google, и что вскоре машины отберут у людей все рабочие места (на самом деле, не факт). Но при этом вряд ли вы отчетливо понимаете, что такое искусственный интеллект, и правда ли роботы нас всех поработят. Эта статья поможет разобраться во всех вопросах.

Что такое искусственный интеллект

Искусственный интеллект (ИИ) - это компьютерная программа, в которую встроен механизм обучения. Получив новые знания, она позже использует их для принятия решения в новой ситуации, как это делают люди. Исследователи, создающие такие программы, пытаются заставить код считывать изображения, текст, видео или звук, и чему-то учиться на основе этой информации. Когда это происходит, полученное знание можно использовать в другом ситуации. Если алгоритм научился распознавать чье-то лицо, позже его можно распознать на фотографиях из Facebook. Применительно к современному ИИ обучение часто называют «тренировкой».

Люди с рождения умеют оперировать сложными идеями: если мы увидим яблоко, то впоследствии сможем узнать и совсем другое, непохожее на первое. Машины же очень буквальны, - у компьютера нет концепции «похожести», - и цель разработок в области искусственного интеллекта как раз и состоит в том, чтобы сделать машины менее буквальными. Машина легко может найти точные дубликаты фотографий яблока или найти два одинаковых предложения в тексте, но чтобы работать с визуальным образом яблока, чтобы распознать изображение того же яблока под другим углом или с другим светом, нужен ИИ. Это обобщение или формирование идеи, основанной на сходстве данных, и позволяет видеть общее в том числе между вещами, с которыми ИИ раньше не сталкивался.

Алекс Рудницкий, профессор компьютерных наук Университета Карнеги-Меллон, говорит: «Цель в том, чтобы облечь сложное человеческое поведение в форму, которую можно обработать вычислительным способом. А это, в свою очередь, позволяет нам создавать , способные выполнять сложные действия, полезные для людей».

Далеко ли зашла разработка ИИ

Исследователи ИИ все еще работают над самыми основами. Как научить компьютер распознавать то, что он видит на картинке или в видео? Когда это удастся, нужно двигаться от распознавания к пониманию. Было бы здорово не только узнать, что на картинке яблоко, но и разобраться, что яблоко съедобно, что оно как-то связано с апельсинами и грушами, что люди едят яблоки и используют их при приготовлении яблочного пирога. А еще неплохо бы знать про Мичурина, молодильное яблочко и тому подобные вещи. Кроме того, есть проблема с пониманием языка, поскольку у многих слов существует несколько значений, различимых только в контексте, и все мы по-разному выражаем свои мысли. Как компьютеру охватить это текучее, непрерывно меняющееся явление?

В разных областях скорость прогресса ИИ очень разная. Например, сейчас очень быстро продвигается вперед компьютерное зрение, то есть способность распознавать изображения, при этом с пониманием естественного языка дела обстоят гораздо хуже. В этих областях развивают так называемый «узкий интеллект» - такой ИИ эффективен при работе с изображением, звуком или текстом, но не может воспринимать сразу много разнородных сигналов (при этом у человека мы наблюдаем «общий интеллект»). Многие исследователи надеются, что достижения в отдельных областях помогут понять общие принципы машинного обучения, что все же позволит создать универсальный ИИ.

Почему ИИ - это так важно

Как только ИИ научился узнавать на картинке яблоко или распознавать кусочек речи на аудиозаписи, его уже можно использовать в других программах для принятия решений, для которого в противном случае понадобился бы человек. Например, можно автоматически отмечать друзей на фотографиях в Facebook - иначе это пришлось бы делать вручную. Если речь идет о беспилотном автомобиле или системе помощи водителю, то можно распознавать другие автомобили и дорожные знаки, а в сельском хозяйстве - разбирать урожай, удаляя гнилые плоды.

Эти задачи, основанные только на распознавании изображений, традиционно выполнялись либо пользователем, либо кем-то из компании, предоставляющей программное обеспечение. Если задача экономит время пользователя, это ее конкурентное преимущество, а если она позволяет освободить время сотрудника или делает его работу полностью ненужной, это снижает затраты бизнеса.

Кроме того, есть задачи, которые просто невозможно сделать без машин: например, это обработка аналитики продаж в размере миллионов записей за считанные минуты. Теперь такие задачи выполняются быстро и дешево. Здесь мы учим машину делать то, что раньше делали люди, и, конечно, экономическая выгода от таких нововведений весьма велика.

Джейсон Хонг, профессор Лаборатории компьютерного взаимодействия Университета Карнеги-Меллон, утверждает, что, хотя ИИ может выполнять задачи за человека, он также способен создавать новые виды занятости.

«Автомобили полностью сменили лошадей, но в среднесрочной и долгосрочной перспективе их появление привело к огромному разнообразию задачи и производства - появились фуры, небольшие грузовики, минивэны, кабриолеты и так далее. Аналогичным образом в краткосрочной перспективе системы ИИ станут прямой заменой человека применительно к рутинным задачам, но в среднесрочной и долгосрочной перспективе мы увидим, что это породило новое разнообразие», - говорит он.

Готлиб Даймлер и Карл Бенц не думали о том, как автомобиль изменит облик городов, не думали о загрязнении окружающей среды или об эпидемии ожирения в развитых странах. Так и нам пока трудно оценить долгосрочное влияние этого фактора.

Почему ИИ стал развиваться сейчас, а не 30 или 60 лет назад

На самом деле, многим идеям о том, как должно быть устроено обучение ИИ, даже больше 60 лет. Еще в 1950-х годах ученые Фрэнк Розенблатт, Бернард Видроу и Марчиан Хофф впервые занялись математическим выражением устройства нейронов в соответствии с представлениями тогдашней биологии. Да, одним уравнением любую проблему не решить, но что если подобно мозгу использовать множество связанных уравнений? Исходные примеры были простыми: проанализировать наборы единиц и нулей, поступающих по цифровой телефонной линии, и предсказать, что будет дальше.

На протяжении многих десятилетий в информатике была распространена точка зрения, что никакие сложные проблемы таким образом решить не удастся. Тем не менее сегодня эта концепция лежит в основе большинства систем работающих в этой области крупных компаний: Google, Amazon, Facebook, Microsoft. Теперь, оглядываясь назад, ученые понимают, что компьютеры были недостаточно сложны для моделирования миллиардов нейронов нашего мозга, и что для обучения нейронных сетей требуются огромные объемы данных.

И эти два фактора, вычислительная мощность и достаточное количество данных, появились только в последние 10 лет.

В середине 1990-х годов компания Nvidia, известный производитель видеокарт, обнаружила, что ее графические процессоры хорошо подходят для работы нейронных сетей, и начала выпускать карты, специально приспособленные для работы с ИИ. Было выяснено, что работа с более быстрыми и сложными нейронными сетями приводит к значительному улучшению точности ответов.

Затем в 2009 году исследователь ИИ Фей-Фей Ли опубликовала базу данных под названием ImageNet, которая содержала более 3 млн систематизированных изображений с подписями. Она считала, что если у алгоритмов будет больше примеров, это поможет им освоить более сложные идеи. В 2010 году Ли запустила конкурс ImageNet, а к 2012-му другой исследователь Джефф Хинтон использовал эту базу изображений для обучения нейронной сети - и превзошел все другие приложения с огромным перевесом в точности, более 10%.

Как и предсказывала Ли, количество данных оказалось ключевым параметром. Хинтон также устраивал из нейронных сетей конвейер - одна находила на изображениях фигуры, другая текстуры и т. д. Сегодня это называется глубокими нейронными сетями или глубоким обучением, и, когда вы читаете в новостях об очередном успехе ИИ, речь идет о подобной системе.

Как только в технологической индустрии увидели результаты ученых, начался бум. Исследователи, десятилетиями работавшие над глубоким обучением в относительной безвестности, стали новыми рок-звездами, и к 2015 году у Google было уже более тысячи проектов с использованием машинного обучения.

Нужно ли бояться ИИ

Все смотрели «Терминатора» и готовы испугаться всемогущего Скайнета. Среди ученых потенциальный Скайнет называют суперинтеллектом или общим искусственным интеллектом, подразумевая программу, которая во многих отношениях превосходит человеческий мозг. Поскольку компьютерные системы можно масштабировать - то есть можно создать множество простых и быстрых компьютеров и связать их между собой, - существуют опасения, что такой суперинтеллект сможет расти бесконечно, оставив людей далеко позади. А будучи таким умным, он выйдет из-под контроля и обойдет любые попытки людей этот контроль вернуть. Такой апокалиптический сценарий рисуют нам некоторые из лучших умов современности, например Илон Маск и Стивен Хокинг. Маск, в частности, говорил, что «большинство ведущих исследователей ИИ недооценивают проблему „джинна в бутылке“, несмотря на свой несомненный интеллект в некоторых областях».

Есть и другая точка зрения. Янн Лекун, глава лаборатории исследования искусственного интеллекта Facebook, говорит, что даже если ученым удастся сделать машину, способную обучаться самым разным вещам и организовывать это понимание в картину мира, совершенно не факт, что у такого компьютера появятся собственные желания, воля или инстинкт самосохранения.

«Человеческое поведение - насилие в ответ на угрозу, ревность, желание единоличного доступа к ресурсам, симпатия к родственникам и антипатия к незнакомцам и т. д. - сформировалось у наших предков в ходе эволюции. У разумных машин не будет предпосылок для подобного поведения, если мы сами явно их не создадим», - писал он на сайте Quora.

Нет причин считать, что компьютер сочтет человечество угрозой, поскольку для компьютера не существует понятия угрозы. Да, можно задать параметры, благодаря которым компьютер будет вести себя так, как будто у него есть инстинкт самосохранения, но на самом деле его у него нет.

Эндрю Нг, один из основателей Google Brain и бывший глава направления ИИ в Baidu, любит говорить: «Я не переживаю о злобном ИИ, как не переживаю из-за перенаселенности Марса».

Впрочем, повод для опасений есть - и это человеческий фактор. Было показано, что ИИ очень легко воспринимает человеческое смещение в оценках из данных, на которых он учится. Это может быть какая-то безвредная предрасположенность - например, он может чаще распознавать на картинках кошек, чем собак, потому что его так научили. Но представим себе, что ИИ перенял у людей их стереотипы, и, например, связал понятие «врач» с белыми мужчинами в большей степени, чем с людьми другого пола или расы. Если представить себе, что такой ИИ отвечает за найм врачей, он будет отдавать несправедливое предпочтение некоторым кандидатам.

И это реальность. Исследование издания ProPublica показало, что алгоритмы, используемые для определения приговора преступникам, отражали расовую предубежденность и предлагали назначить более суровое наказание не-белым подсудимым. Дело в том, что при сборе информации о здоровье часто исключают женщин, особенно беременных, и в результате медицинские рекомендации, выработанные на основе таких неполных данных, оказываются слабо применимы к значительному числу пациентов. Таким образом, чтобы доверить машинам принимать решения, которые раньше требовали человеческого присутствия, нужно следить, чтобы это происходило в соответствии с нашей этикой и представлениями о справедливости.

Проблема в том, что даже если вы поняли, что алгоритм предвзят, чтобы его исправить, нужно найти причину. Но поскольку глубокое обучение требует миллионов связанных вычислений, продраться через этот клубок и выяснить, каков вклад того или иного решения в общий результат, невероятно сложно. Эта проблема особенно остро стоит в таких областях как программирование беспилотных автомобилей, ведь каждое решение на дороге - это вопрос жизни и смерти. Первые исследования в этой области дают надежду, что мы сможем разобраться в механизмах работы построенных нами машин. Но пока что понять, почему ИИ, разработанный Facebook, Google или Microsoft, принял то или иное решение, просто невозможно.

Подготовила Евгения Сидорова

Невероятные факты

Мы изучали человеческий интеллект на протяжении многих веков, но до сих пор у нас очень мало ответов на вопросы о том, как мы думаем, что мы думаем и почему мы можем думать.

Мужчины умнее женщин или наоборот? Тесты IQ говорят правду или все очень предвзято? Большой мозг – большой интеллект?

Ниже рассмотрены 10 теорий о человеческом интеллекте, которые либо были опровергнуты, либо подвержены резкой критике.

Однако, любая из опровергнутых теорий в один прекрасный день может быть доказана.

Интеллект и наследственность

10. Наследственность

Если вы родились у умных родителей, означает ли это, что вы тоже будете умным? Некоторые исследователи говорят, что да, некоторые отрицают. Верно то, что наследственность влияет на наш интеллектуальный фактор (IQ), который измеряет наши когнитивные способности по сравнению со сверстниками.

Но не стоит забывать и об окружающей среде, а также о роли культуры в формировании нашего интеллекта. Существуют ли гены интеллекта? Никто не знает наверняка, а информация различного рода исследований варьируется, говоря о наличии 40-80 процентов генов, ответственных за интеллект.

Гены против воспитания – это спорная область исследования, а проводимые сегодня эксперименты помогут понять не только функционирование нашего разума, но и особенности человеческого характера, поведения, и даже основу некоторых психических заболеваний.

В этой теории важным моментом является тот факт, что человеческий разум не зависит от расы, и что наследственность не является единственным фактором, определяющим интеллектуальный потенциал личности.

9. Краниометрия

Ученые 19 века полагали, что измерение черепа и лицевой структуры человека – это хороший способ измерить и его интеллект. Когда эта теория только появилась хирург Поль Брока (Paul Broca) предположил обратно пропорциональную связь: чем меньше отношение длины предплечья к длине плеча, тем выше уровень интеллекта.

Когда он не сумел доказать, что белые – это самая умная раса, основываясь только на длине руки, он обратился к измерению черепа и лицевых структур, чтобы определить сколько мозга могло бы поместиться внутри черепа человека. Это он посчитал более точным способом определения интеллекта.

Краниометрия говорила о том, что чем крупнее кости черепа, тем больше сам череп и мозг в нем расположенный, а, следовательно, и выше интеллект. Краниометрия умерла в начале 20 века, потому как ее постоянно критиковали за расовые предрассудки и отсутствие фактических оснований для подобного рода заявлений.

Однако, ученые, интересующиеся данной теорией, помогли обнаружить мозговые речевые центры, а также помогли выявить концепции интеллектуального фактора, известного нам сегодня как IQ.

8. Первичные умственные способности

В первой половине 20 века психолог Л. Терстоун (L. Thurstone) выдвинул идею о том, что основа человеческого интеллекта – это семь компонентов. Его теория отличалась от других бытовавших в то время и утверждавших, что интеллект человека основан на одном факторе, не определенном каком именно.

Среди задействованных компонентов психолог отмечал следующие – ассоциативная память, способность к счету, скорость восприятия, способность логически мыслить, пространственная визуализация, вербальное понимание и владение словом.

В то время, как его теория об этих семи компонентах не выдержала испытание временем, работа крайне популярна в области психометрии (наука, занимающаяся количественным исследованием психологических измерений).

7. Порядок рождения

Исследователи уже давно изучают, каким образом порядок рождения влияет на все то, от чего зависит ум человека. Однако, одно из последних исследований, опубликованное Американской психологической ассоциацией, пришло к выводу, что нет прямой связи между уровнем интеллекта и порядком рождения в семье.

Ранее ученые полагали, что первенцы всегда набирают больше пунктов при прохождении тестов на IQ. Объяснялось все тем, что у них нет конкуренции за родительское внимание, поэтому у них больше времени узнавать новую и полезную информацию.

Дети, рожденные вторыми или последними, как полагалось, обладали меньшим количеством родительского внимания, а, следовательно, набирали более низкое количество баллов. В последнем исследовании специалисты сравнили братьев и сестер, но, не касаясь при этом вопроса очередности рождения. Они обнаружили, что действительно отсутствует значимая связь между очередностью рождения и уровнем интеллекта.

6. Единственный интеллект

Некоторые люди утверждают, что идея единственного интеллекта (концепция, на которой строятся многие теории, включая и концепцию общего интеллекта – фактор G) обязательно должна быть в этом списке. Другие говорят, что ей тут не место. Но вот почему данная идея находится в этом списке.

Недавнее исследование показало, что существует такая вещь, как интеллект вообще, но она не зависит от того, какие результаты человек показывает по тем или иным тестам по сравнению с населением в целом.

Получение информации о том, как работает человеческий интеллект (или не работает) до сих пор проходило через тип тестирования, называемый психометрией. Но теперь, новое исследование, опубликованное в американских "Трудах национальной академии наук", полагает, что конкретные области мозга и различные сетевые пути вовлечены в создание такой системы, как интеллект, и это является шагом к доказательству биологической основы интеллекта.

5. Табула Раса

Табула Раса – это теория о том, что люди изначально рождаются с "пустыми" умами. Философы и психологи активно выступают за эту теорию на протяжении уже многих веков. В рамках нее предполагается, что когда мы рождаемся, наш ум свеж и пуст, полон потенциала и ждет, чтобы наполниться личным жизненным опытом и эмоциями.

В наши дни по-прежнему спорят на тему того, что же играет более важную роль в формировании интеллекта – генетика или воспитание? Разве мы обычные творения природы? Какую роль играет наша окружающая среда?

Исследования, проведенные в последние десятилетия, специально изучали близнецов, разлученных при рождении, потому как они являются носителями одинакового генетического материала, но окружающая среда, воздействующая на них, различная.

В итоге, ученые пришли к выводу, что человеческий разум, наряду с другими индивидуальными чертами, такими как, гендерная идентичность, - это комбинация генов, наследуемых нами, а также наш личный опыт и окружающая среда.

Тест на интеллект

4. IQ тесты

IQ тесты, или тесты на коэффициент интеллекта, обычно используются для оценки когнитивных способностей человека, его интеллекта и достижений. Стандартные IQ тесты, такие как Стэнфорд-Бине (для одаренных детей) или SAT, измеряют когнитивные навыки человека по сравнению с общей массой населения.

Несмотря на то, что такие тесты по-прежнему крайне популярны среди обычных людей, важно отметить, что они подвергаются широкой критике. Так, критики утверждают, что подобные тесты имеют своего рода смещение по признаку пола, расы, социально-экономического статуса и культурного наследия.

Такие тесты зачастую основаны на устаревших представлениях о том, что мощь нашего интеллекта – это нечто установленное при рождении, и что интеллект остается неизменным с течением жизни.

IQ тесты все еще используются, но не стоит принимать их результаты слишком серьезно. Многие психологи спорят о том, что все тесты подобного рода слишком предвзяты.

3. Триархическая теория интеллекта

Когда Роберт Стернберг (Robert Sternberg) разработал триархическую теорию человеческого интеллекта, он пошел против всех теорий, которые предполагают, что у людей есть общий фактор интеллекта (фактор G) или стандартные умственные способности. Стернберг не считал интеллект академическим фактором.

Вместо этого, он предположил, что у людей есть то, что называется практическим интеллектом, который отличается от академического, но при этом, равен ему по значимости.

Теория состоит из трех суб-теорий: контекстуальной, компонентной и эмпирической. Контекстуальная – это взаимодействие интеллекта с опытом внешнего мира, компонентная – это связь интеллекта с внутренним миром, эмпирическая – это способность адаптироваться к ситуации и выполнять определенные задачи.

Эмпирическая, в свою очередь, подразделяется на то, как вы справляетесь с новыми задачами и впечатлениями, и на то, как вам удается с хорошо известными задачами справляться.

Критики триархической теории утверждают, что автор скорее описывает набор практических навыков, чем объясняет систему функционирования интеллекта. Они также говорят о том, что Стернберг пренебрегает предоставлением информации относительно непосредственных наблюдений.

Виды интеллекта

2. Теория множественного интеллекта

В отличие от Табулы Расы, которая предполагает, что люди рождаются с "пустыми" умами, теория множественного интеллекта говорит о том, что человеческий разум состоит из нескольких типов интеллекта.

Автор теории Говард Гарднер (Howard Gardner) рассказывает, что человеческий интеллект – это наша способность создавать и поддерживать ценности, решать проблемы и расширять свои знания путем решения этих проблем. Он предполагает, что есть девять типов интеллекта, которые вместе создают уникальность каждого человека:

Телесный/кинестетический интеллект

Экзистенциальный интеллект

Межличностный интеллект

Внутриличностный интеллект

Лингвистический интеллект

Логический/ математический интеллект

Музыкальный интеллект

Натуралистский интеллект

Пространственный интеллект

Несмотря на то, что эта теория не была опровергнута и до сих пор не устарела (разработана в 1983 году), она все еще нуждается в проверке.

Кто умнее: мужчина или женщина?

1. Пол и интеллект

Мужчины с Марса, женщины с Венеры? В то время как мужчины и женщины думают по-разному, нет никаких доказательств того, что один пол с рождения умнее другого.

Исследователи обнаружили, что когда речь заходит об интеллекте, то у людей есть два типа мозга: в мозге первого типа содержится большее количество серого вещества (центр обработки информации), в мозге второго типа больше белого вещества (так называемая "соединительная ткань" центра обработки информации). Исследования показали, что женский мозг содержит в 10 раз больше белого вещества, а мужской мозг в 6,5 раз больше серого вещества.

Что это означает? В то время как мужчины и женщины обладают различными типами мозговой ткани, общая производительность равна, просто мы по-разному преуспеваем в решении различных типов задач.

Программирование ,

Разработка для интернета вещей ,

Разработка под e-commerce ,

Разработка робототехники

Сегодня об искусственном интеллекте не пишет только ленивый. Например, в Autodesk считают, что искусственный интеллект может учитывать гораздо больше факторов, чем человек, и, таким образом, давать более точные, логичные и даже более креативные решения сложных проблем. В Оксфордском университете вообще высказывают предположения о том, что искусственный интеллект в недалеком будущем может заменить штатных журналистов и писать за них обзоры и статьи (и того и гляди выиграет Пулитцеровскую премию).

Общее увлечение темой искусственного интеллекта давно вышло за рамки научных конференций и будоражит умы писателей, кинематографистов и широкой общественности. Кажется, что от будущего, в котором роботы (или Скайнет) правят миром или, как минимум, решают большую часть повседневных задач, рукой подать. Но что по этому поводу думают сами ученые?

Для начала стоит разобраться с термином «искусственный интеллект»: слишком много существует на эту тему домыслов и художественных преувеличений. В этом вопросе лучше всего обратиться к автору этого термина (и по совместительству создателю языка Лисп и лауреату множества премий) – Джону Маккарти. В статье с одноименным названием («Что такое искусственный интеллект?») Маккарти приводил следующее определение:

Это наука и технология создания интеллектуальных машин, в особенности – интеллектуальных компьютерных программ. Искусственный интеллект связан с задачей использования компьютеров для понимания работы человеческого интеллекта, но не ограничивается использованием методов, наблюдаемых в биологии.

Получается, что искусственный интеллект и интеллект «человеческий» тесно связаны? Не совсем так – сам Маккарти подчеркивал: если интеллект «вообще» – это «вычислительная» составляющая того, что помогает субъекту достигать заданных целей, тогда интеллект человека, животных и машин будет работать по-разному.

Выходит, что искусственный интеллект – это не подобие человеческого, хотя многим футуристам, писателям и даже ученым хочется верить в то, что это не так. Об этом часто повторяет Майкл Джордан , почетный профессор Калифорнийского Университета в Беркли. Он считает, что недостаточное понимание того, что же представляет из себя искусственный интеллект, приводит не просто к созданию «красивых образов», не связанных с реальной наукой, а к самой настоящей дезинформации и разного рода мифам, процветающим в этой области.

Миф первый: для создания или усовершенствования искусственного интеллекта надо разобраться с тем, как работает человеческий мозг

Джордан утверждает , что это вовсе не так. Работа искусственного интеллекта, как правило, не имеет ничего общего с тем, как устроен интеллект человека. Этот «миф» глубоко укоренился из-за пристрастия общественности к «красивым идеям»: авторам научно-популярных статей об искусственном интеллекте пришлись очень по душе метафоры, взятые из нейробиологии.

На самом деле нейробиология имеет очень опосредованное отношение (или вообще не имеет никакого отношения) к работе искусственного интеллекта. Для Майкла Джордана идея о том, что «для глубинного обучения нужно понимание того, как обрабатывает информацию и учится человеческий мозг», звучит как откровенная ложь.

«Нейроны», задействованные в глубинном обучении – это метафора (или, выражаясь языком Джордана, вообще «карикатура» на работу мозга), которая применяется только для краткости и удобства. В действительности же работа механизмов того же глубинного обучения гораздо ближе к процедуре построения статистической модели логистической регрессии, чем к работе настоящих нейронов. При этом, никому не приходит в голову для «краткости и удобства» использовать метафору «нейрона» в статистике и эконометрике.

Миф второй: искусственный интеллект и глубинное обучение – последние достижения современной науки

Мнение о том, что «думающие как человек» компьютеры будут сопровождать нас в недалеком будущем, напрямую связано с идеей, согласно которой искусственный интеллект, нейронные сети, глубинное обучение являются достоянием исключительно современной науки. Ведь если допустить мысль о том, что все это было придумано десятилетия назад (а роботы к сегодняшнему дню так и не захватили мир), «порог ожиданий» от научных достижений вообще и скорости их развития в частности придется серьезно снизить.

К сожалению, СМИ стараются сделать все возможное, чтобы подогреть интерес к своим материалам, и очень избирательно относятся к выбору тематик, которые, по мнению редакторов, вызовут интерес у читателей. В итоге описываемые ими достижения и их перспективы оказываются гораздо более внушительными, чем реальные открытия, а часть информации просто «аккуратно опускается», чтобы не снижать накала страстей.

Многое из того, что сейчас преподносят «под соусом» искусственного интеллекта, является просто переработанной информацией о нейронных сетях, которые известны человечеству с 80-х годов.

А в восьмидесятые все повторяли то, что было известно в 1960е годы. Такое чувство, что каждые 20 лет проходит волна интереса к одним и тем же темам. В нынешней волне главной идеей является сверточная нейронная сеть, о которой уже говорили лет двадцать назад
– Майкл Джордан

Миф третий: искусственная нейронная сеть состоит из тех же элементов, что и «реальная»

На самом деле специалисты, занятые вопросами разработки вычислительных систем, оперируют нейробиологическими терминами и формулировками гораздо смелее, чем многие нейробиологи. Интерес к работе мозга и устройству интеллекта человека стал питательной средой для развития такой теории как «невральный реализм».

В системах искусственного интеллекта нет ни спайков, ни дендритов, более того, принципы их работы далеки не только от работы головного мозга, но и от пресловутого «неврального реализма». Фактически, в нейронных сетях ничего «нейронного» нет.

Более того, идея «неврального реализма», основанная на уподоблении работы систем искусственного интеллекта работе мозга, по мнению Джордана, не выдерживает критики. По его словам, к прогрессу в сфере искусственного интеллекта привел не «невральный реализм», а использование принципов, совершенно не согласующихся с тем, как работает мозг человека.

В качестве примера Джордан приводит популярный алгоритм глубинного обучения, основанный на «обратной передаче ошибки обучения». Его принцип работы (а именно передача сигнала в обратном направлении) явно противоречит тому, как работает человеческий мозг.

Миф четвертый: ученые хорошо понимают, как работает «человеческий» интеллект

И это снова далеко от истины. Как утверждает все тот же Майкл Джордан, глубинные принципы работы мозга не просто остаются нерешенной проблемой нейробиологии – в этой области ученых отделяют от решения вопроса десятки лет. А попытки создать работающую имитацию мозга так же не приближают исследователей к пониманию того, как устроен человеческий интеллект.

Это просто архитектура, созданная в надежде, что когда-нибудь люди создадут подходящие для нее алгоритмы. Но нет ничего, что подкрепляло бы эту надежду. Думаю, что надежда основана на вере в то, что если вы построите что-то вроде мозга, то сразу станет понятно, что он может делать
– Майкл Джордан

Джон Маккарти, в свою очередь, подчеркивал: проблема не только в том, чтобы создать систему по образу и подобию человеческого интеллекта, а в том, что сами ученые не придерживаются единого мнения по поводу того, что он (интеллект) из себя представляет и за какие конкретно процессы отвечает.

На этот вопрос ученые пытаются ответить по-разному. В своей книге «Нейронные сети и глубинное обучение» Майкл Нилсен приводит несколько точек зрения. Например, с позиции коннектомики наш интеллект и его работа объясняются тем, сколько нейронов и глиальных клеток содержит наш мозг, и сколько соединений наблюдается между ними.

Учитывая, что в нашем мозге насчитывается порядка 100 млрд нейронов, 100 млрд глиальных клеток и 100 трлн соединений между нейронами, говорить о том, что мы можем «в точности воссоздать» эту архитектуру и заставить ее работать, в ближайшем будущем крайне маловероятно.

А вот молекулярные биологи, изучающие геном человека и его отличия от близких родственников людей по эволюционной цепочке, дают более обнадеживающие прогнозы: оказывается, геном человека отличается от генома шимпанзе на 125 миллионов пар оснований. Цифра большая, но не бесконечно огромная, что дает Нилсену повод надеяться, что на основании этих данных группа ученых сможет составить если не «работающий прототип», то как минимум сколь бы то ни было адекватное «генетическое описание» человеческого мозга или скорее базовые принципы, лежащие в основе его работы.

Стоит сказать, что Нилсен придерживается «общепринятого человеческого шовинизма» и полагает, что значимые принципы, определяющие работу человеческого интеллекта, лежат в тех самых 125 миллионах пар оснований, а не в остальных 96% генома, которые у человека и шимпанзе совпадают.

Так сможем ли мы создать искусственный интеллект, равный по возможностям человеческому? Получится ли у нас в обозримом будущем понять, как именно работает наш собственный мозг? Майкл Нилсен, считает, что это вполне возможно – если вооружиться верой в светлое будущее и в то, что многие вещи в природе работают по более простым законам, чем это кажется на первый взгляд.

А вот Майкл Джордан дает более близкий к практической работе исследователей совет: не поддаваться на провокации журналистов и не искать «революционные» решения. По его мнению, привязываясь к человеческому интеллекту как отправной точке и конечной цели своих исследований, ученые, работающие над проблемой искусственного интеллекта, излишне ограничивают себя: интересные решения в этой области могут лежать в направлениях, никак не связанных с тем, как устроен наш мозг (и как нам представляется его устройство).

Разработки в области искусственного интеллекта движутся невероятно быстро. Не ясно лишь, станет ИИ светлым будущим науки или самой большой ошибкой в истории человечества.

20 интересных фактов об искусственном интеллекте

1. Впервые о пределах разумности машин задумался Алан Тьюринг. В 1950 году он опубликовал работу «Может ли машина мыслить?», которая стала основой для «Теста Тьюринга».

2. Определение искусственному интеллекту дал Джон Маккарти в 1956 году.

3. В СССР разработки, связанные с искусственным интеллектом, начались в 1960-х.

4. Нет определенного критерия, по которому можно было бы определить, разумна машина или нет.

5. Тест Тьюринга предполагает, что настоящий ИИ должен уметь поддерживать разговор с человеком так, что тот не заподозрит, что с ним говорит машина.

6. У фантастов на сей счет свое мнение. Многие из них считают, что ИИ становится по-настоящему разумным, когда обретает способность чувствовать.

7. В философии искусственного интеллекта существует гипотеза сильного и слабого ИИ. Ее сторонники считают, что сильный интеллект рано или поздно осознает себя, хотя совершенно не обязательно, что его мышление будет похоже на человеческое. Понятие слабого интеллекта подобную возможность отрицает.

8. Искусственный интеллект, на данном этапе развития, успешно применяется в робототехнике. Существует целая линейка роботизированных игрушек, которые выглядят и ведут себя как домашние животные.

9. Разработчики видеоигр используют искусственный интеллект для моделирования поведения неигровых персонажей и изменения обстановки в игре.

10. Разработки, связанные с ИИ, ведутся в США, Германии, России, Японии и многих других развитых странах

11. В 1997 году компьютер Deep Blue с системой ИИ обыграл чемпиона мира по шахматам Гарри Каспарова. За 8 лет до этого чемпион заявил, что «если будет создан компьютер с рейтингом 2800, то есть равным моему, я сам сочту своим долгом вызвать его на матч, чтобы защитить человеческую расу».

12. В 2011 году компьютер IBM Watson одержал победу в игре «Jeopardy!», выиграв 1 миллион долларов. На момент игры компьютер обладал 4 терабайтами справочной информации, в том числе – полным текстом Википедии.

13. В России ведутся разработки искусственного интеллекта «Мивар», который сможет вести осознанный диалог с человеком уже к 2016 году. К сожалению, только текстовый – пока система не обладает функцией распознавания речи.

14. Искусственный интеллект используется во многих сферах, включая физику и медицину.

15. Среди ученых неоднократно поднимался вопрос этичности использования ИИ. Три закона Робототехники были признаны бесполезными для развивающейся науки из-за размытости формулировок.

16. Взбунтовавшийся искусственный интеллект – страшный сон человечества. Последствиям и ликвидации последствий этой катастрофы посвящены книги и фильмы, в том числе линейка фильмов «Терминатор».

17. Далай-Лама XIV не исключают наличия сознания на компьютерной основе. Это дает основание считать, что у полностью сформированного ИИ может быть душа.

18. Большая часть популярных на сегодняшний момент систем ИИ говорят женским голосом. Среди них Google Now, Siri и Cortana.

19. Искусственный интеллект быстро развивается. Если еще в 2013 году средний ИИ был на уровне 4-хлетнего ребенка, то уже год спустя одному из компьютеров удалось решить одну из математических задач Эрдёша. Ученые прогнозируют, что к 2020 году средний ИИ будет близок к интеллекту взрослого человека.

20. Стивен Хокинг, Стив Возняк, Илон Маск и еще более 1000 ученых 28 июля 2015 года подписали письмо о запрете использования ИИ в военных целях. По их мнению, полностью автономное оружие не уменьшит число жертв в войнах, а увеличит, разжигая новые конфликты.

Отсюда: metronus.ru

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter .

Текущая страница: 7 (всего у книги 39 страниц) [доступный отрывок для чтения: 10 страниц]

Ни одна машина не думает над вечными вопросами

Лео Чалупа

Нейробиолог; вице-президент по исследовательской деятельности Университета Джорджа Вашингтона

Недавно продемонстрированные примеры выдающихся возможностей высокопроизводительных компьютеров замечательны, но неудивительны. При надлежащем программировании машины значительно превосходят людей в плане хранения и оценки больших объемов данных и принятия практически мгновенных решений. Это – мыслящие машины, потому что происходящие в них процессы аналогичны многим аспектам мышления человека.

Но в более широком понимании термин «мыслящая машина» употребляется неправильно. Ни одна машина не задается вечными вопросами: «Откуда я взялась? Зачем я здесь? Куда я иду?» Машины не думают о своем будущем, о своем неизбежном конце или о своем наследии. Чтобы размышлять над такими вопросами, требуется сознание и самосознание. У мыслящих машин их нет, и, учитывая наш нынешний уровень знаний, они вряд ли это получат в обозримом будущем.

Единственный реалистичный подход к созданию машины, сходной с человеческим мозгом, должен основываться на копировании нейронных цепей, лежащих в основе мышления. Более того, исследовательские программы, которые проводятся сейчас в Калифорнийском университете в Беркли, Массачусетском технологическом институте и еще в нескольких университетах, сосредоточены на достижении этой цели – построить компьютеры, работающие подобно коре головного мозга. Последние достижения в области исследования микроструктуры коры головного мозга стали серьезным стимулом, и вполне вероятно, что BRAIN27
BRAIN, The Brain Research Through Advancing Innovative Neurotechnologies – исследование мозга средствами передовых инновационных нейротехнологий (англ.). – Прим. пер.

– новый проект Белого Дома – даст массу ценной информации. В ближайшие десятилетия мы узнаем о том, как взаимосвязаны миллиарды нейронов в каждом из шести слоев коры головного мозга, а также о типах функциональных цепей, формируемых такими связями.

Это необходимый первый шаг в разработке машин, способных к мышлению в том виде, который характерен для человеческого мозга. Но понимания микроструктуры коры недостаточно, чтобы построить умную машину. Что необходимо, так это понимание деятельности нейронов, лежащей в основе мыслительного процесса. Визуализирующие исследования обнаружили много новой информации об отделах головного мозга, вовлеченных в такие функции, как зрение, слух, осязание, страх, удовольствие и т. д.

Но у нас еще нет даже примерного понимания того, что происходит, когда мы размышляем. Причин тому множество, и среди них не последнюю роль играет наша неспособность изолировать мыслительный процесс от других физических состояний. Кроме того, различные мозговые цепи вполне могут быть связаны с различными модусами мышления. Когда мы думаем о предстоящей лекции, наш мозг задействуется не так, как когда мы вспоминаем о неоплаченных счетах.

В ближайшее время можно ожидать, что компьютеры будут превосходить людей во все большем количестве занятий. Но нам нужно намного лучше понимать работу человеческого мозга, чтобы создать по-человечески думающую машину. На данный момент нам не надо беспокоиться по поводу гражданских или любых других прав роботов, как не надо бояться, что они захватят власть. Если машина вдруг выйдет из под контроля, достаточно будет вытащить вилку из розетки.

Сингулярность – городская легенда?

Дэниел Деннет

Философ; профессор философии и содиректор Центра когнитивных исследований, Университет Тафтса; автор книги «Насос интуиции и другие инструменты мышления» (Intuition Pumps and Other Tools for Thinking)

Сингулярность – тот роковой момент, когда искусственный интеллект превзойдет своих создателей в разумности и захватит мир, – это мем, заслуживающий того, чтобы над ним поразмыслить. У него есть характерные признаки городской легенды: некоторое научное правдоподобие («Ну, в принципе, я полагаю, такое возможно!») и замечательная, вызывающая дрожь кульминационная фраза («Нами будут править роботы!»). «А ты знаешь, что если ты одновременно чихнешь, рыгнешь и пукнешь, то умрешь?» – «Да ладно, правда?» После десятилетий шумихи по поводу искусственного интеллекта можно было бы думать, что люди станут считать сингулярность шуткой, но, как оказалось, обеспокоенность общества этой идеей только растет. Добавьте несколько известных новообращенных – Илона Маска, Стивена Хокинга и Дэвида Чалмерса – к ряду других громких имен, и вы уже не можете не принимать ее всерьез. Когда случится это выдающееся событие – через десять, сто или тысячу лет? Может, благоразумнее будет уже сейчас начинать планировать, строить баррикады и повышать бдительность, высматривая предвестников катастрофы?

Я, напротив, думаю, что эти тревожные сигналы отвлекают нас от более насущной проблемы – от нависшего над нами бедствия, которое гораздо ближе и которому не нужна никакая помощь со стороны закона Мура или грядущих прорывов в теоретической науке. Мы в течение нескольких веков с огромным трудом постигали природу, сегодня накопленные знания позволяют нам впервые в истории контролировать многие аспекты наших судеб – и вот мы готовы отречься от этого контроля в пользу бездумных искусственных агентов и преждевременно поставить цивилизацию на автопилот. Соблазн поступить так коварен, потому что каждый следующий шаг сам по себе – предложение, от которого невозможно отказаться. Вы бы выглядели сегодня полным дураком, если б делали сложные арифметические вычисления с помощью карандаша и бумаги, тогда как карманный калькулятор намного быстрее и почти стопроцентно надежен (не забываем об ошибке округления). Зачем запоминать расписание поездов, когда его в любой момент можно посмотреть на смартфоне? Оставьте чтение карты вашему GPS-навигатору; да, он вовсе не умный, но он куда лучше вас справляется с задачей – не дает вам сбиться с маршрута.

Поднимемся выше по технологической лестнице: врачи все больше зависят от диагностических систем, которые объективно надежнее, чем любой специалист-человек. Вы бы хотели, чтобы ваш доктор отверг подготовленное машиной заключение, когда речь идет о выборе лечения для спасения вашей жизни? Это может оказаться лучшим – объективно наиболее успешным, непосредственно полезным – применением технологии, используемой в IBM Watson28
Суперкомпьютер, способный понимать вопросы на естественном английском языке и искать ответы в базе данных. – Прим. ред.

И вопрос о том, можно ли считать этот компьютер разумным (или сознательным), к делу не относится. Если окажется, что Watson лучше, чем эксперты-люди, справляется с постановкой диагнозов на основе доступных данных, то нашей нравственной обязанностью будет пользоваться результатами его работы. Врач, который решает пренебречь рекомендациями такой машины, сам напрашивается на судебный иск о злоупотреблении служебным положением. По-моему, ни одна область человеческой деятельности не застрахована от использования таких протезов-оптимизаторов, и везде, где бы они ни появились, мы вынуждены делать выбор в пользу надежных результатов, а не человеческих отношений, как это было прежде. Рукотворные законы и даже рукотворная наука могут занять место рядом с кустарной керамикой и свитерами ручной вязки.

В самые первые дни существования искусственного интеллекта была предпринята попытка провести четкое различие между ИИ и когнитивным моделированием. Предполагалось, что первый станет отраслью инженерного дела и будет работать как угодно, не пытаясь подражать человеческим мыслительным процессам, кроме тех случаев, когда это окажется эффективным. Когнитивное моделирование, напротив, представляло собой дополнение к психологии и нейробиологии. Модель когнитивного моделирования, которая убедительно продемонстрировала бы характерные человеческие ошибки или затруднения, стала бы триумфом, а не провалом. Такое различие в стремлениях продолжает существовать, но почти стерлось из общественного сознания. Для дилетантов искусственный интеллект – это штука, способная пройти тест Тьюринга. Недавние достижения в области ИИ стали в основном результатом того, что мы отказались от моделирования человеческих мыслительных процессов (которые, как мы думали, мы понимаем) и перешли к использованию удивительных возможностей суперкомпьютеров для майнинга данных, чтобы извлечь оттуда важные связи и паттерны. При этом мы уже не пытаемся сделать так, чтобы компьютеры понимали, что делают. По иронии судьбы, такие впечатляющие результаты побуждают многих когнитивистов пересмотреть свою позицию; оказывается, что надо еще многое узнать о том, как мозг осуществляет свою блестящую работу по «продуцированию будущего», и в этом нам помогут методы машинного обучения и майнинга данных.

Но общественность будет упорно предполагать, что любой черный ящик, который способен проделывать такие штуки (безотносительно последних успехов в области разработки искусственного интеллекта), – это разумный агент, во многом похожий на человека, тогда как на самом деле то, что находится в ящике, – это причудливо нарезанная двумерная ткань, сила которой как раз в том и заключается, что у нее нет надстройки в виде человеческого разума со всеми его особенностями: склонностью отвлекаться, волноваться, испытывать эмоции, переживать воспоминания и строить личные привязанности. Это вообще не гуманоидный робот, а бездумный раб, последняя модель автопилота.

В чем проблема с тем, чтобы передать нудную мыслительную работу таким высокотехнологичным штуковинам? Да ни в чем, при условии, что (1) мы не будем сами себя вводить в заблуждение, и (2) нам как-то удастся не допустить атрофии собственных познавательных навыков.

1. Очень-очень трудно принять свойственные нашим помощникам ограничения и не забывать о них, равно как и не забывать о склонности человека всегда приписывать компьютерам разумность, как мы знаем еще со времен печально известной программы «Элиза», написанной Йозефом Вайценбаумом в 1960-х годах. Это очень опасно, ведь мы всегда будем испытывать желание требовать от них большего, чем то, для чего мы их создали, а также доверять полученным ими результатам, когда этого лучше не делать.

2. Используй или потеряешь. Поскольку мы все сильнее зависим от когнитивных протезов, то рискуем стать беспомощными, если они когда-нибудь перестанут работать. интернет – не разумный агент (ну, в каком-то смысле, может, и разумный), но мы тем не менее стали настолько от него зависеть, что, если бы он вдруг сломался, началась бы такая паника, что общество оказалось бы уничтожено за несколько дней. Кстати, к предупреждению этого события нам надо сейчас приложить все усилия, потому что оно может произойти в любой момент.

Реальная опасность – это не те машины, которые станут умнее нас и узурпируют роль хозяев наших судеб. Реальная опасность – это машины, по сути безмозглые, но наделенные нами полномочиями, значительно превосходящими уровень их компетентности.

Наноинтенциональность

Уильям Текумсе Фитч

Преподаватель когнитивной биологии в Венском университете; автор книги «Эволюция языка» (The Evolution of Language)29
Фитч У. Т. Эволюция языка. – М.: Издательский дом «ЯСК», 2013.

Несмотря на огромный прирост вычислительной мощности, нынешние компьютеры думают не так, как это делаем мы (или шимпанзе, или собаки). У основанных на кремнии компьютеров отсутствует важнейшая способность органического разума – способность изменять свою материальную форму и, следовательно, свои будущие вычисления в ответ на события, происходящие в мире. Без этой способности (которую в других работах я назвал наноинтенциональностью), с одной только обработкой данных, нельзя получить мысль, потому что у вычисляемых символов и значений отсутствует какая-либо внутренняя причинно-следственная связь с реальным миром. Любая информация, полученная в результате работы кремниевого процессора, нуждается в интерпретации людьми, чтобы обрести значение, и так все останется и в обозримом будущем. У нас мало причин для того, чтобы бояться разумных машин, куда больше их для того, чтобы бояться все более неразумных людей, которые их используют.

В чем именно выражается особенность биологического, а не кремниевого компьютера? Не бойтесь, я не имею в виду какой-то мистический élan vital30
Жизненный порыв (фр.) – термин, введенный философом Анри Бергсоном для объяснения движущей силы эволюции. – Прим. ред.

Это наблюдаемая, механистическая особенность живых клеток – особенность, которая развилась посредством обычных эволюционных процессов. В моих построениях нет никакой мистики или «незримого духа». По сути, наноинтенциональность – это способность клеток отвечать на изменения в окружающей среде, перестраивая свои молекулы и, таким образом, изменяя форму. Это свойство есть у амебы, хватающей бактерию, у мышечной клетки, повышающей уровень миозина в ответ на пробежку, или (что наиболее актуально) у нейрона, вытягивающего свои дендриты в качестве реакции на локальную нейровычислительную среду. Наноинтенциональность – основная, непреодолимая, бесспорная особенность жизни на Земле, которой нет у печатных кремниевых микросхем, формирующих «сердце» современного компьютера. Поскольку такое физическое различие между мозгом и компьютером – простой и грубый факт, то остается открытым вопрос: насколько большое значение он имеет для более абстрактных философских проблем, касающихся понятий мысли и значения. И тут ситуация становится сложнее.

Философские обсуждения начинаются с утверждения Канта о том, что наш разум неизменно отделен от типичных объектов наших размышлений – физических сущностей в реальном мире. Мы получаем сведения о них (через фотоны, воздушные колебания или испускаемые молекулы), но наш разум/мозг никогда не вступает с ними в прямой контакт. Таким образом, вопрос о том, как можно утверждать, что сущности нашего разума (мысли, убеждения, желания) якобы направлены на вещи в реальном мире, оказывается неожиданно сложен. Действительно, направленность – это центральная проблема в философии сознания, основа многолетней полемики между такими философами, как Деннет, Фодор и Сёрл. Философы несильно помогли внести ясность, назвав эту мнимую умственную направленность интенциональностью (не путать с обычным значением слова в английском языке: «делать что-то нарочно, умышленно»). Вопросы интенциональности тесно связаны с глубинными проблемами феноменологии сознания, часто выражаемыми терминами «квалиа» и «трудная проблема сознания»31
Термин введен философом Дэвидом Чалмерсом; подразумевается проблема объяснения того, как происходящие в мозге процессы порождают субъективные переживания. – Прим. ред.

Но они обращены к более простому и фундаментальному вопросу: как может ментальная сущность (мысль – паттерн нервного возбуждения) быть в любом смысле этого слова связана со своим объектом (вещью, которую вы видите, или человеком, о котором вы думаете)?

Вот ответ скептика, солипсиста: такой связи нет, интенциональность – иллюзия. Это заключение ложно по крайней мере в одной важнейшей области (замечание сделано Шопенгауэром 200 лет назад): единственным местом, где ментальные явления (желания и намерения, что инстанцируется в нервном импульсе) вступают в контакт с реальным миром, являются наши собственные тела (например, нейромышечное соединение). Пластичность живой материи в целом и нейронов в частности означает, что петля обратной связи непосредственно соединяет наши мысли с нашими действиям, просачиваясь обратно через восприятие, где влияет на структуру самих нейронов. Петля каждый день замыкается в нашей голове (в самом деле, если вы завтра вспомните хоть что-нибудь об этом эссе, то лишь потому, что некоторые нейроны в вашем мозгу изменили свою форму, ослабив или усилив синапсы, расширив или сократив число связей). Такой контур обратной связи в принципе не может замкнуться в жестком кремниевом чипе. Это биологическое качество обеспечивает умственную деятельность у человека (а также у шимпанзе и собаки) с присущей ей внутренней интенциональностью, которой нет у современных кремниевых вычислительных систем.

Если утверждение верно (а мои логика и интуиция его поддерживают), машины «думают», «знают» или «понимают» что-либо только в той мере, в какой это делают их создатели и программисты, когда значение добавляется интенциональным, истолковывающим агентом, обладающим мозгом. Любой «интеллект» у компьютера – это исключительно интеллект работающих с ним людей.

Поэтому я не боюсь, что роботы восстанут или начнут бороться за свои права (если только их защитой не решат заняться заблуждающиеся люди). Означает ли это, что можно не беспокоиться до тех пор, пока кто-то не изобретет компьютер с наноинтенциональностью? К сожалению, нет: существует другая опасность, которая исходит от нашей чрезмерной склонности ошибочно приписывать намерение и понимание неодушевленным предметам («Моей машине не нравится низкооктановое топливо»). Думая так о вычислительных артефактах – компьютерах, смартфонах, системах управления, – мы постепенно передаем им (и тем, кто их контролирует) свою обязанность – информированное, компетентное понимание. Ситуация становится опасной, когда мы охотно и с ленцой уступаем ее бесчисленным кремниевым системам (автомобильным навигаторам, смартфонам, системам электронного голосования), которые не только не задумываются о том, что именно они вычисляют, но даже и не знают об этом. Глобальный финансовый кризис дал нам почувствовать, что может произойти в мире, связанном компьютерами, когда реальная ответственность и реальные компетенции окажутся неблагоразумно свалены на машины.

Я боюсь не успешного восстания искусственных интеллектов, а скорее катастрофического сбоя, вызванного множеством мелких ошибок в кремниевой системе, которую наделили слишком большими полномочиями. Нам все еще далеко до сингулярности, когда компьютеры станут умнее нас, но это не значит, что нам не следует беспокоиться о глобальном сетевом коллапсе. Чтобы сделать первый шаг к предотвращению таких катастроф, нужно перестать перекладывать на компьютеры собственную ответственность и понять и принять простую истину: машины не думают. А то, что мы принимаем за их мышление, становится с каждым днем все опаснее.

Игры (и пророчества) разума

Ирэн Пепперберг

Научный сотрудник и преподаватель, кафедра психологии, Гарвардский университет; автор книги «Алекс и я» (Alex & Me)

Машины великолепно справляются с вычислениями, но при этом не очень хорошо – с мышлением как таковым. У машин бесконечный запас упорства и настойчивости, и, как кое-кто говорит, они могут легко разгрызть сложную математическую проблему или помочь вам проехать через пробки в незнакомом городе, но все это – благодаря алгоритмам и программам, созданным людьми. Чего же машинам не хватает?

Машинам не хватает ви́дения (по крайней мере пока, и я не думаю, что наступление сингулярности это изменит). Я имею в виду отнюдь не зрение. Компьютеры не сами придумывают новое приложение, которому суждено стать популярным. Компьютеры не принимают решение исследовать далекие галактики – они прекрасно справятся с задачей, когда мы их туда отправим, но это уже другая история. Компьютеры, конечно, лучше среднестатистического человека работают в области высшей математики и квантовой механики, но у них нет видения, чтобы в принципе обнаружить необходимость в таких действиях. Машины могут выигрывать у людей в шахматы, но они еще не изобрели интеллектуальную игру, что займет человечество на столетия. Машины видят статистические закономерности, которые пропустит мой слабый мозг, но они не в состоянии выдвинуть новую идею, что соединит разрозненные наборы данных и создаст новую область науки.

Я не так уж сильно беспокоюсь по поводу машин, способных вычислять. Я как-нибудь переживу постоянные вылеты браузера, но пусть у меня будет умный холодильник, способный отслеживать RFID-коды лежащих в нем и вынимаемых из него продуктов и посылать мне СМС с напоминанием купить сливки по пути домой (пользуясь случаем, обращаюсь к тем, кто работает над такой системой: поторопитесь!). Мне нравится, когда компьютер подчеркивает незнакомые ему слова, и пусть среди них иногда оказывается какая-нибудь «филогенетика», я могу находить опечатки в общеупотребительных словах (и прямо сейчас он тоже не позволяет мне писать с ошибками). Но эти примеры показывают: само по себе то, что машина демонстрирует нечто похожее на мышление, еще не означает, что она на самом деле мыслит – или, по крайней мере, что она мыслит подобно человеку.

Мне вспоминается одно из самых первых исследований в области обучения обезьян использованию языка – где они должны были манипулировать пластиковыми фишками, чтобы отвечать на разные вопросы. Впоследствии эксперимент повторили со студентами, которые – что неудивительно – исключительно преуспели в освоении системы, но когда их спросили, чем они занимались, те сказали, что решали какие-то интересные головоломки и понятия не имели, что их обучали языку. Последовало широкое обсуждение, и мы многое открыли и многому научились в ходе новых исследований. Несколько особей, не являющихся людьми, смогли понять референтное значение различных символов, пользоваться которыми их учили, и мы многое узнали об интеллекте обезьяны в рамках оригинальной методологии. Смысл этой истории таков: то, что первоначально казалось сложной лингвистической системой, потребовало намного большей подготовки, чем предполагалось изначально, чтобы стать чем-то большим, нежели серия относительно простых парных ассоциаций.

Так что меня беспокоят не мыслящие машины, а самодовольное общество, готовое отказаться от своих мечтателей в обмен на возможность не делать трудную работу. Люди должны воспользоваться собственными познавательными мощностями, которые освободились, когда машины взяли на себя грязную работу, быть благодарными за такую свободу и использовать ее, направляя свои способности на решение сложных насущных проблем, для которых требуется проницательность и пророческое видение.