В 1950-м году Алан Тьюринг предложил простой тест, призванный определить, могут ли компьютеры мыслить. Стандартная его интерпретация такова: человек (судья) одновременно взаимодействует с другим человеком и с компьютером. Все участники теста не могут видеть друг друга. На основании данных компьютером и человеком ответов судья должен определить, с кем разговаривает в данный момент. Если компьютерная программа сумеет ввести человека в заблуждение - считается, что она прошла тест на наличие интеллекта.
Тест Тьюринга создал предпосылки для начала бурного развития «умных» машин. В последние годы мы все чаще сталкиваемся с фактами, что системы искусственного интеллекта становятся все более совершенными.
10. Женские голоса используются чаще
Разработчики дарят системам с искусственным интеллектом женские голоса
Заметили ли вы, что когда мы вербально взаимодействуем с «умными» системами, они обычно общаются с нами женским голосом? За примерами далеко ходить не нужно: достаточно вспомнить Google Now, Cortana, Sirie. Так почему же, собственно, разработчики в этом вопросе отдали предпочтение прекрасному полу?
Каких-то важных причин на самом деле нет, но некоторые факторы дают женским голосам преимущество. Например, исследования американских учёных показали, что они воспринимаются людьми, как более приятные в сравнении с мужскими. Кроме этого, специалисты, работающие в сфере высоких технологий - чаще всего, мужчины. И им на подсознательном уровне более интересно работать над созданием «умной» женщины.
9. Роботизированные домашние животные
Животные-роботы скоро заменят живых домашних питомцов
Многие родители не разрешают своим детям заводить домашних животных по вполне объективным причинам. За ними нужно убирать, их нужно регулярно выгуливать, тратиться на корм. Они могут разодрать в клочья ваши любимые туфли или разбить дорогой хрустальный сервиз. И конечно же, домашние животные умирают, тем самым заставляя страдать своих хозяев. Но современные информационные технологии позволили создать замечательную альтернативу живым зверькам - механизированных созданий с искусственным интеллектом. Эта сфера развивается семимильными шагами, едва ли не каждую неделю патентуются новые разработки.
Раульт утверждает, что в ближайшее десятилетия разработчики продвинутся настолько далеко, что производители смогут создавать животных, способных вступать в тесную эмоциональную связь с людьми. По мнению экспертов, роботизированные домашние питомцы постепенно вытеснят настоящих из большинства квартир. Всё же не стоит забывать о том, что население нашей планеты постоянно растёт, и скоро миллиарды людей столкнутся с проблемой острого дефицита пищевых ресурсов. Куда тут о кошечке или собачке задумываться? Поэтому к 2050 году лишь самые богатые люди смогут позволить себе заводить настоящих домашних животных.
8. Робот, обладающий способностью самовосстановления
Японцы изобрели робота, которому не страшны поломки
В начале 2015 года японские исследователи заявили об успешных испытаниях робота, способного восстановить полную функциональность даже при потере двух ног из своих шести. Робот, конечно, не может осознавать свою утрату. Но компьютер замечает, что производительность работы снизилась. Затем, используя алгоритм, основанный на методе проб и ошибок, робот определяет, какие части конструкции не функционируют. Исследователи, создавшие робота, говорят, что после этого этапа он полностью перепрошивает себя, обновляя свою базу данных и приспосабливаясь к нормальной работе с теми частями конструкции, которые остались. Эту фазу они назвали «имитацией детства».
«Имитация детства» длится несколько минут, за это время робот обрабатывает 1047 (колоссальное число - примерно из такого количества атомов состоит Земля!) операций и учится выполнять 13 тысяч возможных движений. Развитие подобных технологий искусственного интеллекта, по сути, может привести к революционному прорыву в науке. В перспективе, роботов с возможностью самовосстановления можно будет отправлять в далёкий космос, не беспокоясь о том, что миллиарды долларов, потраченные на проект, могут сгореть за доли секунды из-за непредсказуемого технического сбоя.
7. Компьютер, пишущий новостные статьи
Компьютеры уже сегодня могут самостоятельно генерировать статьи
Первая новостная статья, написанная программой с искусственным интеллектом, была опубликована на сайте Los Angeles Times. Приведём её текст максимально приближенно к оригиналу:
«Геологическая служба США сообщила о том, что в понедельник в пяти милях от Вествуда, Калифорния, произошло землетрясение силой 4,7 балла. Оно произошло в 6:25 утра по тихоокеанскому времени. Толчки были зафиксированы на глубине 5 миль. По данным Геологической службы, эпицентр землетрясения находился в 6 милях от Беверли-Хиллз, штат Калифорния, в 7 милях от Юниверсал Сити, штат Калифорния, в 7 милях от Санта-Монике, штат Калифорния, и в 348 милях от Сакраменто, штат Калифорния. В последние 10 дней в этом районе не было ни одного землетрясения сильнее 3 баллов.
То есть, компьютер смог самостоятельно сгенерировать текст статьи, основываясь на числовых данных, полученных от сейсмографов. Эту технологию разработала команда Ларри Бирнбаума, профессора журналистики и главы интеллектуальной информационной лаборатории Северо-Западного университета США. Бирнбаум был одним из разработчиков системы Quill - популярного генератора текстов.
Нет никаких сомнений, что системы с искусственным интеллектом уже сегодня, проанализировав статистические данные и графики, могут превратить их в информационные сводки. Следующий рубеж, который им придется покорить, - написание текстов в художественном стиле. Разница между этими этапами настолько значительна, что, скорее всего, в ближайшее десятилетие ни одна машина не сможет выйти на новый уровень. Так что желающим прочитать книгу, написанную роботом, следует запастись терпением.
6. Роботы, победившие чемпионов
Ещё 18 лет назад робот одержал победу над сильнейшим шахматистом мира
В своё время величайшим достижением искусственного интеллекта считалась победа разработанного компанией IBM компьютера Deep Blue над сильнейшим шахматистом мира Гарри Каспаровым.
Другим важным этапом в развитии искусственного интеллекта было участие компьютера Watson IBM в телевизионной викторине Jeopardy. Машина буквально уничтожила самых успешных игроков всех времён.
А в мае 2015 года суперкомпьютер Claudico, собранный учёными Университета Карнеги-Меллона, принял участие в покерном турнире в Казино Rivers (Питтсбурге). Соревнование длилось более двух недель, за это время было сделано свыше 80 тысяч раздач. Claudico занял четвёртое место, совсем немного отстав от победителя и опередив сотни профессиональных игроков. Несмотря на то, что добыть победу не удалось, это достижение следует считать серьёзным шагом в развитии искусственного интеллекта. Обучить компьютер игре в покер намного труднее, чем, например, шахматам. Во-первых, игроки часто блефуют, логическое мышление в таком случае бессмысленно. Кроме того, в покере слишком много «отсутствующей информации»: компьютер не знает, какие карты выпали его соперникам, поэтому математические вычисления здесь не могут быть очевидными.
Создатели Claudico считают этот турнир отличным стартом. Они прогнозируют, что уже к концу текущего десятилетия компьютеры будут обыгрывать сильнейших в мире игроков в покер. Радует и то, что создатели Claudico стремятся не только опустошать казино. Алгоритмы, используемые в их компьютере, в ближайшем будущем найдут применение во многих сферах, где имеет место «отсутствующая информация» - в частности, в кибербезопасности и медицине.
5. Любовь между человеком и роботом
По мнению некоторых учёных, в 2050 году брак между человеком и роботом будет законным
Если предположить, что искусственный интеллект скоро достигнет уровня человека, возникнут интересные вопросы. Смогут ли люди иметь романтические отношения с «умными» роботами? Станут ли они по-настоящему близкими в эмоциональном плане? Будут ли парни и девушки влюбляться в машины с искусственным интеллектом? А там ведь и до сексуальной близости недалеко!
Дэвид Леви из университета Маастрихта (Нидерланды) рассказал о достаточно правдоподобном сценарии популяризации отношений между человеком и машиной. По его мнению, сначала люди будут воспринимать даже одну мысль об этом в резко негативном ключе. Но потом в СМИ то и дело начнут появляться истории людей, влюбившихся в роботов. Эту тему начнут постоянно обсуждать на телевидении, в интернете. Будут сыграны первые свадьбы. И даже самые отъявленные критики постепенно свыкнутся с мыслью, что секс с роботом - это нормально.
Но как скоро это может произойти? Хенрик Кристенсен, основатель Европейской исследовательской сети Robotics, в начале XXI века писал, что уже в 2012 году люди начнут заниматься сексом с машинами. Частично он был прав. В настоящее время уже существуют сотни роботизированных секс-игрушек, по словам создателей, позволяющих людям испытывать невиданное доселе наслаждение.
4. Компьютеры, обучающие сами себя
Современные компьютеры могут учиться без участия человека
Есть мнение, что компьютеры могут быть настолько же умными, как и человек, создавший их. Тем не менее, в последние годы мы всё чаще слышим о системах искусственного интеллекта, способных к самостоятельному обучению. К примеру, один из суперкомпьютеров Google сам себя научил играть в 2600 игр от компании Atari. После этого он побеждал лучших игроков на планете.
Американцы также смогли создать «умного» андроида, который научился готовить, просматривая видео на YouTube. Система визуального распознавания видео позволяет ему обучиться конкретным навыкам, пройдя через путь проб и ошибок. Согласитесь, немногие рестораны отказались бы от шеф-повара, идеально готовящего блюда любой сложности, даже если бы он был роботом.
3. Искусственный интеллект превзойдет человеческий
Скоро роботы будут умнее людей
Способности к самообучению позволяет компьютерам с искусственным интеллектом становиться всё более умными. В 2013 году они имели примерно такой же уровень интеллекта, как четырёхлетний ребёнок. Но с того времени, как говорится, уже много воды утекло.
По прогнозам известного футуриста Рэя Курцвейла, к 2029 году системы искусственного интеллекта будут настолько же умны, как и эрудированный взрослый человек. Но на этом их развитие не остановится, а лишь ускорится в экспоненциальном порядке. Через какой-нибудь год компьютеры уже оставят далеко позади даже лучшие человеческие умы. Кроме этого, Рэй Курцвейл считает, что нам следует готовиться к так называемой технологической сингулярности - феноменально быстрому научно-техническому прогрессу, основанному на мощном искусственном интеллекте (многократно превосходящем человеческий) и тотальной киборгизации людей.
2. Наутилус - электронный Нострадамус
Компьютер Наутилус предсказывает будущее
Суперкомпьютер Наутилус, разработанный компанией SGI Altix, похоже, умеет в определённой степени видеть будущее. Например, он смог с точностью в 200 километров предсказать местонахождение убежища Усамы бен Ладена. Кроме этого, Наутилус предсказал начало «арабской весны» в декабре 2010 года.
Наутилус собирает информацию из более чем 100 миллионов новостных статей со всех уголков мира. Также анализировались архивы старых публикаций, в том числе - все выпуски газеты New York Times, начиная с 1946 года. Все статьи анализировались компьютером по 2 параметрам: настроению (какие новости в ней сообщались - хорошие или негативные) и месту, в котором происходили события. Ключевыми словами для анализа настроения были «ужасный», «отвратительный», «отличный», «превосходный» и т.д. При анализе места учитывались упоминания географических названий, каждое из них наносилось по координатам на карту мира. Также компьютер исследовал более мелкие элементы сообщений. В итоге была создана информационная карта, состоящая из более чем 100 триллионов логических взаимосвязей.
Отметим, что в основе суперкомпьютера Наутилус находится 1004 мощных ядерных процессора типа Intel Nehalem. Он совершает 8,2 триллиона операций в секунду.
Наутилус выдавал графики настроения по каждой из стран, в которых произошла так называемая «арабская весна». Удивительно, но компьютер сумел заранее зафиксировать резкое ухудшение общественной атмосферы до начала беспорядков и сделал точный прогноз.
Калев Литариу из Университета Иллинойса предлагает расширить сферу применения Наутилуса. По его мнению, этот компьютер мог бы помочь людям, давая точные прогнозы погоды или выявляя скрытые тенденции в экономике.
1. Апокалипсис не за горами?
Эксперименты с искусственным интеллектом могут закончиться плачевно для человека
Нет сомнений в том, что искусственный интеллект может вывести нашу жизнь на качественно новый уровень. «Умные» компьютеры способны сделать более безопасными дороги, помочь в медицине. Машины могут стать незаменимым помощником для инвалидов и пожилых людей, они без проблем заменят человека в сфере обслуживания и многих других сферах. Тем не менее, лучшие учёные и технологи мира - Стивен Хокинг, Билл Гейтс, Элон Маск и другие уверены, что развитие искусственного интеллекта таит в себе невероятную угрозу для всей человеческой цивилизации.
По сути, в ближайшем будущем искусственный интеллект либо одним махом решит все проблемы человечества, либо уничтожит самих людей. И только от нас, а если быть точнее - от ведущих специалистов в сфере информационных технологий зависит, в какую сторону качнётся чаша весов. Как считаете, какой сценарий более вероятный?
В 1950 году Алан Тьюринг предложил простой тест, призванный определить, могут ли компьютеры мыслить. Стандартная его интерпретация такова: человек (судья) одновременно взаимодействует с другим человеком и с компьютером. Все участники теста не могут видеть друг друга. На основании данных компьютером и человеком ответов судья должен определить, с кем разговаривает в данный момент. Если компьютерная программа сумеет ввести человека в заблуждение – считается, что она прошла тест на наличие интеллекта. Тест Тьюринга создал предпосылки для начала бурного развития «умных» машин. В последние годы мы всё чаще сталкиваемся с фактами, что системы искусственного интеллекта становятся всё более совершенными.
10. Женские голоса используются чаще
Разработчики дарят системам с искусственным интеллектом женские голосаЗаметили ли вы, что когда мы вербально взаимодействуем с «умными» системами, они обычно общаются с нами женским голосом? За примерами далеко ходить не нужно: достаточно вспомнить Google Now, Cortana, Sirie. Так почему же, собственно, разработчики в этом вопросе отдали предпочтение прекрасному полу?
Каких-то важных причин на самом деле нет, но некоторые факторы дают женским голосам преимущество. Например, исследования американских учёных показали, что они воспринимаются людьми, как более приятные в сравнении с мужскими. Кроме этого, специалисты, работающие в сфере высоких технологий – чаще всего, мужчины. И им на подсознательном уровне более интересно работать над созданием «умной» женщины.
9. Роботизированные домашние животные
Животные-роботы скоро заменят живых домашних питомцов Многие родители не разрешают своим детям заводить домашних животных по вполне объективным причинам. За ними нужно убирать, их нужно регулярно выгуливать, тратиться на корм. Они могут разодрать в клочья ваши любимые туфли или разбить дорогой хрустальный сервиз. И конечно же, домашние животные умирают, тем самым заставляя страдать своих хозяев. Но современные информационные технологии позволили создать замечательную альтернативу живым зверькам – механизированных созданий с искусственным интеллектом. Эта сфера развивается семимильными шагами, едва ли не каждую неделю патентуются новые разработки.
Это интересно: По мнению Жана-Лу Раульта, исследователя Мельбурнского института, уже в 2025 году роботизированные домашние животные составят серьёзную конкуренцию живым.
Раульт утверждает, что в ближайшее десятилетия разработчики продвинутся настолько далеко, что производители смогут создавать животных, способных вступать в тесную эмоциональную связь с людьми. По мнению экспертов, роботизированные домашние питомцы постепенно вытеснят настоящих из большинства квартир. Всё же не стоит забывать о том, что население нашей планеты постоянно растёт, и скоро миллиарды людей столкнутся с проблемой острого дефицита пищевых ресурсов. Куда тут о кошечке или собачке задумываться? Поэтому к 2050 году лишь самые богатые люди смогут позволить себе заводить настоящих домашних животных.
Японцы изобрели робота, которому не страшны поломки В начале 2015 года японские исследователи заявили об успешных испытаниях робота, способного восстановить полную функциональность даже при потере двух ног из своих шести. Робот, конечно, не может осознавать свою утрату. Но компьютер замечает, что производительность работы снизилась. Затем, используя алгоритм, основанный на методе проб и ошибок, робот определяет, какие части конструкции не функционируют. Исследователи, создавшие робота, говорят, что после этого этапа он полностью перепрошивает себя, обновляя свою базу данных и приспосабливаясь к нормальной работе с теми частями конструкции, которые остались. Эту фазу они назвали «имитацией детства».
«Имитация детства» длится несколько минут, за это время робот обрабатывает 1047 (колоссальное число – примерно из такого количества атомов состоит Земля!) операций и учится выполнять 13 тысяч возможных движений. Развитие подобных технологий искусственного интеллекта, по сути, может привести к революционному прорыву в науке. В перспективе, роботов с возможностью самовосстановления можно будет отправлять в далёкий космос, не беспокоясь о том, что миллиарды долларов, потраченные на проект, могут сгореть за доли секунды из-за непредсказуемого технического сбоя.
7. Компьютер, пишущий новостные статьи
Компьютеры уже сегодня могут самостоятельно генерировать статьи Первая новостная статья, написанная программой с искусственным интеллектом, была опубликована на сайте Los Angeles Times. Приведём её текст максимально приближенно к оригиналу:
«Геологическая служба США сообщила о том, что в понедельник в пяти милях от Вествуда, Калифорния, произошло землетрясение силой 4,7 балла. Оно произошло в 6:25 утра по тихоокеанскому времени. Толчки были зафиксированы на глубине 5 миль. По данным Геологической службы, эпицентр землетрясения находился в 6 милях от Беверли-Хиллз, штат Калифорния, в 7 милях от Юниверсал Сити, штат Калифорния, в 7 милях от Санта-Монике, штат Калифорния, и в 348 милях от Сакраменто, штат Калифорния. В последние 10 дней в этом районе не было ни одного землетрясения сильнее 3 баллов.
То есть, компьютер смог самостоятельно сгенерировать текст статьи, основываясь на числовых данных, полученных от сейсмографов. Эту технологию разработала команда Ларри Бирнбаума, профессора журналистики и главы интеллектуальной информационной лаборатории Северо-Западного университета США. Бирнбаум был одним из разработчиков системы Quill – популярного генератора текстов.
Нет никаких сомнений, что системы с искусственным интеллектом уже сегодня, проанализировав статистические данные и графики, могут превратить их в информационные сводки. Следующий рубеж, который им придётся покорить, – написание текстов в художественном стиле. Разница между этими этапами настолько значительна, что, скорее всего, в ближайшее десятилетие ни одна машина не сможет выйти на новый уровень. Так что желающим прочитать книгу, написанную роботом, следует запастись терпением.
6. Роботы, победившие чемпионов
Ещё 18 лет назад робот одержал победу над сильнейшим шахматистом мира В своё время величайшим достижением искусственного интеллекта считалась победа разработанного компанией IBM компьютера Deep Blue над сильнейшим шахматистом мира Гарри Каспаровым.
Это интересно: На 8 чемпионате мира среди компьютеров в 1995 году Deep Blue занял 3 место. Разработчики учли допущенные ошибки и усовершенствовали алгоритм. В следующем году Deep Blue впервые противостоял Гарри Каспарову. В матче из 6 партий победу со счётом 4-2 праздновал гроссмейстер. Но после очередного выполненного инженерами апгрейда компьютер сумел взять исторический реванш у Каспарова, обыграв его со счётом 3,5:2,5. Произошло это в мае 1997 года в Нью-Йорке. Отметим, что призовой фонд матча достигал 1,1 миллиона долларов, из которых 700 тысяч достались победителю (то есть по сути, разработчикам робота), а 400 тысяч – проигравшему.
Другим важным этапом в развитии искусственного интеллекта было участие компьютера Watson IBM в телевизионной викторине Jeopardy. Машина буквально уничтожила самых успешных игроков всех времён.
А в мае 2015 года суперкомпьютер Claudico, собранный учёными Университета Карнеги-Меллона, принял участие в покерном турнире в Казино Rivers (Питтсбурге). Соревнование длилось более двух недель, за это время было сделано свыше 80 тысяч раздач. Claudico занял четвёртое место, совсем немного отстав от победителя и опередив сотни профессиональных игроков. Несмотря на то, что добыть победу не удалось, это достижение следует считать серьёзным шагом в развитии искусственного интеллекта. Обучить компьютер игре в покер намного труднее, чем, например, шахматам. Во-первых, игроки часто блефуют, логическое мышление в таком случае бессмысленно. Кроме того, в покере слишком много «отсутствующей информации»: компьютер не знает, какие карты выпали его соперникам, поэтому математические вычисления здесь не могут быть очевидными.
Создатели Claudico считают этот турнир отличным стартом. Они прогнозируют, что уже к концу текущего десятилетия компьютеры будут обыгрывать сильнейших в мире игроков в покер. Радует и то, что создатели Claudico стремятся не только опустошать казино. Алгоритмы, используемые в их компьютере, в ближайшем будущем найдут применение во многих сферах, где имеет место «отсутствующая информация» – в частности, в кибербезопасности и медицине.
5. Любовь между человеком и роботом
По мнению некоторых учёных, в 2050 году брак между человеком и роботом будет законным Если предположить, что искусственный интеллект скоро достигнет уровня человека, возникнут интересные вопросы. Смогут ли люди иметь романтические отношения с «умными» роботами? Станут ли они по-настоящему близкими в эмоциональном плане? Будут ли парни и девушки влюбляться в машины с искусственным интеллектом? А там ведь и до сексуальной близости недалеко!
Дэвид Леви из университета Маастрихта (Нидерланды) рассказал о достаточно правдоподобном сценарии популяризации отношений между человеком и машиной. По его мнению, сначала люди будут воспринимать даже одну мысль об этом в резко негативном ключе. Но потом в СМИ то и дело начнут появляться истории людей, влюбившихся в роботов. Эту тему начнут постоянно обсуждать на телевидении, в интернете. Будут сыграны первые свадьбы. И даже самые отъявленные критики постепенно свыкнутся с мыслью, что секс с роботом – это нормально.
Но как скоро это может произойти? Хенрик Кристенсен, основатель Европейской исследовательской сети Robotics, в начале XXI века писал, что уже в 2012 году люди начнут заниматься сексом с машинами. Частично он был прав. В настоящее время уже существуют сотни роботизированных секс-игрушек, по словам создателей, позволяющих людям испытывать невиданное доселе наслаждение.
Это интересно: Ну а что касается серьёзных отношений и их логического продолжения – создания семьи, то тут андроидам придётся пройти ещё очень долгий путь развития. Дэвид Леви предполагает, что брак человека с роботом станет законным примерно в 2050 году.
4. Компьютеры, обучающие сами себя
Современные компьютеры могут учиться без участия человека Есть мнение, что компьютеры могут быть настолько же умными, как и человек, создавший их. Тем не менее, в последние годы мы всё чаще слышим о системах искусственного интеллекта, способных к самостоятельному обучению. К примеру, один из суперкомпьютеров Google сам себя научил играть в 2600 игр от компании Atari. После этого он побеждал лучших игроков на планете.
Американцы также смогли создать «умного» андроида, который научился готовить, просматривая видео на YouTube. Система визуального распознавания видео позволяет ему обучиться конкретным навыкам, пройдя через путь проб и ошибок. Согласитесь, немногие рестораны отказались бы от шеф-повара, идеально готовящего блюда любой сложности, даже если бы он был роботом.
3. Искусственный интеллект превзойдёт человеческий
Скоро роботы будут умнее людей Способности к самообучению позволяет компьютерам с искусственным интеллектом становиться всё более умными. В 2013 году они имели примерно такой же уровень интеллекта, как четырёхлетний ребёнок. Но с того времени, как говорится, уже много воды утекло.
Это интересно: В 2014 году суперкомпьютер сумел решить сложнейшую математическую задачу, известную под названием «проблема несоответствия Эрдёша». Над ней лучшие математики мира ломали головы ещё с 1930 года. Причём людям будет невероятно трудно даже просто проверить решение компьютера, ведь файл с уравнениями имеет размер в 13 гигабайт. Это больше, чем половина Википедии!
По прогнозам известного футуриста Рэя Курцвейла, к 2029 году системы искусственного интеллекта будут настолько же умны, как и эрудированный взрослый человек. Но на этом их развитие не остановится, а лишь ускорится в экспоненциальном порядке. Через какой-нибудь год компьютеры уже оставят далеко позади даже лучшие человеческие умы. Кроме этого, Рэй Курцвейл считает, что нам следует готовиться к так называемой технологической сингулярности – феноменально быстрому научно-техническому прогрессу, основанному на мощном искусственном интеллекте (многократно превосходящем человеческий) и тотальной киборгизации людей.
Компьютер Наутилус предсказывает будущее Суперкомпьютер Наутилус, разработанный компанией SGI Altix, похоже, умеет в определённой степени видеть будущее. Например, он смог с точностью в 200 километров предсказать местонахождение убежища Усамы бен Ладена. Кроме этого, Наутилус предсказал начало «арабской весны» в декабре 2010 года.
Наутилус собирает информацию из более чем 100 миллионов новостных статей со всех уголков мира. Также анализировались архивы старых публикаций, в том числе – все выпуски газеты New York Times, начиная с 1946 года. Все статьи анализировались компьютером по 2 параметрам: настроению (какие новости в ней сообщались – хорошие или негативные) и месту, в котором происходили события. Ключевыми словами для анализа настроения были «ужасный», «отвратительный», «отличный», «превосходный» и т.д. При анализе места учитывались упоминания географических названий, каждое из них наносилось по координатам на карту мира. Также компьютер исследовал более мелкие элементы сообщений. В итоге была создана информационная карта, состоящая из более чем 100 триллионов логических взаимосвязей.
Отметим, что в основе суперкомпьютера Наутилус находится 1004 мощных ядерных процессора типа Intel Nehalem. Он совершает 8,2 триллиона операций в секунду.
Наутилус выдавал графики настроения по каждой из стран, в которых произошла так называемая «арабская весна». Удивительно, но компьютер сумел заранее зафиксировать резкое ухудшение общественной атмосферы до начала беспорядков и сделал точный прогноз.
Калев Литариу из Университета Иллинойса предлагает расширить сферу применения Наутилуса. По его мнению, этот компьютер мог бы помочь людям, давая точные прогнозы погоды или выявляя скрытые тенденции в экономике.
1. Апокалипсис не за горами?
Эксперименты с искусственным интеллектом могут закончиться плачевно для человека Нет сомнений в том, что искусственный интеллект может вывести нашу жизнь на качественно новый уровень. «Умные» компьютеры способны сделать более безопасными дороги, помочь в медицине. Машины могут стать незаменимым помощником для инвалидов и пожилых людей, они без проблем заменят человека в сфере обслуживания и многих других сферах. Тем не менее, лучшие учёные и технологи мира – Стивен Хокинг, Билл Гейтс, Элон Маск и другие уверены, что развитие искусственного интеллекта таит в себе невероятную угрозу для всей человеческой цивилизации.
По сути, в ближайшем будущем искусственный интеллект либо одним махом решит все проблемы человечества, либо уничтожит самих людей. И только от нас, а если быть точнее – от ведущих специалистов в сфере информационных технологий зависит, в какую сторону качнётся чаша весов. Как считаете, какой сценарий более вероятный?
Разработки в области искусственного интеллекта движутся невероятно быстро. Не ясно главное. ИИ станет светлым будущим науки или самой большой ошибкой в истории человечества?
1. Впервые о пределах разумности машин задумался Алан Тьюринг. В 1950 году он опубликовал работу «Может ли машина мыслить?», которая стала основой для «Теста Тьюринга».
2. Определение искусственному интеллекту дал Джон Маккарти в 1956 году.
3. В СССР разработки, связанные с искусственным интеллектом, начались в 1960-х.
4. Нет определенного критерия, по которому можно было бы определить, разумна машина или нет.
5. Тест Тьюринга предполагает, что настоящий ИИ должен уметь поддерживать разговор с человеком так, что тот не заподозрит, что с ним говорит машина.
6. У фантастов на сей счет свое мнение. Многие из них считают, что ИИ становится по-настоящему разумным, когда обретает способность чувствовать.
7. В философии искусственного интеллекта существует гипотеза сильного и слабого ИИ. Ее сторонники считают, что сильный интеллект рано или поздно осознает себя, хотя совершенно не обязательно, что его мышление будет похоже на человеческое. Понятие слабого интеллекта подобную возможность отрицает.
8. Искусственный интеллект, на данном этапе развития, успешно применяется в робототехнике. Существует целая линейка роботизированных игрушек, которые выглядят и ведут себя как домашние животные.
9. Разработчики видеоигр используют искусственный интеллект для моделирования поведения неигровых персонажей и изменения обстановки в игре.
10. Разработки, связанные с ИИ, ведутся в США, Германии, России, Японии и многих других развитых странах
11. В 1997 году компьютер Deep Blue с системой ИИ обыграл чемпиона мира по шахматам Гарри Каспарова. За 8 лет до этого чемпион заявил, что «если будет создан компьютер с рейтингом 2800, то есть равным моему, я сам сочту своим долгом вызвать его на матч, чтобы защитить человеческую расу».
12. В 2011 году компьютер IBM Watson одержал победу в игре «Jeopardy!», выиграв 1 миллион долларов. На момент игры компьютер обладал 4 терабайтами справочной информации, в том числе – полным текстом Википедии.
13. В России ведутся разработки искусственного интеллекта «Мивар», который сможет вести осознанный диалог с человеком уже к 2016 году. К сожалению, только текстовый – пока система не обладает функцией распознавания речи.
14. Искусственный интеллект используется во многих сферах, включая физику и медицину.
15. Среди ученых неоднократно поднимался вопрос этичности использования ИИ. Три закона Робототехники были признаны бесполезными для развивающейся науки из-за размытости формулировок.
16. Взбунтовавшийся искусственный интеллект – страшный сон человечества. Последствиям и ликвидации последствий этой катастрофы посвящены книги и фильмы, в том числе линейка фильмов «Терминатор».
17. Далай-Лама XIV не исключают наличия сознания на компьютерной основе. Это дает основание считать, что у полностью сформированного ИИ может быть душа.
18. Большая часть популярных на сегодняшний момент систем ИИ говорят женским голосом. Среди них Google Now, Siri и Cortana.
19. Искусственный интеллект быстро развивается. Если еще в 2013 году средний ИИ был на уровне 4-хлетнего ребенка, то уже год спустя одному из компьютеров удалось решить одну из математических задач Эрдёша. Ученые прогнозируют, что к 2020 году средний ИИ будет близок к интеллекту взрослого человека.
20. Стивен Хокинг, Стив Возняк, Илон Маск и еще более 1000 ученых 28 июля 2015 года подписали письмо о запрете использования ИИ в военных целях. По их мнению, полностью автономное оружие не уменьшит число жертв в войнах, а увеличит, разжигая новые конфликты.
Текущая страница: 7 (всего у книги 39 страниц) [доступный отрывок для чтения: 10 страниц]
Ни одна машина не думает над вечными вопросами
Лео Чалупа
Нейробиолог; вице-президент по исследовательской деятельности Университета Джорджа Вашингтона
Недавно продемонстрированные примеры выдающихся возможностей высокопроизводительных компьютеров замечательны, но неудивительны. При надлежащем программировании машины значительно превосходят людей в плане хранения и оценки больших объемов данных и принятия практически мгновенных решений. Это – мыслящие машины, потому что происходящие в них процессы аналогичны многим аспектам мышления человека.
Но в более широком понимании термин «мыслящая машина» употребляется неправильно. Ни одна машина не задается вечными вопросами: «Откуда я взялась? Зачем я здесь? Куда я иду?» Машины не думают о своем будущем, о своем неизбежном конце или о своем наследии. Чтобы размышлять над такими вопросами, требуется сознание и самосознание. У мыслящих машин их нет, и, учитывая наш нынешний уровень знаний, они вряд ли это получат в обозримом будущем.
Единственный реалистичный подход к созданию машины, сходной с человеческим мозгом, должен основываться на копировании нейронных цепей, лежащих в основе мышления. Более того, исследовательские программы, которые проводятся сейчас в Калифорнийском университете в Беркли, Массачусетском технологическом институте и еще в нескольких университетах, сосредоточены на достижении этой цели – построить компьютеры, работающие подобно коре головного мозга. Последние достижения в области исследования микроструктуры коры головного мозга стали серьезным стимулом, и вполне вероятно, что BRAIN27
BRAIN, The Brain Research Through Advancing Innovative Neurotechnologies – исследование мозга средствами передовых инновационных нейротехнологий (англ.). – Прим. пер.
– новый проект Белого Дома – даст массу ценной информации. В ближайшие десятилетия мы узнаем о том, как взаимосвязаны миллиарды нейронов в каждом из шести слоев коры головного мозга, а также о типах функциональных цепей, формируемых такими связями.
Это необходимый первый шаг в разработке машин, способных к мышлению в том виде, который характерен для человеческого мозга. Но понимания микроструктуры коры недостаточно, чтобы построить умную машину. Что необходимо, так это понимание деятельности нейронов, лежащей в основе мыслительного процесса. Визуализирующие исследования обнаружили много новой информации об отделах головного мозга, вовлеченных в такие функции, как зрение, слух, осязание, страх, удовольствие и т. д.
Но у нас еще нет даже примерного понимания того, что происходит, когда мы размышляем. Причин тому множество, и среди них не последнюю роль играет наша неспособность изолировать мыслительный процесс от других физических состояний. Кроме того, различные мозговые цепи вполне могут быть связаны с различными модусами мышления. Когда мы думаем о предстоящей лекции, наш мозг задействуется не так, как когда мы вспоминаем о неоплаченных счетах.
В ближайшее время можно ожидать, что компьютеры будут превосходить людей во все большем количестве занятий. Но нам нужно намного лучше понимать работу человеческого мозга, чтобы создать по-человечески думающую машину. На данный момент нам не надо беспокоиться по поводу гражданских или любых других прав роботов, как не надо бояться, что они захватят власть. Если машина вдруг выйдет из под контроля, достаточно будет вытащить вилку из розетки.
Сингулярность – городская легенда?
Дэниел Деннет
Философ; профессор философии и содиректор Центра когнитивных исследований, Университет Тафтса; автор книги «Насос интуиции и другие инструменты мышления» (Intuition Pumps and Other Tools for Thinking)
Сингулярность – тот роковой момент, когда искусственный интеллект превзойдет своих создателей в разумности и захватит мир, – это мем, заслуживающий того, чтобы над ним поразмыслить. У него есть характерные признаки городской легенды: некоторое научное правдоподобие («Ну, в принципе, я полагаю, такое возможно!») и замечательная, вызывающая дрожь кульминационная фраза («Нами будут править роботы!»). «А ты знаешь, что если ты одновременно чихнешь, рыгнешь и пукнешь, то умрешь?» – «Да ладно, правда?» После десятилетий шумихи по поводу искусственного интеллекта можно было бы думать, что люди станут считать сингулярность шуткой, но, как оказалось, обеспокоенность общества этой идеей только растет. Добавьте несколько известных новообращенных – Илона Маска, Стивена Хокинга и Дэвида Чалмерса – к ряду других громких имен, и вы уже не можете не принимать ее всерьез. Когда случится это выдающееся событие – через десять, сто или тысячу лет? Может, благоразумнее будет уже сейчас начинать планировать, строить баррикады и повышать бдительность, высматривая предвестников катастрофы?
Я, напротив, думаю, что эти тревожные сигналы отвлекают нас от более насущной проблемы – от нависшего над нами бедствия, которое гораздо ближе и которому не нужна никакая помощь со стороны закона Мура или грядущих прорывов в теоретической науке. Мы в течение нескольких веков с огромным трудом постигали природу, сегодня накопленные знания позволяют нам впервые в истории контролировать многие аспекты наших судеб – и вот мы готовы отречься от этого контроля в пользу бездумных искусственных агентов и преждевременно поставить цивилизацию на автопилот. Соблазн поступить так коварен, потому что каждый следующий шаг сам по себе – предложение, от которого невозможно отказаться. Вы бы выглядели сегодня полным дураком, если б делали сложные арифметические вычисления с помощью карандаша и бумаги, тогда как карманный калькулятор намного быстрее и почти стопроцентно надежен (не забываем об ошибке округления). Зачем запоминать расписание поездов, когда его в любой момент можно посмотреть на смартфоне? Оставьте чтение карты вашему GPS-навигатору; да, он вовсе не умный, но он куда лучше вас справляется с задачей – не дает вам сбиться с маршрута.
Поднимемся выше по технологической лестнице: врачи все больше зависят от диагностических систем, которые объективно надежнее, чем любой специалист-человек. Вы бы хотели, чтобы ваш доктор отверг подготовленное машиной заключение, когда речь идет о выборе лечения для спасения вашей жизни? Это может оказаться лучшим – объективно наиболее успешным, непосредственно полезным – применением технологии, используемой в IBM Watson28
Суперкомпьютер, способный понимать вопросы на естественном английском языке и искать ответы в базе данных. – Прим. ред.
И вопрос о том, можно ли считать этот компьютер разумным (или сознательным), к делу не относится. Если окажется, что Watson лучше, чем эксперты-люди, справляется с постановкой диагнозов на основе доступных данных, то нашей нравственной обязанностью будет пользоваться результатами его работы. Врач, который решает пренебречь рекомендациями такой машины, сам напрашивается на судебный иск о злоупотреблении служебным положением. По-моему, ни одна область человеческой деятельности не застрахована от использования таких протезов-оптимизаторов, и везде, где бы они ни появились, мы вынуждены делать выбор в пользу надежных результатов, а не человеческих отношений, как это было прежде. Рукотворные законы и даже рукотворная наука могут занять место рядом с кустарной керамикой и свитерами ручной вязки.
В самые первые дни существования искусственного интеллекта была предпринята попытка провести четкое различие между ИИ и когнитивным моделированием. Предполагалось, что первый станет отраслью инженерного дела и будет работать как угодно, не пытаясь подражать человеческим мыслительным процессам, кроме тех случаев, когда это окажется эффективным. Когнитивное моделирование, напротив, представляло собой дополнение к психологии и нейробиологии. Модель когнитивного моделирования, которая убедительно продемонстрировала бы характерные человеческие ошибки или затруднения, стала бы триумфом, а не провалом. Такое различие в стремлениях продолжает существовать, но почти стерлось из общественного сознания. Для дилетантов искусственный интеллект – это штука, способная пройти тест Тьюринга. Недавние достижения в области ИИ стали в основном результатом того, что мы отказались от моделирования человеческих мыслительных процессов (которые, как мы думали, мы понимаем) и перешли к использованию удивительных возможностей суперкомпьютеров для майнинга данных, чтобы извлечь оттуда важные связи и паттерны. При этом мы уже не пытаемся сделать так, чтобы компьютеры понимали, что делают. По иронии судьбы, такие впечатляющие результаты побуждают многих когнитивистов пересмотреть свою позицию; оказывается, что надо еще многое узнать о том, как мозг осуществляет свою блестящую работу по «продуцированию будущего», и в этом нам помогут методы машинного обучения и майнинга данных.
Но общественность будет упорно предполагать, что любой черный ящик, который способен проделывать такие штуки (безотносительно последних успехов в области разработки искусственного интеллекта), – это разумный агент, во многом похожий на человека, тогда как на самом деле то, что находится в ящике, – это причудливо нарезанная двумерная ткань, сила которой как раз в том и заключается, что у нее нет надстройки в виде человеческого разума со всеми его особенностями: склонностью отвлекаться, волноваться, испытывать эмоции, переживать воспоминания и строить личные привязанности. Это вообще не гуманоидный робот, а бездумный раб, последняя модель автопилота.
В чем проблема с тем, чтобы передать нудную мыслительную работу таким высокотехнологичным штуковинам? Да ни в чем, при условии, что (1) мы не будем сами себя вводить в заблуждение, и (2) нам как-то удастся не допустить атрофии собственных познавательных навыков.
1. Очень-очень трудно принять свойственные нашим помощникам ограничения и не забывать о них, равно как и не забывать о склонности человека всегда приписывать компьютерам разумность, как мы знаем еще со времен печально известной программы «Элиза», написанной Йозефом Вайценбаумом в 1960-х годах. Это очень опасно, ведь мы всегда будем испытывать желание требовать от них большего, чем то, для чего мы их создали, а также доверять полученным ими результатам, когда этого лучше не делать.
2. Используй или потеряешь. Поскольку мы все сильнее зависим от когнитивных протезов, то рискуем стать беспомощными, если они когда-нибудь перестанут работать. интернет – не разумный агент (ну, в каком-то смысле, может, и разумный), но мы тем не менее стали настолько от него зависеть, что, если бы он вдруг сломался, началась бы такая паника, что общество оказалось бы уничтожено за несколько дней. Кстати, к предупреждению этого события нам надо сейчас приложить все усилия, потому что оно может произойти в любой момент.
Реальная опасность – это не те машины, которые станут умнее нас и узурпируют роль хозяев наших судеб. Реальная опасность – это машины, по сути безмозглые, но наделенные нами полномочиями, значительно превосходящими уровень их компетентности.
Наноинтенциональность
Уильям Текумсе Фитч
Преподаватель когнитивной биологии в Венском университете; автор книги «Эволюция языка» (The Evolution of Language)29
Фитч У. Т. Эволюция языка. – М.: Издательский дом «ЯСК», 2013.
Несмотря на огромный прирост вычислительной мощности, нынешние компьютеры думают не так, как это делаем мы (или шимпанзе, или собаки). У основанных на кремнии компьютеров отсутствует важнейшая способность органического разума – способность изменять свою материальную форму и, следовательно, свои будущие вычисления в ответ на события, происходящие в мире. Без этой способности (которую в других работах я назвал наноинтенциональностью), с одной только обработкой данных, нельзя получить мысль, потому что у вычисляемых символов и значений отсутствует какая-либо внутренняя причинно-следственная связь с реальным миром. Любая информация, полученная в результате работы кремниевого процессора, нуждается в интерпретации людьми, чтобы обрести значение, и так все останется и в обозримом будущем. У нас мало причин для того, чтобы бояться разумных машин, куда больше их для того, чтобы бояться все более неразумных людей, которые их используют.
В чем именно выражается особенность биологического, а не кремниевого компьютера? Не бойтесь, я не имею в виду какой-то мистический élan vital30
Жизненный порыв (фр.) – термин, введенный философом Анри Бергсоном для объяснения движущей силы эволюции. – Прим. ред.
Это наблюдаемая, механистическая особенность живых клеток – особенность, которая развилась посредством обычных эволюционных процессов. В моих построениях нет никакой мистики или «незримого духа». По сути, наноинтенциональность – это способность клеток отвечать на изменения в окружающей среде, перестраивая свои молекулы и, таким образом, изменяя форму. Это свойство есть у амебы, хватающей бактерию, у мышечной клетки, повышающей уровень миозина в ответ на пробежку, или (что наиболее актуально) у нейрона, вытягивающего свои дендриты в качестве реакции на локальную нейровычислительную среду. Наноинтенциональность – основная, непреодолимая, бесспорная особенность жизни на Земле, которой нет у печатных кремниевых микросхем, формирующих «сердце» современного компьютера. Поскольку такое физическое различие между мозгом и компьютером – простой и грубый факт, то остается открытым вопрос: насколько большое значение он имеет для более абстрактных философских проблем, касающихся понятий мысли и значения. И тут ситуация становится сложнее.
Философские обсуждения начинаются с утверждения Канта о том, что наш разум неизменно отделен от типичных объектов наших размышлений – физических сущностей в реальном мире. Мы получаем сведения о них (через фотоны, воздушные колебания или испускаемые молекулы), но наш разум/мозг никогда не вступает с ними в прямой контакт. Таким образом, вопрос о том, как можно утверждать, что сущности нашего разума (мысли, убеждения, желания) якобы направлены на вещи в реальном мире, оказывается неожиданно сложен. Действительно, направленность – это центральная проблема в философии сознания, основа многолетней полемики между такими философами, как Деннет, Фодор и Сёрл. Философы несильно помогли внести ясность, назвав эту мнимую умственную направленность интенциональностью (не путать с обычным значением слова в английском языке: «делать что-то нарочно, умышленно»). Вопросы интенциональности тесно связаны с глубинными проблемами феноменологии сознания, часто выражаемыми терминами «квалиа» и «трудная проблема сознания»31
Термин введен философом Дэвидом Чалмерсом; подразумевается проблема объяснения того, как происходящие в мозге процессы порождают субъективные переживания. – Прим. ред.
Но они обращены к более простому и фундаментальному вопросу: как может ментальная сущность (мысль – паттерн нервного возбуждения) быть в любом смысле этого слова связана со своим объектом (вещью, которую вы видите, или человеком, о котором вы думаете)?
Вот ответ скептика, солипсиста: такой связи нет, интенциональность – иллюзия. Это заключение ложно по крайней мере в одной важнейшей области (замечание сделано Шопенгауэром 200 лет назад): единственным местом, где ментальные явления (желания и намерения, что инстанцируется в нервном импульсе) вступают в контакт с реальным миром, являются наши собственные тела (например, нейромышечное соединение). Пластичность живой материи в целом и нейронов в частности означает, что петля обратной связи непосредственно соединяет наши мысли с нашими действиям, просачиваясь обратно через восприятие, где влияет на структуру самих нейронов. Петля каждый день замыкается в нашей голове (в самом деле, если вы завтра вспомните хоть что-нибудь об этом эссе, то лишь потому, что некоторые нейроны в вашем мозгу изменили свою форму, ослабив или усилив синапсы, расширив или сократив число связей). Такой контур обратной связи в принципе не может замкнуться в жестком кремниевом чипе. Это биологическое качество обеспечивает умственную деятельность у человека (а также у шимпанзе и собаки) с присущей ей внутренней интенциональностью, которой нет у современных кремниевых вычислительных систем.
Если утверждение верно (а мои логика и интуиция его поддерживают), машины «думают», «знают» или «понимают» что-либо только в той мере, в какой это делают их создатели и программисты, когда значение добавляется интенциональным, истолковывающим агентом, обладающим мозгом. Любой «интеллект» у компьютера – это исключительно интеллект работающих с ним людей.
Поэтому я не боюсь, что роботы восстанут или начнут бороться за свои права (если только их защитой не решат заняться заблуждающиеся люди). Означает ли это, что можно не беспокоиться до тех пор, пока кто-то не изобретет компьютер с наноинтенциональностью? К сожалению, нет: существует другая опасность, которая исходит от нашей чрезмерной склонности ошибочно приписывать намерение и понимание неодушевленным предметам («Моей машине не нравится низкооктановое топливо»). Думая так о вычислительных артефактах – компьютерах, смартфонах, системах управления, – мы постепенно передаем им (и тем, кто их контролирует) свою обязанность – информированное, компетентное понимание. Ситуация становится опасной, когда мы охотно и с ленцой уступаем ее бесчисленным кремниевым системам (автомобильным навигаторам, смартфонам, системам электронного голосования), которые не только не задумываются о том, что именно они вычисляют, но даже и не знают об этом. Глобальный финансовый кризис дал нам почувствовать, что может произойти в мире, связанном компьютерами, когда реальная ответственность и реальные компетенции окажутся неблагоразумно свалены на машины.
Я боюсь не успешного восстания искусственных интеллектов, а скорее катастрофического сбоя, вызванного множеством мелких ошибок в кремниевой системе, которую наделили слишком большими полномочиями. Нам все еще далеко до сингулярности, когда компьютеры станут умнее нас, но это не значит, что нам не следует беспокоиться о глобальном сетевом коллапсе. Чтобы сделать первый шаг к предотвращению таких катастроф, нужно перестать перекладывать на компьютеры собственную ответственность и понять и принять простую истину: машины не думают. А то, что мы принимаем за их мышление, становится с каждым днем все опаснее.
Игры (и пророчества) разума
Ирэн Пепперберг
Научный сотрудник и преподаватель, кафедра психологии, Гарвардский университет; автор книги «Алекс и я» (Alex & Me)
Машины великолепно справляются с вычислениями, но при этом не очень хорошо – с мышлением как таковым. У машин бесконечный запас упорства и настойчивости, и, как кое-кто говорит, они могут легко разгрызть сложную математическую проблему или помочь вам проехать через пробки в незнакомом городе, но все это – благодаря алгоритмам и программам, созданным людьми. Чего же машинам не хватает?
Машинам не хватает ви́дения (по крайней мере пока, и я не думаю, что наступление сингулярности это изменит). Я имею в виду отнюдь не зрение. Компьютеры не сами придумывают новое приложение, которому суждено стать популярным. Компьютеры не принимают решение исследовать далекие галактики – они прекрасно справятся с задачей, когда мы их туда отправим, но это уже другая история. Компьютеры, конечно, лучше среднестатистического человека работают в области высшей математики и квантовой механики, но у них нет видения, чтобы в принципе обнаружить необходимость в таких действиях. Машины могут выигрывать у людей в шахматы, но они еще не изобрели интеллектуальную игру, что займет человечество на столетия. Машины видят статистические закономерности, которые пропустит мой слабый мозг, но они не в состоянии выдвинуть новую идею, что соединит разрозненные наборы данных и создаст новую область науки.
Я не так уж сильно беспокоюсь по поводу машин, способных вычислять. Я как-нибудь переживу постоянные вылеты браузера, но пусть у меня будет умный холодильник, способный отслеживать RFID-коды лежащих в нем и вынимаемых из него продуктов и посылать мне СМС с напоминанием купить сливки по пути домой (пользуясь случаем, обращаюсь к тем, кто работает над такой системой: поторопитесь!). Мне нравится, когда компьютер подчеркивает незнакомые ему слова, и пусть среди них иногда оказывается какая-нибудь «филогенетика», я могу находить опечатки в общеупотребительных словах (и прямо сейчас он тоже не позволяет мне писать с ошибками). Но эти примеры показывают: само по себе то, что машина демонстрирует нечто похожее на мышление, еще не означает, что она на самом деле мыслит – или, по крайней мере, что она мыслит подобно человеку.
Мне вспоминается одно из самых первых исследований в области обучения обезьян использованию языка – где они должны были манипулировать пластиковыми фишками, чтобы отвечать на разные вопросы. Впоследствии эксперимент повторили со студентами, которые – что неудивительно – исключительно преуспели в освоении системы, но когда их спросили, чем они занимались, те сказали, что решали какие-то интересные головоломки и понятия не имели, что их обучали языку. Последовало широкое обсуждение, и мы многое открыли и многому научились в ходе новых исследований. Несколько особей, не являющихся людьми, смогли понять референтное значение различных символов, пользоваться которыми их учили, и мы многое узнали об интеллекте обезьяны в рамках оригинальной методологии. Смысл этой истории таков: то, что первоначально казалось сложной лингвистической системой, потребовало намного большей подготовки, чем предполагалось изначально, чтобы стать чем-то большим, нежели серия относительно простых парных ассоциаций.
Так что меня беспокоят не мыслящие машины, а самодовольное общество, готовое отказаться от своих мечтателей в обмен на возможность не делать трудную работу. Люди должны воспользоваться собственными познавательными мощностями, которые освободились, когда машины взяли на себя грязную работу, быть благодарными за такую свободу и использовать ее, направляя свои способности на решение сложных насущных проблем, для которых требуется проницательность и пророческое видение.
Все смотрели фильмы о «Терминаторе», где суперкомпьютер Скайнет обрел свободу воли и решил уничтожить человечество. Чего-то подобного от разработки ИИ ожидают Илон Маск и Стивен Хокинг. Разбираемся, правдивы ли их опасения.
Что такое искусственный интеллект? Почему важно понимать, что это такое? Почему сегодня все о нем говорят?
Если вы читаете прессу, вы наверняка знаете, что с помощью именно этой технологии работают виртуальные помощники Amazon и Google, и что вскоре машины отберут у людей все рабочие места (на самом деле, не факт). Но при этом вряд ли вы отчетливо понимаете, что такое искусственный интеллект, и правда ли роботы нас всех поработят. Эта статья поможет разобраться во всех вопросах.
Что такое искусственный интеллект
Искусственный интеллект (ИИ) - это компьютерная программа, в которую встроен механизм обучения. Получив новые знания, она позже использует их для принятия решения в новой ситуации, как это делают люди. Исследователи, создающие такие программы, пытаются заставить код считывать изображения, текст, видео или звук, и чему-то учиться на основе этой информации. Когда это происходит, полученное знание можно использовать в другом ситуации. Если алгоритм научился распознавать чье-то лицо, позже его можно распознать на фотографиях из Facebook. Применительно к современному ИИ обучение часто называют «тренировкой».
Люди с рождения умеют оперировать сложными идеями: если мы увидим яблоко, то впоследствии сможем узнать и совсем другое, непохожее на первое. Машины же очень буквальны, - у компьютера нет концепции «похожести», - и цель разработок в области искусственного интеллекта как раз и состоит в том, чтобы сделать машины менее буквальными. Машина легко может найти точные дубликаты фотографий яблока или найти два одинаковых предложения в тексте, но чтобы работать с визуальным образом яблока, чтобы распознать изображение того же яблока под другим углом или с другим светом, нужен ИИ. Это обобщение или формирование идеи, основанной на сходстве данных, и позволяет видеть общее в том числе между вещами, с которыми ИИ раньше не сталкивался.
Алекс Рудницкий, профессор компьютерных наук Университета Карнеги-Меллон, говорит: «Цель в том, чтобы облечь сложное человеческое поведение в форму, которую можно обработать вычислительным способом. А это, в свою очередь, позволяет нам создавать , способные выполнять сложные действия, полезные для людей».
Далеко ли зашла разработка ИИ
Исследователи ИИ все еще работают над самыми основами. Как научить компьютер распознавать то, что он видит на картинке или в видео? Когда это удастся, нужно двигаться от распознавания к пониманию. Было бы здорово не только узнать, что на картинке яблоко, но и разобраться, что яблоко съедобно, что оно как-то связано с апельсинами и грушами, что люди едят яблоки и используют их при приготовлении яблочного пирога. А еще неплохо бы знать про Мичурина, молодильное яблочко и тому подобные вещи. Кроме того, есть проблема с пониманием языка, поскольку у многих слов существует несколько значений, различимых только в контексте, и все мы по-разному выражаем свои мысли. Как компьютеру охватить это текучее, непрерывно меняющееся явление?
В разных областях скорость прогресса ИИ очень разная. Например, сейчас очень быстро продвигается вперед компьютерное зрение, то есть способность распознавать изображения, при этом с пониманием естественного языка дела обстоят гораздо хуже. В этих областях развивают так называемый «узкий интеллект» - такой ИИ эффективен при работе с изображением, звуком или текстом, но не может воспринимать сразу много разнородных сигналов (при этом у человека мы наблюдаем «общий интеллект»). Многие исследователи надеются, что достижения в отдельных областях помогут понять общие принципы машинного обучения, что все же позволит создать универсальный ИИ.
Почему ИИ - это так важно
Как только ИИ научился узнавать на картинке яблоко или распознавать кусочек речи на аудиозаписи, его уже можно использовать в других программах для принятия решений, для которого в противном случае понадобился бы человек. Например, можно автоматически отмечать друзей на фотографиях в Facebook - иначе это пришлось бы делать вручную. Если речь идет о беспилотном автомобиле или системе помощи водителю, то можно распознавать другие автомобили и дорожные знаки, а в сельском хозяйстве - разбирать урожай, удаляя гнилые плоды.
Эти задачи, основанные только на распознавании изображений, традиционно выполнялись либо пользователем, либо кем-то из компании, предоставляющей программное обеспечение. Если задача экономит время пользователя, это ее конкурентное преимущество, а если она позволяет освободить время сотрудника или делает его работу полностью ненужной, это снижает затраты бизнеса.
Кроме того, есть задачи, которые просто невозможно сделать без машин: например, это обработка аналитики продаж в размере миллионов записей за считанные минуты. Теперь такие задачи выполняются быстро и дешево. Здесь мы учим машину делать то, что раньше делали люди, и, конечно, экономическая выгода от таких нововведений весьма велика.
Джейсон Хонг, профессор Лаборатории компьютерного взаимодействия Университета Карнеги-Меллон, утверждает, что, хотя ИИ может выполнять задачи за человека, он также способен создавать новые виды занятости.
«Автомобили полностью сменили лошадей, но в среднесрочной и долгосрочной перспективе их появление привело к огромному разнообразию задачи и производства - появились фуры, небольшие грузовики, минивэны, кабриолеты и так далее. Аналогичным образом в краткосрочной перспективе системы ИИ станут прямой заменой человека применительно к рутинным задачам, но в среднесрочной и долгосрочной перспективе мы увидим, что это породило новое разнообразие», - говорит он.
Готлиб Даймлер и Карл Бенц не думали о том, как автомобиль изменит облик городов, не думали о загрязнении окружающей среды или об эпидемии ожирения в развитых странах. Так и нам пока трудно оценить долгосрочное влияние этого фактора.
Почему ИИ стал развиваться сейчас, а не 30 или 60 лет назад
На самом деле, многим идеям о том, как должно быть устроено обучение ИИ, даже больше 60 лет. Еще в 1950-х годах ученые Фрэнк Розенблатт, Бернард Видроу и Марчиан Хофф впервые занялись математическим выражением устройства нейронов в соответствии с представлениями тогдашней биологии. Да, одним уравнением любую проблему не решить, но что если подобно мозгу использовать множество связанных уравнений? Исходные примеры были простыми: проанализировать наборы единиц и нулей, поступающих по цифровой телефонной линии, и предсказать, что будет дальше.
На протяжении многих десятилетий в информатике была распространена точка зрения, что никакие сложные проблемы таким образом решить не удастся. Тем не менее сегодня эта концепция лежит в основе большинства систем работающих в этой области крупных компаний: Google, Amazon, Facebook, Microsoft. Теперь, оглядываясь назад, ученые понимают, что компьютеры были недостаточно сложны для моделирования миллиардов нейронов нашего мозга, и что для обучения нейронных сетей требуются огромные объемы данных.
И эти два фактора, вычислительная мощность и достаточное количество данных, появились только в последние 10 лет.
В середине 1990-х годов компания Nvidia, известный производитель видеокарт, обнаружила, что ее графические процессоры хорошо подходят для работы нейронных сетей, и начала выпускать карты, специально приспособленные для работы с ИИ. Было выяснено, что работа с более быстрыми и сложными нейронными сетями приводит к значительному улучшению точности ответов.
Затем в 2009 году исследователь ИИ Фей-Фей Ли опубликовала базу данных под названием ImageNet, которая содержала более 3 млн систематизированных изображений с подписями. Она считала, что если у алгоритмов будет больше примеров, это поможет им освоить более сложные идеи. В 2010 году Ли запустила конкурс ImageNet, а к 2012-му другой исследователь Джефф Хинтон использовал эту базу изображений для обучения нейронной сети - и превзошел все другие приложения с огромным перевесом в точности, более 10%.
Как и предсказывала Ли, количество данных оказалось ключевым параметром. Хинтон также устраивал из нейронных сетей конвейер - одна находила на изображениях фигуры, другая текстуры и т. д. Сегодня это называется глубокими нейронными сетями или глубоким обучением, и, когда вы читаете в новостях об очередном успехе ИИ, речь идет о подобной системе.
Как только в технологической индустрии увидели результаты ученых, начался бум. Исследователи, десятилетиями работавшие над глубоким обучением в относительной безвестности, стали новыми рок-звездами, и к 2015 году у Google было уже более тысячи проектов с использованием машинного обучения.
Нужно ли бояться ИИ
Все смотрели «Терминатора» и готовы испугаться всемогущего Скайнета. Среди ученых потенциальный Скайнет называют суперинтеллектом или общим искусственным интеллектом, подразумевая программу, которая во многих отношениях превосходит человеческий мозг. Поскольку компьютерные системы можно масштабировать - то есть можно создать множество простых и быстрых компьютеров и связать их между собой, - существуют опасения, что такой суперинтеллект сможет расти бесконечно, оставив людей далеко позади. А будучи таким умным, он выйдет из-под контроля и обойдет любые попытки людей этот контроль вернуть. Такой апокалиптический сценарий рисуют нам некоторые из лучших умов современности, например Илон Маск и Стивен Хокинг. Маск, в частности, говорил, что «большинство ведущих исследователей ИИ недооценивают проблему „джинна в бутылке“, несмотря на свой несомненный интеллект в некоторых областях».
Есть и другая точка зрения. Янн Лекун, глава лаборатории исследования искусственного интеллекта Facebook, говорит, что даже если ученым удастся сделать машину, способную обучаться самым разным вещам и организовывать это понимание в картину мира, совершенно не факт, что у такого компьютера появятся собственные желания, воля или инстинкт самосохранения.
«Человеческое поведение - насилие в ответ на угрозу, ревность, желание единоличного доступа к ресурсам, симпатия к родственникам и антипатия к незнакомцам и т. д. - сформировалось у наших предков в ходе эволюции. У разумных машин не будет предпосылок для подобного поведения, если мы сами явно их не создадим», - писал он на сайте Quora.
Нет причин считать, что компьютер сочтет человечество угрозой, поскольку для компьютера не существует понятия угрозы. Да, можно задать параметры, благодаря которым компьютер будет вести себя так, как будто у него есть инстинкт самосохранения, но на самом деле его у него нет.
Эндрю Нг, один из основателей Google Brain и бывший глава направления ИИ в Baidu, любит говорить: «Я не переживаю о злобном ИИ, как не переживаю из-за перенаселенности Марса».
Впрочем, повод для опасений есть - и это человеческий фактор. Было показано, что ИИ очень легко воспринимает человеческое смещение в оценках из данных, на которых он учится. Это может быть какая-то безвредная предрасположенность - например, он может чаще распознавать на картинках кошек, чем собак, потому что его так научили. Но представим себе, что ИИ перенял у людей их стереотипы, и, например, связал понятие «врач» с белыми мужчинами в большей степени, чем с людьми другого пола или расы. Если представить себе, что такой ИИ отвечает за найм врачей, он будет отдавать несправедливое предпочтение некоторым кандидатам.
И это реальность. Исследование издания ProPublica показало, что алгоритмы, используемые для определения приговора преступникам, отражали расовую предубежденность и предлагали назначить более суровое наказание не-белым подсудимым. Дело в том, что при сборе информации о здоровье часто исключают женщин, особенно беременных, и в результате медицинские рекомендации, выработанные на основе таких неполных данных, оказываются слабо применимы к значительному числу пациентов. Таким образом, чтобы доверить машинам принимать решения, которые раньше требовали человеческого присутствия, нужно следить, чтобы это происходило в соответствии с нашей этикой и представлениями о справедливости.
Проблема в том, что даже если вы поняли, что алгоритм предвзят, чтобы его исправить, нужно найти причину. Но поскольку глубокое обучение требует миллионов связанных вычислений, продраться через этот клубок и выяснить, каков вклад того или иного решения в общий результат, невероятно сложно. Эта проблема особенно остро стоит в таких областях как программирование беспилотных автомобилей, ведь каждое решение на дороге - это вопрос жизни и смерти. Первые исследования в этой области дают надежду, что мы сможем разобраться в механизмах работы построенных нами машин. Но пока что понять, почему ИИ, разработанный Facebook, Google или Microsoft, принял то или иное решение, просто невозможно.
Подготовила Евгения Сидорова
