|  | 30 ноября 2012 | Научно-популярное

Кембриджские ученые начинают изучение потенциальной угрозы, которую несет всему человечеству развитие искусственного интеллекта

Искусственный интеллект


Совсем недавно при Кембриджском университете был сформирован новый Центр изучения существующих угроз (Centre for the Study of Existential Risk, CSER). Ученые, философы и инженеры, составляющие команду этого центра, будут заниматься изучением ключевых событий в технологическом развитии человечества, оценивая угрозы человечеству, которые могут привести к его деградации и полному исчезновению. В настоящий момент ключевым направлением этих исследований будет исследование возможности создания так называемого Базового Искусственного Интеллекта (БИИ, artificial general intelligence), технологии, имеющей немалую потенциальную возможность оставить человечество навсегда "не у дел".

Единицей Базового Искусственного Интеллекта считается машина или вычислительная система, интеллектуальные возможности которой превышают интеллектуальные возможности человека. Такая машина уже будет в состоянии самостоятельно разрабатывать собственные программы и развивать технологии. Понятие БИИ было введено в обиход в 1965 году талантливым математиком, криптоаналитиком и специалистом в области информационных технологий Ирвингом Джоном "Джеком" Гудом (Irving John "Jack" Good). Начиная с того момента, понятие БИИ фигурирует во множестве научно-фантастических произведений, в которых звучит одна ужасающая идея, суть которой заключается в том, что "когда развитие интеллекта не будет сдерживаться биологическими и физиологическими ограничениями, человечество перестанет быть самым интеллектуальным видом на Земле и перестанет быть доминирующей силой, которая определяет будущее".

Джаан Таллинн (Jaan Tallinn), один из основателей известной коммуникационной компании Skype, в свое время высказался по данному поводу: "Благодаря пониманию, манипуляции и использованию технологий, после 4 миллиардов лет истории развития природы, человечество стало доминирующей силой, определяющей будущее планеты и цивилизации. Но нам надо внимательно присмотреться к тому, как мы воздействуем сейчас на планету, для того, чтобы узнать, что произойдет, если мы перестанем быть доминирующим видом".

Поясняя слегка запутанное вышеприведенное высказывание, скажу, что потенциальная угроза со стороны БИИ заключается даже не во враждебности будущих интеллектуальных машин и систем, этот искусственный интеллект может быть настроен к человечеству весьма лояльно. Но, угроза исчезновения человечества как вида таится в воздействии доминирующей силы на окружающую среду, которая пытается приспособить ее под свои требования. В качестве примера можно привести уменьшающуюся на Земле популяцию горилл. Нельзя сказать, что человечество относится к ним исключительно враждебно, но влияние человечества на окружающий мир ставит под угрозу возможность выживания этого ставшего редким вида обезьян. В силу высоких интеллектуальных способностей БИИ у него имеется потенциал для создания подобной парадигмы между собой и человечеством как видом.

Конечно, до создания суперинтеллектуальной машины или вычислительной системы человечеству придется пройти достаточно долгий и тернистый путь. Но исследования в области разработки искусственного интеллекта, которые ведутся множество научных организаций, дают некоторые практические результаты. Ярким примером тому является работа, проведенная в прошлом году исследователями из Массачусетского технологического института. Во время этих исследований ученые заставили два компьютера, "вооруженные" специализированным программным обеспечением, выполнить две незнакомые задачи, руководствуясь только описанием этих задач и примитивными инструкциями по их выполнению. Вооруженный только вариантами возможных действий и не "знающий" языка программирования, один из компьютеров справился с задачей разработки исходного кода программного обеспечения, которое справлялось с выполнением 80 процентов функций, описанных в поставленном задании. Второй компьютер научился играть в стратегическую игру "Sid Meier's Civilization II" и становился победителем в 79 процентах игр, в которых он принимал участие.

И это только один из многочисленных примеров разработки систем искусственного интеллекта, которые ведутся ведущими научными учреждениями, такими как Массачусетский технологический институт, Стэндфордский университет и др. При этом, все происходит в мире, где пока соблюдается закон Гордона Мура и вычислительные мощности удваиваются каждые два года.

Даже с тем, что понятие БИИ является пока только научной фантастикой, к нему следует относиться полностью серьезно. "Мы сами еще плохо понимаем, чем будет являться полноценный искусственный интеллект и чем чревато для человечества его появление. И даже не этот риск является сейчас главным, главным является то, что до самого последнего момента над этим никто серьезно не задумывался и не проводил исследований в этом направлении" - говорят представители команды CSER.

Исследователи CSER будут сосредотачиваться не только на предотвращении бедствий человечества, вызванных вероятным "приходом Скайнета". Они так же будут рассматривать и другие варианты, несущие потенциальную угрозу для человечества, включая развитие био- и нанотехнологий, последствия использования технологий геоинженерии, последствий глобальных климатических изменений и многое другое. Эта группа, конечно, не станет группой супергероев, которая когда-нибудь спасет все человечество. Но исследования, проводимые в центре CSER, помогут обратить внимание на потенциальные угрозы со стороны технологий и вовремя принять меры по их предотвращению.




Ключевые слова:
Базовый, Искусственный, Интеллект, Машина, Вычислительная, Система, Доминирующий, Вид, Планета, Земля, Будущее, Угроза, Человечество

Первоисточник

Другие новости по теме:
  • Новая модель искусственного интеллекта превосходит людей по результатам ста ...
  • Google начинает разработку "большой красной кнопки", способной остановить ...
  • Создана новая группа OpenAI, в которой будут собраны все ведущие специалист ...
  • Новый тест искусственного интеллекта - может ли машина сотворить произведен ...
  • Самые лучшие системы искусственного интеллекта обладают IQ четырехлетнего р ...




  • 30 ноября 2012 09:19
    #1 Написал: gendalf

    Публикаций: 0
    Комментариев: 620
    Теперь группы ученых выступят в роли церкви wink

    Если отдельные люди станут при помощи имплантов\биоинженерии себя умнее делать чем это отличается от того, что, как известно, некоторые люди умнее других и соответственно выживают и живут лучше.. вполне реально что качественный ИИ станет своеобразной эволюцией человека (не биологической естественно)
        
    30 ноября 2012 12:27
    #2 Написал: beany85

    Публикаций: 0
    Комментариев: 1018
    А все началось с писателей фантастов, которые во многих своих произведениях сделали много предположений по развитию и доминированию машины над человеком.


    --------------------
        
    30 ноября 2012 12:48
    #3 Написал: MaxIvanov

    Публикаций: 0
    Комментариев: 393
    Скорее всего ИИ создадут с ограниченными умственными способностями, он будет сфокусирован в специальной области, в которой он будет превосходить человека, и только.
    Вполне возможно что это уже реальность, трудиться на оборонку например. Вспомнилась недавняя новость, про вирус, созданный на неизвестном языке, невероятной сложности, для нападения на иранские компьютеры...написанный якобы американскими спецслужбами,
        
    30 ноября 2012 15:42
    #4 Написал: EduardLt

    Публикаций: 0
    Комментариев: 190
    Коррупцию не победишь, это поймет даже искусственный интеллект. У человечества нет конкурентов.
        
    30 ноября 2012 20:15
    #5 Написал: CoJIb

    Публикаций: 0
    Комментариев: 1155
    ИИ по типу Скайнета, это просто забагованный виндос, нормальный ИИ будет знать размеры вселенной, и такая идея как уничтожить человечество у него даже не возникнет.
        

    Информация

    Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.