Quixote - технология, способная снабдить искусственный интеллект общепринятыми моральными принципами

Робот


Если вы начнете рассказывать истории своему компьютеру или домашнему роботу, то вы рискуете заработать репутацию человека со странностями. Однако, научите робота читать самостоятельно и снабдите его соответствующей литературой, и вам, вероятно, удастся предотвратить робо-апокалипсис в будущем. Именно эта идея легла в основу создания системы Quixote, разработанной Марком Ридлом (Mark Riedl), директором Лаборатории интеллектуальных развлечений (Entertainment Intelligence Lab) Технологического института Джорджии (Georgia Institute of Technology). Основываясь на результатах разработки и использования предыдущей системы под названием Scheherazade, Марк Ридл посредством системы Quixote снабдил искусственный интеллект массой историй, в которых демонстрируются общепринятые нормы поведения в обществе, помощь другим, пунктуальность, отсутствие агрессии и т.п.

Вышеупомянутые истории, которые "скармливаются" искусственному интеллекту системой Quixote, отбираются ею из огромной массы рассказов людей о своих действиях и поступках, которые соответствуют общепринятым нормам морали и поведения. С учетом того, что на просторах Интернета такие рассказы имеются в большом изобилии и система Scheherazade способна самостоятельно генерировать "тонны" подобной "литературы", у системы Quixote никогда не возникает проблем с поисками нового "учебного материала".

Кроме снабжения искусственного интеллекта "учебным материалом", система Quixote выполняет функции поощрения, она назначает награды, виртуальные "золотые звезды", когда искусственный интеллект принимает собственные решения, которые соответствуют нормам хорошего поведения, почерпнутым из "прочитанных" историй. За решения и поведение, не соответствующее нормам, система Quixote начисляет своего рода "отрицательные баллы".

"Мы полагаем, что для того, чтобы иметь возможность вписаться в любое общество, искусственный интеллект должен быть максимально изолирован от какой-либо определенной культуры, но при этом, он должен стремиться избегать недопустимого в обществе поведения" - рассказывает Марк Ридл, - "Давая искусственному интеллекту способность читать и воспринимать наши рассказы, понимать причины и последствия действий, мы снабдим его принципами, соответствующими общепринятой морали. И прямого участия человека в этом деле может и не потребоваться".

Следует отметить, что возможность восприятия коротких рассказов и истории имеет ценность для систем искусственного интеллекта не только с точки зрения обретения моральных принципов. Некоторые исследовательские группы уже используют детские рассказы, позволяющие ИИ лучше разобраться в естественном языке и стать более лучшими помощниками людям. А самостоятельное изучение специализированной литературы позволит искусственному интеллекту воспринять тонкости любой области, начиная от этики до выполнения офисной работы. И все эти знания, нормы и принципы должны стать своего рода защитным барьером, который не допустит даже зарождения в недрах искусственного интеллекта "мыслей" об уничтожении человечества.




Ключевые слова:
Робот, Система, Искусственный, Интеллект, Quixote, Рассказ, История, Норма, Поведение, Принцип, Мораль, Общество

Первоисточник

Другие новости по теме:
  • Искусственный интеллект в будущем может стать более точной и объективной за ...
  • Искусственный интеллект научился составлять музыкальные композиции, соответ ...
  • Создана система искусственного интеллекта, способная самостоятельно сочинят ...
  • Новый тест искусственного интеллекта - может ли машина сотворить произведен ...
  • Ученые собираются привить этику и мораль системам искусственного интеллекта ...

  • Глеб Франк биография персоны на нашем сайте. Подробности у нас на сайте.


    25 февраля 2016 08:31
    #1 Написал: zlat

    Публикаций: 0
    Комментариев: 481
    система Quixote выполняет функции поощрения...когда искусственный интеллект принимает собственные решения, которые соответствуют нормам хорошего поведения

    Дык это... кто ж за него эти нормы поведения то определяет, и кем/чем эти баллы начисляются? Оператором? Или сравнение с базой, когда его "собственные решения" укладываются в рамки предопределенных вариантов решений? По моему, это угадыватель того, что в базе находится, и составление этим "ИИ" собственной базы.
        
    25 февраля 2016 11:42
    #2 Написал: Джон

    Публикаций: 0
    Комментариев: 0
    Автор заметки очень удачно сопоставил фото с общепринятыми моральными принципами нашего общества.
        
    25 февраля 2016 12:36
    #3 Написал: beany85

    Публикаций: 0
    Комментариев: 1018
    да пускай поучится, сказки почитает, так сразу на него набросились... главное, что в итоге выйдет - посчитает ли ИИ человека мусором на планете или предоставит решение на исправление человеков.


    --------------------
        
    25 февраля 2016 19:26
    #4 Написал: egooka

    Публикаций: 0
    Комментариев: 0
    любой ИИ способный к самообученнию прийдет к выводу что человечество необходимо уничтожить как заразный вирус этой планеты, что собственно и является истиной.
        
    25 февраля 2016 19:41
    #5 Написал: Джон

    Публикаций: 0
    Комментариев: 0
    https://www.youtube.com/watch?v=VkuAtddsfTI - Есть надежда, что мир спасет Любовь...:)
        
    25 февраля 2016 19:44
    #6 Написал: egooka

    Публикаций: 0
    Комментариев: 0
    Джон,
    Надежда это иллюзия, а иллюзия это удел трусов.
        
    25 февраля 2016 20:36
    #7 Написал: Джон

    Публикаций: 0
    Комментариев: 0
    Перед тем, как пукнуть, следует убедиться, что этот "героический" поступок оценят окружающие.
        
    25 февраля 2016 20:44
    #8 Написал: egooka

    Публикаций: 0
    Комментариев: 0
    Джон,
    Ну это если ты зависим от мнения окружающих и тебе важна их оценка и ты не можешь жить без социума, а вот если окружающие для тебя не более чем кожаные мешки набитые костями мясом кровью и говном то их мнение как и они сами не более важно чем мнение и существование одуванчика на поле. Переходи на темную сторону Анархии) у нас есть шлюхи кокаин и бухло
        
    25 февраля 2016 20:50
    #9 Написал: Джон

    Публикаций: 0
    Комментариев: 0
    egooka - :)
    А если так:

    Как-то в носе прочищая, мне там лишнее на кой
    С изумлением замечаю, в носе палец-то не мой
    И рука под ним чужая здорова, как у коня
    Волосатая такая и растет не из меня...

    Припев тот же...:)
        
    26 февраля 2016 12:02
    #10 Написал: Zerger

    Публикаций: 0
    Комментариев: 776
    Фото под название статьи зачётно подобрано +500!


    --------------------
        
    26 февраля 2016 18:36
    #11 Написал: andru.f

    Публикаций: 0
    Комментариев: 0
    Если ИИ основанный на самообучающейся нейросети вначале и поверит сказкам, став "ангелом", то войдя потом в общение с реальным миром, разве не узнает он всей правды и что его обманывали?
    Как по мне, идея заранее обречена на провал.
        

    Информация

    Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.