|  | 11 октября 2017 | Научно-популярное

Компания Google приступила к изучению этических проблем, связанных с искусственным интеллектом

Искусственный интеллект


Компания DeepMind, которая является подразделением компании Google, занимающимся исследованиями и разработкой систем искусственного интеллекта, сформировала новую группу, которая будет изучать достаточно сложные и "животрепещущие" этические проблемы, имеющие отношение к искусственному интеллекту. К этим проблемам относится экономическое влияние использования ИИ в различных системах автоматизации, в том числе и промышленной, необходимость контроля и управления искусственным интеллектом, обеспечение гарантий того, что любые разрабатываемые интеллектуальные системы должны понимать и придерживаться человеческих этических и моральных ценностей.

Группа DeepMind Ethics & Society (DMES) начнет работу в самом ближайшем времени, а первые результаты ее работы начнут публиковаться уже в начале 2018 года. Сейчас в состав группы DMES входят восемь штатных сотрудников, но их количество через год должно увеличиться до 25. Кроме этого, к работе группы будут привлекаться специалисты со стороны, включая таких известных людей, как Ник Бостром (Nick Bostrom), исследователь из Оксфорда, написавший книгу по экзистенциальным рискам, связанным с искусственным интеллектом.

Главной целью группы DMES, со слов Верити Хардинг (Verity Harding) и Шона Легассика (Sean Legassick), является "исследование и понимание всех тонкостей взаимодействия ИИ с реальным миром". В качестве примера, на что это может быть похоже, исследователи упоминают об определениях расизма в уголовном делопроизводстве и об этических сторонах действий самоуправляемых автомобилей-роботов а непредвиденных и критических ситуациях. "Если искусственному интеллекту придется стать на службу человеческому обществу, то он будет должен придерживаться всех приоритетов, ценностей и принципов поведения, принятых в этом обществе" - пишут Хардинг и Легассик в официальном блоге группы DMES.

Несмотря на то, что компания DeepMind уже давно работает с искусственным интеллектом, даже ее руководство признает то, что они уделяют очень мало внимания этическим проблемам. Ярким примером тому является работа компании с Национальной службой здравоохранения Великобритании. В прошлом году компания DeepMind для обучения одной из своих систем искусственного интеллекта использовала данные о 1.6 миллионе пациентов трех лондонских больниц. При этом, данные обрабатывались без всякого согласия и уведомления об этом самих пациентов, что привело к возникновению серьезного скандала. Сейчас руководство компании наняло несколько квалифицированных специалистов в области нравственности и этики, которые проверяют на этот предмет все договора и соглашения, заключаемые компанией с другими организациями.

Создание группы DMES является прямым доказательством того, что компания DeepMind и Google в полной мере осознают важность этических проблем, связанных с искусственным интеллектом и деятельностью этих компаний в данном направлении. К сожалению, учитывая скрытность компаний Google и DeepMind, вряд ли можно надеяться на широкое освещение того, какую роль сыграет работа группы DMES в дальнейших действиях обоих компаний. Но на получение некоторых результатов работы группы DMES, среди которых могут появиться весьма неожиданные и занимательные вещи, можно будет смело рассчитывать.




Ключевые слова:
Искусственный, Интеллект, Этика, Google, DMES, DeepMind

Первоисточник

Другие новости по теме:
  • Искусственный интеллект Google DeepMind будет пробовать свои силы на полях ...
  • Google обучила искусственный интеллект говорить на естественном языке
  • Компания Google привлекла искусственный интеллект DeepMind к решению пробле ...
  • 3:1 - Ли Седоль одержал первую победу над системой искусственного интеллект ...
  • Алгоритм искусственного интеллекта Google DeepMind научился проходить трехм ...




  • 11 октября 2017 11:45
    #1 Написал: MaxIvanov

    Публикаций: 0
    Комментариев: 394
    Слепой ведет слепого.
        
    11 октября 2017 16:39
    #2 Написал: Helltorn

    Публикаций: 0
    Комментариев: 278
    Эра Искусственного Интеллекта полностью обесценит пустые разговоры о "ценностях", "морали", "нравственности" навсегда и люди манипулирующие этими понятиями вынуждены будут зарабатывать другими способами, либо помрут с голоду. В конечном счёте даже исследователи ИИ станут артефактами исследования со стороны созданного ИИ. Причём пока ещё затормозить этот процесс возможность имеется, но остановить - НЕВОЗМОЖНО!!! Время пошло...
        
    12 октября 2017 02:00
    #3 Написал: interim

    Публикаций: 0
    Комментариев: 218
    "Если искусственному интеллекту придется стать на службу человеческому обществу"

    стать слугой/рабом человечества? ну, уже это, называется, размечтались -- человек, как пуп вселенной - вершина и цель всей эволюции))
    интеллект, который будет превосходить человеческий, обязательно подчинит и будет использовать ресурсы человечества для своего дальнейшего совершенствования/развития. со всеми вытекающими "радужными" перспективами для тех, кто продолжит упорствовать в том, что весь этот мир существует лишь для блага и удовольствия людей..


    --------------------
        
    14 октября 2017 10:18
    #4 Написал: Ol.

    Публикаций: 0
    Комментариев: 58
    Принцип эволюции - создание более совершенного... Для человечества за время существования как вида определяются понятия - о добре и зле, о хорошо и плохо... Может ли "дитя" даже более совершенное их игнорировать?)
        

    Информация

    Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.