Проблема выравнивания

  • Обзор книги «Проблема согласования: машинное обучение и общечеловеческие ценности»

    • Книга Брайана Кристиана о согласовании искусственного интеллекта с общечеловеческими ценностями 
    • Основана на интервью с экспертами в области ИИ 
    • Разделена на три раздела: Пророчество, Свобода воли, Нормативность 
  • Пророчество

    • История исследований ИИ, включая использование искусственных нейронных сетей 
    • Критика алгоритма COMPAS за точность и предвзятость 
    • Проблема «черного ящика» ИИ и отсутствие прозрачности 
  • Свобода воли

    • История бихевиоризма и дофамина в психологии 
    • Обучение с подкреплением и важность любознательности в ИИ 
  • Нормативность

    • Обучение ИИ через имитацию поведения человека или машины 
    • Философские дискуссии о поссибилизме и актуализме 
    • Обучение с обратным подкреплением для изучения функций человека 
  • Прием

    • Положительные отзывы критиков, включая «Уолл-Стрит Джорнэл» и Publishers Weekly 
    • Kirkus Reviews назвал книгу «технически насыщенной, но доступной» 
    • Вирджиния Дигнум сравнила книгу с «Атласом искусственного интеллекта» 
    • Книга получила премию Эрика и Венди Шмидт за научную коммуникацию 
    • New York Times включила книгу в список лучших книг об ИИ 
  • Рекомендации

    • Ссылки на другие книги по теме эффективного альтруизма, риска глобальной катастрофы и совместимости с человеком 

Полный текст статьи:

Проблема выравнивания — Википедия

Оставьте комментарий

Прокрутить вверх