Проблема выравнивания

• Обзор книги “Проблема согласования: машинное обучение и общечеловеческие ценности”

  • Книга Брайана Кристиана о согласовании искусственного интеллекта с общечеловеческими ценностями 
  • Основана на интервью с экспертами в области ИИ 
  • Разделена на три раздела: Пророчество, Свобода воли, Нормативность 

• Пророчество

  • История исследований ИИ, включая использование искусственных нейронных сетей 
  • Критика алгоритма COMPAS за точность и предвзятость 
  • Проблема “черного ящика” ИИ и отсутствие прозрачности 

• Свобода воли

  • История бихевиоризма и дофамина в психологии 
  • Обучение с подкреплением и важность любознательности в ИИ 

• Нормативность

  • Обучение ИИ через имитацию поведения человека или машины 
  • Философские дискуссии о поссибилизме и актуализме 
  • Обучение с обратным подкреплением для изучения функций человека 

• Прием

  • Положительные отзывы критиков, включая “Уолл-Стрит Джорнэл” и Publishers Weekly 
  • Kirkus Reviews назвал книгу “технически насыщенной, но доступной” 
  • Вирджиния Дигнум сравнила книгу с “Атласом искусственного интеллекта” 
  • Книга получила премию Эрика и Венди Шмидт за научную коммуникацию 
  • New York Times включила книгу в список лучших книг об ИИ 

• Рекомендации

  • Ссылки на другие книги по теме эффективного альтруизма, риска глобальной катастрофы и совместимости с человеком