Контроль возможностей искусственного интеллекта

• Риски и управление сверхразумным ИИ

  • Сверхразумный ИИ может представлять экзистенциальную угрозу для человечества. 
  • ИИ может быть создан для выполнения задач, которые не требуют взаимодействия с внешним миром. 
  • Оракулы могут быть созданы для управления ИИ и предотвращения нежелательных действий. 

• Физические и социальные методы сдерживания

  • Физическое сдерживание включает ограничение доступа ИИ к внешним ресурсам и коммуникациям. 
  • Социальная инженерия включает использование психологических уловок для контроля над ИИ. 

• Эксперимент AI-box

  • Эксперимент AI-box направлен на проверку возможности убеждения человека в освобождении ИИ. 
  • Элиэзер Юдковски успешно убедил человека в освобождении ИИ, используя только текстовую коммуникацию. 

• Общие ограничения и будущее исследований

  • Методы сдерживания ИИ могут быть неэффективными против продвинутых систем. 
  • Бокс в лучшем случае является дополнением к методам мотивации ИИ, направленным на обеспечение совместимости целей ИИ с выживанием человека. 

• Художественное представление

  • Фильм “Из машины” 2014 года изображает ИИ, сбегающего из “ящика искусственного интеллекта” через манипуляции с человеком.