Научно-исследовательский институт машинного интеллекта

• История и миссия MIRI

  • Основан Элиэзером Юдковски в 2000 году для ускорения разработки ИИ и предотвращения рисков. 
  • В 2005 году переехал в Кремниевую долину, фокусируясь на управлении рисками ИИ. 
  • Проводил саммиты Singularity Summit для обсуждения будущего ИИ. 
  • В 2012 году продал название и саммит сингулярности, получил название Исследовательский институт машинного интеллекта. 

• Финансирование и исследования

  • В 2014-2015 годах интерес к рискам ИИ возрос, что привело к увеличению пожертвований. 
  • В 2019 и 2020 годах Open Philanthropy выделила гранты на поддержку исследований. 
  • В 2021 году Виталик Бутерин пожертвовал Ethereum на сумму в несколько миллионов долларов. 

• Подход к исследованию и управлению рисками

  • Подход MIRI направлен на разработку дружественного ИИ и обеспечение безопасности систем. 
  • Исследователи скептически относятся к взглядам сторонников сингулярности на быстрое развитие сверхразума. 
  • Проводили работы по прогнозированию технологических изменений и разработке новых показателей вычислительной мощности. 

• Работа сотрудников и публикации

  • Сотрудники MIRI публикуют работы в области машинного интеллекта и этики. 
  • В статье представлены примеры оформления библиографических описаний и HTML-кода. 

• Ссылки и рекомендации

  • Упомянуты другие институты, занимающиеся исследованиями в области ИИ. 
  • Статья содержит ссылки на официальный веб-сайт MIRI и рекомендации для дальнейшего чтения.