Existential risk from artificial general intelligence

Вики

Эффективный акселерационизм

/

Эффективный акселерационизм Основы эффективного акселерационизма Эффективный акселерационизм – это философское движение, которое поддерживает технологии для решения глобальных проблем.  Сторонники движения […]

Вики

Контроль возможностей ИИ

/

Контроль возможностей искусственного интеллекта Риски и управление сверхразумным ИИ Сверхразумный ИИ может представлять экзистенциальную угрозу для человечества.  ИИ может быть

Вики

Наше последнее изобретение

/

Наше последнее изобретение Обзор книги “Наше последнее изобретение” Книга Джеймса Баррата о рисках искусственного интеллекта (AGI/ASI) для человечества.  Обсуждает преимущества

Вики

Леверхалмский центр будущего разведки

/

Леверхульмский центр будущего разведки Обзор Центра будущего интеллекта (CFI) CFI – это междисциплинарный исследовательский центр Кембриджского университета, занимающийся изучением искусственного

Вики

Институт будущего жизни

/

Future of Life Institute О Future of Life Institute Некоммерческая организация, стремящаяся направить преобразующие технологии на благо жизни и предотвратить

Вики

Центр прикладной рациональности

/

Центр прикладной рациональности О Центре прикладной рациональности CFAR – некоммерческая организация в Беркли, Калифорния, обучающая рациональности и когнитивным предубеждениям.  Основана

Вики

Центр исследования выравнивания

/

Исследовательский центр выравнивания Исследовательский центр Alignment Research Center (ARC) ARC – некоммерческий институт в Беркли, Калифорния, направленный на согласование ИИ

Вики

Инструментальная конвергенция

/

Инструментальная конвергенция Основные концепции и проблемы искусственного интеллекта Искусственный интеллект (ИИ) – это система, способная выполнять задачи, которые обычно требуют

Вики

Проблема выравнивания

/

Проблема выравнивания Обзор книги “Проблема согласования: машинное обучение и общечеловеческие ценности” Книга Брайана Кристиана о согласовании искусственного интеллекта с общечеловеческими

Вики

Совместимость с человеком

/

Совместимый с человеком Обзор книги “Совместимость с человеком: искусственный интеллект и проблема контроля” Книга утверждает, что ИИ может представлять угрозу

Вики

Суперинтеллект

/

Сверхразум Обзор статьи Статья рассматривает перспективы развития искусственного интеллекта и его влияние на человечество.  Обсуждаются различные сценарии развития ИИ, включая

Вики

Экзистенциальный риск от общего искусственного интеллекта

/

Экзистенциальный риск, связанный с искусственным общим интеллектом Проблема согласования целей искусственного интеллекта Сверхразумные ИИ могут иметь цели, противоречащие интересам человечества. 

Вики

Поглощение ИИ

/

Захват ИИ Определение и потенциал сверхразума Сверхразум – это искусственный интеллект, который превосходит человеческий интеллект по всем параметрам.  Сверхразум может

Вики

Выравнивание ИИ

/

Выравнивание искусственного интеллекта Основные проблемы ИИ ИИ может быть непредсказуемым и опасным, если не контролировать его поведение.  Системы ИИ могут

Вики

Безопасность ИИ

/

Безопасность искусственного интеллекта Основные проблемы безопасности ИИ ИИ может представлять угрозу из-за возможности создания систем, превосходящих человеческие возможности.  ИИ может

Вики

Регулирование алгоритмов

/

Регулирование алгоритмов Основные аспекты регулирования ИИ ИИ представляет собой технологию, которая может влиять на общество и требует регулирования.  Регулирование ИИ