Центр безопасности искусственного интеллекта
-
Центр безопасности искусственного интеллекта (CAIS)
- CAIS — некоммерческая организация в Сан-Франциско, занимающаяся безопасностью ИИ.
- Исследует технические и этические аспекты ИИ, пропагандирует и поддерживает исследования в области ИИ.
-
Заявление о риске исчезновения ИИ
- В мае 2023 года CAIS опубликовала заявление, подписанное многими профессорами ИИ и руководителями ИИ-компаний.
- В заявлении выражена обеспокоенность по поводу рисков, связанных с ИИ, включая автономные боевые действия и создание пандемий.
-
Исследования и мероприятия
- CAIS опубликовала «Обзор катастрофических рисков ИИ» с описанием сценариев и стратегий снижения рисков.
- Исследователи сотрудничают с Университетом Карнеги-Меллона для разработки методов обнаружения враждебных атак на большие языковые модели.
- Организация поддерживает исследования в области безопасности ИИ, включая создание вычислительного кластера и онлайн-курсы.
-
Законодательные инициативы
- CAIS является спонсором калифорнийского законопроекта SB 1047, направленного на обеспечение безопасности передовых моделей ИИ.
-
Дополнительная информация
- В статье также упоминаются другие инициативы CAIS, включая стипендии для профессоров философии и рекомендации по безопасности ИИ.