Пол Кристиано (исследователь)
-
Карьера и достижения Пола Кристиано
- Американский исследователь в области ИИ, специализирующийся на согласовании ИИ.
- Ранее возглавлял команду по согласованию языковых моделей в OpenAI.
- Основал и возглавил некоммерческий исследовательский центр по согласованию (ARC).
- В 2023 году назван одним из 100 самых влиятельных людей в области ИИ по версии TIME.
-
Образование и исследования
- Учился в школе Харкера и завоевал серебряную медаль на IMO в 2008 году.
- Окончил MIT по специальности «математика» и защитил докторскую диссертацию в Беркли.
- Исследовал структуры данных, квантовую криптографию и комбинаторную оптимизацию в MIT.
- Сотрудничал с Катей Грейс в области воздействия ИИ и сбора средств для благотворительности.
-
Работа в OpenAI и ARC
- Соавтор статьи о RLHF и других работ по безопасности ИИ.
- Покинул OpenAI в 2021 году для работы над теоретическими вопросами выравнивания ИИ.
- Основал ARC для изучения скрытых знаний из моделей машинного обучения и тестирования их опасности.
-
Взгляды на риски ИИ
- Известен своими взглядами на риски, связанные с ИИ.
- В 2017 году выразил беспокойство о возможном отклонении ИИ от намеченных целей.
- В 2023 году предположил возможность захвата власти ИИ и гибели людей.
-
Личная жизнь
- Женат на Аджее Котра из Open Philanthropy.
-
Рекомендации
- Ссылки на персональный веб-сайт.