Huawei PanGu (Хуавей ПанГу)
- Huawei PanGu – мультимодальная модель большого языка, разработанная компанией Huawei.
- Модель позиционируется как конкурент другим мультимодальным моделям больших языков.
- Название PanGu заимствовано из китайской мифологии и фольклора о Пангу.
- PanGu-Σ включает Random Routed Experts (RRE) и архитектуру Transformer decoder.
- Модель обеспечивает в 6,3 раза более высокую производительность обучения по сравнению с моделями MoE.
- PanGu-Σ успешно справляется с быстрым пониманием естественного языка, обсуждением в открытой области и другими задачами.
- Huawei представила PanGu 3.0, крупноязычную модель, разработанную для различных отраслей.
- LLM от Huawei имеет иерархическую архитектуру и позволяет адаптировать модель к различным задачам.
- Huawei внедрила модель искусственного интеллекта для запуска глобального прогнозирования погоды.
- Huawei анонсировала финансовые услуги на базе финансовой платформы искусственного интеллекта на базе Pangu.
- Pangu Large Model 3.0 имеет трехуровневую структуру 5+N+X, предоставляющую широкий спектр навыков для работы в отраслевых сценариях.
Полный текст статьи: