БЛУМ (языковая модель)

От / / Оставьте комментарий

ЦВЕТЕНИЕ (языковая модель) Многоязычная языковая модель BigScience Large Open-science (BLOOM) основана на преобразовании 176 миллиардов параметров.  Модель и база кода […]

Computational linguistics stubs, Generative pre-trained transformers, Large language models, Большие языковые модели, Генеративные предварительно обученные преобразователи, Заглушки по компьютерной лингвистике

ЦВЕТЕНИЕ (языковая модель)

  • Многоязычная языковая модель BigScience Large Open-science (BLOOM) основана на преобразовании 176 миллиардов параметров. 
  • Модель и база кода распространяются по бесплатным лицензиям. 
  • BLOOM прошел обучение на примерно 366 миллиардах токенов с марта по июль 2022 года. 
  • BLOOM является главным результатом совместной инициативы BigScience, годичного исследовательского семинара. 
  • Проект BigScience возглавлялся компанией HuggingFace и включал участие сотен исследователей и инженеров. 
  • Компания BigScience получила поддержку от государственного гранта на вычисление французского суперкомпьютера Jean Zay. 
  • Учебный корпус BLOOM, ROOTS, объединяет данные из веб-версии OSCAR corpus и вручную отобранные источники языковых данных. 
  • ROOTS охватывает 46 естественных языков и 13 языков программирования. 

Полный текст статьи:

БЛУМ (языковая модель) — Википедия

Похожие статьи:

  1. Пелл Грант Пелл Грант История и значение гранта Пелла Грант Пелла — это федеральная стипендия, предоставляемая студентам колледжей...
  2. Языковая политика во Франции Языковая политика во Франции Во Франции существует один официальный язык — французский.  Французское правительство не регулирует...
  3. Большая языковая модель Большая языковая модель LLM (Large Language Model) — это языковая модель с большим количеством параметров, обученная...
  4. BERT (языковая модель) BERT (языковая модель) BERT — это модель глубокого обучения, разработанная Google для понимания естественного языка.  BERT...
  5. Языковая модель Языковая модель Языковые модели используются для обработки естественного языка и генерации текста.  Они основаны на статистических...
  6. Государственное управление Государственная администрация История государственного управления Государственное управление возникло в Древней Греции и Риме.  В средневековой Европе...
  7. Грант на вызов Оспаривание гранта Определение и значение конкурсных грантов Гранты выделяются на конкурсной основе для некоммерческих организаций и...
  8. Шиншилла (языковая модель) Шиншилла (языковая модель) Chinchilla — семейство больших языковых моделей, разработанных DeepMind.  Оно названо «шиншилла» и является...
  9. Обнимающее лицо Обнимающее лицо Обнимающее лицо, Инк. — франко-американская компания, разрабатывающая вычислительные инструменты для машинного обучения.  Известна своей...
  10. Языковая семья Языковая семья Языки классифицируются по языковым семьям, которые имеют общее происхождение и сходство в структуре.  Протоиндоевропейский...
  11. Квебекский французский Квебекский французский Квебекский французский — преобладающий язык в Канаде, используется в повседневном общении, образовании, СМИ и...
  12. Дуглас Коупленд Дуглас Коупленд Дуглас Коупленд — канадский писатель, дизайнер и художник-визуалист.  Его первый роман «Поколение Икс: сказки...
  13. Ленивая оценка Ленивая оценка Определение ленивых вычислений Ленивые вычисления откладывают выполнение вычислений до тех пор, пока не потребуется...
  14. Разновидности французского языка Разновидности французского языка Французский язык имеет множество разновидностей, включая луизианский, новоанглийский, гаитянский и другие.  В Соединенных...
  15. Университетский вызов 2008–09 Университетский конкурс 2008-09 Начало и правила викторины University Challenge 38-я серия началась 7 июля 2008 года...
  16. Гугл переводчик переводчик Google Обновление Google Translate Добавлены новые языки и улучшена поддержка существующих.  Улучшена поддержка языков с...
  17. Дедуктивно-номологическая модель Дедуктивно-номологическая модель Дедуктивно-номологическая модель (DN-модель) научного объяснения — формальный подход к объяснению вопросов «Почему…?»  DN-модель представляет...
  18. Модель актера Модель актера Определение и история модели актора Модель актора — это парадигма программирования, которая позволяет описывать...
  19. Список английских слов французского происхождения Список английских слов французского происхождения Французский язык оказал значительное влияние на английский язык.  Заимствования из французского...
  20. Модель ввода-вывода Модель «затраты–выпуск» История и развитие модели «Затраты-выпуск» Модель «Затраты-выпуск» была разработана Василием Леонтьевым в 1930-х годах. ...
  21. Государственные финансы Государственные финансы Основы государственных финансов Государственные финансы охватывают доходы и расходы правительства, включая налоги, займы и...

Оставьте комментарий

Прокрутить вверх