К содержимому
fedi.software

Нейросети 2023 года: кто и что выпустил

Все заметные релизы моделей по месяцам: разработчик и его страна, открытые или закрытые веса, тип, контекст, размер открытых моделей — и в каких задачах модели каждого года лидируют сегодня.

2023 релизов: 9 · с открытыми весами: 5

Модели 2023 года — лидеры задач сегодня

Декабрь

  1. Mistral 7B Instruct v0.2 HFMistral AIФранцияОткрытые весаLLM7.2B
  2. C mixtral-8x7b-instruct-v0.1Mistral AIФранцияОткрытые весаLLM32K

Ноябрь

  1. Qwen 72B HFAlibabaКитайОткрытые весаLLM72.3B
  2. D dall-e-3OpenAIСоединенные ШтатыЗакрытаяИзображения
  3. C GPT 4OpenAIСоединенные ШтатыЗакрытаяLLM8K
  4. C GPT-4 TurboOpenAIСоединенные ШтатыЗакрытаяЗрение (VLM)128K

Июль

  1. Llama 2 7b hf HFMetaСоединенные ШтатыОткрытые весаLLM6.7B

Март

  1. C GPT-3.5 TurboOpenAIСоединенные ШтатыЗакрытаяLLM16K

Февраль

  1. pythia-6.9b HFEleutherAIСоединенные ШтатыОткрытые весаLLM7B

Даты релизов — из каталогов моделей (models.dev, LiteLLM, Hugging Face); модели, у которых известен только год выхода, не показаны. Лидеры года — его модели, которые сегодня выше всех в наших рейтингах.

Обновлено · Источники: models.dev (MIT), LiteLLM (MIT), LMArena (CC BY 4.0), Hugging Face

Arena (LMArena) scores: Arena Leaderboard Dataset by LMArena, CC BY 4.0. Modified by fedi.software (filtered, re-ranked, aggregated). Not endorsed by LMArena.

Что на этой ленте

Релизы моделей выстроены по времени: сверху самый свежий год, внутри — разбивка по месяцам. Одна строка — одна модель: разработчик и страна, где находится его штаб-квартира, открыты веса или нет, тип модели и окно контекста. У открытых моделей добавлено число параметров, а у моделей со смесью экспертов (MoE) второе число — активные параметры, которые работают на каждом токене.

В ленту попадают модели лабораторий, у которых есть оценка в наших рейтингах или опубликованные веса на Hugging Face. Перепродавцы, маршрутизаторы и любительские дообучения сюда не входят, чтобы лента оставалась историей настоящих разработчиков.

Как читать отметки

  • «Открытые веса» (open weights) — файлы модели можно скачать и запустить у себя; сколько для этого нужно памяти, подскажет схема какая модель влезет в ваше железо.
  • «Закрытая» — доступ только через приложение или API разработчика.
  • LLM — текстовая модель, «Зрение (VLM)» понимает ещё и картинки, «Рассуждающая» сначала разбирает задачу по шагам и только потом отвечает: медленнее и дороже за ответ, зато сильнее в математике, коде и планировании.

Закрытые разработчики число параметров не раскрывают, поэтому у них эта графа пустая, а не заполнена догадкой.

Лидеры каждого года

Над каждым годом — полоса с моделями этого года, которые сегодня выше всех в текстовом рейтинге, программировании, веб-разработке, агентах, изображениях и видео. Это взгляд из сегодняшнего дня, а не таблица лидеров на тот момент: весенний релиз мог уступить первенство уже к осени, и полоса показывает, как его поколение выглядит в рейтингах сейчас.

Фильтры и оговорки

Ленту можно сузить по разработчику, стране, открытым весам и типу или найти модель поиском. У каждого года есть своя страница — ежегодный выпуск, на который удобно ссылаться. Даты берутся из каталогов моделей (models.dev, LiteLLM, Hugging Face) и означают день появления модели там, поэтому от анонса они могут отличаться на несколько дней. Модели, для которых известен только год выхода, не показаны. Страна — это место штаб-квартиры компании, а не её дата-центров или пользователей.