Kali Novskaya

🌸Llama 3.3 70B🌸
#nlp #про_nlp

Минорный релиз Llama — Llama 3.3 70B

(Первая модель, где есть какой-то мой контрибьюшн)

Выросли почти все основные метрики в сравнении с Llama 3.1 70B, instruction following на уровне лучше 405B, при этом на меньшей модели.

🟣Что поменяли:
— новый SFT датасет на 25млн примеров
— лучше математика, кодинг
— лучше instruction following, теперь даже лучше 405B модели
— function calling такой же
— долили русский и китайский, в целом мультиязычные метрики выросли
— MMLU тоже вырос


🟣HF https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct

Please open Telegram to view this post

VIEW IN TELEGRAM

huggingface.co

meta-llama/Llama-3.3-70B-Instruct · Hugging Face

We’re on a journey to advance and democratize artificial intelligence through open source and open science.

www.group-telegram.com/ms/rybolos_channel.com/1327

15.2K viewsedited  Dec 6 at 17:14

🌸Llama 3.3 70B🌸
#nlp #про_nlp

Минорный релиз Llama — Llama 3.3 70B

(Первая модель, где есть какой-то мой контрибьюшн)

Выросли почти все основные метрики в сравнении с Llama 3.1 70B, instruction following на уровне лучше 405B, при этом на меньшей модели.

🟣Что поменяли:
— новый SFT датасет на 25млн примеров
— лучше математика, кодинг
— лучше instruction following, теперь даже лучше 405B модели
— function calling такой же
— долили русский и китайский, в целом мультиязычные метрики выросли
— MMLU тоже вырос


🟣HF https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct