Все статьи

Внутри LLM: что происходит между промптом и следующим токеном

Прогулка по конвейеру языковой модели с настоящими числами: токены, эмбеддинги, блок трансформера, softmax и сэмплер, KV-кэш и обучение. С двумя интерактивами прямо в тексте.

14 мин чтения