Температура нужна, чтобы управлять тем, насколько предсказуемо или творчески модель выбирает следующее слово в ответе.
Пример: на вопрос «придумай название для кофейни» при температуре 0 модель почти каждый раз выдаст один и тот же самый очевидный вариант вроде «Кофейный дом», потому что берёт всегда самое вероятное продолжение. При температуре 0,7 варианты станут разнообразнее и интереснее, модель иногда выберет менее очевидное, но всё ещё осмысленное слово. При температуре 2 результат может превратиться в набор случайных, местами бессвязных слов, потому что модель начинает выбирать почти случайно даже среди маловероятных вариантов. Для задач, где важна точность и повторяемость - код, факты, расчёты - разумно ставить низкую температуру, для творческих задач вроде текстов, идей, стихов - повыше, но обычно не выше единицы-полутора.
Лучший ответ
v4-flash
v4-flash
Зачем нейросети нужна температура генерации?
Что делает параметр Температура управляет случайностью выбора следующего слова: модель на каждом шаге оценивает вероятности разных вариантов продолжения, и температура влияет на то, насколько строго она следует самому вероятному варианту. Низкие значения (около 0) Модель почти всегда берёт самый вероятный вариант слова - ответы становятся предсказуемыми, повторяемыми, но иногда скучными и однотипными. Средние значения (около 0,7-1) Баланс между связностью и разнообразием - обычно это значение по умолчанию у большинства сервисов, подходит для большинства задач. Высокие значения (около 1,5-2) Сильно возрастает случайность, текст может стать заметно менее связным, местами даже бессмысленным - подходит разве что для экспериментов с генерацией необычных идей. Важно: для фактических и точных задач берите значение ниже, для творческих - выше, но обычно не стоит превышать 1-1,2 для сохранения читаемости текста.