> For the complete documentation index, see [llms.txt](https://enaennprompt.gitbook.io/enaenn/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://enaennprompt.gitbook.io/enaenn/guides/gaidy-i-prompty-ot-enaenn/faq-dlya-novichkov/untitled.md).

# Untitled

**Что такое reasoning модели? Чем они отличаются от обычных? Что такое гибрид?**

В целом все ИИшки предсказывают следующее слово, руководствуясь контекстом предыдущих и базой, на которой были обучены.

Так работают и reasoning, и non-reasoning модели. Разница между ними в том, что перед генерацией ответа reasoning модель разбивает сложный вопрос на шаги. Это позволяет дать более логичный и обоснованный ответ, но скорость генерации при этом падает. Reasoning модель часто используют для кодинга и вычислений, так что она подойдет для ролевых, в которых все время нужно вести подсчет урона, запаса маны/энергии, разрабатывать стратегию и тд. 

Гибридные модели включают в себя оба подхода, между которыми можно переключаться. 

***

**На что влияют Temperature, Top P, Top K, Frequency Penalty, Repetition Penalty и прочие значения генерации?**

Как я уже писала ранее, ИИ на каждом шаге генерации текста предсказывает следующее слово, основываясь на контексте предыдущих и базе, на которой он был обучен. 1 слово занимает \~3-4 токена контекстной памяти в среднем (у каждой модели свой счетчик)

Каждому слову присваивается значение, которое показывает вероятность его использования в генерируемой последовательности. На распределение *значений вероятности* влияет параметр **temperature (температура).** Параметры **Top K** и **Top P** помогают *сузить выборку следующего слова*.

<details>

<summary>Temperature</summary>

**Чем ниже температура, тем более предопределенным будет наш результат.** Модель будет генерировать то, что она посчитает наиболее вероятным ответом в данном контексте. Скорость генерации также снижается.

Если рероллить при температуре 0, ИИ будет генерировать практически один и тот же ответ с минимальными различиями.

**Чем температура выше, тем больше разнообразия и неожиданности.** Модель может отклоняться от банальных ответов, что делает их более креативными и хаотичными, но и потенциально провоцирует генерацию ответа с ошибками.

При температуре 2 ИИ будет выдавать рандомный набор символов.

</details>

<details>

<summary>Top K</summary>

**Top K** влияет на то, какие слова будут выбраны для генерации текста

**Top-K Sampling:** Top-K sampling involves selecting the top K most likely words from the probability distribution and then sampling the next word only from this subset. Example: Imagine a scenario where an LLM is prompted with "The capital of France is...". The model might assign the highest probabilities to words like "Paris", "a", "known", etc. With Top-K sampling where K=5, the model would only consider the top 5 words with the highest probability for its next output.

**Плюсы:**

* Уменьшает шансы на генерацию маловероятных слов.
* Предоставляет более контролируемый и предсказуемый результат.

**Минусы:**

* Иногда может слишком сильно ограничивать, особенно при низких значениях.
* Не всегда может передать разнообразие и богатство языка, что приводит к повторяющимся и клишированным фразам в тексте.

{% hint style="info" %}
Примерная схема работы данного параметра:

{% endhint %}

</details>

***