fix: bump max_tokens to 4096, temp to 0.7 for Qwen3.6 UD

This commit is contained in:
nik committed 2026-06-29 23:17:08 +05:00
1 parent 672b25fe15
commit ed7d4943e3
3 files changed
+3 -3

No files matched your search

+1 -1
View File
@@ -1018,7 +1018,7 @@ def synthesize_report(topic, all_articles, lang="ru"):
f"Составь структурированный отчёт. Все факты подкрепляй цитатами [N]." f"Составь структурированный отчёт. Все факты подкрепляй цитатами [N]."
) )
report = llm_call(system, prompt, max_tokens=4096, temperature=0.2) report = llm_call(system, prompt, max_tokens=4096, temperature=0.7)
if not report: if not report:
report = "# Ошибка синтеза отчёта\n\nНе удалось сгенерировать отчёт." report = "# Ошибка синтеза отчёта\n\nНе удалось сгенерировать отчёт."
+1 -1
View File
@@ -196,7 +196,7 @@ def deduplicate(results):
# ─── Sync LLM call ──────────────────────────────────────────────────────────── # ─── Sync LLM call ────────────────────────────────────────────────────────────
def llm_chat(system, prompt, max_tokens=2000): def llm_chat(system, prompt, max_tokens=4096):
"""Запрос к OpenAI-совместимому API (llama-server).""" """Запрос к OpenAI-совместимому API (llama-server)."""
payload = { payload = {
"model": LLM_MODEL, "model": LLM_MODEL,
+1 -1
View File
@@ -34,7 +34,7 @@ REASON_FIRST_PREFIX = (
# ─── LLM Call с retry ────────────────────────────────────────────────────────── # ─── LLM Call с retry ──────────────────────────────────────────────────────────
def llm_call_raw(system, user, max_tokens=2048, temperature=None, model=None): def llm_call_raw(system, user, max_tokens=4096, temperature=None, model=None):
"""Одиночный вызов LLM. Возвращает текст или None.""" """Одиночный вызов LLM. Возвращает текст или None."""
if temperature is None: if temperature is None:
temperature = LLM_TEMPERATURE temperature = LLM_TEMPERATURE