fix: bump max_tokens to 4096, temp to 0.7 for Qwen3.6 UD
This commit is contained in:
1 parent
672b25fe15
commit
ed7d4943e3
3 files changed
+3
-3
No files matched your search
@@ -1018,7 +1018,7 @@ def synthesize_report(topic, all_articles, lang="ru"):
|
||||
f"Составь структурированный отчёт. Все факты подкрепляй цитатами [N]."
|
||||
)
|
||||
|
||||
report = llm_call(system, prompt, max_tokens=4096, temperature=0.2)
|
||||
report = llm_call(system, prompt, max_tokens=4096, temperature=0.7)
|
||||
if not report:
|
||||
report = "# Ошибка синтеза отчёта\n\nНе удалось сгенерировать отчёт."
|
||||
|
||||
|
||||
@@ -196,7 +196,7 @@ def deduplicate(results):
|
||||
# ─── Sync LLM call ────────────────────────────────────────────────────────────
|
||||
|
||||
|
||||
def llm_chat(system, prompt, max_tokens=2000):
|
||||
def llm_chat(system, prompt, max_tokens=4096):
|
||||
"""Запрос к OpenAI-совместимому API (llama-server)."""
|
||||
payload = {
|
||||
"model": LLM_MODEL,
|
||||
|
||||
@@ -34,7 +34,7 @@ REASON_FIRST_PREFIX = (
|
||||
|
||||
# ─── LLM Call с retry ──────────────────────────────────────────────────────────
|
||||
|
||||
def llm_call_raw(system, user, max_tokens=2048, temperature=None, model=None):
|
||||
def llm_call_raw(system, user, max_tokens=4096, temperature=None, model=None):
|
||||
"""Одиночный вызов LLM. Возвращает текст или None."""
|
||||
if temperature is None:
|
||||
temperature = LLM_TEMPERATURE
|
||||
|
||||
Reference in new issue
Block a user