fix: bump max_tokens to 4096, temp to 0.7 for Qwen3.6 UD
This commit is contained in:
1 parent
672b25fe15
commit
ed7d4943e3
3 files changed
+3
-3
No files matched your search
@@ -1018,7 +1018,7 @@ def synthesize_report(topic, all_articles, lang="ru"):
|
|||||||
f"Составь структурированный отчёт. Все факты подкрепляй цитатами [N]."
|
f"Составь структурированный отчёт. Все факты подкрепляй цитатами [N]."
|
||||||
)
|
)
|
||||||
|
|
||||||
report = llm_call(system, prompt, max_tokens=4096, temperature=0.2)
|
report = llm_call(system, prompt, max_tokens=4096, temperature=0.7)
|
||||||
if not report:
|
if not report:
|
||||||
report = "# Ошибка синтеза отчёта\n\nНе удалось сгенерировать отчёт."
|
report = "# Ошибка синтеза отчёта\n\nНе удалось сгенерировать отчёт."
|
||||||
|
|
||||||
|
|||||||
@@ -196,7 +196,7 @@ def deduplicate(results):
|
|||||||
# ─── Sync LLM call ────────────────────────────────────────────────────────────
|
# ─── Sync LLM call ────────────────────────────────────────────────────────────
|
||||||
|
|
||||||
|
|
||||||
def llm_chat(system, prompt, max_tokens=2000):
|
def llm_chat(system, prompt, max_tokens=4096):
|
||||||
"""Запрос к OpenAI-совместимому API (llama-server)."""
|
"""Запрос к OpenAI-совместимому API (llama-server)."""
|
||||||
payload = {
|
payload = {
|
||||||
"model": LLM_MODEL,
|
"model": LLM_MODEL,
|
||||||
|
|||||||
@@ -34,7 +34,7 @@ REASON_FIRST_PREFIX = (
|
|||||||
|
|
||||||
# ─── LLM Call с retry ──────────────────────────────────────────────────────────
|
# ─── LLM Call с retry ──────────────────────────────────────────────────────────
|
||||||
|
|
||||||
def llm_call_raw(system, user, max_tokens=2048, temperature=None, model=None):
|
def llm_call_raw(system, user, max_tokens=4096, temperature=None, model=None):
|
||||||
"""Одиночный вызов LLM. Возвращает текст или None."""
|
"""Одиночный вызов LLM. Возвращает текст или None."""
|
||||||
if temperature is None:
|
if temperature is None:
|
||||||
temperature = LLM_TEMPERATURE
|
temperature = LLM_TEMPERATURE
|
||||||
|
|||||||
Reference in new issue
Block a user