소스 검색

修改参数

gushoubang 1 년 전
부모
커밋
b1e3a84441
1개의 변경된 파일3개의 추가작업 그리고 2개의 파일을 삭제
  1. 3 2
      app.py

+ 3 - 2
app.py

@@ -63,11 +63,12 @@ def inputMsg():
 
     try:
         res = ollama.generate(
-            model="qwen2:72b",
+            model="qwen2:7b",
             stream=False,
             prompt=prompt,
             options={"temperature": 0},
-            format="json"
+            format="json",
+            keep_alive=-1
         )
         print(res["response"])
     except Exception as e: