המלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך
-
@sivan22 נתקלתי בבעיה:
Error code: 400 - {'error': {'message': 'dictalm2 does not support tools', 'type': 'api_error', 'param': None, 'code': None}}
עשיתי טסט לשני המודלים ועובדים מצוין.
גם כשאני מריץ ollama run dictalm2 זה עובד מצוין
מה שמעניין עוד זה שברקע עובד ollama_llama_server.exe בכל המרץ [ותופס את כל הCPU].
זה נראה שהבעיה היא בתקשורת שבין kotaemon לollama כאילו משהו בקריאה לapi של ollama לא תקיןעריכה: עכשיו ראיתי שמדברים על בעיה דומה כאן https://github.com/ollama/ollama/issues/5793
וכנראה שהמודל שהעליתי dictalm2 לא מתאים
הענין הוא שהמודל ש @sivan22 העלה לא עובד לי, אז העליתי מודל דומה.
יש מישהו שזה עובד לו? -
-