להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
@ארי כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@sivan22 הורדתי את של דיקטה אבל יש לי שגיאה כמו לו וכן זה לא בסיומת gguf מה אפשר לעשות?
@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@sivan22
כשאני מפעיל את הקובץ BAT של @NH-LOCAL מופיע לי ההודעה:Active code page: 1255 File Not Found note: if you have an AMD or NVIDIA GPU then you need to pass -ngl 9999 to enable GPU offloading error: invalid parameter for argument: -m Press any key to continue . . .
שאלה אחת מסבירה את השנייה. קובץ הבאט מחפש קובץ עם סיומת GGUF. הכנסת לו מודל מסוג אחר - למה נראה לך שזה יעבוד?
-
@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
כדי להשתמש בו בLM studio צריך להניח אותו בנתיב הבא: C:\Users<שם המשתמש שלך> .cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF
ההוראות מיועדות לשימוש עם תוכנת lm-studio. להורדת התוכנה ולצורת השימוש בה - עברו על השרשור לעיל!
במילים פשוטות יותר:
-
פתחו את "הפעל" באמצעות לחיצה על מקש ווינדוס + R:
-
הכניסו את הנתיב הבא והקישו אנטר:
%userprofile%\.cache\lm-studio\models
- בתיקיה שנפתח צרו תיקיה חדשה בשם dicta-il
- בתוך תיקיה זו צרו תיקיה חדשה בשם dictalm2.0-instruct-GGUF
- העתיקו את קובץ המודל שהורדתם לתוך התיקיה הפנימית שיצרתם!
(השם שלו אמור להיות "dictalm2.0-instruct.Q4_K_M.gguf")
זהו זה!
לקיצור התהליך, הורידו את קובץ הבאט המצורף ופשוט תגררו את הקובץ dictalm2.0-instruct.Q4_K_M.ggu על גבי קובץ הבאט. זה יעתיק את הקובץ באופן אוטומטי למיקום הנכון.
אם ההעתקה הצליחה - הסקריפט יסתיים עם הודעה באנגלית שקובץ אחד הועתק
עריכה: הקובץ עודכן כדי שיעבוד בצורה טובה יותר
-
-
@אלף-שין
אני חושב ש @משה-מזרחי אוהב לעזור בענין זה, ויש לו גם את הדרך.@משה-מזרחי יש שישמחו שתעלה את הקובץ הזה (כ5GB) למקור שאינו חסום בסינונים מסויימים.
יישר כוחך!!!
-
@sivan22 @דאנציג @NH-LOCAL
עשיתי את ההוראה האחרונה של @sivan22, ועדיין התוכנה לא מזהה את הקובץ הוא כותב לי כך
You have 0 models, taking up 0 of disk space.
You have 1 uncategorized model files
הLocal models folder הוא; C:\Users\User.cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF
איפה הטעות שלי??? -
@REFAEL-2 לא העתקת את זה למיקום הנכון. העליתי כעת קובץ באט לעיל - תשתמש בו
לחילופין:
במקום הנתיב הזה
C:\Users\User.cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF
תכניס את הקובץ לנתיב הזה:
%userprofile%\.cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF\
-
פתחתי את קובץ הBAT וזה מה שהוא נתן: