להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@דאנציג התיקייה MODELES ריקה, להניח את המודלים ישר בתיקיה?
אני ניסיתי ולא הצלחתי, נכתב לי u have 0 models, taking up 0 of disk space.
You have 1 uncategorized model files
אולי @sivan22 ידריך אותנו כיצד התוכנה מוצאת את המודל. -
@REFAEL-2
טוב, עכשיו הצלחתי להבין (בסיוע dictalm2.0-instruct.Q4_K_M.gguf) מה צריך לעשות.
-
- צריך להוסיף את התיקיות בנתיב שיהיה כך:
C:\Users<שם המשתמש שלך> .cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF
ולהכניס לתוך התיקייה האחרונה את המודל עם הסיומת GGUF.
-
- לבחור בתוכנה LM STUDIO את התיקייה MY MODLES
ולבחור שם את Show in File Explorer.
לאחר כמה משחקים לא זוכר בדיוק את השלבים, בסוף הוא קולט את המודל.
עריכה:
בשורה למעלה
- לבחור בתוכנה LM STUDIO את התיקייה MY MODLES
Local models folder
צריך להיות מוגדר הנתיב עד לתיקיית MODELS, ולא התיקיות הפנימיות היכן שהמודל נמצא בפועל.%userprofile%\.cache\lm-studio\models
-
- בחר בAI CHAT
שם למעלה יש אפשרות לבחור מודל, יופיע לך המודל dictalm2.0-instruct.Q4_K_M.gguf בחר אותו, הוא יטען, ואצלי יכלתי לשאול כבר שאלות.
- בחר בAI CHAT
-
-
@ארי כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@sivan22 הורדתי את של דיקטה אבל יש לי שגיאה כמו לו וכן זה לא בסיומת gguf מה אפשר לעשות?
@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@sivan22
כשאני מפעיל את הקובץ BAT של @NH-LOCAL מופיע לי ההודעה:Active code page: 1255 File Not Found note: if you have an AMD or NVIDIA GPU then you need to pass -ngl 9999 to enable GPU offloading error: invalid parameter for argument: -m Press any key to continue . . .
שאלה אחת מסבירה את השנייה. קובץ הבאט מחפש קובץ עם סיומת GGUF. הכנסת לו מודל מסוג אחר - למה נראה לך שזה יעבוד?
-
@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
כדי להשתמש בו בLM studio צריך להניח אותו בנתיב הבא: C:\Users<שם המשתמש שלך> .cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF
ההוראות מיועדות לשימוש עם תוכנת lm-studio. להורדת התוכנה ולצורת השימוש בה - עברו על השרשור לעיל!
במילים פשוטות יותר:
-
פתחו את "הפעל" באמצעות לחיצה על מקש ווינדוס + R:
-
הכניסו את הנתיב הבא והקישו אנטר:
%userprofile%\.cache\lm-studio\models
- בתיקיה שנפתח צרו תיקיה חדשה בשם dicta-il
- בתוך תיקיה זו צרו תיקיה חדשה בשם dictalm2.0-instruct-GGUF
- העתיקו את קובץ המודל שהורדתם לתוך התיקיה הפנימית שיצרתם!
(השם שלו אמור להיות "dictalm2.0-instruct.Q4_K_M.gguf")
זהו זה!
לקיצור התהליך, הורידו את קובץ הבאט המצורף ופשוט תגררו את הקובץ dictalm2.0-instruct.Q4_K_M.ggu על גבי קובץ הבאט. זה יעתיק את הקובץ באופן אוטומטי למיקום הנכון.
אם ההעתקה הצליחה - הסקריפט יסתיים עם הודעה באנגלית שקובץ אחד הועתק
עריכה: הקובץ עודכן כדי שיעבוד בצורה טובה יותר
-
-
@אלף-שין
אני חושב ש @משה-מזרחי אוהב לעזור בענין זה, ויש לו גם את הדרך.@משה-מזרחי יש שישמחו שתעלה את הקובץ הזה (כ5GB) למקור שאינו חסום בסינונים מסויימים.
יישר כוחך!!!
-
@sivan22 @דאנציג @NH-LOCAL
עשיתי את ההוראה האחרונה של @sivan22, ועדיין התוכנה לא מזהה את הקובץ הוא כותב לי כך
You have 0 models, taking up 0 of disk space.
You have 1 uncategorized model files
הLocal models folder הוא; C:\Users\User.cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF
איפה הטעות שלי???