להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!

[REFAEL 2]

@דאנציג @sivan22
ניסיתי גם ליצור תיקיה בשם dicta-il ולהניח את המודל בתוכה, ועדיין התוכנה לא זיהתה את המודל

[דאנציג]

@REFAEL-2
טוב, עכשיו הצלחתי להבין (בסיוע dictalm2.0-instruct.Q4_K_M.gguf ) מה צריך לעשות.

• 1. צריך להוסיף את התיקיות בנתיב שיהיה כך:

C:\Users<שם המשתמש שלך> .cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF

ולהכניס לתוך התיקייה האחרונה את המודל עם הסיומת GGUF.

• 2. לבחור בתוכנה LM STUDIO את התיקייה MY MODLES ולבחור שם את Show in File Explorer.
     לאחר כמה משחקים לא זוכר בדיוק את השלבים, בסוף הוא קולט את המודל.
     עריכה:
     בשורה למעלה

Local models folder
צריך להיות מוגדר הנתיב עד לתיקיית MODELS, ולא התיקיות הפנימיות היכן שהמודל נמצא בפועל.

%userprofile%\.cache\lm-studio\models

• 3. בחר בAI CHAT שם למעלה יש אפשרות לבחור מודל, יופיע לך המודל dictalm2.0-instruct.Q4_K_M.gguf בחר אותו, הוא יטען, ואצלי יכלתי לשאול כבר שאלות.

[REFAEL 2]

@דאנציג עד השלב של Show in File Explorer הכל ברור, מה הלאה
לא הצלחתי לשחק את המשחקים שלך

[דאנציג]

@REFAEL-2
המשחקים הכוונה היא שהתוכנה תמצא את המודל שבתוך התיקייה, ברגע שהיא מוצאת אז הכל מסתדר, אולי בהמשך יהיה לי זמן לשחזר את מה שעשיתי לכתוב מסודר.

[REFAEL 2]

@דאנציג התוכנה איתרה את המודל, ועדיין כשאני מתחיל שיחה היא אומרת לי שאין מודל זמין

[REFAEL 2]

התוכנה כותבת לי שיש לי מודל אחד uncategorized

[NH.LOCAL]

@ארי כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@sivan22 הורדתי את של דיקטה אבל יש לי שגיאה כמו לו וכן זה לא בסיומת gguf מה אפשר לעשות?

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@sivan22
כשאני מפעיל את הקובץ BAT של @NH-LOCAL מופיע לי ההודעה:

Active code page: 1255
File Not Found
note: if you have an AMD or NVIDIA GPU then you need to pass -ngl 9999 to enable GPU offloading
error: invalid parameter for argument: -m
Press any key to continue . . .

שאלה אחת מסבירה את השנייה. קובץ הבאט מחפש קובץ עם סיומת GGUF. הכנסת לו מודל מסוג אחר - למה נראה לך שזה יעבוד?

[NH.LOCAL]

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

כדי להשתמש בו בLM studio צריך להניח אותו בנתיב הבא: C:\Users<שם המשתמש שלך> .cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF

ההוראות מיועדות לשימוש עם תוכנת lm-studio. להורדת התוכנה ולצורת השימוש בה - עברו על השרשור לעיל!

במילים פשוטות יותר:

• פתחו את "הפעל" באמצעות לחיצה על מקש ווינדוס + R:

• הכניסו את הנתיב הבא והקישו אנטר:

%userprofile%\.cache\lm-studio\models

• בתיקיה שנפתח צרו תיקיה חדשה בשם dicta-il
• בתוך תיקיה זו צרו תיקיה חדשה בשם dictalm2.0-instruct-GGUF
• העתיקו את קובץ המודל שהורדתם לתוך התיקיה הפנימית שיצרתם!
  (השם שלו אמור להיות "dictalm2.0-instruct.Q4_K_M.gguf")

זהו זה!

---

לקיצור התהליך, הורידו את קובץ הבאט המצורף ופשוט תגררו את הקובץ dictalm2.0-instruct.Q4_K_M.ggu על גבי קובץ הבאט. זה יעתיק את הקובץ באופן אוטומטי למיקום הנכון.

אם ההעתקה הצליחה - הסקריפט יסתיים עם הודעה באנגלית שקובץ אחד הועתק

העתק מודל אוטומטית.bat

עריכה: הקובץ עודכן כדי שיעבוד בצורה טובה יותר

[אלף שין]

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@aiib שוחרר עכשיו מודל איכותי: DictaLm2.0 גודל: 5 גיגה.

חסום לרבים מאיתנו.....
מישהוא יכול להעלות לדרייב?

[דאנציג]

@אלף-שין
אני חושב ש @משה-מזרחי אוהב לעזור בענין זה, ויש לו גם את הדרך.

@משה-מזרחי יש שישמחו שתעלה את הקובץ הזה (כ5GB) למקור שאינו חסום בסינונים מסויימים.

יישר כוחך!!!

[אלף שין]

וכמובן ואצ"ל שהקישור שתעלה יהיה עם תווים שימנעו חסימה אוטומטית.

[NH.LOCAL]

@דאנציג דיברתי אתו בפרטי לאחרונה, ואין לו אפשרות כזו בקובץ כל כך גדול

[אלף שין]

@NH-LOCAL
אולי אפשר לבקש מ @י-פל ?

[REFAEL 2]

@sivan22 @דאנציג @NH-LOCAL
עשיתי את ההוראה האחרונה של @sivan22, ועדיין התוכנה לא מזהה את הקובץ הוא כותב לי כך
You have 0 models, taking up 0 of disk space.
You have 1 uncategorized model files
הLocal models folder הוא; C:\Users\User.cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF
איפה הטעות שלי???

[NH.LOCAL]

@REFAEL-2 תקרא שוב את הפוסט הזה והפעם בעיון

[משה מזרחי]

@דאנציג
אני ינסה
יקח קצת זמן

[REFAEL 2]

@NH-LOCAL קראתי שוב ושוב
נראה לי שהבנתי ועשיתי הכל נכון
מי יכול לעזור לי

[NH.LOCAL]

@REFAEL-2 לא העתקת את זה למיקום הנכון. העליתי כעת קובץ באט לעיל - תשתמש בו

לחילופין:

במקום הנתיב הזה

C:\Users\User.cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF

תכניס את הקובץ לנתיב הזה:

%userprofile%\.cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF\

[tcrvodkxrvzurgho]

פתחתי את קובץ הBAT וזה מה שהוא נתן:

[REFAEL 2]

@NH-LOCAL
%userprofile%.cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF
זה בדיוק המיקום שבו היה הקובץ