להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!

[sivan22]

@sivan22 לסיכומם של דברים, המודל משתפר מאד כשמשתמשים בו לפי הספר, ועדיין הוא לא מגרד את המודלים הגדולים ממש (ChatGPT או Gemini).

הנה מג'מיני:

דיני בתי ערי חומה: פירוט הלכתי
בתי ערי חומה נוגעים לשני תחומים הלכתיים עיקריים: טומאה וטהרה ושנת השמיטה.
טומאה וטהרה:
הגדרה: בית שנמצא בתוך עיר מוקפת חומה מימות יהושע בן נון. חומה זו צריכה לעמוד בתנאים מסויימים, כמו גובה ורוחב מספקים.
דינים:
קבורה: קבר שנמצא בתוך בית ערי חומה מטמא את הבית בטומאת שבעה, בניגוד לקבר שנמצא מחוץ לעיר, אשר מטמא את הבית בטומאת עולם.
בית הפרס: בית ערי חומה שנטמא בטומאת מת ואינו טהור בשעת השקיעה של יום הכיפורים, נטמא בטומאת שבעה נוספת, הנקראת "בית הפרס".
טהרה: ניתן לטהר בית ערי חומה מטומאת מת באמצעות הזאת מי חטאת ביום השלישי וביום השביעי לטומאה.
שנת השמיטה:
ירקות שגדלו בתוך בתי ערי חומה:
קדושת שביעית: ירקות אלו אינם מקבלים קדושת שביעית, ולכן מותר לסחור בהם כרגיל.
ביעור: אין חובה לבעֵר ירקות אלו בסוף שנת השמיטה.
היתר מכירה: ישנם פוסקים הסוברים כי היתר המכירה, בו מוכרים את הקרקע לגוי בשנת השמיטה, תקף רק לגבי ירקות שגדלים בתוך בתי ערי חומה.
מחלוקות ופוסקים:
הגדרת חומה: קיימת מחלוקת בין הפוסקים לגבי הגדרת חומה לעניין דיני בתי ערי חומה. יש הסוברים כי החומה צריכה להיות בנויה מאבנים, ואילו אחרים סוברים כי גם גדר עשויה מחומרים אחרים יכולה להיחשב כחומה.
יישום הדינים בזמן הזה: ישנה מחלוקת האם דיני בתי ערי חומה נוהגים בזמן הזה, כאשר אין לנו ערים מוקפות חומה מימות יהושע בן נון. יש הסוברים כי הדינים אינם נוהגים כלל, ואילו אחרים סוברים כי ניתן ליישם אותם על ערים מוקפות חומה שנבנו לאחר מכן.
מקורות:
משנה תורה לרמב"ם, הלכות טומאת מת
שולחן ערוך, יורה דעה, סימנים שס"ח-שס"ט
שו"ת הרשב"א

[דאנציג]

@sivan22
הורדתי את דגם-00003-of-00003.safetensors בנפרד, כיצד אני יכול להפעיל אותו עם התוכנה LM סטודיו?
זה נראה שיש רק אפשרות להוריד.

[sivan22]

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@sivan22
הורדתי את דגם-00003-of-00003.safetensors בנפרד, כיצד אני יכול להפעיל אותו עם התוכנה LM סטודיו?
זה נראה שיש רק אפשרות להוריד.

זה לא הקובץ הנכון, צריך קובץ בסיומת gguf. הנה הקישור הישיר: (עריכה: טעיתי, עכשיו זה הקישור הנכון) https://huggingface.co/dicta-il/dictalm2.0-instruct-GGUF/resolve/main/dictalm2.0-instruct.Q4_K_M.gguf

כדי להשתמש בו בLM studio צריך להניח אותו בנתיב הבא: C:\Users<שם המשתמש שלך> .cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF

אפשר כנראה להוריד ישירות, אבל יש שגיאה כנראה קשור לנטפרי אין לי כח לטפל בזה.

[ארי]

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

כדי להשתמש בו בLM studio

מה זה?

[REFAEL 2]

שמישהו יעשה למען ה' רשימה מסודרת של הקבצים שצריך להוריד כדי שהתוכנה תפעל כמו שצריך

[עם ישראל חיי]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

שמישהו יעשה למען ה' רשימה מסודרת של הקבצים שצריך להוריד כדי שהתוכנה תפעל כמו שצריך

מצטרף גם לבקשה

[דאנציג]

@ארי כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

כדי להשתמש בו בLM studio

מה זה?

התוכנה שרואים בתמונות שהעלה @sivan22 לעיל - דרך נוספת להפעיל את המודל, חוץ מהקובץ BAT של @NH-LOCAL שמופיע בפוסט הראשון.

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

שמישהו יעשה למען ה' רשימה מסודרת של הקבצים שצריך להוריד כדי שהתוכנה תפעל כמו שצריך

המודל של דיקטה בעברית ניתן להוריד מכאן, או לחילופין: קישור ישיר.
ניתן להפעיל את הקובץ על פי ההוראות בפוסט הראשון, או עם תוכנת LM studio עיין כאן.

עריכה:
כאן יש קובץ BAT להעתקת המודל למיקום הנכון בתוכנה.

וכאן קצת הוראות.

[REFAEL 2]

פוסט זה נמחק!

[דאנציג]

@REFAEL-2

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

כדי להשתמש בו בLM studio צריך להניח אותו בנתיב הבא: C:\Users<שם המשתמש שלך> .cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF

[REFAEL 2]

@דאנציג התיקייה MODELES ריקה, להניח את המודלים ישר בתיקיה?

[דאנציג]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@דאנציג התיקייה MODELES ריקה, להניח את המודלים ישר בתיקיה?

אני ניסיתי ולא הצלחתי, נכתב לי u have 0 models, taking up 0 of disk space.
You have 1 uncategorized model files
אולי @sivan22 ידריך אותנו כיצד התוכנה מוצאת את המודל.

[REFAEL 2]

@דאנציג @sivan22
ניסיתי גם ליצור תיקיה בשם dicta-il ולהניח את המודל בתוכה, ועדיין התוכנה לא זיהתה את המודל

[דאנציג]

@REFAEL-2
טוב, עכשיו הצלחתי להבין (בסיוע dictalm2.0-instruct.Q4_K_M.gguf ) מה צריך לעשות.

• 1. צריך להוסיף את התיקיות בנתיב שיהיה כך:

C:\Users<שם המשתמש שלך> .cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF

ולהכניס לתוך התיקייה האחרונה את המודל עם הסיומת GGUF.

• 2. לבחור בתוכנה LM STUDIO את התיקייה MY MODLES ולבחור שם את Show in File Explorer.
     לאחר כמה משחקים לא זוכר בדיוק את השלבים, בסוף הוא קולט את המודל.
     עריכה:
     בשורה למעלה

Local models folder
צריך להיות מוגדר הנתיב עד לתיקיית MODELS, ולא התיקיות הפנימיות היכן שהמודל נמצא בפועל.

%userprofile%\.cache\lm-studio\models

• 3. בחר בAI CHAT שם למעלה יש אפשרות לבחור מודל, יופיע לך המודל dictalm2.0-instruct.Q4_K_M.gguf בחר אותו, הוא יטען, ואצלי יכלתי לשאול כבר שאלות.

[REFAEL 2]

@דאנציג עד השלב של Show in File Explorer הכל ברור, מה הלאה
לא הצלחתי לשחק את המשחקים שלך

[דאנציג]

@REFAEL-2
המשחקים הכוונה היא שהתוכנה תמצא את המודל שבתוך התיקייה, ברגע שהיא מוצאת אז הכל מסתדר, אולי בהמשך יהיה לי זמן לשחזר את מה שעשיתי לכתוב מסודר.

[REFAEL 2]

@דאנציג התוכנה איתרה את המודל, ועדיין כשאני מתחיל שיחה היא אומרת לי שאין מודל זמין

[REFAEL 2]

התוכנה כותבת לי שיש לי מודל אחד uncategorized

[NH.LOCAL]

@ארי כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@sivan22 הורדתי את של דיקטה אבל יש לי שגיאה כמו לו וכן זה לא בסיומת gguf מה אפשר לעשות?

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@sivan22
כשאני מפעיל את הקובץ BAT של @NH-LOCAL מופיע לי ההודעה:

Active code page: 1255
File Not Found
note: if you have an AMD or NVIDIA GPU then you need to pass -ngl 9999 to enable GPU offloading
error: invalid parameter for argument: -m
Press any key to continue . . .

שאלה אחת מסבירה את השנייה. קובץ הבאט מחפש קובץ עם סיומת GGUF. הכנסת לו מודל מסוג אחר - למה נראה לך שזה יעבוד?

[NH.LOCAL]

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

כדי להשתמש בו בLM studio צריך להניח אותו בנתיב הבא: C:\Users<שם המשתמש שלך> .cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF

ההוראות מיועדות לשימוש עם תוכנת lm-studio. להורדת התוכנה ולצורת השימוש בה - עברו על השרשור לעיל!

במילים פשוטות יותר:

• פתחו את "הפעל" באמצעות לחיצה על מקש ווינדוס + R:

• הכניסו את הנתיב הבא והקישו אנטר:

%userprofile%\.cache\lm-studio\models

• בתיקיה שנפתח צרו תיקיה חדשה בשם dicta-il
• בתוך תיקיה זו צרו תיקיה חדשה בשם dictalm2.0-instruct-GGUF
• העתיקו את קובץ המודל שהורדתם לתוך התיקיה הפנימית שיצרתם!
  (השם שלו אמור להיות "dictalm2.0-instruct.Q4_K_M.gguf")

זהו זה!

---

לקיצור התהליך, הורידו את קובץ הבאט המצורף ופשוט תגררו את הקובץ dictalm2.0-instruct.Q4_K_M.ggu על גבי קובץ הבאט. זה יעתיק את הקובץ באופן אוטומטי למיקום הנכון.

אם ההעתקה הצליחה - הסקריפט יסתיים עם הודעה באנגלית שקובץ אחד הועתק

העתק מודל אוטומטית.bat

עריכה: הקובץ עודכן כדי שיעבוד בצורה טובה יותר

[אלף שין]

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@aiib שוחרר עכשיו מודל איכותי: DictaLm2.0 גודל: 5 גיגה.

חסום לרבים מאיתנו.....
מישהוא יכול להעלות לדרייב?