להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!

[aiib]

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@aiib שוחרר עכשיו מודל איכותי: DictaLm2.0 גודל: 5 גיגה.

מודל למה? לתמונות?

[sivan22]

@aiib מודל שפה חדש מבית דיקטה פרטים כאן.

[NH.LOCAL]

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@aiib מודל שפה חדש מבית דיקטה פרטים כאן.

וואו! זה אירוע משמעותי בקנה מידה! למעשה, זה כנראה פעם ראשונה שמציגים מודל קוד פתוח ברמה גבוהה עבור עברית שגם לא שוקל הרבה!

מכאן - השמיים הם הגבול

Spoiler

ואם ניגע בפרקטיקה - אימון המודל לזיהוי המקור ההלכתי מחדש על בסיס הדגם הזה - זה השלב הראשון

דוגמה ליכולות שלו בניסיון ראשון:

---

>>> תן לי 10 מצוות בתורה שהם בגלל יציאת מצרים

פסח - מצווה לחגוג את חג הפסח לזכר יציאת מצרים (שמות י"ב)
מצוות הקרבת קורבן פסח - מצווה להקריב קורבן מיוחד לזכר יציאת מצרים (שמות י"ב)
מצוות סיפור יציאת מצרים - מצווה לספר את סיפור יציאת מצרים לדורות הבאים (שמות י"ג)
איסור אכילת חמץ - מצווה להימנע מאכילת חמץ במשך שבעת ימי חג הפסח לזכר יציאת מצרים (שמות י"ב)
איסור אכילת חמץ - מצווה להימנע מאכילת חמץ במשך שבעת ימי חג הפסח לזכר יציאת מצרים (שמות י"ב)
מצוות אכילת מצה - מצווה לאכול מצות במהלך חג הפסח לזכר יציאת מצרים (שמות י"ב)
מצוות אכילת מרור - מצווה לאכול מרור במהלך חג הפסח לזכר השיעבוד במצרים (שמות י"ב)
מצוות אכילת קורבן פסח - מצווה לאכול את קורבן הפסח בחבורה ולשמור את עצמותיו לזכר יציאת מצרים (שמות י"ב)
מצוות תפילין - מצווה לשים תפילין על היד ועל הראש כזכר ליציאת מצרים (שמות י"ג)
מצוות זכירת יציאת מצרים - מצווה לזכור את יציאת מצרים בכל יום (דברים ט"ז).

>>> תן לי את המקורות המלאים בפסוקים למצוות שמנית

פסח: "והיה היום הזה לכם לזכרון, וחגתם אתו חג לה', לדרתיכם, חקת עולם תחגהו" (שמות י"ב, י"ד)
מצוות הקרבת קורבן פסח: "והיה כי-יבאך ה' אל-ארץ הכנעני, כאשר נשבע לך ולאבתיך; ונתנה לך. והעברת כל-פטר-רחם לה', וכל-פטר שגר בהמה אשר יהיה לך הזכרים--לה'" (שמות י"ג, י"א-י"ב)
מצוות סיפור יציאת מצרים: "והגדת לבנך ביום ההוא לאמר: בעבור זה עשה ה' לי בצאתי ממצרים" (שמות י"ג, ח')
איסור אכילת חמץ: "שבעת ימים--מצות תאכלו, אך ביום הראשון תשביתו שאר מבתיכם: כי כל-אכל חמץ, ונכרתה הנפש ההוא מישראל--מיום הראשן, עד-יום השבעי" (שמות י"ב, ט"ו)
איסור אכילת חמץ: "שבעת ימים--מצות תאכלו, אך ביום הראשון תשביתו שאר מבתיכם: כי כל-אכל חמץ, ונכרתה הנפש ההוא מישראל--מיום הראשן, עד-יום השבעי" (שמות י"ב, ט"ו)
מצוות אכילת מצה: "ויאמר משה אל-העם, זכור את-היום הזה אשר יצאתם ממצרים מבית עבדים, כי בחזק יד, הוציא ה' אתכם מזה; ולא יאכל, חמץ" (שמות י"ג, ג')
מצוות אכילת מרור: "והיה, כי-יאמרו אליכם בניכם: מה העבדה הזאת, לכם. ואמרתם זבח-פסח הוא לה', אשר פסח על-בתי בני-ישראל במצרים, בנגפו את-מצרים, ואת-בתינו הציל; ויקד העם, וישתחוו" (שמות י"ב, כ"ו-כ"ז)
מצוות אכילת קורבן פסח: "והיה כי-יאמרו אליכם בניכם: מה העבדה הזאת לכם. ואמרתם זבח-פסח הוא לה', אשר פסח על-בתי בני-ישראל במצרים, בנגפו את-מצרים, ואת-בתינו הציל; ויקד העם, וישתחוו" (שמות י"ב, כ"ז-כ"ז)
מצוות תפילין: "והיה לאות על-ידכה, ולטוטפת בין עיניך: כי בחזק יד, הוציאנו ה' ממצרים" (שמות י"ג, ט"ז)
מצוות זכירת יציאת מצרים: "שמור את-חדש האביב, ועשית פסח לה', אלהיך: כי בחדש האביב, הוציאך ה' אלהיך ממצרים--לילה" (דברים ט"ז, א')

---

הוא אמנם לא מדייק לגמרי. (מצוות אכילת מרור...) אבל הניסוח הכללי בעברית, דיוק ציטוט הפסוקים והדיוק המקורות - פשוט מדהימים!

Spoiler

בעז"ה אעלה מדריך מעודכן עבור המודל, לאחר שאבדוק אותו על המחשב שלי

[עם ישראל חיי]

@NH-LOCAL אין עליך

[3157686]

@NH-LOCAL
מדובר על מודול שאמור לעבוד בעברית באופליין????

[NH.LOCAL]

@3157686 בדיוק.

[3157686]

@NH-LOCAL
מטריף

[אהרן]

@NH-LOCAL
איזה מחשב צריך בשביל זה?
האם בזמן שלא משתמשים בזה זה אמור לתפוס ראם?
האם יש אפשרות לסנן מודל כזה, שלא יכנס לדברים אסורים? דרך האינטרנט נטפרי מסנן לי [קצת יותר מידי, אך עדיף ככה]
האם במודלים לשימוש אופליין יש הגבלות לאורך הטקסט בשאלה / בתשובה [האם ניתן לדוגמא לבקש ממנו שיסכם מאמר של כמה עמודים]?

[REFAEL 2]

@sivan22 @NH-LOCAL
אמורים להפעיל את הקובץ ע"י הוספת סיומת EXE?
זה מה שעשיתי, והמחשב ענה לי שגירסא זו אינה יכולה לפעול במחשב שלי

[NH.LOCAL]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@sivan22 @NH-LOCAL
אמורים להפעיל את הקובץ ע"י הוספת סיומת EXE?
זה מה שעשיתי, והמחשב ענה לי שגירסא זו אינה יכולה לפעול במחשב שלי

לא. ממש לא. אתה יכול להפעיל את הקובץ לפי ההוראות בפוסט הראשי

@אהרן כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

איזה מחשב צריך בשביל זה?

בעקרון כל מחשב סביר עם I3 ו-8 ג'יגה ראם יכול להריץ את זה. אבל זה מכביד על המחשב מאוד בזמן ההרצה

האם בזמן שלא משתמשים בזה זה אמור לתפוס ראם?

כן. אבל רק קצת

האם במודלים לשימוש אופליין יש הגבלות לאורך הטקסט בשאלה / בתשובה [האם ניתן לדוגמא לבקש ממנו שיסכם מאמר של כמה עמודים]?

ההגבלה היא בהתאם למודל. כל מודל מוגדר באופן שונה. לגבי המודל הספציפי הזה - לא ראיתי מידע בנושא

[REFAEL 2]

@NH-LOCAL הוא עונה לי בצורה נורא טפשית, הנה דוגמא

[sivan22]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@sivan22 @NH-LOCAL
אמורים להפעיל את הקובץ ע"י הוספת סיומת EXE?
זה מה שעשיתי, והמחשב ענה לי שגירסא זו אינה יכולה לפעול במחשב שלי

את המודל הזה צריך להפעיל כמו בפוסט הראשון.

[דאנציג]

@sivan22
כשאני מפעיל את הקובץ BAT של @NH-LOCAL מופיע לי ההודעה:

Active code page: 1255
File Not Found
note: if you have an AMD or NVIDIA GPU then you need to pass -ngl 9999 to enable GPU offloading
error: invalid parameter for argument: -m
Press any key to continue . . .

[ארי]

@sivan22 איך מורידים שם?
אני לא מוצא קישור הורדה

[sivan22]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@NH-LOCAL הוא עונה לי בצורה נורא טפשית, הנה דוגמא

זה כמעט בטוח בגלל הגדרות לא נכונות של התוכנה ביחס למודל. כדי שזה יעבוד היטב צריך להוסיף תווים מיוחדים כמו [INST], אז כדאי להשתמש בתוכנה שנקראת https://lmstudio.ai/ ולהגדיר ככה: .

הפרטים נמצאים במקור של המודל: https://huggingface.co/dicta-il/dictalm2.0-instruct-GGUF

[ארי]

@sivan22 הורדתי את של דיקטה אבל יש לי שגיאה כמו לו וכן זה לא בסיומת gguf מה אפשר לעשות?

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@sivan22
כשאני מפעיל את הקובץ BAT של @NH-LOCAL מופיע לי ההודעה:

Active code page: 1255
File Not Found
note: if you have an AMD or NVIDIA GPU then you need to pass -ngl 9999 to enable GPU offloading
error: invalid parameter for argument: -m
Press any key to continue . . .

[sivan22]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@NH-LOCAL הוא עונה לי בצורה נורא טפשית, הנה דוגמא

[sivan22]

@sivan22 לסיכומם של דברים, המודל משתפר מאד כשמשתמשים בו לפי הספר, ועדיין הוא לא מגרד את המודלים הגדולים ממש (ChatGPT או Gemini).

הנה מג'מיני:

דיני בתי ערי חומה: פירוט הלכתי
בתי ערי חומה נוגעים לשני תחומים הלכתיים עיקריים: טומאה וטהרה ושנת השמיטה.
טומאה וטהרה:
הגדרה: בית שנמצא בתוך עיר מוקפת חומה מימות יהושע בן נון. חומה זו צריכה לעמוד בתנאים מסויימים, כמו גובה ורוחב מספקים.
דינים:
קבורה: קבר שנמצא בתוך בית ערי חומה מטמא את הבית בטומאת שבעה, בניגוד לקבר שנמצא מחוץ לעיר, אשר מטמא את הבית בטומאת עולם.
בית הפרס: בית ערי חומה שנטמא בטומאת מת ואינו טהור בשעת השקיעה של יום הכיפורים, נטמא בטומאת שבעה נוספת, הנקראת "בית הפרס".
טהרה: ניתן לטהר בית ערי חומה מטומאת מת באמצעות הזאת מי חטאת ביום השלישי וביום השביעי לטומאה.
שנת השמיטה:
ירקות שגדלו בתוך בתי ערי חומה:
קדושת שביעית: ירקות אלו אינם מקבלים קדושת שביעית, ולכן מותר לסחור בהם כרגיל.
ביעור: אין חובה לבעֵר ירקות אלו בסוף שנת השמיטה.
היתר מכירה: ישנם פוסקים הסוברים כי היתר המכירה, בו מוכרים את הקרקע לגוי בשנת השמיטה, תקף רק לגבי ירקות שגדלים בתוך בתי ערי חומה.
מחלוקות ופוסקים:
הגדרת חומה: קיימת מחלוקת בין הפוסקים לגבי הגדרת חומה לעניין דיני בתי ערי חומה. יש הסוברים כי החומה צריכה להיות בנויה מאבנים, ואילו אחרים סוברים כי גם גדר עשויה מחומרים אחרים יכולה להיחשב כחומה.
יישום הדינים בזמן הזה: ישנה מחלוקת האם דיני בתי ערי חומה נוהגים בזמן הזה, כאשר אין לנו ערים מוקפות חומה מימות יהושע בן נון. יש הסוברים כי הדינים אינם נוהגים כלל, ואילו אחרים סוברים כי ניתן ליישם אותם על ערים מוקפות חומה שנבנו לאחר מכן.
מקורות:
משנה תורה לרמב"ם, הלכות טומאת מת
שולחן ערוך, יורה דעה, סימנים שס"ח-שס"ט
שו"ת הרשב"א

[דאנציג]

@sivan22
הורדתי את דגם-00003-of-00003.safetensors בנפרד, כיצד אני יכול להפעיל אותו עם התוכנה LM סטודיו?
זה נראה שיש רק אפשרות להוריד.

[sivan22]

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@sivan22
הורדתי את דגם-00003-of-00003.safetensors בנפרד, כיצד אני יכול להפעיל אותו עם התוכנה LM סטודיו?
זה נראה שיש רק אפשרות להוריד.

זה לא הקובץ הנכון, צריך קובץ בסיומת gguf. הנה הקישור הישיר: (עריכה: טעיתי, עכשיו זה הקישור הנכון) https://huggingface.co/dicta-il/dictalm2.0-instruct-GGUF/resolve/main/dictalm2.0-instruct.Q4_K_M.gguf

כדי להשתמש בו בLM studio צריך להניח אותו בנתיב הבא: C:\Users<שם המשתמש שלך> .cache\lm-studio\models\dicta-il\dictalm2.0-instruct-GGUF

אפשר כנראה להוריד ישירות, אבל יש שגיאה כנראה קשור לנטפרי אין לי כח לטפל בזה.