להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!

[דאנציג]

@NH-LOCAL
מוזר, שיניתי את ההגדרות ל[INST] ו[/INSTJ\n והמודל התחיל לענות לי תשובות באנגלית!

[שמואל רבינוביץ]

@דאנציג המאפינים שלי הם

יכול להיות שזה כבד מידי בשבילו?

[דאנציג]

@שמואל-רבינוביץ כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

יכול להיות שזה כבד מידי בשבילו?

לא.
אתה צריך להפעיל את הקובץ הזה start-language-model, אבל גם לי יש כזו בעיה עם המודל PHI3. אם אמצע פתרון בעז"ה בל"נ אכתוב לך.

[שמואל רבינוביץ]

אשמח בכל מקרה איזה מודל אתה חושב שכן יעבוד לי ?

[דאנציג]

@שמואל-רבינוביץ
תנסה עם התוכנה LM STUDIO.

כאן יש קישור להורדה, וכן קישור לכמה פוסטים למעלה שיעזרו לך להתקין.
עריכה:
תוכל לראות במדריך כאן אם חסר משהו במדריך אשמח שתודיע לי.
בהצלחה

[יוסי מחשבים]

פוסט זה נמחק!

[יוסי מחשבים]

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

אם חסר משהו במדריך אשמח שתודיע לי.

בצד ימין להגדיר שיהיה מימין לשמאל

[דאנציג]

@יוסי-מחשבים
זה באמת נצרך, אבל לא מצאתי היכן ההגדרה הזו, אשמח שתכוון אותי יותר.
תודה רבה

[יוסי מחשבים]

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@יוסי-מחשבים
זה באמת נצרך, אבל לא מצאתי היכן ההגדרה הזו, אשמח שתכוון אותי יותר.
תודה רבה

ללחוץ על הסמל הגדרות, לגלול למטה ולבחור ב Right to left

[דאנציג]

@יוסי-מחשבים
והיכן הסמל הגדרות?
גם בSETTINGS לא מצאתי:

[יוסי מחשבים]

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

גם בSETTINGS לא מצאתי

לי מופיע (ווינדוס 11):

[NH.LOCAL]

@יוסי-מחשבים זו גרסה חדשה יותר. יש עוד כמה שינויים בתצוגה (0.2.22 - 0.2.21)

למעשה:

• הורד את הגרסה האחרונה

• פתח את ההגדרות בצדד ימין

• רד למטה ותמצא את זה:

[A0533057932]

על מנת שתוכנת LM STUDIO תעבוד חלק בנטפרי
ויתאפשר להוריד מודלים דרך התוכנה
יש להריץ את הפקודה הבאה

setX NODE_TLS_REJECT_UNAUTHORIZED 0 /m

מדובר בפקודה לא מומלצת להרצה באופן קבוע כיון שהיא מבטלת את בדיקת האבטחה של NODE
מבטלים אותה על ידי הפקודה הבאה

REG delete "HKLM\SYSTEM\CurrentControlSet\Control\Session Manager\Environment" /F /V NODE_TLS_REJECT_UNAUTHORIZED

מקור לפקודות

לאחר מיכן ניתן להוריד כל מודל דרך התוכנה ישירות
כולל המודל בעברית
(בשבילו רושמים בתיבה את הכתובת

https://huggingface.co/dicta-il/dictalm2.0-instruct-GGUF/tree/main

כמו בתמונה

ולוחצים על הכפתור הכחול
ואז בוחרים את המודל שברצונכם להוריד

[דאנציג]

@NH-LOCAL
מענין, חשבתי על זה, ובדקתי דרך התוכנה Check for updates... ונכתב לי:

כנראה בגלל הבעיה עם נטפרי ש @A0533057932 גילה לנו.
@A0533057932 יישר כוחך!!!

[REFAEL 2]

@A0533057932
לא עובד לי
הרצתי את הפקודות שהבאת בשורת הפקודה, ועדיין הנה התוצאה

[REFAEL 2]

@NH-LOCAL @דאנציג
כשאני מפעיל את התוכנה LM סטודיו ומטעין על זה את המודל של דיקטה זה תוקע לי את כל המחשב.
מה אפשר לעשות?
לרוקן SSD יעזור?
הנה מפרטי המחשב שלי

מעבד 11th Gen Intel(R) Core(TM) i5-1135G7 @ 2.40GHz 2.42 GHz
RAM מותקן ‏‏‎8.00 GB ‏(‏‏‎7.80 GB ניתנים לשימוש)
סוג מערכת מערכת הפעלה של 64 סיביות, מעבד מבוסס x64

[NH.LOCAL]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

לרוקן SSD יעזור?

לא יעזור.

הדבר היחיד שיכול לעזור זה להוסיף זיכרון ראם. ברוב המחשבים הניידים - יש אפשרות קלה לעשות את זה, והעלות של זיכרון ראם נוסף של 8 ג'יגה היא כ-100 ש"ח ומטה

(אני אישית קניתי 32 גי'גה ראם באמזון ב-300 שקל כולל משלוח - זה הקפיץ את הביצועים של המחשב בסכום מינימלי)

[A0533057932]

@REFAEL-2 אפשר בבקשה לראות את הפלט של הרצת הפקודה?
כמו כן האם יש לך חסימה מצד נטפרי נוספת על ברירת המחדל
כגון קהילה מסויימת?

[106]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

מה אפשר לעשות?

תסגור כמה שיותר תוכנות, שהראם יישאר פנוי בשביל המודל.

[3157686]

@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

הדבר היחיד שיכול לעזור זה להוסיף זיכרון ראם. ברוב המחשבים הניידים - יש אפשרות קלה לעשות את זה, והעלות של זיכרון ראם נוסף של 8 ג'יגה היא כ-100 ש"ח ומטה

איפה יש הדרכה כיצד עושים והאם אפשר לעשות את זה???