להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!

[דאנציג]

@שמואל-רבינוביץ
תנסה עם התוכנה LM STUDIO.

כאן יש קישור להורדה, וכן קישור לכמה פוסטים למעלה שיעזרו לך להתקין.
עריכה:
תוכל לראות במדריך כאן אם חסר משהו במדריך אשמח שתודיע לי.
בהצלחה

[יוסי מחשבים]

פוסט זה נמחק!

[יוסי מחשבים]

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

אם חסר משהו במדריך אשמח שתודיע לי.

בצד ימין להגדיר שיהיה מימין לשמאל

[דאנציג]

@יוסי-מחשבים
זה באמת נצרך, אבל לא מצאתי היכן ההגדרה הזו, אשמח שתכוון אותי יותר.
תודה רבה

[יוסי מחשבים]

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@יוסי-מחשבים
זה באמת נצרך, אבל לא מצאתי היכן ההגדרה הזו, אשמח שתכוון אותי יותר.
תודה רבה

ללחוץ על הסמל הגדרות, לגלול למטה ולבחור ב Right to left

[דאנציג]

@יוסי-מחשבים
והיכן הסמל הגדרות?
גם בSETTINGS לא מצאתי:

[יוסי מחשבים]

@דאנציג כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

גם בSETTINGS לא מצאתי

לי מופיע (ווינדוס 11):

[NH.LOCAL]

@יוסי-מחשבים זו גרסה חדשה יותר. יש עוד כמה שינויים בתצוגה (0.2.22 - 0.2.21)

למעשה:

• הורד את הגרסה האחרונה

• פתח את ההגדרות בצדד ימין

• רד למטה ותמצא את זה:

[A0533057932]

על מנת שתוכנת LM STUDIO תעבוד חלק בנטפרי
ויתאפשר להוריד מודלים דרך התוכנה
יש להריץ את הפקודה הבאה

setX NODE_TLS_REJECT_UNAUTHORIZED 0 /m

מדובר בפקודה לא מומלצת להרצה באופן קבוע כיון שהיא מבטלת את בדיקת האבטחה של NODE
מבטלים אותה על ידי הפקודה הבאה

REG delete "HKLM\SYSTEM\CurrentControlSet\Control\Session Manager\Environment" /F /V NODE_TLS_REJECT_UNAUTHORIZED

מקור לפקודות

לאחר מיכן ניתן להוריד כל מודל דרך התוכנה ישירות
כולל המודל בעברית
(בשבילו רושמים בתיבה את הכתובת

https://huggingface.co/dicta-il/dictalm2.0-instruct-GGUF/tree/main

כמו בתמונה

ולוחצים על הכפתור הכחול
ואז בוחרים את המודל שברצונכם להוריד

[דאנציג]

@NH-LOCAL
מענין, חשבתי על זה, ובדקתי דרך התוכנה Check for updates... ונכתב לי:

כנראה בגלל הבעיה עם נטפרי ש @A0533057932 גילה לנו.
@A0533057932 יישר כוחך!!!

[REFAEL 2]

@A0533057932
לא עובד לי
הרצתי את הפקודות שהבאת בשורת הפקודה, ועדיין הנה התוצאה

[REFAEL 2]

@NH-LOCAL @דאנציג
כשאני מפעיל את התוכנה LM סטודיו ומטעין על זה את המודל של דיקטה זה תוקע לי את כל המחשב.
מה אפשר לעשות?
לרוקן SSD יעזור?
הנה מפרטי המחשב שלי

מעבד 11th Gen Intel(R) Core(TM) i5-1135G7 @ 2.40GHz 2.42 GHz
RAM מותקן ‏‏‎8.00 GB ‏(‏‏‎7.80 GB ניתנים לשימוש)
סוג מערכת מערכת הפעלה של 64 סיביות, מעבד מבוסס x64

[NH.LOCAL]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

לרוקן SSD יעזור?

לא יעזור.

הדבר היחיד שיכול לעזור זה להוסיף זיכרון ראם. ברוב המחשבים הניידים - יש אפשרות קלה לעשות את זה, והעלות של זיכרון ראם נוסף של 8 ג'יגה היא כ-100 ש"ח ומטה

(אני אישית קניתי 32 גי'גה ראם באמזון ב-300 שקל כולל משלוח - זה הקפיץ את הביצועים של המחשב בסכום מינימלי)

[A0533057932]

@REFAEL-2 אפשר בבקשה לראות את הפלט של הרצת הפקודה?
כמו כן האם יש לך חסימה מצד נטפרי נוספת על ברירת המחדל
כגון קהילה מסויימת?

[106]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

מה אפשר לעשות?

תסגור כמה שיותר תוכנות, שהראם יישאר פנוי בשביל המודל.

[3157686]

@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

הדבר היחיד שיכול לעזור זה להוסיף זיכרון ראם. ברוב המחשבים הניידים - יש אפשרות קלה לעשות את זה, והעלות של זיכרון ראם נוסף של 8 ג'יגה היא כ-100 ש"ח ומטה

איפה יש הדרכה כיצד עושים והאם אפשר לעשות את זה???

[106]

@3157686 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

הדבר היחיד שיכול לעזור זה להוסיף זיכרון ראם. ברוב המחשבים הניידים - יש אפשרות קלה לעשות את זה, והעלות של זיכרון ראם נוסף של 8 ג'יגה היא כ-100 ש"ח ומטה

איפה יש הדרכה כיצד עושים והאם אפשר לעשות את זה???

תפתח נושא חדש, לא קשור לשרשור הזה

Spoiler

ותכתוב שם מה דגם המחשב שברשותך וכמה ראם יש בו עכשיו

[אהרן]

@3157686 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

הדבר היחיד שיכול לעזור זה להוסיף זיכרון ראם. ברוב המחשבים הניידים - יש אפשרות קלה לעשות את זה, והעלות של זיכרון ראם נוסף של 8 ג'יגה היא כ-100 ש"ח ומטה

איפה יש הדרכה כיצד עושים והאם אפשר לעשות את זה???

עי' כאן שפתחתי את הנושא.

[אלף שין]

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@aiib שוחרר עכשיו מודל איכותי: DictaLm2.0 גודל: 5 גיגה.

האם מישהוא יכול להעלות אותו לדרייב?
אולי @משה-מזרחי הצדיק?
כמו כן באיזה ממשק מפעילים את המודל?
אפשר גם בממשק שבתחילת השרשור?

[משה מזרחי]

@אלף-שין כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

אולי @משה-מזרחי הצדיק?

לא חושב שאוכל
אלא אם כן מישהו יכול לכווץ לשתי חלקים, שכל אחד יהיה עד 1.95 ג'יגה , ולהעלות למגיקוד , ואז אני יעביר לדרייב