להורדה כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
@NH-LOCAL כשאני מריץ את ה2 ג'יגה וכותב לו באנגלית הוא סבבה. אבל האמת שצריך לכתוב לו באנגלית וגם לתרגם את מה שהוא כותב אז צריך אינטרנט וזה לא ממש אופליין...
-
@tcrvodkxrvzurgho כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@NH-LOCAL כשאני מריץ את ה2 ג'יגה וכותב לו באנגלית הוא סבבה. אבל האמת שצריך לכתוב לו באנגלית וגם לתרגם את מה שהוא כותב אז צריך אינטרנט וזה לא ממש אופליין...
אתה בהחלט צודק. ממש לאחרונה עלה מודל בעברית מלאה. אבל הוא כבד יותר מהמודל באנגלית ששמתי בפוסט הראשי
-
לאחר מכן יש להוריד את הגרסה האחרונה של llamafile
יש לבחור בקובץ הראשון ברשימה - בפורמט כזה llamafile-X.X.X.@משה-מזרחי היקר!
תודה רבה מאד!!
עכשיו שהעלית כבר את המודל, תוכל להשלים את החסר האחרון ולהעלות את התוכנה עצמה? -
@משה-מזרחי כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@אלף-שין
אני צריך קישורים ישירים מעודכניםבבקשה. (הגרסה החדשה יותר לא עובדת טוב עם המודל העברי)
https://github.com/Mozilla-Ocho/llamafile/releases/download/0.8/llamafile-0.8
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
לא מפתיע. גודל של ג'יגה 1 בשביל מודל שפה, זה מאוד מאוד קטן
(תחשוב שמח אנושי היה צריך להכנס לגודל של ג'יגה...)ו5 גיגה כן מסתדר לך?!...
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@aiib לא מסתדר בכלל... אבל זה כן יכולת שהגיעו אליה מבחינת טכנולוגית, גם אם זה בלתי נתפס
נכון, אבל הפער בין דרגה לדרגה הבאה ביותר הוא כ"כ גדול שלא מופקע שבעוד חודש זה כבר יירד לגיגה. אם הצליחו להציג מודל שקרוב לGPT3.5 בגודל של 3 גיגה שום דבר לא מופקע...
-
@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@NH-LOCAL
אני מדבר על להריץ את מודל השפה של דיקטה בתוכנת LM סטודיואז באמת לא ברור למה זה לא עובד אחרי שהפעלת את הסקריפט שלי.
אולי תעלה צילומי מסך רלוונטיים?
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
נכון, אבל הפער בין דרגה לדרגה הבאה ביותר הוא כ"כ גדול שלא מופקע שבעוד חודש זה כבר יירד לגיגה. אם הצליחו להציג מודל שקרוב לGPT3.5 בגודל של 3 גיגה שום דבר לא מופקע...
בגודל של 2.2 ג'יגה!
178/284