להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
@tcrvodkxrvzurgho כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
הרצתי את הקובץ של הג'יגה אחד בערך והוא ממש גרוע:
לא מפתיע. גודל של ג'יגה 1 בשביל מודל שפה, זה מאוד מאוד קטן
(תחשוב שמח אנושי היה צריך להכנס לגודל של ג'יגה...) -
@tcrvodkxrvzurgho כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@NH-LOCAL כשאני מריץ את ה2 ג'יגה וכותב לו באנגלית הוא סבבה. אבל האמת שצריך לכתוב לו באנגלית וגם לתרגם את מה שהוא כותב אז צריך אינטרנט וזה לא ממש אופליין...
אתה בהחלט צודק. ממש לאחרונה עלה מודל בעברית מלאה. אבל הוא כבד יותר מהמודל באנגלית ששמתי בפוסט הראשי
-
@משה-מזרחי כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@אלף-שין
אני צריך קישורים ישירים מעודכניםבבקשה. (הגרסה החדשה יותר לא עובדת טוב עם המודל העברי)
https://github.com/Mozilla-Ocho/llamafile/releases/download/0.8/llamafile-0.8
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@aiib לא מסתדר בכלל... אבל זה כן יכולת שהגיעו אליה מבחינת טכנולוגית, גם אם זה בלתי נתפס
נכון, אבל הפער בין דרגה לדרגה הבאה ביותר הוא כ"כ גדול שלא מופקע שבעוד חודש זה כבר יירד לגיגה. אם הצליחו להציג מודל שקרוב לGPT3.5 בגודל של 3 גיגה שום דבר לא מופקע...
-
@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@NH-LOCAL
אני מדבר על להריץ את מודל השפה של דיקטה בתוכנת LM סטודיואז באמת לא ברור למה זה לא עובד אחרי שהפעלת את הסקריפט שלי.
אולי תעלה צילומי מסך רלוונטיים?
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
נכון, אבל הפער בין דרגה לדרגה הבאה ביותר הוא כ"כ גדול שלא מופקע שבעוד חודש זה כבר יירד לגיגה. אם הצליחו להציג מודל שקרוב לGPT3.5 בגודל של 3 גיגה שום דבר לא מופקע...
בגודל של 2.2 ג'יגה!