להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
תוכל להדריך אותי בבקשה איך להריץ אותו?
זה עובד קצת אחרת מהמודל למעלה - אבל אפילו יותר בקלות.
כל מה שאתה צריך זה לפתוח שורת הפקודה ולהפעיל דרכה את הקובץ שהורדת. לא צריך שום קובץ נוסף! -
@יוסף3 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
איזה יתרון יש לזה שהמודל נמצא בתוך המחשב, על פני זה שהמודל (gpt3 ו4) נגיש דרך האינטרנט?
היתרונות המרכזיים:
- עובד אופליין - בדיוק מה שאתה אומר: שזה נגיש בלי אינטרנט וזה מחייב אינטנרט.
- פרטיות - המידע שלך לא נשמר על ידי אף גורם חיצוני
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
לאחר מכן יש להוריד את הגרסה האחרונה של llamafile
יש לבחור בקובץ הראשון ברשימה - בפורמט כזה llamafile-X.X.X.מאיפה אני מוריד בתוך האתר?
-
@tcrvodkxrvzurgho מסמן לך מאיפה
-
@איינשטיין כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
Intel i5 טוב?
איזה דור (המספר אחרי הדגם של המעבד)
וכמה רם -
@איינשטיין כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@NH-LOCAL איזה רמה של מעבד צריך בשביל זה?
Intel i5 טוב?כן, מצוין. גם I3 טוב. ו-8 ג'יגה ראם זה מספיק
-
@3157686 מסובך מאוד. בעיקרון, אין מספיק תוכן בעברית באינטרנט בשביל לאמן את המודל בצורה טובה. בפועל, עם ההתפתחות בתחום - זה כן קרה, כמו למשל במודל gpt4 וקלאוד שמתבטאים מצויין גם בעברית.
לגבי המודל הספציפי PHI-3, מכיוון שהם הקפידו להקטין אותו כמה שיותר, הם לא יכלו להתאים אותו להרבה שפות - כי אז זה היה מגדיל את הקובץ מאוד ואת המשאבים שהוא צורך
-
-
למי שרצה מודל בעברית:
https://huggingface.co/yam-peleg/Hebrew-Mistral-7B
"
המודל הפתוח החזק ביותר בעברית
אני משחרר לכם היום את מודל השפה החזק ביותר והמאומן ביותר אי פעם בעברית.
(והוא גם מהטובים ביותר באנגלית!)המודל אומן במשך חודש וחצי על כ40-מיליארד טוקנים בעברית.
להשוואה:
- אם תקחו את כל אוספי הנתונים בעברית שיש בכל האינטרנט ותאחדו את כולם יחד, גודלם יהיה כ11-מיליארד טוקנים.
- טריוויה: כמות הטוקנים המשוערכת שאתם תקראו בכל חייכם היא כמיליארד אחד.
"
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
למי שרצה מודל בעברית:
https://huggingface.co/yam-peleg/Hebrew-Mistral-7B
"
המודל הפתוח החזק ביותר בעברית
אני משחרר לכם היום את מודל השפה החזק ביותר והמאומן ביותר אי פעם בעברית.
(והוא גם מהטובים ביותר באנגלית!)המודל אומן במשך חודש וחצי על כ40-מיליארד טוקנים בעברית.
להשוואה:
- אם תקחו את כל אוספי הנתונים בעברית שיש בכל האינטרנט ותאחדו את כולם יחד, גודלם יהיה כ11-מיליארד טוקנים.
- טריוויה: כמות הטוקנים המשוערכת שאתם תקראו בכל חייכם היא כמיליארד אחד.
"
אופליין?