להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
לאחר מכן יש להוריד את הגרסה האחרונה של llamafile
יש לבחור בקובץ הראשון ברשימה - בפורמט כזה llamafile-X.X.X.מאיפה אני מוריד בתוך האתר?
-
@tcrvodkxrvzurgho מסמן לך מאיפה
-
-
@איינשטיין כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
Intel i5 טוב?
איזה דור (המספר אחרי הדגם של המעבד)
וכמה רם -
-
@איינשטיין כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@NH-LOCAL איזה רמה של מעבד צריך בשביל זה?
Intel i5 טוב?כן, מצוין. גם I3 טוב. ו-8 ג'יגה ראם זה מספיק
-
@3157686 מסובך מאוד. בעיקרון, אין מספיק תוכן בעברית באינטרנט בשביל לאמן את המודל בצורה טובה. בפועל, עם ההתפתחות בתחום - זה כן קרה, כמו למשל במודל gpt4 וקלאוד שמתבטאים מצויין גם בעברית.
לגבי המודל הספציפי PHI-3, מכיוון שהם הקפידו להקטין אותו כמה שיותר, הם לא יכלו להתאים אותו להרבה שפות - כי אז זה היה מגדיל את הקובץ מאוד ואת המשאבים שהוא צורך
-
-
-
-
למי שרצה מודל בעברית:
https://huggingface.co/yam-peleg/Hebrew-Mistral-7B
"
המודל הפתוח החזק ביותר בעברית
אני משחרר לכם היום את מודל השפה החזק ביותר והמאומן ביותר אי פעם בעברית.
(והוא גם מהטובים ביותר באנגלית!)המודל אומן במשך חודש וחצי על כ40-מיליארד טוקנים בעברית.
להשוואה:
- אם תקחו את כל אוספי הנתונים בעברית שיש בכל האינטרנט ותאחדו את כולם יחד, גודלם יהיה כ11-מיליארד טוקנים.
- טריוויה: כמות הטוקנים המשוערכת שאתם תקראו בכל חייכם היא כמיליארד אחד.
"
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
למי שרצה מודל בעברית:
https://huggingface.co/yam-peleg/Hebrew-Mistral-7B
"
המודל הפתוח החזק ביותר בעברית
אני משחרר לכם היום את מודל השפה החזק ביותר והמאומן ביותר אי פעם בעברית.
(והוא גם מהטובים ביותר באנגלית!)המודל אומן במשך חודש וחצי על כ40-מיליארד טוקנים בעברית.
להשוואה:
- אם תקחו את כל אוספי הנתונים בעברית שיש בכל האינטרנט ותאחדו את כולם יחד, גודלם יהיה כ11-מיליארד טוקנים.
- טריוויה: כמות הטוקנים המשוערכת שאתם תקראו בכל חייכם היא כמיליארד אחד.
"
אופליין?
-
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
כן, אבל ראיתי עכשיו את השורה הבאה: חסרון המודל: מיועד להשלמת טקסט ולא לביצוע הוראות. לא יודע מה זה אומר...
חיסרון משמעותי. זה אומר שהוא לא מתאים לעבוד כצ'אט, שזה השימוש העיקרי למשתמש הפשוט.
כרגע המודל שהועלה שם גם לא מתאים להרצה על מחשב פשוט. הוא דורש התאמה מסויימת כדי להריץ אותו
-
-
@aiib אתה צודק שאפשר בעיקרון להריץ את המודל על מחשב רגיל. אבל הוא דורש לפחות 16 ג'יגה של זיכרון.
מצאתי מודל אחר שאותו אחד העלה שמותאם לעבוד כצ'אט ולא כהשלמת טקסט:
https://huggingface.co/yam-peleg/Hebrew-Gemma-11B-Instruct
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@NH-LOCAL מה הכוונה השלמת טקסט?
במקור כל מה שמודל שפה יודע לעשות זה להשלים טקסט. כלומר, אם אתה כותב לו "איש אחד הלך" הוא ידע להמשיך את המשפט ולכתוב "...ברחוב וראה פתאום כלב קטן שהולך על המדרכה".
היכולת של מודל שפה ל"התכתב" ולתפקד כמו צ'אט היא חידוש לא קטן
עדכון:
@aiib מצאתי גרסה של מודל מכוונן לעברית שמותאם גם למחשבים חלשים יותר.
אפשר להוריד אותה מכאן ולהפעיל באותה צורה כמו בפוסט הראשי:אזהרה: בדקתי אותה על המחשב שלי והיא איטית להחריד, הניסוח שלה ברמה נמוכה ורמת ידיעת העובדות שלה אפסית.
(הרב שטיינמן הוא בשבילה הרב של יהדות הונגריה והולנד בשנות השלושים וה-21...)
![חיפוש גוגל בפורום](javascript:{bootbox.prompt({title:'<div style="text-align: center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400"></div>',placeholder:'כתוב מילים לחיפוש ב Google',buttons:{confirm:{label:'חיפוש'},cancel:{label:'ביטול'}},backdrop:true,callback:function(result){if(result!=null&&result!=''){var a=document.createElement('a');a.href='https://www.google.co.il/search?q=site:mitmachim.top '+encodeURIComponent(result.trim());a.target='_blank';a.click();}}})();};){kind=link}