להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
@יוסף3 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
איזה יתרון יש לזה שהמודל נמצא בתוך המחשב, על פני זה שהמודל (gpt3 ו4) נגיש דרך האינטרנט?
היתרונות המרכזיים:
- עובד אופליין - בדיוק מה שאתה אומר: שזה נגיש בלי אינטרנט וזה מחייב אינטנרט.
- פרטיות - המידע שלך לא נשמר על ידי אף גורם חיצוני
-
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
לאחר מכן יש להוריד את הגרסה האחרונה של llamafile
יש לבחור בקובץ הראשון ברשימה - בפורמט כזה llamafile-X.X.X.מאיפה אני מוריד בתוך האתר?
-
@tcrvodkxrvzurgho מסמן לך מאיפה
-
-
@איינשטיין כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
Intel i5 טוב?
איזה דור (המספר אחרי הדגם של המעבד)
וכמה רם -
-
@איינשטיין כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@NH-LOCAL איזה רמה של מעבד צריך בשביל זה?
Intel i5 טוב?כן, מצוין. גם I3 טוב. ו-8 ג'יגה ראם זה מספיק
-
@3157686 מסובך מאוד. בעיקרון, אין מספיק תוכן בעברית באינטרנט בשביל לאמן את המודל בצורה טובה. בפועל, עם ההתפתחות בתחום - זה כן קרה, כמו למשל במודל gpt4 וקלאוד שמתבטאים מצויין גם בעברית.
לגבי המודל הספציפי PHI-3, מכיוון שהם הקפידו להקטין אותו כמה שיותר, הם לא יכלו להתאים אותו להרבה שפות - כי אז זה היה מגדיל את הקובץ מאוד ואת המשאבים שהוא צורך
-
-
-
-
למי שרצה מודל בעברית:
https://huggingface.co/yam-peleg/Hebrew-Mistral-7B
"
המודל הפתוח החזק ביותר בעברית
אני משחרר לכם היום את מודל השפה החזק ביותר והמאומן ביותר אי פעם בעברית.
(והוא גם מהטובים ביותר באנגלית!)המודל אומן במשך חודש וחצי על כ40-מיליארד טוקנים בעברית.
להשוואה:
- אם תקחו את כל אוספי הנתונים בעברית שיש בכל האינטרנט ותאחדו את כולם יחד, גודלם יהיה כ11-מיליארד טוקנים.
- טריוויה: כמות הטוקנים המשוערכת שאתם תקראו בכל חייכם היא כמיליארד אחד.
"
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
למי שרצה מודל בעברית:
https://huggingface.co/yam-peleg/Hebrew-Mistral-7B
"
המודל הפתוח החזק ביותר בעברית
אני משחרר לכם היום את מודל השפה החזק ביותר והמאומן ביותר אי פעם בעברית.
(והוא גם מהטובים ביותר באנגלית!)המודל אומן במשך חודש וחצי על כ40-מיליארד טוקנים בעברית.
להשוואה:
- אם תקחו את כל אוספי הנתונים בעברית שיש בכל האינטרנט ותאחדו את כולם יחד, גודלם יהיה כ11-מיליארד טוקנים.
- טריוויה: כמות הטוקנים המשוערכת שאתם תקראו בכל חייכם היא כמיליארד אחד.
"
אופליין?
-
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
כן, אבל ראיתי עכשיו את השורה הבאה: חסרון המודל: מיועד להשלמת טקסט ולא לביצוע הוראות. לא יודע מה זה אומר...
חיסרון משמעותי. זה אומר שהוא לא מתאים לעבוד כצ'אט, שזה השימוש העיקרי למשתמש הפשוט.
כרגע המודל שהועלה שם גם לא מתאים להרצה על מחשב פשוט. הוא דורש התאמה מסויימת כדי להריץ אותו
![חיפוש גוגל בפורום](javascript:{bootbox.prompt({title:'<div style="text-align: center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400"></div>',placeholder:'כתוב מילים לחיפוש ב Google',buttons:{confirm:{label:'חיפוש'},cancel:{label:'ביטול'}},backdrop:true,callback:function(result){if(result!=null&&result!=''){var a=document.createElement('a');a.href='https://www.google.co.il/search?q=site:mitmachim.top '+encodeURIComponent(result.trim());a.target='_blank';a.click();}}})();};){kind=link}