להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
@3157686 מסובך מאוד. בעיקרון, אין מספיק תוכן בעברית באינטרנט בשביל לאמן את המודל בצורה טובה. בפועל, עם ההתפתחות בתחום - זה כן קרה, כמו למשל במודל gpt4 וקלאוד שמתבטאים מצויין גם בעברית.
לגבי המודל הספציפי PHI-3, מכיוון שהם הקפידו להקטין אותו כמה שיותר, הם לא יכלו להתאים אותו להרבה שפות - כי אז זה היה מגדיל את הקובץ מאוד ואת המשאבים שהוא צורך
-
-
-
-
למי שרצה מודל בעברית:
https://huggingface.co/yam-peleg/Hebrew-Mistral-7B
"
המודל הפתוח החזק ביותר בעברית
אני משחרר לכם היום את מודל השפה החזק ביותר והמאומן ביותר אי פעם בעברית.
(והוא גם מהטובים ביותר באנגלית!)המודל אומן במשך חודש וחצי על כ40-מיליארד טוקנים בעברית.
להשוואה:
- אם תקחו את כל אוספי הנתונים בעברית שיש בכל האינטרנט ותאחדו את כולם יחד, גודלם יהיה כ11-מיליארד טוקנים.
- טריוויה: כמות הטוקנים המשוערכת שאתם תקראו בכל חייכם היא כמיליארד אחד.
"
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
למי שרצה מודל בעברית:
https://huggingface.co/yam-peleg/Hebrew-Mistral-7B
"
המודל הפתוח החזק ביותר בעברית
אני משחרר לכם היום את מודל השפה החזק ביותר והמאומן ביותר אי פעם בעברית.
(והוא גם מהטובים ביותר באנגלית!)המודל אומן במשך חודש וחצי על כ40-מיליארד טוקנים בעברית.
להשוואה:
- אם תקחו את כל אוספי הנתונים בעברית שיש בכל האינטרנט ותאחדו את כולם יחד, גודלם יהיה כ11-מיליארד טוקנים.
- טריוויה: כמות הטוקנים המשוערכת שאתם תקראו בכל חייכם היא כמיליארד אחד.
"
אופליין?
-
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
כן, אבל ראיתי עכשיו את השורה הבאה: חסרון המודל: מיועד להשלמת טקסט ולא לביצוע הוראות. לא יודע מה זה אומר...
חיסרון משמעותי. זה אומר שהוא לא מתאים לעבוד כצ'אט, שזה השימוש העיקרי למשתמש הפשוט.
כרגע המודל שהועלה שם גם לא מתאים להרצה על מחשב פשוט. הוא דורש התאמה מסויימת כדי להריץ אותו
-
-
@aiib אתה צודק שאפשר בעיקרון להריץ את המודל על מחשב רגיל. אבל הוא דורש לפחות 16 ג'יגה של זיכרון.
מצאתי מודל אחר שאותו אחד העלה שמותאם לעבוד כצ'אט ולא כהשלמת טקסט:
https://huggingface.co/yam-peleg/Hebrew-Gemma-11B-Instruct
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@NH-LOCAL מה הכוונה השלמת טקסט?
במקור כל מה שמודל שפה יודע לעשות זה להשלים טקסט. כלומר, אם אתה כותב לו "איש אחד הלך" הוא ידע להמשיך את המשפט ולכתוב "...ברחוב וראה פתאום כלב קטן שהולך על המדרכה".
היכולת של מודל שפה ל"התכתב" ולתפקד כמו צ'אט היא חידוש לא קטן
עדכון:
@aiib מצאתי גרסה של מודל מכוונן לעברית שמותאם גם למחשבים חלשים יותר.
אפשר להוריד אותה מכאן ולהפעיל באותה צורה כמו בפוסט הראשי:אזהרה: בדקתי אותה על המחשב שלי והיא איטית להחריד, הניסוח שלה ברמה נמוכה ורמת ידיעת העובדות שלה אפסית.
(הרב שטיינמן הוא בשבילה הרב של יהדות הונגריה והולנד בשנות השלושים וה-21...) -
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@aiib יתכן שהאנטי וירוס חסם את זה
אויש... אז צריך להוריד מההתחלה?!....
האמת היא שלקראת הסוף קיבלתי שגיאה של IDM והיה כתוב משהו לגבי חומת אש וההורדה הפסיקה וחידשתי אותה והיא הושלמה.
אין ברירה? לחכות כמה שעות להורדה נוספת?
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
אויש... אז צריך להוריד מההתחלה?!....
לא אין צורך. לפי הצילום מסך שהבאת, לא הורדת את הקובץ הנכון. זה לא כל כך נורא, אבל זה אומר שלא תוכל להשתמש בזה עם הוספת EXE, אלא פשוט תשתמש בזה באותה צורה כמו מה שהבאתי למעלה. אתה יכול להפעיל את זה עם קובץ הבאט שהעלתי
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
אויש... אז צריך להוריד מההתחלה?!....
לא אין צורך. לפי הצילום מסך שהבאת, לא הורדת את הקובץ הנכון. זה לא כל כך נורא, אבל זה אומר שלא תוכל להשתמש בזה עם הוספת EXE, אלא פשוט תשתמש בזה באותה צורה כמו מה שהבאתי למעלה. אתה יכול להפעיל את זה עם קובץ הבאט שהעלתי
הורדתי את הקובץ שאתה הבאת לי עם קיצור ישיר להורדה...
אני ביקשתי ממך מודל שמתעסק בעיקר בתמונות והבאת לי את הקישור הזה.כשאני משתמש בקובץ BAT אני מקבל את התוצאה הבאה:
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
הורדתי את הקובץ שאתה הבאת לי עם קיצור ישיר להורדה...
כנראה שטעיתי. זה הקישור הנכון אם אתה רוצה:
https://huggingface.co/jartine/llava-v1.5-7B-GGUF/resolve/main/llava-v1.5-7b-q4.llamafile?download=true@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
כשאני משתמש בקובץ BAT אני מקבל את התוצאה הבאה:
אתה צריך שבאותה תיקיה יהיה את קובץ המודל שהורדת (ששוקל כ-4 ג'יגה) + קובץ הבאט + קובץ llamafile (ששוקל כמה עשרות מ"ב). כמובן שעליך להסיר את סיומת ה-exe משם הקובץ ולהחזיר אותו לשם המקורי
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
- קובץ llamafile
זה מה שהיה חסר...
חשבתי שזה קשור רק למודל הראשון שהבאת.איך אני בטוח באמת שהוא מפעיל את המודל של התמונות ולא רק את המודל הראשון?
נ.ב זה תוקע לי את המחשב... [מעבד דור 12 סיומת P ו16 גיגה ראם...] שים לב שהוא מביא לי את הדיסק [!!] ל100 אחוז:
![חיפוש גוגל בפורום](javascript:{bootbox.prompt({title:'<div style="text-align: center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400"></div>',placeholder:'כתוב מילים לחיפוש ב Google',buttons:{confirm:{label:'חיפוש'},cancel:{label:'ביטול'}},backdrop:true,callback:function(result){if(result!=null&&result!=''){var a=document.createElement('a');a.href='https://www.google.co.il/search?q=site:mitmachim.top '+encodeURIComponent(result.trim());a.target='_blank';a.click();}}})();};){kind=link}