להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@3157686 דוקא ממש לפני שבוע שוחרר מודל למה 3 של מטא שמבין עברית לא רע. מודל ה-70B שלהם גם מדבר עברית ממש טוב. הבעיה הקטנה היא שצריך מחשב מטורף בשביל להריץ אותו...
כרגע הייתי ממליץ לך על מודל ה-8B שמציג יכולות יפות. אבל הוא רץ הרבה יותר לאט:
תוכל לבחור אחד מהרשימה ולהוריד אותו. ההבדלים בין הדגמים מתבטאים בכמה הם יהיו איטיים / יכבידו על המחשב. כמובן שככל שהמודל שוקל יותר הוא טוב יותר אבל גם איטי יותר, וכן להיפך.
אם יש לך 16 ג'יגה ראם על המחשב תוכל לבחור את אחד הקבצים הגדולים יותר.https://huggingface.co/QuantFactory/Meta-Llama-3-8B-Instruct-GGUF/tree/main
ואיך אני מריץ אותו על המחשב לאחר שהורדתי את כל הקבצים מה לפותוח?
-
@יעקב-אליעזר כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@sivan22
זה אכן מה ששאלתי אותו למה הוא עונה לי באנגלית ואז הוא ענה לי שזה לי שזה לפי השפה של המשתמש. קיצר מבלבל תמוחאל תשאל אותו למה. תבקש ממנו לדבר בעברית
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
אל תשאל אותו למה. תבקש ממנו לדבר בעברית
אכן כך עשיתי וכך הוה
-
אתרוג חוסם את זה זה... יש סיכוי להעלות?
-
@אנונימוס-דוס
משה מזרחי כבר העלה תגלול למעלה. -
אני עדיין תקוע, לצערי, בשלב הקודם:
חילצתי את שלשת הקבצים למקום אחד ונוצר קובץ מאוחד. הנחתי אותו יחד עם שני קבצי הבאט בתיקיה של 'מודלס' ועדיין התוכנה אינה מזהה אותו.
כלומר - בשורה למטה כתוב לי 0 מודלס, ובשורה למעלה כותב שהקבצים אינם מוזהים או אינם מורשים.
מצורפות 3 תמונות מצילומסך.
-
@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
ניתן לקצר עוד יותר את הדרך ולהוריד רק קובץ אחד: זה. הוא שוקל כ-1 ג'יגה.
יש לשנות את שם הקובץ על ידי הוספת .exe בסוף הקובץ ופשוט להריץ.******* עשיתי כך והוספתי exe. כעת אני רוצה למחוק את התוכנה איך אני מוחק אותה לא מוצא אותה לא בתוכנות ותוכניות בלוח הבקרה ולא הגדרות המחשב אתה יוכל לעזור לי******
-
@ענוה-גדולה-מכולם אין צורך למחוק שום דבר, רק את הקובץ שהורדת. הוא אמור להיות בהורדות.
אם אתה לא מוצא אותו, תבצע חיפוש שלו בתוכנת Everything -
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@NH-LOCAL יש מודל שמתמודד עם תמונות בצורה טובה [לא יצירת תמונות, אלא פיענוח] וניתן להתקין אותו על המחשב האישי ולאמן אותו בצורה עצמאית ללא ידע?
אימון זה דבר שדורש משאבים עצומים וגדולים בהרבה מסתם שימוש במודל, שיכול להתאים למחשב רגיל.
לשאלתך, יש מודל כזה - שמזהה גם תמונות וגם יוצר טקסט: להורדה מכאן:
https://huggingface.co/jartine/llava-v1.5-7B-GGUF/resolve/main/llava-v1.5-7b-Q4_K.gguf?download=true@י-פל כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
כמה ראם המודל של מיקרוסופט לוקח? ושל לאמה?
הראם בדרך כלל הוא בהתאם לגודל הקובץ. כלומר: קובץ של 2 ג'יגה יתפוס 2 ג'יגה ראם
זה תופס כל הזמן או רק בעת שימוש במודול?
-
-
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@א-מ-ד לגבי אימון עם נתונים שלך - כלל אצבע חשוב: אימון הוא הרבה הרבה יותר כבד וצורך משאבים מהרצה פשוטה של מודל שפה.
אני לא מתכוון לאימון כזה שהוא "ישב" על האינטרנט ו"ילמד" אותו אלא פשוט להכניס לו חומרים מותאמים אישית שהוא יענה על פיהם גם בצ'אטים אחרים איתו.
(כמובן שאלתי את המודל עצמו
והוא טען שהוא לא יזכור "במיוחד" את השיחה הנוכחית, מה שאולי אומר שאם אני ישגע אותו שוב ושוב עם החומר שאני רוצה להכניס לו אז הוא יקלוט אותו לתמיד? מקוה שאני לא נשמע בור בנושא...)
![חיפוש גוגל בפורום](javascript:{bootbox.prompt({title:'<div style="text-align: center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400"></div>',placeholder:'כתוב מילים לחיפוש ב Google',buttons:{confirm:{label:'חיפוש'},cancel:{label:'ביטול'}},backdrop:true,callback:function(result){if(result!=null&&result!=''){var a=document.createElement('a');a.href='https://www.google.co.il/search?q=site:mitmachim.top '+encodeURIComponent(result.trim());a.target='_blank';a.click();}}})();};){kind=link}