להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
הורדתי את הקובץ שאתה הבאת לי עם קיצור ישיר להורדה...
כנראה שטעיתי. זה הקישור הנכון אם אתה רוצה:
https://huggingface.co/jartine/llava-v1.5-7B-GGUF/resolve/main/llava-v1.5-7b-q4.llamafile?download=true@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
כשאני משתמש בקובץ BAT אני מקבל את התוצאה הבאה:
אתה צריך שבאותה תיקיה יהיה את קובץ המודל שהורדת (ששוקל כ-4 ג'יגה) + קובץ הבאט + קובץ llamafile (ששוקל כמה עשרות מ"ב). כמובן שעליך להסיר את סיומת ה-exe משם הקובץ ולהחזיר אותו לשם המקורי
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
- קובץ llamafile
זה מה שהיה חסר...
חשבתי שזה קשור רק למודל הראשון שהבאת.איך אני בטוח באמת שהוא מפעיל את המודל של התמונות ולא רק את המודל הראשון?
נ.ב זה תוקע לי את המחשב... [מעבד דור 12 סיומת P ו16 גיגה ראם...] שים לב שהוא מביא לי את הדיסק [!!] ל100 אחוז:
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
איך אני בטוח באמת שהוא מפעיל את המודל של התמונות ולא רק את המודל הראשון?
פשוט מאוד: תוודא שרק המודל החדש נמצא בתיקיה עם קובץ הבאט
יש לי שם רק מודל אחד. אני התכוונתי לשאול האם זה בכלל יכול להפעיל את המודל שלי [כי במקור הבאת אותו כהפעלה למודל אחר]
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
יש לי שם רק מודל אחד. אני התכוונתי לשאול האם זה בכלל יכול להפעיל את המודל שלי [כי במקור הבאת אותו כהפעלה למודל אחר]
באופן עקרוני הקובץ הזה מתאים להפעלה עבור כל מודל שהוא בפורמט gguf.
בכל מקרה - אם זה עובד לך - מסתבר שזה עובד... -
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
בכל מקרה - אם זה עובד לך - מסתבר שזה עובד...
אני לא יודע אם זה עובד או לא... המחשב נתקע...
חשבתי שזה אמור לתפוס רק את הראם אבל זה מביא לי את הדיסק ל100 אחוז ועושה מסך שחור. זה תקין? -
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
חשבתי שזה אמור לתפוס רק את הראם אבל זה מביא לי את הדיסק ל100 אחוז ועושה מסך שחור. זה תקין?
העובדה שהוא מכביד על הדיסק והזיכרון - תקינה. אבל העובדה שהמסך שחור - לא.
זה די מוזר. אצלי המודל הספציפי הזה עובד עם 8 ג'יגה ראם בלבד.לפי הצילומי מסך, אני רואה שחלון הצ'אט נפתח לך. בדרך כלל, אם הוא לא קורס קודם - זה אומר שהמודל עובד
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
העובדה שהוא מכביד על הדיסק והזיכרון - תקינה. אבל העובדה שהמסך שחור - לא.
זה די מוזר. אצלי המודל הספציפי הזה עובד עם 8 ג'יגה ראם בלבדמילא הראם [שאמנם הגיע ל97 אחוז ועדיין לא התמלא] מלא כבר קודם לכן מהדפדפן [75 אחוז מלא גם בלי המודל] אבל הדיסק שמגיע מכמעט 0 למאה בגלל המודל קצת מפחיד אותי...
-
יש את זה בדריב
-
@שמואל-רבינוביץ כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
יש את זה בדריב
כבר שאלו את זה, והתשובה כרגע היא לא. אלא אם כן מישהו יתנדב לעשות את זה
-
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@aiib שזה לא מודל שמתאים לקלוט תמונות (כלומר מודל שקולט רק טקסט) או שהמודל לא הצליח להיטען
זה המודל שהבאת לי שמיועד עבור תמונות...
מה המידע שכתוב בשורת הפקודה שנפתחת?
איזה 3000 שורות...
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@aiib לכתוב טקסט הוא מצליח, או שגם אז הוא נכשל?
אחרי 6 דקות ארוכות שבהם אני מקבל מסך שחור [בין כשהמדדים של המחשב תקינים לגמרי ובין כשהדיסק מגיע ל100 אחוז] זאת התשובה שאני מקבל...:
-
@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@aiib שוחרר עכשיו מודל איכותי: DictaLm2.0 גודל: 5 גיגה.
מודל למה? לתמונות?
![חיפוש גוגל בפורום](javascript:{bootbox.prompt({title:'<div style="text-align: center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400"></div>',placeholder:'כתוב מילים לחיפוש ב Google',buttons:{confirm:{label:'חיפוש'},cancel:{label:'ביטול'}},backdrop:true,callback:function(result){if(result!=null&&result!=''){var a=document.createElement('a');a.href='https://www.google.co.il/search?q=site:mitmachim.top '+encodeURIComponent(result.trim());a.target='_blank';a.click();}}})();};){kind=link}