להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!

לא בדיוק. הנקודה היא שאין שום מצב בעולם שנגנים וכדו' שנפוצים בציבור שלנו יצליחו להריץ מודל שפה.
הרצה של מודלים על אפליקציה יתאפשרו בכל מקרה רק על סמארטפונים וטלפונים עם מעבדים חזקים יחסית

אלף שין

@NH-LOCAL
אם כבר יש כזה מדריך,
אולי מישהוא יוכל להעלות לדרייב את הקבצים?

י. פל.

@NH-LOCAL
אשמח לדעת:

כמה ראם המודל של מיקרוסופט לוקח? ושל לאמה?
האם מישהו יכול להעלות לדרייב?

aiib

@NH-LOCAL יש מודל שמתמודד עם תמונות בצורה טובה [לא יצירת תמונות, אלא פיענוח] וניתן להתקין אותו על המחשב האישי ולאמן אותו בצורה עצמאית ללא ידע?

NH.LOCAL

@אלף-שין כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@NH-LOCAL
אם כבר יש כזה מדריך,
אולי מישהוא יוכל להעלות לדרייב את הקבצים?

בשביל מה? קובץ של 2 ג'יגה זה לא קובץ שלוקח דקה להעלות ולהוריד מהקישור שהבאתי - לא כזה מסובך

ככלל, זה לא רעיון טוב, מכיוון שהתחום מתחדש ומשתדרג כל הזמן - ככה שאין טעם להעלות קובץ ענק שעוד חודש לא יהיה רלוונטי

NH.LOCAL

@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@NH-LOCAL יש מודל שמתמודד עם תמונות בצורה טובה [לא יצירת תמונות, אלא פיענוח] וניתן להתקין אותו על המחשב האישי ולאמן אותו בצורה עצמאית ללא ידע?

אימון זה דבר שדורש משאבים עצומים וגדולים בהרבה מסתם שימוש במודל, שיכול להתאים למחשב רגיל.

לשאלתך, יש מודל כזה - שמזהה גם תמונות וגם יוצר טקסט: להורדה מכאן:
https://huggingface.co/jartine/llava-v1.5-7B-GGUF/resolve/main/llava-v1.5-7b-Q4_K.gguf?download=true

@י-פל כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

כמה ראם המודל של מיקרוסופט לוקח? ושל לאמה?

הראם בדרך כלל הוא בהתאם לגודל הקובץ. כלומר: קובץ של 2 ג'יגה יתפוס 2 ג'יגה ראם

aiib

@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

לשאלתך, יש מודל כזה - שמזהה גם תמונות וגם יוצר טקסט: להורדה מכאן:

אפשר פרטים/מראה מקום ולא רק הורדה?
תודה!

NH.LOCAL

@aiib בבקשה:
https://huggingface.co/jartine/llava-v1.5-7B-GGUF

האתר הרשמי שלהם:

https://llava-vl.github.io/

sivan22

ניתן לקצר עוד יותר את הדרך ולהוריד רק קובץ אחד: זה. הוא שוקל כ-1 ג'יגה.
יש לשנות את שם הקובץ על ידי הוספת .exe בסוף הקובץ ופשוט להריץ.

NH.LOCAL

@sivan22 מדובר בגרסה הישנה יותר - phi2, שהיא הרבה הרבה פחות טובה.
מה שכן - ניתן להוריד את מודל ה-llama3 8B שמגיע בפורמט כזה כקובץ אחד:
https://huggingface.co/jartine/Meta-Llama-3-8B-Instruct-llamafile/tree/main

אלף שין

@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

בשביל מה? קובץ של 2 ג'יגה זה לא קובץ שלוקח דקה להעלות ולהוריד מהקישור שהבאתי - לא כזה מסובך

ככלל, זה לא רעיון טוב, מכיוון שהתחום מתחדש ומשתדרג כל הזמן - ככה שאין טעם להעלות קובץ ענק שעוד חודש לא יהיה רלוונטי

בשביל החסומים מספיק שפעם בכמה חודשים אפילו שנה, מישהוא יתנדב להעלות,
עדיף מאשר שלא יהיה לגמרי.....

NH.LOCAL

@אלף-שין מהירות העלאת האינטרנט שלי קטסטרופלית. אם מישהו יתנדב להעלות את הקבצים - אדרבה

רפאל vnkl

@NH-LOCAL מחזיר שגיאה בהפעלת ה bat
Active code page: 1255
'llamafile-0.8' is not recognized as an internal or external command,
operable program or batch file.
Press any key to continue

3157686

@רפאל-vnkl
עצה כללית
לפני שאתם בודקים ושואלים שאלות אפשר לשאול את הAI הרבה פעמים זה מאוד עוזר
אני חסכתי פה הרבה שאלות ושרשורים ע"י זה

רפאל vnkl

@3157686 לא שאלות בנושאי טכנולוגיה
בד"כ העצות היחידות שהוא יתן לך זה לבדוק עדכוני מערכת, לסרוק עם אנטיוירוס, ולשאול את המפתח של התוכנה... או ללכת לטכנאי...

3157686

@רפאל-vnkl כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

א שאלות בנושאי טכנולוגיה
בד"כ העצות היחידות שהוא יתן לך זה לבדוק עדכוני מערכת, לסרוק עם אנטיוירוס, ולשאול את המפתח של התוכנה... או ללכת לטכנאי...

השאלה מה אתה מתכוון טכנולוגיה
כי הרבה פעמים הוא יכול גם שם לעזור מניסיון אתה צודק שהרבה פעמים לא
אבל לגבי קודים בכל מיני שפות תכנות הוא עזר לי והמון ואני לא האמנתי עד כמה הוא יכול לעזור