להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!
-
@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@aiib שוחרר עכשיו מודל איכותי: DictaLm2.0 גודל: 5 גיגה.
האם מישהוא יכול להעלות אותו לדרייב?
אולי @משה-מזרחי הצדיק?
כמו כן באיזה ממשק מפעילים את המודל?
אפשר גם בממשק שבתחילת השרשור? -
@אלף-שין כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
אולי @משה-מזרחי הצדיק?
לא חושב שאוכל
אלא אם כן מישהו יכול לכווץ לשתי חלקים, שכל אחד יהיה עד 1.95 ג'יגה , ולהעלות למגיקוד , ואז אני יעביר לדרייב -
@משה-מזרחי
פתאום לא הבנתי,
זה לא מה שהעלית למעלה? https://mitmachim.top/post/786214 -
@ששמעון כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@משה-מזרחי אם לא אכפת לך, חפרתי למעלה ולא הצלחתי להבין מה זה בדיוק, אני מבין שזה של דיקטה, השאלה איך משתמשים בזה?
אשמח אם תוכל להחכים אותי. -
@יעקב-אליעזר צריך לסמן שאין בכלל כרטיס גרפי.
-
פוסט זה נמחק!
-
@יעקב-אליעזר תנסה לבקש יפה שיענה לך בשפה שאתה רוצה....
-
@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@3157686 דוקא ממש לפני שבוע שוחרר מודל למה 3 של מטא שמבין עברית לא רע. מודל ה-70B שלהם גם מדבר עברית ממש טוב. הבעיה הקטנה היא שצריך מחשב מטורף בשביל להריץ אותו...
כרגע הייתי ממליץ לך על מודל ה-8B שמציג יכולות יפות. אבל הוא רץ הרבה יותר לאט:
תוכל לבחור אחד מהרשימה ולהוריד אותו. ההבדלים בין הדגמים מתבטאים בכמה הם יהיו איטיים / יכבידו על המחשב. כמובן שככל שהמודל שוקל יותר הוא טוב יותר אבל גם איטי יותר, וכן להיפך.
אם יש לך 16 ג'יגה ראם על המחשב תוכל לבחור את אחד הקבצים הגדולים יותר.https://huggingface.co/QuantFactory/Meta-Llama-3-8B-Instruct-GGUF/tree/main
ואיך אני מריץ אותו על המחשב לאחר שהורדתי את כל הקבצים מה לפותוח?
-
@יעקב-אליעזר כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
@sivan22
זה אכן מה ששאלתי אותו למה הוא עונה לי באנגלית ואז הוא ענה לי שזה לי שזה לפי השפה של המשתמש. קיצר מבלבל תמוחאל תשאל אותו למה. תבקש ממנו לדבר בעברית
-
@aiib כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:
אל תשאל אותו למה. תבקש ממנו לדבר בעברית
אכן כך עשיתי וכך הוה
-
אתרוג חוסם את זה זה... יש סיכוי להעלות?
-
@אנונימוס-דוס
משה מזרחי כבר העלה תגלול למעלה.