להורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!

[A0533057932]

@REFAEL-2 אפשר בבקשה לראות את הפלט של הרצת הפקודה?
כמו כן האם יש לך חסימה מצד נטפרי נוספת על ברירת המחדל
כגון קהילה מסויימת?

[106]

@REFAEL-2 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

מה אפשר לעשות?

תסגור כמה שיותר תוכנות, שהראם יישאר פנוי בשביל המודל.

[3157686]

@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

הדבר היחיד שיכול לעזור זה להוסיף זיכרון ראם. ברוב המחשבים הניידים - יש אפשרות קלה לעשות את זה, והעלות של זיכרון ראם נוסף של 8 ג'יגה היא כ-100 ש"ח ומטה

איפה יש הדרכה כיצד עושים והאם אפשר לעשות את זה???

[106]

@3157686 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

הדבר היחיד שיכול לעזור זה להוסיף זיכרון ראם. ברוב המחשבים הניידים - יש אפשרות קלה לעשות את זה, והעלות של זיכרון ראם נוסף של 8 ג'יגה היא כ-100 ש"ח ומטה

איפה יש הדרכה כיצד עושים והאם אפשר לעשות את זה???

תפתח נושא חדש, לא קשור לשרשור הזה

Spoiler

ותכתוב שם מה דגם המחשב שברשותך וכמה ראם יש בו עכשיו

[אהרן]

@3157686 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

הדבר היחיד שיכול לעזור זה להוסיף זיכרון ראם. ברוב המחשבים הניידים - יש אפשרות קלה לעשות את זה, והעלות של זיכרון ראם נוסף של 8 ג'יגה היא כ-100 ש"ח ומטה

איפה יש הדרכה כיצד עושים והאם אפשר לעשות את זה???

עי' כאן שפתחתי את הנושא.

[אלף שין]

@sivan22 כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@aiib שוחרר עכשיו מודל איכותי: DictaLm2.0 גודל: 5 גיגה.

האם מישהוא יכול להעלות אותו לדרייב?
אולי @משה-מזרחי הצדיק?
כמו כן באיזה ממשק מפעילים את המודל?
אפשר גם בממשק שבתחילת השרשור?

[משה מזרחי]

@אלף-שין כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

אולי @משה-מזרחי הצדיק?

לא חושב שאוכל
אלא אם כן מישהו יכול לכווץ לשתי חלקים, שכל אחד יהיה עד 1.95 ג'יגה , ולהעלות למגיקוד , ואז אני יעביר לדרייב

[אלף שין]

@משה-מזרחי
פתאום לא הבנתי,
זה לא מה שהעלית למעלה? https://mitmachim.top/post/786214

[משה מזרחי]

@אלף-שין
כן זה זה
צודק

[ששמעון]

@משה-מזרחי אם לא אכפת לך, חפרתי למעלה ולא הצלחתי להבין מה זה בדיוק, אני מבין שזה של דיקטה, השאלה איך משתמשים בזה?
אשמח אם תוכל להחכים אותי.

[משה מזרחי]

@ששמעון
ממש לא מכיר
רק העלתי לטובת הכלל

[דאנציג]

@ששמעון כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@משה-מזרחי אם לא אכפת לך, חפרתי למעלה ולא הצלחתי להבין מה זה בדיוק, אני מבין שזה של דיקטה, השאלה איך משתמשים בזה?
אשמח אם תוכל להחכים אותי.

https://mitmachim.top/post/787417

[אלף שין]

@ששמעון
מה הבעיה?
תעשה מה שכתוב בפוסט הראשון כאן.

[יעקב אליעזר]

@NH-LOCAL
מה זה ?
מה עושים כאן? [אין לי כרטיס גרפי במחשב זה קשור?].

[sivan22]

@יעקב-אליעזר צריך לסמן שאין בכלל כרטיס גרפי.

[יעקב אליעזר]

פוסט זה נמחק!

[יעקב אליעזר]

@sivan22
אוקיי הסתדר, אבל הוא עונה תשובות באנגלית! בדר''כ זה רק בשאלה הראשונה שאני שואל ואז הוא עובר לעברית, מה עושים?

[sivan22]

@יעקב-אליעזר תנסה לבקש יפה שיענה לך בשפה שאתה רוצה....

[יעקב אליעזר]

@sivan22
זה אכן מה ששאלתי אותו למה הוא עונה לי באנגלית ואז הוא ענה לי שזה לי שזה לפי השפה של המשתמש. קיצר מבלבל תמוח

[ivrפון]

@NH-LOCAL כתב בלהורדה | כך תריצו מודל בינה מלאכותית על המחשב שלכם - בקלי קלות!:

@3157686 דוקא ממש לפני שבוע שוחרר מודל למה 3 של מטא שמבין עברית לא רע. מודל ה-70B שלהם גם מדבר עברית ממש טוב. הבעיה הקטנה היא שצריך מחשב מטורף בשביל להריץ אותו...

כרגע הייתי ממליץ לך על מודל ה-8B שמציג יכולות יפות. אבל הוא רץ הרבה יותר לאט:
תוכל לבחור אחד מהרשימה ולהוריד אותו. ההבדלים בין הדגמים מתבטאים בכמה הם יהיו איטיים / יכבידו על המחשב. כמובן שככל שהמודל שוקל יותר הוא טוב יותר אבל גם איטי יותר, וכן להיפך.
אם יש לך 16 ג'יגה ראם על המחשב תוכל לבחור את אחד הקבצים הגדולים יותר.

https://huggingface.co/QuantFactory/Meta-Llama-3-8B-Instruct-GGUF/tree/main

ואיך אני מריץ אותו על המחשב לאחר שהורדתי את כל הקבצים מה לפותוח?