שיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...
-
@א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
בשביל אימון כזה נדרשים מחשבי על, עם GPU חזק עם לפחות 16 VRAM.
לא מבין למה צריך 16 אם תצליח ליצור מודל של 2 ג"ב אז לכאורא 4 אמור להספיק@jc324118983 כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
לא מבין למה צריך 16 אם תצליח ליצור מודל של 2 ג"ב אז לכאורא 4 אמור להספיק
אם הייתי משתמש בפחות ג'יגה אחת ממה שהשתמשתי - 16, האימון היה קורס.
אגב מדבר על VRAM, לא RAM... כן? יש פה אולי משתמש או שניים עם חומרה כזאת... -
@jc324118983 כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
לא מבין למה צריך 16 אם תצליח ליצור מודל של 2 ג"ב אז לכאורא 4 אמור להספיק
אם הייתי משתמש בפחות ג'יגה אחת ממה שהשתמשתי - 16, האימון היה קורס.
אגב מדבר על VRAM, לא RAM... כן? יש פה אולי משתמש או שניים עם חומרה כזאת... -
@א.מ.ד. לך יש כזה דבר?
כי זה עולה הרבה..
יותר מפי 3 מהבדיקה האחרונה.
עריכה: נכון.
אמרת כך בתחילת הפוסט.
לא נראה לי יש את זה אפילו לא למשתמש אחד.@המלאך כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
@א.מ.ד. לך יש כזה דבר?
כי זה עולה הרבה..לא, אני משתמש ב-GPU מרוחק של גוגל קולאב (שחסום בנטפרי), דרך כמה חשבונות שעובדים במקביל על אותה תיקיית דרייב כך שאני מרוויח כמה שעות חינם ביום.
@המלאך כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
כי זה עולה הרבה..
כמה אלפי דולרים בד"כ.
-
לי יש 8 של NVIDIA Quadro RTX 4000 במשומשים לא כזה יקר
-
לי יש 8 של NVIDIA Quadro RTX 4000 במשומשים לא כזה יקר
@אהרון-שלום יש הבדל בין כרטיס מסך לבין VRAM.
בעוד כרטיס מסך יחסית יש להרבה אנשים (ובניהם אני) VRAM אין לאף אחד (לדעתי, אולי אחד..). -
@א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
בשביל אימון כזה נדרשים מחשבי על, עם GPU חזק עם לפחות 16 VRAM.
לא מבין למה צריך 16 אם תצליח ליצור מודל של 2 ג"ב אז לכאורא 4 אמור להספיק -
@jc324118983 בכל אופן כמו שכתבתי למעלה עיקר העבודה זה לא האימון עצמו אלא הכנת הנתונים והתאמתם. לעשות את זה בהנדסה הפוכה כדי לפרוץ זה קשה פי מאה.
-
@אהרון-שלום יש הבדל בין כרטיס מסך לבין VRAM.
בעוד כרטיס מסך יחסית יש להרבה אנשים (ובניהם אני) VRAM אין לאף אחד (לדעתי, אולי אחד..).@המלאך כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
כרטיס מסך יחסית יש להרבה אנשים (ובניהם אני) VRAM אין לאף אחד
כל אחד שיש לו כרטיס מסך (לא מובנה במעבד) יש לו VRAM
-
@המלאך כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
כרטיס מסך יחסית יש להרבה אנשים (ובניהם אני) VRAM אין לאף אחד
כל אחד שיש לו כרטיס מסך (לא מובנה במעבד) יש לו VRAM
@jc324118983 כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
כל אחד שיש לו כרטיס מסך (לא מובנה במעבד) יש לו VRAM
בדרך כלל עם 2 או 4 VRAM. קצת מאוד.
-
@jc324118983 כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
כל אחד שיש לו כרטיס מסך (לא מובנה במעבד) יש לו VRAM
בדרך כלל עם 2 או 4 VRAM. קצת מאוד.
@א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
בדרך כלל עם 2 או 4 VRAM. קצת מאוד.
צודק (חוץ מגרפיקאים אדריכלים וכו') אבל הגבתי למה שהוא אמר
-
@אהרון-שלום יש הבדל בין כרטיס מסך לבין VRAM.
בעוד כרטיס מסך יחסית יש להרבה אנשים (ובניהם אני) VRAM אין לאף אחד (לדעתי, אולי אחד..).@המלאך כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
בעוד כרטיס מסך יחסית יש להרבה אנשים (ובניהם אני) VRAM אין לאף אחד (לדעתי, אולי אחד..).
@אביעד כתב מדריך נחמד על חומרה, ובין היתר על כרטיסי מסך וVRAM. להרחבת הידע
https://mitmachim.top/topic/82128/הסבר-המדריך-המלא-להבנת-רכיבי-המחשב-מדריך-מפורט-לרכיבי-החומרה#:~:text=חישובים גרפיים במקביל.-,זיכרון גרפי (VRAM),-%3A - זיכרון פנימי -
@jc324118983 כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
כל אחד שיש לו כרטיס מסך (לא מובנה במעבד) יש לו VRAM
בדרך כלל עם 2 או 4 VRAM. קצת מאוד.
-
@א.מ.ד. צוות פיקוח אישרו? (הגב קצת סטינו מהנושא)
@הישבשר-המלומד כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
@א.מ.ד. צוות פיקוח אישרו?
יוסי מחשבים מצוות פיקוח אמר לי לעשות מה שאני חושב...
ומה שאני חושב זה לשפר יותר את החסימה ואת הביצועים ואז להעלות בעז"ה. -
@הישבשר-המלומד כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
@א.מ.ד. צוות פיקוח אישרו?
יוסי מחשבים מצוות פיקוח אמר לי לעשות מה שאני חושב...
ומה שאני חושב זה לשפר יותר את החסימה ואת הביצועים ואז להעלות בעז"ה. -
@הישבשר-המלומד כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
@א.מ.ד. צוות פיקוח אישרו?
יוסי מחשבים מצוות פיקוח אמר לי לעשות מה שאני חושב...
ומה שאני חושב זה לשפר יותר את החסימה ואת הביצועים ואז להעלות בעז"ה. -
תוכל לספק קוד לעבוד איתו (אני רוצה לבחון אותו, אני יכול להוריד אותו hf אבל אני צריך את הקוד איך לעבוד איתו)
@mefateach כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:
תוכל לספק קוד לעבוד איתו (אני רוצה לבחון אותו, אני יכול להוריד אותו hf אבל אני צריך את הקוד איך לעבוד איתו)
כתבתי לך באישי.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות