בירור | בירור עלויות מחשב עם RTX 3500 Ada
-
@א.מ. אז מה מומלץ? אני רוצה את זה עבור הרצת מודלי ענק (70B) ולאימון AI שזה הכי חשוב לי!
מה גם אני צריך מלא זיכרון SSD, וRAM מאד גבוהה, וגם CPU חזק. -
@CSS-0 RTX 5090 אולי יריץ לך משהו דחוס, MacBook Pro עם זיכרון מאוחד של 128GB ומעלה אולי יספיק...
-
@א.מ. אז מה מומלץ? אני רוצה את זה עבור הרצת מודלי ענק (70B) ולאימון AI שזה הכי חשוב לי!
מה גם אני צריך מלא זיכרון SSD, וRAM מאד גבוהה, וגם CPU חזק.@CSS-0 תאלץ להסתפק בכמה שעות חינם בחודש... אין מה לעשות. אם אתה לא ארגון גדול שחייב שרתי AI מקומיים מטעמים שונים, או גרפיקאי-על או גיימר מטורלל, אל תחלום בכלל מעבר ל-2 VRAM.
אגב, כרטיסי מסך חזקים קונים כיחידה עצמאית ומשלבים אותה למחשב נייח. אין לפטופ עם 64 VRAM. אתה יכול לחפש באינטרנט כרטיסי מסך יד 2, אבל האמינות יורדת.
-
@א.מ. מה זאת אומרת, אין שום מחשב שמוסגל להריץ נורמאלי? כאילו חייב חוות שרתים כדי לקנות איזה B200?
-
@CSS-0 יש לי מחשב עם מפרט זיכרון די גבוה (וגם אם היה לי מחשב עם 5090) והמודלים שהוא מריץ לא מתקרבים למודלים האיכותיים היום.
מנוי לקלוד או לגוגל משתלם הרבה יותר מכל הבחינות.@א.מ. כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@CSS-0 יש לי מחשב עם מפרט זיכרון די גבוה (וגם אם היה לי מחשב עם 5090) והמודלים שהוא מריץ לא מתקרבים למודלים האיכותיים היום.
עניין של כימות והגדרות. תנסה את Qwen 3.6 27B בכימות של 4 ביט. הביצועים שלו דומים ל-Qwen 3.5 397B A17B שיצא לפני חודש וחצי.
-
@CSS-0 תאלץ להסתפק בכמה שעות חינם בחודש... אין מה לעשות. אם אתה לא ארגון גדול שחייב שרתי AI מקומיים מטעמים שונים, או גרפיקאי-על או גיימר מטורלל, אל תחלום בכלל מעבר ל-2 VRAM.
אגב, כרטיסי מסך חזקים קונים כיחידה עצמאית ומשלבים אותה למחשב נייח. אין לפטופ עם 64 VRAM. אתה יכול לחפש באינטרנט כרטיסי מסך יד 2, אבל האמינות יורדת.
@א.מ.ד. מה זאת אומרת, שאני נמצא ב kaggle לצורך האימון הם מספקים לי GPU T4 שהוא נחשב הרבה פחות מ RTX 5090 והוא מאמן לי פצצה, אז המודל RTX 5090 לא יספיק לי?
ה AI טוען שהוא יכול לאמן אפילו מודלים מאפס של 7 - 8B!! ובממש קצת זמן, הוא גם אומר שהוא עושה כמה טריליוני פעולות בשניה כאילו כל STOP לוקח פחות משניה בכוונון או אימון אז מה הבעיה שמצאתם בו?
-
@א.מ.ד. מה זאת אומרת, שאני נמצא ב kaggle לצורך האימון הם מספקים לי GPU T4 שהוא נחשב הרבה פחות מ RTX 5090 והוא מאמן לי פצצה, אז המודל RTX 5090 לא יספיק לי?
ה AI טוען שהוא יכול לאמן אפילו מודלים מאפס של 7 - 8B!! ובממש קצת זמן, הוא גם אומר שהוא עושה כמה טריליוני פעולות בשניה כאילו כל STOP לוקח פחות משניה בכוונון או אימון אז מה הבעיה שמצאתם בו?
@CSS-0 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. מה זאת אומרת, שאני נמצא ב kaggle אני לצורך האימון הם מספקים לי GPU T4 שהוא נחשב הרבה פחות מ RTX 5090 והוא מאמן לי פצצה, אז המודל RTX 5090 לא יספיק לי?
קודם כל זה לא מודל אלא כרטיס מסך, אבל זה לא עניין של יספיק אלא של עלות, אתה צריך להבין שהגרסה המינימלית עולה 12,500 ש"ח, ומשם זה רק מטפס עד 22,000 ש"ח. אתה תצטרך גם לשדרג את ה-RAM של המערכת ללפחות 64 RAM ועדיף 128 RAM, ולרכוש מערכת קירור במים.
-
@CSS-0 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. מה זאת אומרת, שאני נמצא ב kaggle אני לצורך האימון הם מספקים לי GPU T4 שהוא נחשב הרבה פחות מ RTX 5090 והוא מאמן לי פצצה, אז המודל RTX 5090 לא יספיק לי?
קודם כל זה לא מודל אלא כרטיס מסך, אבל זה לא עניין של יספיק אלא של עלות, אתה צריך להבין שהגרסה המינימלית עולה 12,500 ש"ח, ומשם זה רק מטפס עד 22,000 ש"ח. אתה תצטרך גם לשדרג את ה-RAM של המערכת ללפחות 64 RAM ועדיף 128 RAM, ולרכוש מערכת קירור במים.
@א.מ.ד. כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
קודם כל זה לא מודל אלא כרטיס מסך, אבל זה לא עניין של יספיק אלא של עלות, אתה צריך להבין שהגרסה המינימלית עולה 12,500 ש"ח, ומשם זה רק מטפס עד 22,000 ש"ח. אתה תצטרך גם לשדרג את ה-RAM של המערכת ללפחות 64 RAM ועדיף 128 RAM, ולרכוש מערכת קירור במים.
אני לא ישדרג את המחשב העכשווי, אני יקנה מחשב חדש, שיגיע עם זה, וזה לא דורש כל כך הרבה חשמל ככה שאל תעשו את זה פיל, וגם זה חייה ששווה את זה ככה שב 20,000 אפשר לגמור את הסיפור.
-
@א.מ.ד. כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
קודם כל זה לא מודל אלא כרטיס מסך, אבל זה לא עניין של יספיק אלא של עלות, אתה צריך להבין שהגרסה המינימלית עולה 12,500 ש"ח, ומשם זה רק מטפס עד 22,000 ש"ח. אתה תצטרך גם לשדרג את ה-RAM של המערכת ללפחות 64 RAM ועדיף 128 RAM, ולרכוש מערכת קירור במים.
אני לא ישדרג את המחשב העכשווי, אני יקנה מחשב חדש, שיגיע עם זה, וזה לא דורש כל כך הרבה חשמל ככה שאל תעשו את זה פיל, וגם זה חייה ששווה את זה ככה שב 20,000 אפשר לגמור את הסיפור.
@CSS-0 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
אני לא ישדרג את המחשב העכשווי, אני יקנה מחשב חדש, שיגיע עם זה, וזה לא דורש כל כך הרבה חשמל ככה שאל תעשו את זה פיל, וגם זה חייה ששווה את זה ככה שב 20,000 אפשר לגמור את הסיפור.
קודם כל זה דורש המון חשמל, אבל איפה ראית שדיברנו על זה?
אבל בין כה זה לא רלוונטי. זכית בלוטו או משהו? ב-20,000 ש"ח אתה יכול לקנות מנוי לג'מיני פרו ל-23 שנה... -
@CSS-0 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
אני לא ישדרג את המחשב העכשווי, אני יקנה מחשב חדש, שיגיע עם זה, וזה לא דורש כל כך הרבה חשמל ככה שאל תעשו את זה פיל, וגם זה חייה ששווה את זה ככה שב 20,000 אפשר לגמור את הסיפור.
קודם כל זה דורש המון חשמל, אבל איפה ראית שדיברנו על זה?
אבל בין כה זה לא רלוונטי. זכית בלוטו או משהו? ב-20,000 ש"ח אתה יכול לקנות מנוי לג'מיני פרו ל-23 שנה...