בירור | בירור עלויות מחשב עם RTX 3500 Ada
-
אי לא יודע אם אני צודק אבל נראה לי שבשביל VRAM עדיף ללכת על חומרה מדורות קודמים שיש דגמים שביחסית יש להם הרבה VRAM (לי יש RTX3060 אם 12 VRAM ועלה לי פחות מ 1500) ואפשר לצרף כמה ביחד כך שתמורת 6000 אפשר להגיע ל 48 VRAM
@jc324118983 בעיקרון אתה צודק בהסתכלות יבשה על VRAM, אבל גם אם יהיה לך 128 VRAM זה לא משנה אם הרוחב פס נמוך, שזה מאפיין את הדורות הקודמים. זה צוואר הבקבוק בהסקת מודלים מקומיים, ורק עם התפתחות תחום ה-Local LLM יצרניות השבבים מתמקדות בהגדלת רוחב הפס.
-
@jc324118983 בעיקרון אתה צודק בהסתכלות יבשה על VRAM, אבל גם אם יהיה לך 128 VRAM זה לא משנה אם הרוחב פס נמוך, שזה מאפיין את הדורות הקודמים. זה צוואר הבקבוק בהסקת מודלים מקומיים, ורק עם התפתחות תחום ה-Local LLM יצרניות השבבים מתמקדות בהגדלת רוחב הפס.
-
@א.מ.ד. השאלה מה חשוב יותר מהירות או מודל גדול יותר
@jc324118983 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. השאלה מה חשוב יותר מהירות או מודל גדול יותר
בשימוש אמיתי? בעיקר מהירות.
-
@jc324118983 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. השאלה מה חשוב יותר מהירות או מודל גדול יותר
בשימוש אמיתי? בעיקר מהירות.
-
@א.מ.ד. תלוי מה לפעמים עדיף משהו טוב על פני משהו מהיר (ובפרט אם זה לתמונות)
@jc324118983 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. תלוי מה לפעמים עדיף משהו טוב על פני משהו מהיר (ובפרט אם זה לתמונות)
שימוש אמיתי אני מתכוון אותו שימוש שאתה משתמש בג'מיני, עם חלון הקשר של מאות אלפי טוקנים. לא לשאול אותו שאלה בתור שעשוע.
-
שלום רציתי לברר לגבי קניית מחשב עם מעבד RTX 3500 Ada
האם זה משתלם? יש משהו יותר טוב באזור המחירים לבן אדם פרטי?@CSS-0 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
האם זה משתלם? יש משהו יותר טוב באזור המחירים לבן אדם פרטי?
GeForce יהיה יותר זול(לדומא RTX 4080)
(אבל גם עם זה לא תוכל להריץ יותר מדי...) -
@css-0
בנייח של דל -
אני גם בהתחלה חשבתי להשקיע וכו' אבל אז גילתי את זה https://openrouter.ai/ זה הכי שווה שיש אתה יכול לעשות API חינמי למודלים החזקים בעולם היום וכן לעשות שימוש בהרבה מודלים אני שמתי 5 דולר ויש לי שימוש במודל Llama 3.1 405B (אומרים שהוא הכי טוב בעולם בקוד פתוח לא מבין בזה כ"כ) ויש לך גם API חינמי לזה Gemma 4 31B שהוא חמוד לגמרי
-
אני גם בהתחלה חשבתי להשקיע וכו' אבל אז גילתי את זה https://openrouter.ai/ זה הכי שווה שיש אתה יכול לעשות API חינמי למודלים החזקים בעולם היום וכן לעשות שימוש בהרבה מודלים אני שמתי 5 דולר ויש לי שימוש במודל Llama 3.1 405B (אומרים שהוא הכי טוב בעולם בקוד פתוח לא מבין בזה כ"כ) ויש לך גם API חינמי לזה Gemma 4 31B שהוא חמוד לגמרי
@הישבשר-המלומד כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
ויש לי שימוש במודל Llama 3.1 405B (אומרים שהוא הכי טוב בעולם בקוד פתוח לא מבין בזה כ"כ)
מסתבר ש-AI אמר לך את זה. הוא היה הכי טוב לפני שנתיים.
-
@הישבשר-המלומד כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
ויש לי שימוש במודל Llama 3.1 405B (אומרים שהוא הכי טוב בעולם בקוד פתוח לא מבין בזה כ"כ)
מסתבר ש-AI אמר לך את זה. הוא היה הכי טוב לפני שנתיים.
-
@א.מ.ד. נכון (כבר אמרתי שאני לא מבין בזה כ"כ) אז מה הכי טוב כיום?
@הישבשר-המלומד כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. נכון (כבר אמרתי שאני לא מבין בזה כ"כ) אז מה הכי טוב כיום?
נכון להרגע ככל הנראה דיפסיק 4 פרו.
מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@הישבשר-המלומד כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. נכון (כבר אמרתי שאני לא מבין בזה כ"כ) אז מה הכי טוב כיום?
נכון להרגע ככל הנראה דיפסיק 4 פרו.
-
@א.מ.ד. בקידוד כן?
@הישבשר-המלומד הוא יצא רק לפני יומיים, כן? אבל בינתיים זה נראה שבהכל.
-
@הישבשר-המלומד כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. נכון (כבר אמרתי שאני לא מבין בזה כ"כ) אז מה הכי טוב כיום?
נכון להרגע ככל הנראה דיפסיק 4 פרו.
-
@הישבשר-המלומד הוא יצא רק לפני יומיים, כן? אבל בינתיים זה נראה שבהכל.
@א.מ.ד. לא יודע למה אבל גימני אומר שזה יותר טוב
איזה מודל יותר טוב דיפסיק 4 פרו או Llama 3.1 405B
השוואה בין DeepSeek-V3 (או הגרסאות המתקדמות שלו המכונה לעיתים "4" בהקשרים שיווקיים) לבין Llama 3.1 405B היא מרתקת, שכן שניהם מייצגים את קצה החנית של עולם הקוד הפתוח (או "משקולות פתוחות").
הבחירה בניהם תלויה מאוד בצרכים הספציפיים שלך:
- Llama 3.1 405B: הסטנדרט של Meta
זהו המודל הגדול והחזק ביותר של Meta עד כה. הוא תוכנן להתחרות ראש בראש עם GPT-4o.
יתרונות:
יכולת הכללה: בזכות גודלו העצום (
405
מיליארד פרמטרים), הוא מצטיין בהבנה עמוקה של הקשרים מורכבים ובידע כללי נרחב מאוד.כתיבת קוד ולוגיקה: הוא נחשב לאחד המודלים הטובים בעולם לפתרון בעיות לוגיות מורכבות.
תמיכה רב-לשונית: הוא אומן על דאטה-סטים עצומים במגוון שפות.
חסרונות: דורש משאבי מחשוב אדירים כדי להריץ אותו באופן מקומי.
- DeepSeek (סדרת V3 / R1)
DeepSeek הסינית פרצה לתודעה עם ארכיטקטורה יעילה מאוד (MoE - Mixture of Experts).
יתרונות:
יעילות ומהירות: בזכות מבנה ה-MoE, המודל מפעיל רק חלק מהפרמטרים שלו בכל רגע נתון, מה שהופך אותו למהיר יותר וזול יותר להרצה ביחס לביצועים שלו.
תכנות ומתמטיקה: במבחני ביצועים (Benchmarks) מסוימים, DeepSeek עוקף את Llama ו-GPT בתחומי התכנות והמתמטיקה המורכבת.
Context Window: לעיתים קרובות מציע ניהול זיכרון (הקשר) ארוך ויעיל מאוד.
חסרונות: לעיתים פחות "רהוט" בכתיבת תוכן יצירתי בשפות מסוימות בהשוואה ל-Llama.
טבלת השוואה מהירה
מאפיין Llama 3.1 405B DeepSeek V3/R1
גודל/ארכיטקטורה Dense (
405
B) MoE (יעיל ומהיר)
חוזק עיקרי הבנה רחבה, לוגיקה, כתיבה קוד, מתמטיקה, יחס ביצועים/עלות
זמינות רחבה מאוד (ענן ומקומי) רחבה, פופולרי מאוד בקרב מפתחים
שפה (עברית) טובה מאוד טובה, אך לעיתים פחות טבעית מ-Meta
בשורה התחתונה:
אם אתה מחפש את המודל החכם והיציב ביותר למשימות כלליות, ניתוח טקסטים ארוכים והבנה עמוקה - Llama 3.1 405B הוא כנראה הבחירה הבטוחה יותר.אם המטרה שלך היא כתיבת קוד, פתרון בעיות מתמטיות או שאתה מחפש ביצועים מעולים בעלות נמוכה יותר - DeepSeek עשוי להפתיע אותך לטובה.
לאיזה צורך ספציפי אתה מתכוון להשתמש במודל? (כתיבת קוד, ניתוח נתונים, או כתיבת תוכן?)
יכול להיות שזה בגלל שזה יצא לפני יומים אז הוא לא מעודכן כ"כ
- Llama 3.1 405B: הסטנדרט של Meta
-
@א.מ.ד. לא יודע למה אבל גימני אומר שזה יותר טוב
איזה מודל יותר טוב דיפסיק 4 פרו או Llama 3.1 405B
השוואה בין DeepSeek-V3 (או הגרסאות המתקדמות שלו המכונה לעיתים "4" בהקשרים שיווקיים) לבין Llama 3.1 405B היא מרתקת, שכן שניהם מייצגים את קצה החנית של עולם הקוד הפתוח (או "משקולות פתוחות").
הבחירה בניהם תלויה מאוד בצרכים הספציפיים שלך:
- Llama 3.1 405B: הסטנדרט של Meta
זהו המודל הגדול והחזק ביותר של Meta עד כה. הוא תוכנן להתחרות ראש בראש עם GPT-4o.
יתרונות:
יכולת הכללה: בזכות גודלו העצום (
405
מיליארד פרמטרים), הוא מצטיין בהבנה עמוקה של הקשרים מורכבים ובידע כללי נרחב מאוד.כתיבת קוד ולוגיקה: הוא נחשב לאחד המודלים הטובים בעולם לפתרון בעיות לוגיות מורכבות.
תמיכה רב-לשונית: הוא אומן על דאטה-סטים עצומים במגוון שפות.
חסרונות: דורש משאבי מחשוב אדירים כדי להריץ אותו באופן מקומי.
- DeepSeek (סדרת V3 / R1)
DeepSeek הסינית פרצה לתודעה עם ארכיטקטורה יעילה מאוד (MoE - Mixture of Experts).
יתרונות:
יעילות ומהירות: בזכות מבנה ה-MoE, המודל מפעיל רק חלק מהפרמטרים שלו בכל רגע נתון, מה שהופך אותו למהיר יותר וזול יותר להרצה ביחס לביצועים שלו.
תכנות ומתמטיקה: במבחני ביצועים (Benchmarks) מסוימים, DeepSeek עוקף את Llama ו-GPT בתחומי התכנות והמתמטיקה המורכבת.
Context Window: לעיתים קרובות מציע ניהול זיכרון (הקשר) ארוך ויעיל מאוד.
חסרונות: לעיתים פחות "רהוט" בכתיבת תוכן יצירתי בשפות מסוימות בהשוואה ל-Llama.
טבלת השוואה מהירה
מאפיין Llama 3.1 405B DeepSeek V3/R1
גודל/ארכיטקטורה Dense (
405
B) MoE (יעיל ומהיר)
חוזק עיקרי הבנה רחבה, לוגיקה, כתיבה קוד, מתמטיקה, יחס ביצועים/עלות
זמינות רחבה מאוד (ענן ומקומי) רחבה, פופולרי מאוד בקרב מפתחים
שפה (עברית) טובה מאוד טובה, אך לעיתים פחות טבעית מ-Meta
בשורה התחתונה:
אם אתה מחפש את המודל החכם והיציב ביותר למשימות כלליות, ניתוח טקסטים ארוכים והבנה עמוקה - Llama 3.1 405B הוא כנראה הבחירה הבטוחה יותר.אם המטרה שלך היא כתיבת קוד, פתרון בעיות מתמטיות או שאתה מחפש ביצועים מעולים בעלות נמוכה יותר - DeepSeek עשוי להפתיע אותך לטובה.
לאיזה צורך ספציפי אתה מתכוון להשתמש במודל? (כתיבת קוד, ניתוח נתונים, או כתיבת תוכן?)
יכול להיות שזה בגלל שזה יצא לפני יומים אז הוא לא מעודכן כ"כ
@הישבשר-המלומד כי הוא לא מעודכן. הוא מכיר רק את 3.
אחת מתוך מלייארדי הבעיות של ג'מיני. - Llama 3.1 405B: הסטנדרט של Meta
-
@א.מ.ד. לא יודע למה אבל גימני אומר שזה יותר טוב
איזה מודל יותר טוב דיפסיק 4 פרו או Llama 3.1 405B
השוואה בין DeepSeek-V3 (או הגרסאות המתקדמות שלו המכונה לעיתים "4" בהקשרים שיווקיים) לבין Llama 3.1 405B היא מרתקת, שכן שניהם מייצגים את קצה החנית של עולם הקוד הפתוח (או "משקולות פתוחות").
הבחירה בניהם תלויה מאוד בצרכים הספציפיים שלך:
- Llama 3.1 405B: הסטנדרט של Meta
זהו המודל הגדול והחזק ביותר של Meta עד כה. הוא תוכנן להתחרות ראש בראש עם GPT-4o.
יתרונות:
יכולת הכללה: בזכות גודלו העצום (
405
מיליארד פרמטרים), הוא מצטיין בהבנה עמוקה של הקשרים מורכבים ובידע כללי נרחב מאוד.כתיבת קוד ולוגיקה: הוא נחשב לאחד המודלים הטובים בעולם לפתרון בעיות לוגיות מורכבות.
תמיכה רב-לשונית: הוא אומן על דאטה-סטים עצומים במגוון שפות.
חסרונות: דורש משאבי מחשוב אדירים כדי להריץ אותו באופן מקומי.
- DeepSeek (סדרת V3 / R1)
DeepSeek הסינית פרצה לתודעה עם ארכיטקטורה יעילה מאוד (MoE - Mixture of Experts).
יתרונות:
יעילות ומהירות: בזכות מבנה ה-MoE, המודל מפעיל רק חלק מהפרמטרים שלו בכל רגע נתון, מה שהופך אותו למהיר יותר וזול יותר להרצה ביחס לביצועים שלו.
תכנות ומתמטיקה: במבחני ביצועים (Benchmarks) מסוימים, DeepSeek עוקף את Llama ו-GPT בתחומי התכנות והמתמטיקה המורכבת.
Context Window: לעיתים קרובות מציע ניהול זיכרון (הקשר) ארוך ויעיל מאוד.
חסרונות: לעיתים פחות "רהוט" בכתיבת תוכן יצירתי בשפות מסוימות בהשוואה ל-Llama.
טבלת השוואה מהירה
מאפיין Llama 3.1 405B DeepSeek V3/R1
גודל/ארכיטקטורה Dense (
405
B) MoE (יעיל ומהיר)
חוזק עיקרי הבנה רחבה, לוגיקה, כתיבה קוד, מתמטיקה, יחס ביצועים/עלות
זמינות רחבה מאוד (ענן ומקומי) רחבה, פופולרי מאוד בקרב מפתחים
שפה (עברית) טובה מאוד טובה, אך לעיתים פחות טבעית מ-Meta
בשורה התחתונה:
אם אתה מחפש את המודל החכם והיציב ביותר למשימות כלליות, ניתוח טקסטים ארוכים והבנה עמוקה - Llama 3.1 405B הוא כנראה הבחירה הבטוחה יותר.אם המטרה שלך היא כתיבת קוד, פתרון בעיות מתמטיות או שאתה מחפש ביצועים מעולים בעלות נמוכה יותר - DeepSeek עשוי להפתיע אותך לטובה.
לאיזה צורך ספציפי אתה מתכוון להשתמש במודל? (כתיבת קוד, ניתוח נתונים, או כתיבת תוכן?)
יכול להיות שזה בגלל שזה יצא לפני יומים אז הוא לא מעודכן כ"כ
@הישבשר-המלומד כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
יכול להיות שזה בגלל שזה יצא לפני יומים אז הוא לא מעודכן כ"כ
לצערי גם בדברים שיצאו לפני חצי שנה הוא לא מעודכן.
הוא מעודכן לשעת האימון. - Llama 3.1 405B: הסטנדרט של Meta
-
@א.מ.ד. לא יודע למה אבל גימני אומר שזה יותר טוב
איזה מודל יותר טוב דיפסיק 4 פרו או Llama 3.1 405B
השוואה בין DeepSeek-V3 (או הגרסאות המתקדמות שלו המכונה לעיתים "4" בהקשרים שיווקיים) לבין Llama 3.1 405B היא מרתקת, שכן שניהם מייצגים את קצה החנית של עולם הקוד הפתוח (או "משקולות פתוחות").
הבחירה בניהם תלויה מאוד בצרכים הספציפיים שלך:
- Llama 3.1 405B: הסטנדרט של Meta
זהו המודל הגדול והחזק ביותר של Meta עד כה. הוא תוכנן להתחרות ראש בראש עם GPT-4o.
יתרונות:
יכולת הכללה: בזכות גודלו העצום (
405
מיליארד פרמטרים), הוא מצטיין בהבנה עמוקה של הקשרים מורכבים ובידע כללי נרחב מאוד.כתיבת קוד ולוגיקה: הוא נחשב לאחד המודלים הטובים בעולם לפתרון בעיות לוגיות מורכבות.
תמיכה רב-לשונית: הוא אומן על דאטה-סטים עצומים במגוון שפות.
חסרונות: דורש משאבי מחשוב אדירים כדי להריץ אותו באופן מקומי.
- DeepSeek (סדרת V3 / R1)
DeepSeek הסינית פרצה לתודעה עם ארכיטקטורה יעילה מאוד (MoE - Mixture of Experts).
יתרונות:
יעילות ומהירות: בזכות מבנה ה-MoE, המודל מפעיל רק חלק מהפרמטרים שלו בכל רגע נתון, מה שהופך אותו למהיר יותר וזול יותר להרצה ביחס לביצועים שלו.
תכנות ומתמטיקה: במבחני ביצועים (Benchmarks) מסוימים, DeepSeek עוקף את Llama ו-GPT בתחומי התכנות והמתמטיקה המורכבת.
Context Window: לעיתים קרובות מציע ניהול זיכרון (הקשר) ארוך ויעיל מאוד.
חסרונות: לעיתים פחות "רהוט" בכתיבת תוכן יצירתי בשפות מסוימות בהשוואה ל-Llama.
טבלת השוואה מהירה
מאפיין Llama 3.1 405B DeepSeek V3/R1
גודל/ארכיטקטורה Dense (
405
B) MoE (יעיל ומהיר)
חוזק עיקרי הבנה רחבה, לוגיקה, כתיבה קוד, מתמטיקה, יחס ביצועים/עלות
זמינות רחבה מאוד (ענן ומקומי) רחבה, פופולרי מאוד בקרב מפתחים
שפה (עברית) טובה מאוד טובה, אך לעיתים פחות טבעית מ-Meta
בשורה התחתונה:
אם אתה מחפש את המודל החכם והיציב ביותר למשימות כלליות, ניתוח טקסטים ארוכים והבנה עמוקה - Llama 3.1 405B הוא כנראה הבחירה הבטוחה יותר.אם המטרה שלך היא כתיבת קוד, פתרון בעיות מתמטיות או שאתה מחפש ביצועים מעולים בעלות נמוכה יותר - DeepSeek עשוי להפתיע אותך לטובה.
לאיזה צורך ספציפי אתה מתכוון להשתמש במודל? (כתיבת קוד, ניתוח נתונים, או כתיבת תוכן?)
יכול להיות שזה בגלל שזה יצא לפני יומים אז הוא לא מעודכן כ"כ
@הישבשר-המלומד כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. לא יודע למה אבל גימני אומר שזה יותר טוב
Spoiler
יכול להיות שזה בגלל שזה יצא לפני יומים אז הוא לא מעודכן כ"כ
עשרות שגיאות בתשובה אחת של ג'מיני
- Llama 3.1 405B: הסטנדרט של Meta
-
@הישבשר-המלומד כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
יכול להיות שזה בגלל שזה יצא לפני יומים אז הוא לא מעודכן כ"כ
לצערי גם בדברים שיצאו לפני חצי שנה הוא לא מעודכן.
הוא מעודכן לשעת האימון.@המלאך כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
לצערי גם בדברים שיצאו לפני חצי שנה הוא לא מעודכן.
הוא מעודכן לשעת האימון.תלוי איזה מודל. מודל הפרו מחפש בצורה הרבה יותר יסודית. גם הפלאש אם אתה מבקש ממנו נכון עושה עבודה יפה.
מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@המלאך כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
לצערי גם בדברים שיצאו לפני חצי שנה הוא לא מעודכן.
הוא מעודכן לשעת האימון.תלוי איזה מודל. מודל הפרו מחפש בצורה הרבה יותר יסודית. גם הפלאש אם אתה מבקש ממנו נכון עושה עבודה יפה.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}