בירור | בירור עלויות מחשב עם RTX 3500 Ada
-
@א.מ.ד.
טובבב
חשבתי יותר אבל בעזרת ה' אם תרצה יהיה לך
בפרט שאתה עושה הרבה טוב פה לאנשים זה תמיד חוזר עם ריבית והצמדה
בכל מקרה אני מוכר אותו ולא בשימושי האישי במחיר זול עם I9 ו32 ראם בנייח@אהרון-שלום אני חושב שדוקא זה שאין לי חומרה חזקה גורם לי לחפש כל הזמן פתרונות יעילים בתחום.
-
אי לא יודע אם אני צודק אבל נראה לי שבשביל VRAM עדיף ללכת על חומרה מדורות קודמים שיש דגמים שביחסית יש להם הרבה VRAM (לי יש RTX3060 אם 12 VRAM ועלה לי פחות מ 1500) ואפשר לצרף כמה ביחד כך שתמורת 6000 אפשר להגיע ל 48 VRAM
@jc324118983 בעיקרון אתה צודק בהסתכלות יבשה על VRAM, אבל גם אם יהיה לך 128 VRAM זה לא משנה אם הרוחב פס נמוך, שזה מאפיין את הדורות הקודמים. זה צוואר הבקבוק בהסקת מודלים מקומיים, ורק עם התפתחות תחום ה-Local LLM יצרניות השבבים מתמקדות בהגדלת רוחב הפס.
-
@jc324118983 בעיקרון אתה צודק בהסתכלות יבשה על VRAM, אבל גם אם יהיה לך 128 VRAM זה לא משנה אם הרוחב פס נמוך, שזה מאפיין את הדורות הקודמים. זה צוואר הבקבוק בהסקת מודלים מקומיים, ורק עם התפתחות תחום ה-Local LLM יצרניות השבבים מתמקדות בהגדלת רוחב הפס.
-
@א.מ.ד. השאלה מה חשוב יותר מהירות או מודל גדול יותר
@jc324118983 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. השאלה מה חשוב יותר מהירות או מודל גדול יותר
בשימוש אמיתי? בעיקר מהירות.
-
@jc324118983 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. השאלה מה חשוב יותר מהירות או מודל גדול יותר
בשימוש אמיתי? בעיקר מהירות.
-
@א.מ.ד. תלוי מה לפעמים עדיף משהו טוב על פני משהו מהיר (ובפרט אם זה לתמונות)
@jc324118983 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
@א.מ.ד. תלוי מה לפעמים עדיף משהו טוב על פני משהו מהיר (ובפרט אם זה לתמונות)
שימוש אמיתי אני מתכוון אותו שימוש שאתה משתמש בג'מיני, עם חלון הקשר של מאות אלפי טוקנים. לא לשאול אותו שאלה בתור שעשוע.
-
שלום רציתי לברר לגבי קניית מחשב עם מעבד RTX 3500 Ada
האם זה משתלם? יש משהו יותר טוב באזור המחירים לבן אדם פרטי?@CSS-0 כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
האם זה משתלם? יש משהו יותר טוב באזור המחירים לבן אדם פרטי?
GeForce יהיה יותר זול(לדומא RTX 4080)
(אבל גם עם זה לא תוכל להריץ יותר מדי...) -
@css-0
בנייח של דל -
אני גם בהתחלה חשבתי להשקיע וכו' אבל אז גילתי את זה https://openrouter.ai/ זה הכי שווה שיש אתה יכול לעשות API חינמי למודלים החזקים בעולם היום וכן לעשות שימוש בהרבה מודלים אני שמתי 5 דולר ויש לי שימוש במודל Llama 3.1 405B (אומרים שהוא הכי טוב בעולם בקוד פתוח לא מבין בזה כ"כ) ויש לך גם API חינמי לזה Gemma 4 31B שהוא חמוד לגמרי
-
אני גם בהתחלה חשבתי להשקיע וכו' אבל אז גילתי את זה https://openrouter.ai/ זה הכי שווה שיש אתה יכול לעשות API חינמי למודלים החזקים בעולם היום וכן לעשות שימוש בהרבה מודלים אני שמתי 5 דולר ויש לי שימוש במודל Llama 3.1 405B (אומרים שהוא הכי טוב בעולם בקוד פתוח לא מבין בזה כ"כ) ויש לך גם API חינמי לזה Gemma 4 31B שהוא חמוד לגמרי
@הישבשר-המלומד כתב בבירור | בירור עלויות מחשב עם RTX 3500 Ada:
ויש לי שימוש במודל Llama 3.1 405B (אומרים שהוא הכי טוב בעולם בקוד פתוח לא מבין בזה כ"כ)
מסתבר ש-AI אמר לך את זה. הוא היה הכי טוב לפני שנתיים.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}