בירור | מודל AI אופליין
-
@anomimi1789 כתב בבירור | מודל AI אופליין:
עדיפות לכמה שיותר פרמטרים אבל מה שיש טוב תודה מראש
אם תרצה יש לי של 1.6 טריליון פרמטרים. מספיק טוב?
-
-
@א.מ.ד.
תודה על הרצון הטוב אבל אני צריך משהו שיכול לנצל כרטיס מסך כמו שיש לי(RTX 5070)
וגם כתיבת קוד...תודה בכל מקרה@anomimi1789 הוא התכוון להגיד שלא נכון לומר 'כמה שיותר פרמטרים'.
נראה לי [לא יודע כמה ראם רגיל יש לך..]
קוואן 13b כימות 4b או אפילו 5b ישרוד.
כימות 8b לא ישרוד יותר מ7b פרמטרים.
אהיה יותר ברור.
מודל: qwen.
גודל פרמטרים: 14b.
כימות [gguf]: 4b/5b.
ייעוד: קודר.
ת'אנת אין לי מושג אם יש בכימות הזה לגודל הזה.
אשאיר ל @א.מ.ד. את העבודה השחורה של לחפש האגינג פייס. -
@anomimi1789 כתב בבירור | מודל AI אופליין:
עדיפות לכמה שיותר פרמטרים אבל מה שיש טוב תודה מראש
אם תרצה יש לי של 1.6 טריליון פרמטרים. מספיק טוב?
-
@א.מ.ד.
רגע רגע...אמרת טרליון???? -
@anomimi1789 הוא התכוון להגיד שלא נכון לומר 'כמה שיותר פרמטרים'.
נראה לי [לא יודע כמה ראם רגיל יש לך..]
קוואן 13b כימות 4b או אפילו 5b ישרוד.
כימות 8b לא ישרוד יותר מ7b פרמטרים.
אהיה יותר ברור.
מודל: qwen.
גודל פרמטרים: 14b.
כימות [gguf]: 4b/5b.
ייעוד: קודר.
ת'אנת אין לי מושג אם יש בכימות הזה לגודל הזה.
אשאיר ל @א.מ.ד. את העבודה השחורה של לחפש האגינג פייס.@המלאך כתב בבירור | מודל AI אופליין:
@anomimi1789 הוא התכוון להגיד שלא נכון לומר 'כמה שיותר פרמטרים'.
נראה לי [לא יודע כמה ראם רגיל יש לך..]
קוואן 13b כימות 4b או אפילו 5b ישרוד.
כימות 8b לא ישרוד יותר מ7b פרמטרים.
אהיה יותר ברור.
מודל: qwen.
גודל פרמטרים: 14b.
כימות [gguf]: 4b/5b.
ייעוד: קודר.
ת'אנת אין לי מושג אם יש בכימות הזה לגודל הזה.
אשאיר ל @א.מ.ד. את העבודה השחורה של לחפש האגינג פייס.אין צורך בכימות פחות אגרסיבי מ-4 ביט. 4 ביט חוסך 75% מהזיכרון הדרוש, תוך ירידה מינרית בביצועים וכמעט בלתי מורגשת לעין אנושית. זה נכון בין למודלי 4B ובין למודלי 400B.
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.
לגבי המודל שהצעת - QWEN 14B, שזה QWEN 3, מדובר במודל מיושן. ישנם מודלים שקטנים ממנו בחצי וטובים יותר ממנו.
סדרת המודלים המומלצת כיום לקידוד היא QWEN 3.5, ולשימוש כללי GEMMA 4.
אז תבחר את גודל המודל לפי כמות ה-RAM שלך, כמפורט במדריך שקישרתי אליו למעלה.
הכימות המומלץ הוא Q4.אגב @המלאך , הסימון של כימותים הוא Q4, לא 4B.
מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@המלאך כתב בבירור | מודל AI אופליין:
@anomimi1789 הוא התכוון להגיד שלא נכון לומר 'כמה שיותר פרמטרים'.
נראה לי [לא יודע כמה ראם רגיל יש לך..]
קוואן 13b כימות 4b או אפילו 5b ישרוד.
כימות 8b לא ישרוד יותר מ7b פרמטרים.
אהיה יותר ברור.
מודל: qwen.
גודל פרמטרים: 14b.
כימות [gguf]: 4b/5b.
ייעוד: קודר.
ת'אנת אין לי מושג אם יש בכימות הזה לגודל הזה.
אשאיר ל @א.מ.ד. את העבודה השחורה של לחפש האגינג פייס.אין צורך בכימות פחות אגרסיבי מ-4 ביט. 4 ביט חוסך 75% מהזיכרון הדרוש, תוך ירידה מינרית בביצועים וכמעט בלתי מורגשת לעין אנושית. זה נכון בין למודלי 4B ובין למודלי 400B.
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.
לגבי המודל שהצעת - QWEN 14B, שזה QWEN 3, מדובר במודל מיושן. ישנם מודלים שקטנים ממנו בחצי וטובים יותר ממנו.
סדרת המודלים המומלצת כיום לקידוד היא QWEN 3.5, ולשימוש כללי GEMMA 4.
אז תבחר את גודל המודל לפי כמות ה-RAM שלך, כמפורט במדריך שקישרתי אליו למעלה.
הכימות המומלץ הוא Q4.אגב @המלאך , הסימון של כימותים הוא Q4, לא 4B.
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אין צורך בכימות פחות אגרסיבי מ-4 ביט. 4 ביט חוסך 75% מהזיכרון הדרוש, תוך ירידה מינרית בביצועים וכמעט בלתי מורגשת לעין אנושית. זה נכון בין למודלי 4B ובין למודלי 400B.
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.לכן הצעתי כימות יותר גדול. 5 ולא 4. עניין של איכות.
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.
לגבי המודל שהצעת - QWEN 14B, שזה QWEN 3, מדובר במודל מיושן. ישנם מודלים שקטנים ממנו בחצי וטובים יותר ממנו.
סדרת המודלים המומלצת כיום לקידוד היא QWEN 3.5,הקודר שלו לדעתי די בייתרון.
לא מצאתי גדול יותר בשבילו. הוא ביקש כמה שיותר פרמטרים..
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב @המלאך , הסימון של כימותים הוא Q4, לא 4B.
Whatever you say, sir.
Anyway, thank you for your attention to this matter. -
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אין צורך בכימות פחות אגרסיבי מ-4 ביט. 4 ביט חוסך 75% מהזיכרון הדרוש, תוך ירידה מינרית בביצועים וכמעט בלתי מורגשת לעין אנושית. זה נכון בין למודלי 4B ובין למודלי 400B.
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.לכן הצעתי כימות יותר גדול. 5 ולא 4. עניין של איכות.
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.
לגבי המודל שהצעת - QWEN 14B, שזה QWEN 3, מדובר במודל מיושן. ישנם מודלים שקטנים ממנו בחצי וטובים יותר ממנו.
סדרת המודלים המומלצת כיום לקידוד היא QWEN 3.5,הקודר שלו לדעתי די בייתרון.
לא מצאתי גדול יותר בשבילו. הוא ביקש כמה שיותר פרמטרים..@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב @המלאך , הסימון של כימותים הוא Q4, לא 4B.
Whatever you say, sir.
Anyway, thank you for your attention to this matter.@המלאך כתב בבירור | מודל AI אופליין:
לכן הצעתי כימות יותר גדול. 5 ולא 4. עניין של איכות.
א. כתבתי שאין הבדל נראה לעין בין המודל המלא לבין Q4, אז בין Q4 ל-Q5 ודאי שאין כמעט הבדל באיכות.
ב. הבנתי ש"ישרוד" התכוונת מבחינת איכות. עכשיו אני מבין שאתה מתכוון מבחינת חומרה. -
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אין צורך בכימות פחות אגרסיבי מ-4 ביט. 4 ביט חוסך 75% מהזיכרון הדרוש, תוך ירידה מינרית בביצועים וכמעט בלתי מורגשת לעין אנושית. זה נכון בין למודלי 4B ובין למודלי 400B.
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.לכן הצעתי כימות יותר גדול. 5 ולא 4. עניין של איכות.
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.
לגבי המודל שהצעת - QWEN 14B, שזה QWEN 3, מדובר במודל מיושן. ישנם מודלים שקטנים ממנו בחצי וטובים יותר ממנו.
סדרת המודלים המומלצת כיום לקידוד היא QWEN 3.5,הקודר שלו לדעתי די בייתרון.
לא מצאתי גדול יותר בשבילו. הוא ביקש כמה שיותר פרמטרים..@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב @המלאך , הסימון של כימותים הוא Q4, לא 4B.
Whatever you say, sir.
Anyway, thank you for your attention to this matter.@המלאך כתב בבירור | מודל AI אופליין:
הקודר שלו לדעתי די בייתרון.
לא מצאתי גדול יותר בשבילו. הוא ביקש כמה שיותר פרמטרים..אין 14B קודר. חוץ מזה שה-3.5 9B (שאין לו גרסת קודר) טובה יותר מגרסאות הקודר של QWEN 3.
מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@המלאך כתב בבירור | מודל AI אופליין:
לכן הצעתי כימות יותר גדול. 5 ולא 4. עניין של איכות.
א. כתבתי שאין הבדל נראה לעין בין המודל המלא לבין Q4, אז בין Q4 ל-Q5 ודאי שאין כמעט הבדל באיכות.
ב. הבנתי ש"ישרוד" התכוונת מבחינת איכות. עכשיו אני מבין שאתה מתכוון מבחינת חומרה. -
-
@המלאך כתב בבירור | מודל AI אופליין:
הקודר שלו לדעתי די בייתרון.
לא מצאתי גדול יותר בשבילו. הוא ביקש כמה שיותר פרמטרים..אין 14B קודר. חוץ מזה שה-3.5 9B (שאין לו גרסת קודר) טובה יותר מגרסאות הקודר של QWEN 3.
-
-
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אין 14B קודר. חוץ מזה שה-3.5 9B (שאין לו גרסת קודר) טובה יותר מגרסאות הקודר של QWEN 3.
בטוח?
אני די בטוח שראיתי.
אבל כמובן הגיוני שאני טועה.. -
@א.מ.ד.
32 RAM (כרטיס מסך RTX 5070) 8VRAM@anomimi1789 כתב בבירור | מודל AI אופליין:
@א.מ.ד.
32 RAM (כרטיס מסך RTX 5070) 8VRAMאז הכי מומלץ בשבילך לקידוד הוא QWEN 3.6 35B A3B, ולשימוש כללי GEMMA 4 26B A4B. כימות של Q4_K_M.
להריץ ב-LM STUDIO.מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@anomimi1789 כתב בבירור | מודל AI אופליין:
@א.מ.ד.
32 RAM (כרטיס מסך RTX 5070) 8VRAMאז הכי מומלץ בשבילך לקידוד הוא QWEN 3.6 35B A3B, ולשימוש כללי GEMMA 4 26B A4B. כימות של Q4_K_M.
להריץ ב-LM STUDIO. -
@anomimi1789 כתב בבירור | מודל AI אופליין:
@א.מ.ד.
32 RAM (כרטיס מסך RTX 5070) 8VRAMאז הכי מומלץ בשבילך לקידוד הוא QWEN 3.6 35B A3B, ולשימוש כללי GEMMA 4 26B A4B. כימות של Q4_K_M.
להריץ ב-LM STUDIO.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}