בירור | מודל AI אופליין
-
@anomimi1789 כתב בבירור | מודל AI אופליין:
עדיפות לכמה שיותר פרמטרים אבל מה שיש טוב תודה מראש
אם תרצה יש לי של 1.6 טריליון פרמטרים. מספיק טוב?
-
@א.מ.ד.
רגע רגע...אמרת טרליון???? -
@anomimi1789 הוא התכוון להגיד שלא נכון לומר 'כמה שיותר פרמטרים'.
נראה לי [לא יודע כמה ראם רגיל יש לך..]
קוואן 13b כימות 4b או אפילו 5b ישרוד.
כימות 8b לא ישרוד יותר מ7b פרמטרים.
אהיה יותר ברור.
מודל: qwen.
גודל פרמטרים: 14b.
כימות [gguf]: 4b/5b.
ייעוד: קודר.
ת'אנת אין לי מושג אם יש בכימות הזה לגודל הזה.
אשאיר ל @א.מ.ד. את העבודה השחורה של לחפש האגינג פייס.@המלאך כתב בבירור | מודל AI אופליין:
@anomimi1789 הוא התכוון להגיד שלא נכון לומר 'כמה שיותר פרמטרים'.
נראה לי [לא יודע כמה ראם רגיל יש לך..]
קוואן 13b כימות 4b או אפילו 5b ישרוד.
כימות 8b לא ישרוד יותר מ7b פרמטרים.
אהיה יותר ברור.
מודל: qwen.
גודל פרמטרים: 14b.
כימות [gguf]: 4b/5b.
ייעוד: קודר.
ת'אנת אין לי מושג אם יש בכימות הזה לגודל הזה.
אשאיר ל @א.מ.ד. את העבודה השחורה של לחפש האגינג פייס.אין צורך בכימות פחות אגרסיבי מ-4 ביט. 4 ביט חוסך 75% מהזיכרון הדרוש, תוך ירידה מינרית בביצועים וכמעט בלתי מורגשת לעין אנושית. זה נכון בין למודלי 4B ובין למודלי 400B.
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.
לגבי המודל שהצעת - QWEN 14B, שזה QWEN 3, מדובר במודל מיושן. ישנם מודלים שקטנים ממנו בחצי וטובים יותר ממנו.
סדרת המודלים המומלצת כיום לקידוד היא QWEN 3.5, ולשימוש כללי GEMMA 4.
אז תבחר את גודל המודל לפי כמות ה-RAM שלך, כמפורט במדריך שקישרתי אליו למעלה.
הכימות המומלץ הוא Q4.אגב @המלאך , הסימון של כימותים הוא Q4, לא 4B.
מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@המלאך כתב בבירור | מודל AI אופליין:
@anomimi1789 הוא התכוון להגיד שלא נכון לומר 'כמה שיותר פרמטרים'.
נראה לי [לא יודע כמה ראם רגיל יש לך..]
קוואן 13b כימות 4b או אפילו 5b ישרוד.
כימות 8b לא ישרוד יותר מ7b פרמטרים.
אהיה יותר ברור.
מודל: qwen.
גודל פרמטרים: 14b.
כימות [gguf]: 4b/5b.
ייעוד: קודר.
ת'אנת אין לי מושג אם יש בכימות הזה לגודל הזה.
אשאיר ל @א.מ.ד. את העבודה השחורה של לחפש האגינג פייס.אין צורך בכימות פחות אגרסיבי מ-4 ביט. 4 ביט חוסך 75% מהזיכרון הדרוש, תוך ירידה מינרית בביצועים וכמעט בלתי מורגשת לעין אנושית. זה נכון בין למודלי 4B ובין למודלי 400B.
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.
לגבי המודל שהצעת - QWEN 14B, שזה QWEN 3, מדובר במודל מיושן. ישנם מודלים שקטנים ממנו בחצי וטובים יותר ממנו.
סדרת המודלים המומלצת כיום לקידוד היא QWEN 3.5, ולשימוש כללי GEMMA 4.
אז תבחר את גודל המודל לפי כמות ה-RAM שלך, כמפורט במדריך שקישרתי אליו למעלה.
הכימות המומלץ הוא Q4.אגב @המלאך , הסימון של כימותים הוא Q4, לא 4B.
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אין צורך בכימות פחות אגרסיבי מ-4 ביט. 4 ביט חוסך 75% מהזיכרון הדרוש, תוך ירידה מינרית בביצועים וכמעט בלתי מורגשת לעין אנושית. זה נכון בין למודלי 4B ובין למודלי 400B.
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.לכן הצעתי כימות יותר גדול. 5 ולא 4. עניין של איכות.
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.
לגבי המודל שהצעת - QWEN 14B, שזה QWEN 3, מדובר במודל מיושן. ישנם מודלים שקטנים ממנו בחצי וטובים יותר ממנו.
סדרת המודלים המומלצת כיום לקידוד היא QWEN 3.5,הקודר שלו לדעתי די בייתרון.
לא מצאתי גדול יותר בשבילו. הוא ביקש כמה שיותר פרמטרים..
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב @המלאך , הסימון של כימותים הוא Q4, לא 4B.
Whatever you say, sir.
Anyway, thank you for your attention to this matter. -
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אין צורך בכימות פחות אגרסיבי מ-4 ביט. 4 ביט חוסך 75% מהזיכרון הדרוש, תוך ירידה מינרית בביצועים וכמעט בלתי מורגשת לעין אנושית. זה נכון בין למודלי 4B ובין למודלי 400B.
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.לכן הצעתי כימות יותר גדול. 5 ולא 4. עניין של איכות.
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.
לגבי המודל שהצעת - QWEN 14B, שזה QWEN 3, מדובר במודל מיושן. ישנם מודלים שקטנים ממנו בחצי וטובים יותר ממנו.
סדרת המודלים המומלצת כיום לקידוד היא QWEN 3.5,הקודר שלו לדעתי די בייתרון.
לא מצאתי גדול יותר בשבילו. הוא ביקש כמה שיותר פרמטרים..@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב @המלאך , הסימון של כימותים הוא Q4, לא 4B.
Whatever you say, sir.
Anyway, thank you for your attention to this matter.@המלאך כתב בבירור | מודל AI אופליין:
לכן הצעתי כימות יותר גדול. 5 ולא 4. עניין של איכות.
א. כתבתי שאין הבדל נראה לעין בין המודל המלא לבין Q4, אז בין Q4 ל-Q5 ודאי שאין כמעט הבדל באיכות.
ב. הבנתי ש"ישרוד" התכוונת מבחינת איכות. עכשיו אני מבין שאתה מתכוון מבחינת חומרה. -
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אין צורך בכימות פחות אגרסיבי מ-4 ביט. 4 ביט חוסך 75% מהזיכרון הדרוש, תוך ירידה מינרית בביצועים וכמעט בלתי מורגשת לעין אנושית. זה נכון בין למודלי 4B ובין למודלי 400B.
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.לכן הצעתי כימות יותר גדול. 5 ולא 4. עניין של איכות.
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב ככל שהמספר בכימות יותר גבוה (לדוגמא Q8) אז המודל יותר איכותי (שוב, מינורי), לא ההיפך. Q4 פחות איכותי מ-Q8.
לגבי המודל שהצעת - QWEN 14B, שזה QWEN 3, מדובר במודל מיושן. ישנם מודלים שקטנים ממנו בחצי וטובים יותר ממנו.
סדרת המודלים המומלצת כיום לקידוד היא QWEN 3.5,הקודר שלו לדעתי די בייתרון.
לא מצאתי גדול יותר בשבילו. הוא ביקש כמה שיותר פרמטרים..@א.מ.ד. כתב בבירור | מודל AI אופליין:
אגב @המלאך , הסימון של כימותים הוא Q4, לא 4B.
Whatever you say, sir.
Anyway, thank you for your attention to this matter.@המלאך כתב בבירור | מודל AI אופליין:
הקודר שלו לדעתי די בייתרון.
לא מצאתי גדול יותר בשבילו. הוא ביקש כמה שיותר פרמטרים..אין 14B קודר. חוץ מזה שה-3.5 9B (שאין לו גרסת קודר) טובה יותר מגרסאות הקודר של QWEN 3.
מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@המלאך כתב בבירור | מודל AI אופליין:
לכן הצעתי כימות יותר גדול. 5 ולא 4. עניין של איכות.
א. כתבתי שאין הבדל נראה לעין בין המודל המלא לבין Q4, אז בין Q4 ל-Q5 ודאי שאין כמעט הבדל באיכות.
ב. הבנתי ש"ישרוד" התכוונת מבחינת איכות. עכשיו אני מבין שאתה מתכוון מבחינת חומרה. -
-
@המלאך כתב בבירור | מודל AI אופליין:
הקודר שלו לדעתי די בייתרון.
לא מצאתי גדול יותר בשבילו. הוא ביקש כמה שיותר פרמטרים..אין 14B קודר. חוץ מזה שה-3.5 9B (שאין לו גרסת קודר) טובה יותר מגרסאות הקודר של QWEN 3.
-
-
@א.מ.ד. כתב בבירור | מודל AI אופליין:
אין 14B קודר. חוץ מזה שה-3.5 9B (שאין לו גרסת קודר) טובה יותר מגרסאות הקודר של QWEN 3.
בטוח?
אני די בטוח שראיתי.
אבל כמובן הגיוני שאני טועה.. -
@א.מ.ד.
32 RAM (כרטיס מסך RTX 5070) 8VRAM@anomimi1789 כתב בבירור | מודל AI אופליין:
@א.מ.ד.
32 RAM (כרטיס מסך RTX 5070) 8VRAMאז הכי מומלץ בשבילך לקידוד הוא QWEN 3.6 35B A3B, ולשימוש כללי GEMMA 4 26B A4B. כימות של Q4_K_M.
להריץ ב-LM STUDIO.מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@anomimi1789 כתב בבירור | מודל AI אופליין:
@א.מ.ד.
32 RAM (כרטיס מסך RTX 5070) 8VRAMאז הכי מומלץ בשבילך לקידוד הוא QWEN 3.6 35B A3B, ולשימוש כללי GEMMA 4 26B A4B. כימות של Q4_K_M.
להריץ ב-LM STUDIO. -
@anomimi1789 כתב בבירור | מודל AI אופליין:
@א.מ.ד.
32 RAM (כרטיס מסך RTX 5070) 8VRAMאז הכי מומלץ בשבילך לקידוד הוא QWEN 3.6 35B A3B, ולשימוש כללי GEMMA 4 26B A4B. כימות של Q4_K_M.
להריץ ב-LM STUDIO. -
@א.מ.ד.
זה לא יזלוג לRAM? אאכ אתה מדבר על גרסא דחוסה@anomimi1789 כתב בבירור | מודל AI אופליין:
@א.מ.ד.
זה לא יזלוג לRAM? אאכ אתה מדבר על גרסא דחוסהזה לא ייזלוג ל-RAM אלא יישב כל כולו בנינוחות ב-RAM. הפרמטרים הפעילים בלבד יוכנסו ל-VRAM בכל טוקן להרצה מהירה.
-
@המלאך
LM STUDIO אן כל משהו אחר@anomimi1789 כתב בבירור | מודל AI אופליין:
@המלאך
LM STUDIO אן כל משהו אחריש אבל אתה בטח לא מחפש הרפתקאות...
מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@anomimi1789 כתב בבירור | מודל AI אופליין:
@א.מ.ד.
זה לא יזלוג לRAM? אאכ אתה מדבר על גרסא דחוסהזה לא ייזלוג ל-RAM אלא יישב כל כולו בנינוחות ב-RAM. הפרמטרים הפעילים בלבד יוכנסו ל-VRAM בכל טוקן להרצה מהירה.
@א.מ.ד.
הידד.. אנא שלח קישור
למה הכוונה הרפתקאות...יש גם את LUMA 3 איך זה -
@anomimi1789 כתב בבירור | מודל AI אופליין:
@המלאך
LM STUDIO אן כל משהו אחריש אבל אתה בטח לא מחפש הרפתקאות...
-
@א.מ.ד.
הידד.. אנא שלח קישור
למה הכוונה הרפתקאות...יש גם את LUMA 3 איך זה@anomimi1789 הרפתקאות כי זה די מסובך לתפעול אם אין היכרות עם הנושא.
יש הרבה.
תעיין במדריך שלו.. ממש מכסה הכל!
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}