@א.מ. כתב בבקשת מידע | עבודה עם מודל להשלמת קוד אופליין:
@א.מ.ד. יש לי 8GB VRAM ו-64GB RAM, אני משתמש ב:
gpt oss 20B
Qwen3 30B A3B Q4_K_M
Mistral Small 3.1 24B Instruct Q4_K_M
אם אתה מכיר משהו יותר טוב - תעדכן.
קודם כל בטווח הגודל שהזכרת:
Devstral Small 2 24B, שמבוסס על Mistral Small 3.2 נועד לקידוד.
Mistral Small 3.2 24B - מעודכן יותר ממה שיש לך.
Qwen3.5 35B A3B - יצא היום, כולל יכולות ראייה, מהיר מאוד.
Qwen3.5 27B - יצא היום, כולל יכולות ראייה, אמור להיות טוב יותר כי הוא מודל "צפוף" (כל הפרמטרים פעילים) אבל לכן גם איטי יותר, וירוץ אצלך על ה-CPU בלבד.
LFM2 24B A2B - גם כן יצא היום, יכולות מפתיעות במהירות מטורפת.
GLM-4.7-Flash 30B A3B - יצא לפני כחודש.
Gemma 3 27B - די ישן אבל עדיין המלך הבלתי מעורער של כתיבה יוצרת ותחומים נוספים כמו רב לשוניות. גם כן מודל צפוף ואיטי.
אבל לפי החומרה שלך, לכאורה תוכל להריץ בקלות גם את Qwen Next Coder 80B A3B, שהוא אחד המודלים המדוברים.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}