מדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים - עדכון כ"ח אב ה'תשפ"ו
-
עבור חומרה עם 16 RAM: לצרכי קידוד חכמים - בעיקרון המודל המומלץ הוא Qwen 3.5 9B או הגרסה המכווננת שלו OmniCoder 9B, אבל מדובר במודלים יחסית כבדים לחומרה כזאת שמצריכים סגירה של שאר התוכנות, ולכן מומלץ להשתמש לקידוד ב-Qwen 3.5 4B או בגרסה המכווננת שלו Qwopus 3.5 4B. לשימוש כללי - Gemma 4 E4B. אם קיים GPU חזק, ניתן להעביר כמה שיותר שכבות ל-GPU לעיבוד מהיר בהרבה.
עבור חומרה עם 8 RAM: עבור קידוד מומלץ להשתמש ב-Qwen 3.5 4B או בגרסה המכווננת שלו Qwopus 3.5 4B. לשימוש כללי - Gemma 4 E2B.
@א.מ.ד. זה עדיין בתוקף או שיש מודלים מתקדמים יותר?
-
ח חובבן מקצועי התייחס לנושא זה
-
א א.מ.ד. התייחס לנושא זה
-
א א.מ.ד. התייחס לנושא זה
-
המדריך עודכן - כ"ח באב ה'תשפ"ו, כולל הוספות רבות, קישורים לכל המודלים והכלים, ועדכון תמונת המצב.
-
@עידו300 האמת שאני עצמי לא ממש זוכר, התחלתי לעדכן ממש מזמן... בעיקר NPU, עדכון המודלים, וקישורים למודלים והכלים. זה מה שאני זוכר מהזמן האחרון.
-
זה שלושת השלבים: (אם אתה בנטפרי, ממליץ לך להתייאש..)
(בנוגע לבחירה בתמונה הזו - זו סתם הייתה בחירה רנדומלית בקבצים להורדה, תוריך את הקוונטיזציה לפי הצורך שלך..)
-
אם אדם צריך כלי עבודה עם מענה מהיר, למה צריך דוקא מודל מעודכן? מה רע במודל ישן שיוכל לעבוד על חומרה חלשה? אם לדוגמא אני צריך רק מודל שידע לענות למיילים (RAG) ולהשתמש בAPI מתועד, למה אני צריך מודל חזק?
אם אדם צריך כלי עבודה עם מענה מהיר, למה צריך דוקא מודל מעודכן? מה רע במודל ישן שיוכל לעבוד על חומרה חלשה? אם לדוגמא אני צריך רק מודל שידע לענות למיילים (RAG) ולהשתמש בAPI מתועד, למה אני צריך מודל חזק?
מעודכן לא הכוונה רק מעודכן בידע, אלא שהוא חזק ואיכותי יותר, מה שמאפשר לך שימוש יותר יציב ואמין באותו גודל, או לעבור למודל קטן יותר ולהישאר באותה איכות.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}