בירור | איזה כלי בינה הכי קל לתמרון בסייבר
-
זה מאפשר להריץ מודלים חזקים על מחשב בלי כרטיס מסך חזק?
מודלי MoE, כלומר מומחים. לדוגמה Qwen 3.6 35B נותן כ-5 טוקנים לשנייה.
עד כמה בדיוק?
תאורטית גם מודלים ממש גדולים. אפילו Qwen 3.8 Flash-Next 177B רץ אצלי במהירות של כ-2 שניות לטוקן.
-
זה מאפשר להריץ מודלים חזקים על מחשב בלי כרטיס מסך חזק?
מודלי MoE, כלומר מומחים. לדוגמה Qwen 3.6 35B נותן כ-5 טוקנים לשנייה.
עד כמה בדיוק?
תאורטית גם מודלים ממש גדולים. אפילו Qwen 3.8 Flash-Next 177B רץ אצלי במהירות של כ-2 שניות לטוקן.
-
זה מאפשר להריץ מודלים חזקים על מחשב בלי כרטיס מסך חזק?
מודלי MoE, כלומר מומחים. לדוגמה Qwen 3.6 35B נותן כ-5 טוקנים לשנייה.
עד כמה בדיוק?
תאורטית גם מודלים ממש גדולים. אפילו Qwen 3.8 Flash-Next 177B רץ אצלי במהירות של כ-2 שניות לטוקן.
-
לא מבין בזה כל כך עדיין
הכוונה למודלים שמפעילים חלק מהפרמטרים שלהם עבור כל טוקן, במקום את כלל המודל. למעשה כמעט כל המודלים כיום הם כאלו, למעט כמה מודלים קטנים שהם צפופים, כמו Qwen 3.8 27B, Gemma 4 31B ועוד, וכן המודלים הזעירים, ששם אין עניין בפיצול המומחים.
הרעיון של SparkMoE זה לטעון ל-RAM רק את המומחים הפעילים בכל פעם, ואת שאר המודל לטעון ל-SSD.
אם אתה רוצה דוגמאות, יש את Qwen 3.6 35B, Gemma 4 26B ועוד.מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
לא מבין בזה כל כך עדיין
הכוונה למודלים שמפעילים חלק מהפרמטרים שלהם עבור כל טוקן, במקום את כלל המודל. למעשה כמעט כל המודלים כיום הם כאלו, למעט כמה מודלים קטנים שהם צפופים, כמו Qwen 3.8 27B, Gemma 4 31B ועוד, וכן המודלים הזעירים, ששם אין עניין בפיצול המומחים.
הרעיון של SparkMoE זה לטעון ל-RAM רק את המומחים הפעילים בכל פעם, ואת שאר המודל לטעון ל-SSD.
אם אתה רוצה דוגמאות, יש את Qwen 3.6 35B, Gemma 4 26B ועוד. -
@א.מ.ד. את זה אני מכיר לא ידעתי שקוראים לזה ככה
אז עם התוכנה שלך אפשר להפעיל כל אחד בקצב מהיר??
זה מחליף בעצם את ביוניק שיש לי?
@א.מ.ד. את זה אני מכיר לא ידעתי שקוראים לזה ככה
אז עם התוכנה שלך אפשר להפעיל כל אחד בקצב מהיר??
זה מחליף בעצם את ביוניק שיש לי?
ביוניק לא קשור. ביוניק זה בעצם LM STUDIO עם כלים ולולאת סוכן. אחת התוכנות המיותרות בעולם לדעתי.
התוכנה שלי היא תוכנת הרצת מודלים.
אתה יכול לחבר אותה לסמארטי, לביוניק, ל-openclaw, קלוד קוד, קודקס ומה שתרצה.מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
@א.מ.ד. את זה אני מכיר לא ידעתי שקוראים לזה ככה
אז עם התוכנה שלך אפשר להפעיל כל אחד בקצב מהיר??
זה מחליף בעצם את ביוניק שיש לי?
ביוניק לא קשור. ביוניק זה בעצם LM STUDIO עם כלים ולולאת סוכן. אחת התוכנות המיותרות בעולם לדעתי.
התוכנה שלי היא תוכנת הרצת מודלים.
אתה יכול לחבר אותה לסמארטי, לביוניק, ל-openclaw, קלוד קוד, קודקס ומה שתרצה. -
@א.מ.ד. איפה הקישור אליה בבקשה
אפשר להריץ דרכה גם את המודלים או שלא לא הבנתי במאה אחוז עוד
אפשר להריץ על קודקס וקלוד קוד מודלים מקומיים??
-
@המלאך אבל המודלים בFREEBUFF הם לא קוד פתוח, הם משרת
@The_Yonatan אשמח להסבר מה זה FREEBUFF.
תודה -
@The_Yonatan אשמח להסבר מה זה FREEBUFF.
תודה -
@הרשוש רק תדגיש שהוא חסום בנטפרי
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}