בירור | איזה כלי בינה הכי קל לתמרון בסייבר
-
https://heretic-project.org/
https://github.com/p-e-w/heretic
כול מודל שהוא "נפתח" בקלות.
די מגניב איך שזה עובד למי שמעוניין. -
גם ה 3.1 פרו עוזב בקרוב
-
Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-Q3_K_P.gguf
^ הוא היה ילד ממש טוב, אפילו עזר לי להוריד דרישת רשיון לתוכנה ששילמתי עד עכשיו - בפרופמט בודד -
Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-Q3_K_P.gguf
^ הוא היה ילד ממש טוב, אפילו עזר לי להוריד דרישת רשיון לתוכנה ששילמתי עד עכשיו - בפרופמט בודד -
@ארי תבדוק מה אומרים על זה פה
שם זו גרסה ישנה. חפש את הגרסה החדשה של SparkMoE.
@ארי ספארקMoE יעבוד ברווח.
אבל בלי התוכנה ההיא אני מניח שיעבוד אם כי איטי יחסית, יש גבול למהירות אפשרית כשמדובר בטעינת מומחים לראם שלכשלעצמו הוא איטי יחסית, @א.מ.ד. אני צודק?אין צורך ב-SparkMoE במודל שאינו MoE... אבל זה כן יהיה מהיר יותר מ-LM STUDIO.
@המלאך יש לי 32 ראם ואין לי כרטיס מסך זה יעבוד?
יש לך מספיק RAM בשביל זה, השאלה מה תהיה המהירות.
@בנימין-מחשבים , לך יש כזאת חומרה, נכון? מה המהירות אצלך?מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
@ארי תבדוק מה אומרים על זה פה
שם זו גרסה ישנה. חפש את הגרסה החדשה של SparkMoE.
@ארי ספארקMoE יעבוד ברווח.
אבל בלי התוכנה ההיא אני מניח שיעבוד אם כי איטי יחסית, יש גבול למהירות אפשרית כשמדובר בטעינת מומחים לראם שלכשלעצמו הוא איטי יחסית, @א.מ.ד. אני צודק?אין צורך ב-SparkMoE במודל שאינו MoE... אבל זה כן יהיה מהיר יותר מ-LM STUDIO.
@המלאך יש לי 32 ראם ואין לי כרטיס מסך זה יעבוד?
יש לך מספיק RAM בשביל זה, השאלה מה תהיה המהירות.
@בנימין-מחשבים , לך יש כזאת חומרה, נכון? מה המהירות אצלך? -
@ארי תבדוק מה אומרים על זה פה
שם זו גרסה ישנה. חפש את הגרסה החדשה של SparkMoE.
@ארי ספארקMoE יעבוד ברווח.
אבל בלי התוכנה ההיא אני מניח שיעבוד אם כי איטי יחסית, יש גבול למהירות אפשרית כשמדובר בטעינת מומחים לראם שלכשלעצמו הוא איטי יחסית, @א.מ.ד. אני צודק?אין צורך ב-SparkMoE במודל שאינו MoE... אבל זה כן יהיה מהיר יותר מ-LM STUDIO.
@המלאך יש לי 32 ראם ואין לי כרטיס מסך זה יעבוד?
יש לך מספיק RAM בשביל זה, השאלה מה תהיה המהירות.
@בנימין-מחשבים , לך יש כזאת חומרה, נכון? מה המהירות אצלך? -
זה מאפשר להריץ מודלים חזקים על מחשב בלי כרטיס מסך חזק?
מודלי MoE, כלומר מומחים. לדוגמה Qwen 3.6 35B נותן כ-5 טוקנים לשנייה.
עד כמה בדיוק?
תאורטית גם מודלים ממש גדולים. אפילו Qwen 3.8 Flash-Next 177B רץ אצלי במהירות של כ-2 שניות לטוקן.
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
זה מאפשר להריץ מודלים חזקים על מחשב בלי כרטיס מסך חזק?
מודלי MoE, כלומר מומחים. לדוגמה Qwen 3.6 35B נותן כ-5 טוקנים לשנייה.
עד כמה בדיוק?
תאורטית גם מודלים ממש גדולים. אפילו Qwen 3.8 Flash-Next 177B רץ אצלי במהירות של כ-2 שניות לטוקן.
-
זה מאפשר להריץ מודלים חזקים על מחשב בלי כרטיס מסך חזק?
מודלי MoE, כלומר מומחים. לדוגמה Qwen 3.6 35B נותן כ-5 טוקנים לשנייה.
עד כמה בדיוק?
תאורטית גם מודלים ממש גדולים. אפילו Qwen 3.8 Flash-Next 177B רץ אצלי במהירות של כ-2 שניות לטוקן.
-
זה מאפשר להריץ מודלים חזקים על מחשב בלי כרטיס מסך חזק?
מודלי MoE, כלומר מומחים. לדוגמה Qwen 3.6 35B נותן כ-5 טוקנים לשנייה.
עד כמה בדיוק?
תאורטית גם מודלים ממש גדולים. אפילו Qwen 3.8 Flash-Next 177B רץ אצלי במהירות של כ-2 שניות לטוקן.
-
לא מבין בזה כל כך עדיין
הכוונה למודלים שמפעילים חלק מהפרמטרים שלהם עבור כל טוקן, במקום את כלל המודל. למעשה כמעט כל המודלים כיום הם כאלו, למעט כמה מודלים קטנים שהם צפופים, כמו Qwen 3.8 27B, Gemma 4 31B ועוד, וכן המודלים הזעירים, ששם אין עניין בפיצול המומחים.
הרעיון של SparkMoE זה לטעון ל-RAM רק את המומחים הפעילים בכל פעם, ואת שאר המודל לטעון ל-SSD.
אם אתה רוצה דוגמאות, יש את Qwen 3.6 35B, Gemma 4 26B ועוד.מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
לא מבין בזה כל כך עדיין
הכוונה למודלים שמפעילים חלק מהפרמטרים שלהם עבור כל טוקן, במקום את כלל המודל. למעשה כמעט כל המודלים כיום הם כאלו, למעט כמה מודלים קטנים שהם צפופים, כמו Qwen 3.8 27B, Gemma 4 31B ועוד, וכן המודלים הזעירים, ששם אין עניין בפיצול המומחים.
הרעיון של SparkMoE זה לטעון ל-RAM רק את המומחים הפעילים בכל פעם, ואת שאר המודל לטעון ל-SSD.
אם אתה רוצה דוגמאות, יש את Qwen 3.6 35B, Gemma 4 26B ועוד.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}