להורדה | SparkMoE גרסה V0.4.2 - הרצת מודלי שפה גדולים על חומרה חלשה! עדכון י"א תשרי תשפ"ז
-
@א.מ.ד. נשמע נהדר ממש
כמה טוקנים לשניה הוא מייצר במודלים 35B נאמר
או בצורה אחרת תוך כמה שניות אתה מקבל תשובה לשאלה מה שלומך
כמה טוקנים לשניה הוא מייצר במודלים 35B נאמר
5-7 טוקנים לשנייה.
או בצורה אחרת תוך כמה שניות אתה מקבל תשובה לשאלה מה שלומך
5-10 שניות, משהו כזה...
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
אני לא יודע לקרוא טוב באניגלית אפשר להסביר איך מפעילים עם זה קובץ AI [שכבר הורדתי]
או לחילופין מישהו יכול לשלוח לי למייל[A509230744@ וכו'] את הגירסא הקודמת שהיא בעברית,
אני לא יכול להוריד אותה בעצמי כי זה חסום בנטפרי. -
@א.מ.ד. גם אני מחכה לעברית...
-
@א.מ.ד. נכון להיום על איזה מודלי MoE אתה ממליץ לחומרה 16GB RAM, למטרות שיחה בעברית ידע כללי/קידוד.
-
-
-
@טכנופוב יש קבצי קוונטיזציה רשמיים של Qwen עצמם, אבל הכי מומלצים זה של Unsloth.
בכימותים של 4 ביט, המודל שוקל בסביבות ה-24 GB.
כמובן, כל כימות נתמך.
בפוסט שחרור הגרסה הראשונה שמתי קישורים מדוייקים למודלים המומלצים. -
@א.מ.ד. הורדתי על פי המלצתך https://huggingface.co/unsloth/Qwen3.6-35B-A3B-MTP-GGUF/blob/main/Qwen3.6-35B-A3B-UD-IQ4_NL.gguf ולמרות שזה מודל MTP התוכנה לא מזהה אותו ככזה
-
@א.מ.ד. הורדתי על פי המלצתך https://huggingface.co/unsloth/Qwen3.6-35B-A3B-MTP-GGUF/blob/main/Qwen3.6-35B-A3B-UD-IQ4_NL.gguf ולמרות שזה מודל MTP התוכנה לא מזהה אותו ככזה
תתעלם מזה.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}