inclusionAI - Ling 3.0 Tiny (8B A1B): המודל החזק ביותר שתוכלו להריץ על המחשב שלכם, במהירות גבוהה!
inclusionAI משחררת את המודל Ling 3.0 Tiny, הקטן ביותר בסדרת Ling 3.0.
שאר המודלים בסדרה פחות מעניינים ורלוונטיים, למרות שהם טובים בהחלט, אבל המודל המפתיע ביותר בסדרה הוא Ling 3.0 Tiny, מודל חשיבה בעל 8B פרמטרים כשרק 1.3B מופעלים עבור כל פרמטר, כך שהוא רץ כמעט במהירות של מודל 1B זעיר, אבל עם אינטליגנציה גבוהה מאוד ויכולות סוכן מטורפות. אני הצלחתי לקבל כ-19 טוקנים לשנייה ב-llama.cpp עם המודל הזה, עם 16 RAM בלבד במקביל לכ-900 כרטיסיות פתוחות בדפדפן...
המודל החדש מתמחה במיוחד בלולאות סוכן ובהפעלת כלים מרובים, עם יכולות היגיון וקידוד חזקות מאוד. עברית הוא דובר קצת פחות טוב, אבל עדיין מבין עברית מצוין.
מדדים:
אינטליגנציה:
שימו לב אילו מודלים חזקים הוא עוקף או משתווה אליהם!
החץ הסגול מדגים את הפער העצום מהמתחרה האמיתי של המודל החדש - LFM 2.5 8B A1B - מודל זהה בגודלו ובגודל הפרמטרים המופעלים.
[image: 1787086898894-4c2ad626-48cf-4ebe-bb78-81d5ea52409d-image.jpeg]
יכולות סוכן:
גם כאן, המודל החדש עוקף מודלים חזקים, כמו Gemma 4 31B עם חשיבה מופעלת!
[image: 1787086739082-270d1278-07fd-45c6-8ba7-5b3574ea5514-image.jpeg]
המודל הושק כבר לפני שבוע, אבל עד אתמול לא נתמך ב-llama.cpp, ולכן ייקח זמן (כמה ימים) עד שייתמך בתוכנות המעטפת כמו LM Studio, אבל כבר עכשיו אפשר להשתמש בו בקלות עם llama.cpp. מקסימום תיעזרו ב-GPT...
קישור: https://huggingface.co/bartowski/Ling-3.0-tiny-GGUF
![שאול נ"י](/assets/uploads/profile/uid-3452/3452-profileavatar-1623949713763.jpeg "שאול נ"י"){kind=avatar}
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}