שיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים 💬
-
או שפשוט נחזור למודל המקורי... עדכונים ו(קצת!) דיונים
יש לשרשור הזה 89 עוקבים, לא חושב שזה בשביל שרשור דיונים...
אז פליז - דיונים רק הכרחיים ובקצרה
תודה על שיתוף הפעולה
ותודה לכל הכותבים והמעדכנים!@בנימין-מחשבים נראה לענ"ד שבכל מקרה צריך שרשור דיונים איפושהו....
אבל בהחלט מסכים.
-
אוקי תרחיב טיפה מה הכוונה מעדכן דרך גיט אם הכל ברשת
מה הפקודה שאתה עושה בגיט?
תלמד קצת על גיט וגיטהאב, לא מסובך בכלל.
אבל מה אתה עושה אם צריך בדיקות בדוקר מקומי? יש לזה פתרון אונליין?
לא כ"כ משתמש בדוקר.
אבל שוב, אחרי שאתה מעדכן את הקוד במחשב - אתה יכול להריץ את כל הבדיקות שאתה רוצה.
ואגב, אולי אתה יכול להכין ריצת גיטהאב שתעשה לך את כל הבדיקות שאתה צריך. -
אוקי תרחיב טיפה מה הכוונה מעדכן דרך גיט אם הכל ברשת
מה הפקודה שאתה עושה בגיט?
תלמד קצת על גיט וגיטהאב, לא מסובך בכלל.
אבל מה אתה עושה אם צריך בדיקות בדוקר מקומי? יש לזה פתרון אונליין?
לא כ"כ משתמש בדוקר.
אבל שוב, אחרי שאתה מעדכן את הקוד במחשב - אתה יכול להריץ את כל הבדיקות שאתה רוצה.
ואגב, אולי אתה יכול להכין ריצת גיטהאב שתעשה לך את כל הבדיקות שאתה צריך. -
@א.מ.ד.
כתבת:ומה שהכי מפתיע, זה העובדה שמדובר במודל עם 125B פרמטרים בסך הכל, עם רק 6B פעילים! הארכיטקטורה החדשה של Qwen 4 מתבררת ככל הנראה כשינוי המבטיח שיאפשר הרצת מודלי-על על חומרה צרכנית עם GPU קטן...
מה גודל המודל? האם ניתן להריץ אותו על 16GB RAM?
גאה להיות חלק:
otzaria.org -
@א.מ.ד.
כתבת:ומה שהכי מפתיע, זה העובדה שמדובר במודל עם 125B פרמטרים בסך הכל, עם רק 6B פעילים! הארכיטקטורה החדשה של Qwen 4 מתבררת ככל הנראה כשינוי המבטיח שיאפשר הרצת מודלי-על על חומרה צרכנית עם GPU קטן...
מה גודל המודל? האם ניתן להריץ אותו על 16GB RAM?
מה גודל המודל? האם ניתן להריץ אותו על 16GB RAM?
125B, ובנוסף 51B של טבלת n-gram שיכולה להיות אפילו בדיסק, ועוד 4B של MTP. סה"כ כ-180B. הגודל של הכל בכימות של IQ4 XS הוא בערך 90 GB.
אז בעיקרון זה מתאים לחומרה של 8 VRAM ו-128 RAM, או חלק ממחשבי MAC עם זיכרון מאוחד גדול.
אבל אני בדיוק בודק האם זה אפשרי להטמיע את זה בתוכנה שלי SparkMoE ולהריץ על 16 RAM בלבד עם מהירות סבירה (נניח 1 טוקן לשנייה)... אולי אני יעלה סקר לראות אם שווה לעבוד על זה. -
מעכשיו אפשר לעבוד על שני דברים בו זמנית בפעם ביתר קלות בקלוד על ידי פיצול מסך...
מה שצריך זה פשוט למשוך את השירשור למרכז...
-
אופציה חדשה בקלוד קוד
הוא ממשיך לבד אחרי איפוס הלימיט
עד היום היה צריך לעשות טריגרים
-
@MAD
זה עובד אוטומטי או שצריך להגדיר את זה?
וכן אם זה בכל הסוגים בקלוד קוד?סליחה על השאלות יכול להיות שהתמונה מסבירה אבל זה לא חזר עדיין מנטפרי
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}