שיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים 💬
-
@א.מ.ד.
כתבת:ומה שהכי מפתיע, זה העובדה שמדובר במודל עם 125B פרמטרים בסך הכל, עם רק 6B פעילים! הארכיטקטורה החדשה של Qwen 4 מתבררת ככל הנראה כשינוי המבטיח שיאפשר הרצת מודלי-על על חומרה צרכנית עם GPU קטן...
מה גודל המודל? האם ניתן להריץ אותו על 16GB RAM?
גאה להיות חלק:
otzaria.org -
@א.מ.ד.
כתבת:ומה שהכי מפתיע, זה העובדה שמדובר במודל עם 125B פרמטרים בסך הכל, עם רק 6B פעילים! הארכיטקטורה החדשה של Qwen 4 מתבררת ככל הנראה כשינוי המבטיח שיאפשר הרצת מודלי-על על חומרה צרכנית עם GPU קטן...
מה גודל המודל? האם ניתן להריץ אותו על 16GB RAM?
מה גודל המודל? האם ניתן להריץ אותו על 16GB RAM?
125B, ובנוסף 51B של טבלת n-gram שיכולה להיות אפילו בדיסק, ועוד 4B של MTP. סה"כ כ-180B. הגודל של הכל בכימות של IQ4 XS הוא בערך 90 GB.
אז בעיקרון זה מתאים לחומרה של 8 VRAM ו-128 RAM, או חלק ממחשבי MAC עם זיכרון מאוחד גדול.
אבל אני בדיוק בודק האם זה אפשרי להטמיע את זה בתוכנה שלי SparkMoE ולהריץ על 16 RAM בלבד עם מהירות סבירה (נניח 1 טוקן לשנייה)... אולי אני יעלה סקר לראות אם שווה לעבוד על זה. -
מעכשיו אפשר לעבוד על שני דברים בו זמנית בפעם ביתר קלות בקלוד על ידי פיצול מסך...
מה שצריך זה פשוט למשוך את השירשור למרכז...
-
אופציה חדשה בקלוד קוד
הוא ממשיך לבד אחרי איפוס הלימיט
עד היום היה צריך לעשות טריגרים
-
@MAD
זה עובד אוטומטי או שצריך להגדיר את זה?
וכן אם זה בכל הסוגים בקלוד קוד?סליחה על השאלות יכול להיות שהתמונה מסבירה אבל זה לא חזר עדיין מנטפרי
-
@MAD
זה עובד אוטומטי או שצריך להגדיר את זה?
וכן אם זה בכל הסוגים בקלוד קוד?סליחה על השאלות יכול להיות שהתמונה מסבירה אבל זה לא חזר עדיין מנטפרי
-
אופציה חדשה בקלוד קוד
הוא ממשיך לבד אחרי איפוס הלימיט
עד היום היה צריך לעשות טריגרים
-
אם אני צריך קלוד מנוי ליום או יומים יש אפשרות במקום לעשות מנוי חודשי לקנות קדיטים או משהו כזה ליום יומים?
-
אם אני צריך קלוד מנוי ליום או יומים יש אפשרות במקום לעשות מנוי חודשי לקנות קדיטים או משהו כזה ליום יומים?
-
אם אני צריך קלוד מנוי ליום או יומים יש אפשרות במקום לעשות מנוי חודשי לקנות קדיטים או משהו כזה ליום יומים?
@הישבשר-המלומד בעיקרון אפשר להתקין את קלוד קוד ולקחת ע"י API
אבל לא בדסקטופ ושאר הדברים של PRO
עריכה אני רואה ש @ע-ה-דכו-ע הקדימני וכתב טוב יותר -
אם אני צריך קלוד מנוי ליום או יומים יש אפשרות במקום לעשות מנוי חודשי לקנות קדיטים או משהו כזה ליום יומים?
אפשר בAPI, אבל זה כמעט עלול לצאת לך יותר יקר ממנוי חודשי, תלוי לאיזה שימוש
@ע-ה-דכו-ע אין אפשרות לקנות ממשהו או מצד שלישי?
-
@ע-ה-דכו-ע אין אפשרות לקנות ממשהו או מצד שלישי?
-
@הישבשר-המלומד פורסם פה איך לקבל 250 דולר או משהו כזה דרך צג שלי תחפש
-
@קרט לא מצאתי יש אולי קישור
-
@ע-ה-דכו-ע אין אפשרות לקנות ממשהו או מצד שלישי?
@ע-ה-דכו-ע אין אפשרות לקנות ממשהו או מצד שלישי?
יש אפשרויות, אבל הכל זה API שעלול לעלות יותר.
עכשיו אני נזכר באפשרות של הניסיון לשבוע, אני רואה ש @שלץ כבר הקדימני
-
@הישבשר-המלומד פה או פה
-
@ע-ה-דכו-ע אין אפשרות לקנות ממשהו או מצד שלישי?
יש אפשרויות, אבל הכל זה API שעלול לעלות יותר.
עכשיו אני נזכר באפשרות של הניסיון לשבוע, אני רואה ש @שלץ כבר הקדימני
@ע-ה-דכו-ע משהו יודע איך אני מקבל את הנסיו לשבוע זה בול מה שאני צריך (אגב בעבר היה לי מנוי לקלוד קוד לחודש אחד אם זה משנה) אשמח אם משהו ישלח לי קישור או מה שזה
![ע"ה דכו"ע](/assets/uploads/profile/uid-24261/24261-profileavatar-1774768870385.png "ע"ה דכו"ע"){kind=avatar}
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}