שיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים 💬
-
@א.מ.ד.
כתבת:ומה שהכי מפתיע, זה העובדה שמדובר במודל עם 125B פרמטרים בסך הכל, עם רק 6B פעילים! הארכיטקטורה החדשה של Qwen 4 מתבררת ככל הנראה כשינוי המבטיח שיאפשר הרצת מודלי-על על חומרה צרכנית עם GPU קטן...
מה גודל המודל? האם ניתן להריץ אותו על 16GB RAM?
מה גודל המודל? האם ניתן להריץ אותו על 16GB RAM?
125B, ובנוסף 51B של טבלת n-gram שיכולה להיות אפילו בדיסק, ועוד 4B של MTP. סה"כ כ-180B. הגודל של הכל בכימות של IQ4 XS הוא בערך 90 GB.
אז בעיקרון זה מתאים לחומרה של 8 VRAM ו-128 RAM, או חלק ממחשבי MAC עם זיכרון מאוחד גדול.
אבל אני בדיוק בודק האם זה אפשרי להטמיע את זה בתוכנה שלי SparkMoE ולהריץ על 16 RAM בלבד עם מהירות סבירה (נניח 1 טוקן לשנייה)... אולי אני יעלה סקר לראות אם שווה לעבוד על זה. -
מעכשיו אפשר לעבוד על שני דברים בו זמנית בפעם ביתר קלות בקלוד על ידי פיצול מסך...
מה שצריך זה פשוט למשוך את השירשור למרכז...
-
אופציה חדשה בקלוד קוד
הוא ממשיך לבד אחרי איפוס הלימיט
עד היום היה צריך לעשות טריגרים
-
@MAD
זה עובד אוטומטי או שצריך להגדיר את זה?
וכן אם זה בכל הסוגים בקלוד קוד?סליחה על השאלות יכול להיות שהתמונה מסבירה אבל זה לא חזר עדיין מנטפרי
-
@MAD
זה עובד אוטומטי או שצריך להגדיר את זה?
וכן אם זה בכל הסוגים בקלוד קוד?סליחה על השאלות יכול להיות שהתמונה מסבירה אבל זה לא חזר עדיין מנטפרי
-
אופציה חדשה בקלוד קוד
הוא ממשיך לבד אחרי איפוס הלימיט
עד היום היה צריך לעשות טריגרים
-
אם אני צריך קלוד מנוי ליום או יומים יש אפשרות במקום לעשות מנוי חודשי לקנות קדיטים או משהו כזה ליום יומים?
-
אם אני צריך קלוד מנוי ליום או יומים יש אפשרות במקום לעשות מנוי חודשי לקנות קדיטים או משהו כזה ליום יומים?
-
אם אני צריך קלוד מנוי ליום או יומים יש אפשרות במקום לעשות מנוי חודשי לקנות קדיטים או משהו כזה ליום יומים?
@הישבשר-המלומד בעיקרון אפשר להתקין את קלוד קוד ולקחת ע"י API
אבל לא בדסקטופ ושאר הדברים של PRO
עריכה אני רואה ש @ע-ה-דכו-ע הקדימני וכתב טוב יותר -
אם אני צריך קלוד מנוי ליום או יומים יש אפשרות במקום לעשות מנוי חודשי לקנות קדיטים או משהו כזה ליום יומים?
אפשר בAPI, אבל זה כמעט עלול לצאת לך יותר יקר ממנוי חודשי, תלוי לאיזה שימוש
@ע-ה-דכו-ע אין אפשרות לקנות ממשהו או מצד שלישי?
-
@ע-ה-דכו-ע אין אפשרות לקנות ממשהו או מצד שלישי?
-
@הישבשר-המלומד פורסם פה איך לקבל 250 דולר או משהו כזה דרך צג שלי תחפש
-
@קרט לא מצאתי יש אולי קישור
-
@ע-ה-דכו-ע אין אפשרות לקנות ממשהו או מצד שלישי?
@ע-ה-דכו-ע אין אפשרות לקנות ממשהו או מצד שלישי?
יש אפשרויות, אבל הכל זה API שעלול לעלות יותר.
עכשיו אני נזכר באפשרות של הניסיון לשבוע, אני רואה ש @שלץ כבר הקדימני
-
@הישבשר-המלומד פה או פה
-
@ע-ה-דכו-ע אין אפשרות לקנות ממשהו או מצד שלישי?
יש אפשרויות, אבל הכל זה API שעלול לעלות יותר.
עכשיו אני נזכר באפשרות של הניסיון לשבוע, אני רואה ש @שלץ כבר הקדימני
@ע-ה-דכו-ע משהו יודע איך אני מקבל את הנסיו לשבוע זה בול מה שאני צריך (אגב בעבר היה לי מנוי לקלוד קוד לחודש אחד אם זה משנה) אשמח אם משהו ישלח לי קישור או מה שזה
-
בהמשך לנושא של @א.מ.ד. - מה חדש בבינה מלאכותית - מתעדכן
כידוע, האשכול ההוא נועד לעדכונים משמעותיים בלבד (בלי להעליב את שינוי צבע הכפתור ב-GPT
) וללא דיונים.
בתכלס' ראיתי שקשה מאוד לאנשים לא להיכנס לדיונים,
וזה מלבד שלפעמים רוצים להעלות עדכונים על 'פכים קטנים'לטובת כל אלו פתחתי את האשכול , המיועד בעיקר לזה
פיצ'רים חדשים, עדכוני ממשק, שינויי עיצוב וכו' - כל מה שהוא לא כותרת בחדשות אבל עדיין מעניין.כמו"כ אם "בוער" לכם להגיב על עדכון מסוים – זה המקום. (אם כי עדיף כמובן שיישאר בעיקר לעדכונים)
בואו נשאיר את האשכול המקורי נקי ומקצועי.אז לכל מי שהיה לו עדכון קטן וחשש "להספים" שם – תתפרעו כאן.
ותודה לכל המעדכנים שם וכאן!אנבידיה (NVIDIA) החליטה לרכוש את פלטפורמת הבינה המלאכותית Hugging Face תמורת 12.9 מיליארד דולר - כך דווח ב-The Information מפי גורם המקורב לעסקה.
אם העסקה תצא לפועל, היא תהיה אחת הרכישות הגדולות בתולדות אנבידיה ותכניס אותה עמוק יותר לתחום התוכנה והפלטפורמות לבינה מלאכותית, לאחר שביססה את מעמדה בעיקר בשוק החומרה ובתוכנה הנלווית אליה, ובה CUDA.
Hugging Face הפכה במהלך השנים לפלטפורמת קוד פתוח מרכזית בתחום הבינה המלאכותית. היא מאחסנת מאות אלפי מודלים מוכנים לשימוש, כלים ופרויקטים שונים, ומאפשרת למפתחים להוריד מודלים ולהשתמש בהם בחינם. בנוסף, היא מציעה מאגרי מידע, סביבות בדיקה וספריות טרנספורמרים.
רכישה של הפלטפורמה תעניק לאנבידיה דריסת רגל משמעותית גם בקרב קהילת המפתחים והחוקרים שמשתמשת בשירות. במקביל, עסקה כזו עשויה לעורר שאלות בקרב הקהילה והרגולטורים, בשל מעמדה החזק ממילא של אנבידיה בתעשיית הבינה המלאכותית.
הדיווח מגיע בזמן ש-OpenAI ו-Anthropic פועלות לפיתוח מעבדים משלהן, במטרה לצמצם את התלות באנבידיה.
רק בחודש ינואר האחרון דווח כי Hugging Face דחתה השקעה של 500 מיליון דולר מאנבידיה, שהייתה מעניקה לה שווי של כ-7 מיליארד דולר. כעת, לפי הדיווח החדש, אנבידיה עשויה לשלם עבורה 12.9 מיליארד דולר.
![ע"ה דכו"ע](/assets/uploads/profile/uid-24261/24261-profileavatar-1774768870385.png "ע"ה דכו"ע"){kind=avatar}
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}