מדריך | כמה דברים שלא אפשריים עם מודלים מקומיים!!!
-
אי אפשר לצפות ממודל מקומי שיהיה חכם כמו קלוד או gpt.
כמובן שתלוי על איזה קלוד וGPT אתה מדבר.. המודלים הקטנים החדשים - מתקרבים ובחלק מהדברים עוקפים את gpt 3.5/4o (עוקפים בעיקר בלוגיקה, נשארים מאחור - בכל הנוגע לנתונים יבשים - שטכנית יש להם קצת ידע כי הם עם קצת פרמטרים)
חושב שלפטפוטים סתם - gemma E4b מצויין.. (אהה, סליחה - וגם הqwen המקביל לו..
)כמובן שתלוי על איזה קלוד וGPT אתה מדבר.. המודלים הקטנים החדשים - מתקרבים ובחלק מהדברים עוקפים את gpt 3.5/4o (עוקפים בעיקר בלוגיקה, נשארים מאחור - בכל הנוגע לנתונים יבשים - שטכנית יש להם קצת ידע כי הם עם קצת פרמטרים)
Qwen 3.5 4B עם חשיבה מופעלת עוקף את GPT 4o במדדים, ואפילו את GPT 4.1!
ולמי שמתעניין - זה המודלים הקטנים העדכניים שמשתווים במדדים למודלים הגדולים הראשונים:
כלומר, שיא האינטליגנציה של לפני פחות מ-3 שנים, מגולם במודל של 1B כיום! כמובן שזה לא בהכרח מרגיש אותו דבר, בפרט בעברית ובידע, אלא בעיקר מבחינת ההיגיון ויכולות הקידוד וכדומה.
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
כמובן שתלוי על איזה קלוד וGPT אתה מדבר.. המודלים הקטנים החדשים - מתקרבים ובחלק מהדברים עוקפים את gpt 3.5/4o (עוקפים בעיקר בלוגיקה, נשארים מאחור - בכל הנוגע לנתונים יבשים - שטכנית יש להם קצת ידע כי הם עם קצת פרמטרים)
Qwen 3.5 4B עם חשיבה מופעלת עוקף את GPT 4o במדדים, ואפילו את GPT 4.1!
ולמי שמתעניין - זה המודלים הקטנים העדכניים שמשתווים במדדים למודלים הגדולים הראשונים:
כלומר, שיא האינטליגנציה של לפני פחות מ-3 שנים, מגולם במודל של 1B כיום! כמובן שזה לא בהכרח מרגיש אותו דבר, בפרט בעברית ובידע, אלא בעיקר מבחינת ההיגיון ויכולות הקידוד וכדומה.
-
זה לא קשור לנושא
אבל אפשר לשאול (סתם כדי להבין) מה התועלת בלהתקין מודל מקומי
עם המודלים אונליין יותר חזקים?
-
@רוטב-שום בלי מגבלות שעתיות או שבועיות או חודשיות,
פרטיות,
מה שבמחשבך נשאר שלך,
ופרוגריסיבם ושנאת המערב. -
@רוטב-שום בלי מגבלות שעתיות או שבועיות או חודשיות,
פרטיות,
מה שבמחשבך נשאר שלך,
ופרוגריסיבם ושנאת המערב.@המלאך די מוזר לי שבפורום חרדי אתה לא מזכיר את היתרון בהימנעות מאינטרנט
ואל תגידו לי שהמודלים יותר בעיתיים - כי הם לא.יש 10 סוגים של אנשים, אלה שמבינים בינארית ואלה שלא
-
@המלאך די מוזר לי שבפורום חרדי אתה לא מזכיר את היתרון בהימנעות מאינטרנט
ואל תגידו לי שהמודלים יותר בעיתיים - כי הם לא.ואל תגידו לי שהמודלים יותר בעיתיים - כי הם לא.
למה לא?
באונליין יש עליהם לכה"פ ניסיון סינון של נטפרי. -
ואל תגידו לי שהמודלים יותר בעיתיים - כי הם לא.
למה לא?
באונליין יש עליהם לכה"פ ניסיון סינון של נטפרי. -
כמה דברים שלא אפשריים עם מודלים מקומיים!!
-
אי אפשר להריץ מודל על המחשב אם אין לך 16 ראם וכרטיס מסך של אינבידיה, או שאתה משתמש בספארק MoE של @א.מ.ד.
-
אי אפשר להריץ מודל של מעל טריליון פרמטרים על המחשב לא דיפסיק לא glm 5 ולא שום דבר אחר.
-
אי אפשר לצפות ממודל מקומי שיהיה חכם כמו קלוד או gpt.
-
אי אפשר לצפות שתוכלו להריץ ברקע שני דפדפנים, אוצריא, וורד, vs code, וכלי קימפול של rust.
-
הוא לא יכול לפתוח לך דפדפן או כל דבר אחר אם לא תאפשר לו את זה באמצעות api של חיפוש או mcp לדפדפנים תומכים.
-
אי אפשר לדחוף לא את כל הידע עליך מאז שנולדת ובאותו צאט לצפות שיענה לך על חידת מסלולי המעגל המודולרי.
-
אי אפשר לעדכן אותו במידע חדש ולצפות שידע לענות על סמך המידע בלי לעשות אימון מחדש.
-
לזהות פרצות זרו דיי כמו פייבל 5.
-
לדעת איך קוראים לך ומה המידת נעליים של סבתא שלך.
-
לצפות שלשאול על זה במתמחים טופ יפתור את אחת הבעיות דלעיל.
לזהות פרצות זרו דיי כמו פייבל 5.
או כמו mythos... יישר כח על עוד מדריך יעיל, לצאצאי האנשים שאינם יודעים מה זה מחשב!!
לענ"ד זה אחד החלקים המרכזיים בפורום, לספק ידע בסיסי טכנולוגי, כי לא לומדים דברים כאלה בחיידר. אז המדריכים האלה הם עבודת קודש הכרחית...
רבותיי בבקשה להמשיך להגיב, שזה יקפוץ ויראו כל הזקוקים למידע חשוב זה!
-
-
לזהות פרצות זרו דיי כמו פייבל 5.
או כמו mythos... יישר כח על עוד מדריך יעיל, לצאצאי האנשים שאינם יודעים מה זה מחשב!!
לענ"ד זה אחד החלקים המרכזיים בפורום, לספק ידע בסיסי טכנולוגי, כי לא לומדים דברים כאלה בחיידר. אז המדריכים האלה הם עבודת קודש הכרחית...
רבותיי בבקשה להמשיך להגיב, שזה יקפוץ ויראו כל הזקוקים למידע חשוב זה!
-
@המלאך די מוזר לי שבפורום חרדי אתה לא מזכיר את היתרון בהימנעות מאינטרנט
ואל תגידו לי שהמודלים יותר בעיתיים - כי הם לא.@בנימין-מחשבים רק עכשיו ראיתי את זה,
אתה צודק וודאי,
אבל דיברתי על חסרונות במודלים אופליין, לא ייתרונות..
והפוסט הזה שלי-המלאך כתב:
בלי מגבלות שעתיות או שבועיות או חודשיות,
פרטיות,
מה שבמחשבך נשאר שלך,
ופרוגריסיבם ושנאת המערב.התכוונתי לאנשים בעולם.
לא דווקא חרדים.. -
ה המלאך התייחס לנושא זה
-
לזהות פרצות זרו דיי כמו פייבל 5.
אא"כ תאמן אותו על כל המאגרים שפייבל התאמן עליהם
אי אפשר לצפות שתוכלו להריץ ברקע שני דפדפנים, אוצריא, וורד, vs code, וכלי קימפול של rust.
למה לא? 64 ראם יסחוב את זה..עזוב..אפילו המחשב לי סוחב את כל מה שאמרת (למרות שהוא על 86 מעלות זה עניין אחר מה זה עושה לכרטיס מסך)
על איזה מחשב דיברת?
-
לזהות פרצות זרו דיי כמו פייבל 5.
אא"כ תאמן אותו על כל המאגרים שפייבל התאמן עליהם
אי אפשר לצפות שתוכלו להריץ ברקע שני דפדפנים, אוצריא, וורד, vs code, וכלי קימפול של rust.
למה לא? 64 ראם יסחוב את זה..עזוב..אפילו המחשב לי סוחב את כל מה שאמרת (למרות שהוא על 86 מעלות זה עניין אחר מה זה עושה לכרטיס מסך)
על איזה מחשב דיברת?
אא"כ תאמן אותו על כל המאגרים שפייבל התאמן עליהם
לא קשור, הכמות מידע שפייבל אומן היא כמות אדירה, טכנית זה לא נכנס במודלים קטנים. (כמובן שזה נכון לעכשיו, אני מאמין שעוד כמה שנים ישפרו ויזקקו היטב את התוכן, והלוגיקה תשתפר - ואז מודל 'חכם' כמו פייבל 5 (בדגש על חכם, לא בכמות ידע) יוכל לרוץ גם על מחשב ביתי)
@Nils-Sjoberg כתב במדריך | כמה דברים שלא אפשריים עם מודלים מקומיים!!!:
על איזה מחשב דיברת?
הוא דיבר על כל מחשב ביתי ממוצע, שאין לו כרטיס מסך עם מאות/עשרות ג'יגה.
-
אא"כ תאמן אותו על כל המאגרים שפייבל התאמן עליהם
לא קשור, הכמות מידע שפייבל אומן היא כמות אדירה, טכנית זה לא נכנס במודלים קטנים. (כמובן שזה נכון לעכשיו, אני מאמין שעוד כמה שנים ישפרו ויזקקו היטב את התוכן, והלוגיקה תשתפר - ואז מודל 'חכם' כמו פייבל 5 (בדגש על חכם, לא בכמות ידע) יוכל לרוץ גם על מחשב ביתי)
@Nils-Sjoberg כתב במדריך | כמה דברים שלא אפשריים עם מודלים מקומיים!!!:
על איזה מחשב דיברת?
הוא דיבר על כל מחשב ביתי ממוצע, שאין לו כרטיס מסך עם מאות/עשרות ג'יגה.
(בדגש על חכם, לא בכמות ידע)
אלא ?!
וכבר אמרו חז"ל "אין חכמת אדם מגעת אלא עד מקום שספריו מגיעין"
אלא אם כן תחדש שAI מסוגל ליותר -
(בדגש על חכם, לא בכמות ידע)
אלא ?!
וכבר אמרו חז"ל "אין חכמת אדם מגעת אלא עד מקום שספריו מגיעין"
אלא אם כן תחדש שAI מסוגל ליותר@חד-צורבא כבר היום מודלי שפה קטנים מגיעים לכמות ה'אינטליגנציה' של מודלי שפה גדולים של לפני שלוש שנים.. אבל זה לא אומר שיש להם את אותו כמות ידע.
-
@חד-צורבא כבר היום מודלי שפה קטנים מגיעים לכמות ה'אינטליגנציה' של מודלי שפה גדולים של לפני שלוש שנים.. אבל זה לא אומר שיש להם את אותו כמות ידע.
@חובבן-מקצועי במה זה מתבטא ? בא נאמר אם יש לי קלוד חינמי ואני רוצה לעשות תוסף לאוצריא בלי שיגמר לי הטוקנים כל 2-3 תשובות מודל מקומי ידע לעשות את אותה עבודה באותה איכות ?
-
(בדגש על חכם, לא בכמות ידע)
אלא ?!
וכבר אמרו חז"ל "אין חכמת אדם מגעת אלא עד מקום שספריו מגיעין"
אלא אם כן תחדש שAI מסוגל ליותראלא ?!
יש את הידע של המודלים, שזה בעצם לזכור את הטקסטים עצמם, ויש את יכולות ההיגיון וההסקה שהוא לומד מהם.
למודל של 4B פרמטרים, אין את הקיבולת הטכנית להכיל את כל הידע העולמי, ולכן מודל עדכני כזה לא ידע מי זה הח"כ הישראלי הספציפי שתשאל עליו, למרות שזה חזר על עצמו מאות פעמים בטקסטים שעליהם אומן, לעומת המודל של ה-175B מלפני 3 שנים שאמנם מבחינת יכולות היגיון הוא חלש יותר, אבל יש לו יותר מקום להכיל את הידע הזה. -
@חובבן-מקצועי במה זה מתבטא ? בא נאמר אם יש לי קלוד חינמי ואני רוצה לעשות תוסף לאוצריא בלי שיגמר לי הטוקנים כל 2-3 תשובות מודל מקומי ידע לעשות את אותה עבודה באותה איכות ?
בא נאמר אם יש לי קלוד חינמי ואני רוצה לעשות פרוייקט בלי שיגמר לי הטוקנים כל 2-3 תשובות מודל מקומי ידע לעשות את אותה עבודה באותה איכות ?
כיום, וודאי שלא!
אני מדבר או על העתיד, [על דרך "מתי יהיה לחם מהיום? מחר.." ]
או על העבר - שאם אתה רוצה לקודד באיכות של gpt 4o אז אתה מוזמן לתכנת עם qwen..להסבר, פשוט תסתכל על הפוסט הקודם, א.מ.ד. הסביר את זה הרבה יותר טוב ממני.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}