שיתוף | בוט ai לצורך ניסוי חברתי
-
@mefateach צודק שאמרתי לו , בכל אופן זה יפה
במחשבות ראיתי שמבחינתו הוא שיקר, היה לו קונפליקט אבל הוא נכנע לעשות את זה לצורך מה שנראה לו חשוב מספיק -
@המלאך
יש לי חומרה מתאימה
האם זה כ"כ מסובך?@אהרון-שלום איזה חומרה יש לך?
-
@המלאך
I9
עם RTX 4000 קווטרו
32 ראם
נייח -
@המלאך
יש לי חומרה מתאימה
האם זה כ"כ מסובך?@אהרון-שלום לא כזה מסובך לאמן מודל, אבל זה לא הקטע,
הרעיון זה טכניקות LLM להתלבש על מודל מאומן ובונה לו פרופיל עם סיסטם פרומפט מותאם -
@codex
אתה מבין בזה ? -
@codex
אתה מבין בזה ?@אהרון-שלום יותר בתחום של ML וDL אבל גם בLLMS
-
@אהרון-שלום לא כזה מסובך לאמן מודל, אבל זה לא הקטע,
הרעיון זה טכניקות LLM להתלבש על מודל מאומן ובונה לו פרופיל עם סיסטם פרומפט מותאם@Codex כתב בשיתוף | בוט ai לצורך ניסוי חברתי:
לא כזה מסובך לאמן מודל, אבל זה לא הקטע,
כן? אימנת פעם?
לא נראה לי.
אתה יודע שאימון מודל זה תהליך ארוך ומורכב?
בתור התחלה אסיפת דאטה שזה תהליך של שבועות.
אחרי זה תהליך אימון שזה גם שבועות.
וכמובן זה תלוי אם אתה מאפס וברמה של רשתות נוירונים או לא.. -
@codex
אני פשוט רואה שהתחום הזה מתחזק פה
אני חושב שצריך מישהו שמבין בזה שירים את הכפפה לעשות מדריך בעניין
יש לזה ביקוש גדול מאוד!! -
@codex
אני פשוט רואה שהתחום הזה מתחזק פה
אני חושב שצריך מישהו שמבין בזה שירים את הכפפה לעשות מדריך בעניין
יש לזה ביקוש גדול מאוד!!@אהרון-שלום @א.מ.ד. עושה מדריך.
גם @חובבן-מקצועי עושה.
אולי אם הם לא יגעו בנקודה, אני אעשה מדריך על האופן שבו מודלים חושבים.
מאפס. -
@Codex כתב בשיתוף | בוט ai לצורך ניסוי חברתי:
לא כזה מסובך לאמן מודל, אבל זה לא הקטע,
כן? אימנת פעם?
לא נראה לי.
אתה יודע שאימון מודל זה תהליך ארוך ומורכב?
בתור התחלה אסיפת דאטה שזה תהליך של שבועות.
אחרי זה תהליך אימון שזה גם שבועות.
וכמובן זה תלוי אם אתה מאפס וברמה של רשתות נוירונים או לא.. -
@המלאך בהחלט אימנתי כמו שכתבתי בעיקר ML - מודלי SVM,LR ועוד הרבה..
זה בהחלט דורש תהליך ולפעמים שעות השאלה מה המטרה שלך באימון,
אם לבנות מודל שימושי- יש מספיק מוכנים במאגרים,
לצורך למידה מספיק לקחת דאטה של 7GB ולנקות אותה -
@Codex כתב בשיתוף | בוט ai לצורך ניסוי חברתי:
לא כזה מסובך לאמן מודל, אבל זה לא הקטע,
כן? אימנת פעם?
לא נראה לי.
אתה יודע שאימון מודל זה תהליך ארוך ומורכב?
בתור התחלה אסיפת דאטה שזה תהליך של שבועות.
אחרי זה תהליך אימון שזה גם שבועות.
וכמובן זה תלוי אם אתה מאפס וברמה של רשתות נוירונים או לא.. -
@codex ערבבת פה קצת.
Lr זה לא נקרא מודל.
זה חיזוי מספרי או סיווג של כן ולא.
Svm זה מודל שאפשר לאמן אבל זה תהליך של ימים לאימון, וגם זה רק על גוגל קלואב ובשום אופן לא חומרה ביתית.
Lm זה הצ'אט בוטים הגדולים. -
@המלאך כאילו אתה מדבר על לאמן מודל מאפס ולא להשתמש בקיימים כדי ליצור מודל,
זה בהחלט נקרא גם ליצור מודל רק ההבדל שאתה משתמש בשיטות קימות,
המטרה של זה זה באמת חיזוי ופרדיקציה ועולם שונה לחלוטין מLLMS@Codex כתב בשיתוף | בוט ai לצורך ניסוי חברתי:
כאילו אתה מדבר על לאמן מודל מאפס ולא להשתמש בקיימים כדי ליצור מודל,
זה בהחלט נקרא גם ליצור מודל רק ההבדל שאתה משתמש בשיטות קימות,לא הבנת.
הדרך שבה lr עונים זה לא משהו שאני מגדיר מודל.
וlm זה לא משהו שקשור לאימון יחיד.
זה ברמת החברות עולמיות והשקעה של מיליונים.
דרך אגב 7 ג'יגה זה לשימוש בסיסי,
והכפלה זה רעיון כשיש לך עשרות ג'יגה ואת רוצה למנף אותם לא לשימוש בסיסי.
וגם זה כמובן שדווקא הכפלה חכמה שזה ג"כ דורש עבודה על הדאטה. -
@Codex כתב בשיתוף | בוט ai לצורך ניסוי חברתי:
כאילו אתה מדבר על לאמן מודל מאפס ולא להשתמש בקיימים כדי ליצור מודל,
זה בהחלט נקרא גם ליצור מודל רק ההבדל שאתה משתמש בשיטות קימות,לא הבנת.
הדרך שבה lr עונים זה לא משהו שאני מגדיר מודל.
וlm זה לא משהו שקשור לאימון יחיד.
זה ברמת החברות עולמיות והשקעה של מיליונים.
דרך אגב 7 ג'יגה זה לשימוש בסיסי,
והכפלה זה רעיון כשיש לך עשרות ג'יגה ואת רוצה למנף אותם לא לשימוש בסיסי.
וגם זה כמובן שדווקא הכפלה חכמה שזה ג"כ דורש עבודה על הדאטה.@המלאך
נראה שיש פה ערבוב בין כמה רמותברור שלא מדברים על לאמן LLM מאפס- זה באמת פרויקטים של חברות עם משאבים כבדים ויותר מזה.
אבל כן יש היום שכבה שלמה באמצע:
fine-tuning /LoRA
אימון מודלים קטנים יותר (classification, embeddings וכו’)
ובעיקר עבודה על מודלים קיימים (prompting /RAG)
וזה דווקא כן אפשרי גם על חומרה יחסית ביתית, תלוי בגודל המודל והמטרה.
LR ו-SVM הם לגמרי מודלים קלאסיים ב-ML - פשוט לא באותו סדר גודל כמו LLMs.
בקיצור, השאלה היא לא "האם אפשר לאמן מודל", אלא איזה מודל ולמהץ -
@המלאך
נראה שיש פה ערבוב בין כמה רמותברור שלא מדברים על לאמן LLM מאפס- זה באמת פרויקטים של חברות עם משאבים כבדים ויותר מזה.
אבל כן יש היום שכבה שלמה באמצע:
fine-tuning /LoRA
אימון מודלים קטנים יותר (classification, embeddings וכו’)
ובעיקר עבודה על מודלים קיימים (prompting /RAG)
וזה דווקא כן אפשרי גם על חומרה יחסית ביתית, תלוי בגודל המודל והמטרה.
LR ו-SVM הם לגמרי מודלים קלאסיים ב-ML - פשוט לא באותו סדר גודל כמו LLMs.
בקיצור, השאלה היא לא "האם אפשר לאמן מודל", אלא איזה מודל ולמהץ -
@Codex
אני לא בילבלתי כמה רמות.
אני קראתי את הפוסט שלך.
וודאי שיש שכבה של כלים קיימים.
אבל גם להם זה תהליך שלוקח זמן ומאמץ.
דרך אגב, אמרת שאימנת מודל, איזה אימנת?
ואמרתי מפורש שlr לדעתי לא מוגדר מודל.@המלאך כן, ברור שגם עבודה עם מודלים קיימים זה לא "קליק וגמרנו" יש דאטה, ניקוי, ניסויים וכו’
עשיתי כמה פרויקטים של אימון מודלים, בין היתר גם זיהוי תמונות עם pipeline מלא (preprocessing, training, evaluation).
לא נכנס עכשיו לקוד פה
הנקודה שלי הייתה שיש כמה רמות שונות של "אימון", ולא כולם מדברים על אותו דבר -
@המלאך כן, ברור שגם עבודה עם מודלים קיימים זה לא "קליק וגמרנו" יש דאטה, ניקוי, ניסויים וכו’
עשיתי כמה פרויקטים של אימון מודלים, בין היתר גם זיהוי תמונות עם pipeline מלא (preprocessing, training, evaluation).
לא נכנס עכשיו לקוד פה
הנקודה שלי הייתה שיש כמה רמות שונות של "אימון", ולא כולם מדברים על אותו דבר -
@Codex תראה לא נעים לי.
אבל זה נראה כאילו אתה שואל את הבינה.
בלי לזלזל. רק להעיר.
כל מי שמאמן מודל משתמש ב pipeline.
אין הגיון לדרך אחרת.
בכל מקרה אתה אמרת שזה קל.
הבארתי שלא.
דרך אגב.
איזה מודל אימנת?@המלאך לא נכנס להוכחות וזה לא הענין.
כתבתי מניסיון, לא מתוך צ'אט.
אם בכל אופן בא לך להיכנס לקטנות אחד המודלים שאימנתי הוא מודל סיווג לזיהוי תמונות ASL מבוסס על דאטה של 22K תמונות מKuggle של אותיות בשפת הסימנים (לחרשים)
הנקודה שלי הייתה ההבדל בין סוגי אימון והסקייל שלהם.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}