בקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית
-
סתם ברצינות: המודל בכלל לא בשלב של כוונון הצ'אט אז אין מה למדוד בקידוד. כרגע המודל הוא מודל השלמת טקסט, ובזה הוא משתפר מאימון לאימון. כשהוא יגיע לסף הדרוש - אני ילמד אותו איך עונים כצ'אט.
-
סתם ברצינות: המודל בכלל לא בשלב של כוונון הצ'אט אז אין מה למדוד בקידוד. כרגע המודל הוא מודל השלמת טקסט, ובזה הוא משתפר מאימון לאימון. כשהוא יגיע לסף הדרוש - אני ילמד אותו איך עונים כצ'אט.
-
@CSS-0 כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
@א.מ.ד. לא הבנתי עם ציון של 97 בהזיות למה אתה לא מתחיל לצ'אט?
הגזמתי כן? אבל הזיות זה אומר שהמודל ממציא. ככל שהאחוז הזה גבוה יותר אז המודל פחות טוב...
מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@המלאך כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
@א.מ.ד. נו? אז אולי תאמן אותו לענות בפורמט ג'סון בשבילי?
אין מערכי נתונים פתוחים בעברית לזה.
מה הבעיה במודלים שאמרתי?מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@המלאך כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
@א.מ.ד. נו? אז אולי תאמן אותו לענות בפורמט ג'סון בשבילי?
אין מערכי נתונים פתוחים בעברית לזה.
מה הבעיה במודלים שאמרתי?@א.מ.ד. כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
מה הבעיה במודלים שאמרתי?
הגודל.
פרטים נוספים בפרטי.@א.מ.ד. כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
הגזמתי כן? אבל הזיות זה אומר שהמודל ממציא. ככל שהאחוז הזה גבוה יותר אז המודל פחות טוב...
אני בטוח בוודאות של 99% שכולנו הבנו את זה..
-
@CSS-0 כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
@א.מ.ד. לא הבנתי עם ציון של 97 בהזיות למה אתה לא מתחיל לצ'אט?
הגזמתי כן? אבל הזיות זה אומר שהמודל ממציא. ככל שהאחוז הזה גבוה יותר אז המודל פחות טוב...
-
@א.מ.ד. כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
מה הבעיה במודלים שאמרתי?
הגודל.
פרטים נוספים בפרטי.@א.מ.ד. כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
הגזמתי כן? אבל הזיות זה אומר שהמודל ממציא. ככל שהאחוז הזה גבוה יותר אז המודל פחות טוב...
אני בטוח בוודאות של 99% שכולנו הבנו את זה..
-
@המלאך אולי אפשר לקחת מודל קטן ולאמן אותו, אם @א.מ.ד. יועיל לתת לנו הדרכה, לי יש 3 חשבונות של ג'ימייל ואוכל להשתמש בהם (@א.מ.ד. אמר שזה חינם לא?) אני בטוח שיהיו כמה שיסכימו להצטרף ולעשות את זה ביחד.
נעשה מודל שיהיה כלי עבודה - מבין עברית, כשר ועדיף שיודע קוד, צריך לשמר בו את יכולות הRAG אין צורך בידע כללי ושטויות שיהיה נטו כלי עבודה.
-
@המלאך אולי אפשר לקחת מודל קטן ולאמן אותו, אם @א.מ.ד. יועיל לתת לנו הדרכה, לי יש 3 חשבונות של ג'ימייל ואוכל להשתמש בהם (@א.מ.ד. אמר שזה חינם לא?) אני בטוח שיהיו כמה שיסכימו להצטרף ולעשות את זה ביחד.
נעשה מודל שיהיה כלי עבודה - מבין עברית, כשר ועדיף שיודע קוד, צריך לשמר בו את יכולות הRAG אין צורך בידע כללי ושטויות שיהיה נטו כלי עבודה.
-
-
@המלאך נו, אז תכתוב איך ואני אעשה לבד.
אם יעבדו על זה מכמה חשבונות זה יהיה יותר מהר לענ"ד.
גם אם לא יועיל לעכשיו יועיל לאח"כ, אני לא חושב שזה הפעם האחרונה שאתה הולך להיתקל בAI.
-
-
@המלאך כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
שמירה של הזיכרון זמני, @א.מ.ד. אתה גם עשית כך?
כן כמובן.
@המלאך כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
הבעיה היא שזה לוקח כמה שבועות אם לא חודשים, אין לי זמן וכוח לזה.
בהחלט, ובשביל שיהיה בחינם צריך להפעיל את זה מחדש כל יום.
@המלאך כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
חוץ מזה זה דורש דאטה..
@א.מ.ד. מאיפה הדאטה שלך? הורדת את המכלול?הלוואי שהמכלול היה מספיק...
מערך הנתונים שמצאתי כולל 50 מיליון פיסקאות...
האמת היא שזה תלוי בגודל המודל. לדוגמא מודל ה-0.6B שלי השתמש רק בשבריר מהחומר, ואז מיצה את הלמידה ממנו.
אבל בשביל לאמן מודל יותר גדול, צריך GPU יותר חזק וזה כבר עולה כסף והרבה...
תראה את דיקטה, שיש להם מערכי נתונים עצומים בעברית, מימון (ממשלתי אם אני לא טועה) ושיתוף פעולה עמוק עם אנבידיה, ומודל ה-1.7B שלהם גרוע יחסית למודלים בשפות אחרות וחסר יכולות אמיתיות.
מה שאני חשבתי לעשות זה לכוונן את דיקטה למשימות ספציפיות.
אם יהיה מימון לזה אין לי בעיה לעשות את זה, אבל כמו שכתבתי זה לא כל כך פשוט...מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@המלאך כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
שמירה של הזיכרון זמני, @א.מ.ד. אתה גם עשית כך?
כן כמובן.
@המלאך כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
הבעיה היא שזה לוקח כמה שבועות אם לא חודשים, אין לי זמן וכוח לזה.
בהחלט, ובשביל שיהיה בחינם צריך להפעיל את זה מחדש כל יום.
@המלאך כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
חוץ מזה זה דורש דאטה..
@א.מ.ד. מאיפה הדאטה שלך? הורדת את המכלול?הלוואי שהמכלול היה מספיק...
מערך הנתונים שמצאתי כולל 50 מיליון פיסקאות...
האמת היא שזה תלוי בגודל המודל. לדוגמא מודל ה-0.6B שלי השתמש רק בשבריר מהחומר, ואז מיצה את הלמידה ממנו.
אבל בשביל לאמן מודל יותר גדול, צריך GPU יותר חזק וזה כבר עולה כסף והרבה...
תראה את דיקטה, שיש להם מערכי נתונים עצומים בעברית, מימון (ממשלתי אם אני לא טועה) ושיתוף פעולה עמוק עם אנבידיה, ומודל ה-1.7B שלהם גרוע יחסית למודלים בשפות אחרות וחסר יכולות אמיתיות.
מה שאני חשבתי לעשות זה לכוונן את דיקטה למשימות ספציפיות.
אם יהיה מימון לזה אין לי בעיה לעשות את זה, אבל כמו שכתבתי זה לא כל כך פשוט...@א.מ.ד. אם אתה מאמן למשימות ספציפיות לדעתי האימון הכי טוב זה לשימוש בכלים, וידע כללי, אף אחד לא ינסה לתכנת עם כזה מודל וגם לא לפתור בעיות מורכבות, לדעתי מה שהכי צריך זה מודל שיודע להשתמש בכלים בצורה טובה, זה לא מדי מסובך ועם אימון טוב זה יכול לעבוד פצצה (נניח אני מחפש אחד כזה בשביל הומ אססיטנט שיוכל לשלוט על הבית) אבל אני מאמין שזה מאוד שימושי בכללי
-
@א.מ.ד. אם אתה מאמן למשימות ספציפיות לדעתי האימון הכי טוב זה לשימוש בכלים, וידע כללי, אף אחד לא ינסה לתכנת עם כזה מודל וגם לא לפתור בעיות מורכבות, לדעתי מה שהכי צריך זה מודל שיודע להשתמש בכלים בצורה טובה, זה לא מדי מסובך ועם אימון טוב זה יכול לעבוד פצצה (נניח אני מחפש אחד כזה בשביל הומ אססיטנט שיוכל לשלוט על הבית) אבל אני מאמין שזה מאוד שימושי בכללי
@mefateach זה לא נכנס כבר לMCP?
-
@עידו300 כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
טוב, נחכה למדריך?
נראה לי @א.מ.ד. עושה.
אני משער שהוא יעדכן אותי אם הוא לא ימצא זמן לזה, (בין עשרות דברים שהוא עושה במקביל, רובם בחינם לטובת הציבור... תעריכו!)
ואז אני אעשה..@א.מ.ד. כתב בבקשת מידע | מודל אופליין להבנת טקסט בשפה טבעית:
הלוואי שהמכלול היה מספיק...
מערך הנתונים שמצאתי כולל 50 מיליון פיסקאות...
האמת היא שזה תלוי בגודל המודל. לדוגמא מודל ה-0.6B שלי השתמש רק בשבריר מהחומר, ואז מיצה את הלמידה ממנו.
אבל בשביל לאמן מודל יותר גדול, צריך GPU יותר חזק וזה כבר עולה כסף והרבה...
תראה את דיקטה, שיש להם מערכי נתונים עצומים בעברית, מימון (ממשלתי אם אני לא טועה) ושיתוף פעולה עמוק עם אנבידיה, ומודל ה-1.7B שלהם גרוע יחסית למודלים בשפות אחרות וחסר יכולות אמיתיות.
מה שאני חשבתי לעשות זה לכוונן את דיקטה למשימות ספציפיות.
אם יהיה מימון לזה אין לי בעיה לעשות את זה, אבל כמו שכתבתי זה לא כל כך פשוט...כמובן שצחקתי.
אחד החלקים הכי מסובכים זה הדאטה, אלא אם יהיה איזה כלי (אולי בינה
) שיסדר כמויות אדירות של טקסט לדאטה איכותי.
אם כי כמובן זה לא הגיוני, לפחות לא ביכולות ובגודל טוקנים של היום..
אחרי הכל דאטה איכותי יכול להפוך מודל קטן ברבע מהמודלים הגדולים לחכם יותר מהם..
(זה גם מה שקוואן עשו..)
.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}