שיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים 💬
-
@המלאך @חיים-שנקר
אז ככה: בחרתי ב-Qwen 3 מכיון שהוא הכי חדש ועדכני, תומך בעברית באופן מלא (למרות שגרסת מודל השפה המקבילה שלו ממש לא), קטן ומהיר (עיבוד שאילתא לוקח פחות משניה על CPU בכימות Q4).
את מערך נתוני האימון יצרתי באופן חצי סינטטי (שרפתי מכסה של שבועיים שלמים בקודקס), והוא כולל גם שאלות ותשובות וגם חיפוש סמנטי.
אחרי האימון אמנם היתה קפיצה עצומה ביכולות התאמת תשובה לשאילתת חיפוש, ברמה שלטעמי כבר מוכנה לשילוב באוצריא במקביל לחיפוש הרגיל, אבל נכון לעכשיו עדיין זה לא 100%, כי עדיין אין מודל מספיק טוב בעברית בגודל שמתאים לחומרה חלשה.
אני שוקל אולי לאמן מאפס מודל הטמעה המבוסס על כל אוצריא, אבל זה כבר ידרוש תקציב מסוים. -
@א.מ.ד. מודל הטמעה נועד בשביל לדייק את החיפוש.
זה לא יעזור כשמדובר בדיוק באחוזים כאלה.
הוא יהיה טוב לתוצאות עברו.
לפחות מבחינת השאילתות..
תחשוב אם 100 ספרים נוספים יכנסו..@המלאך נכון, אבל מודל שקרא מספיק טקסט תורני מכל הסוגים (5.5GB אאל"ט נכון?), יבין מצויין את כל הספרות התורנית שתוסיף לו בשנים הקרובות, בדיוק כמו שמודל שפה שאומן על מערך נתונים עצום, גדול ככל שיהיה, מבין מצויין מה שתדבר איתו למרות שזה לא מופיע במערך.
-
@המלאך נכון, אבל מודל שקרא מספיק טקסט תורני מכל הסוגים (5.5GB אאל"ט נכון?), יבין מצויין את כל הספרות התורנית שתוסיף לו בשנים הקרובות, בדיוק כמו שמודל שפה שאומן על מערך נתונים עצום, גדול ככל שיהיה, מבין מצויין מה שתדבר איתו למרות שזה לא מופיע במערך.
-
@המלאך @חיים-שנקר
אז ככה: בחרתי ב-Qwen 3 מכיון שהוא הכי חדש ועדכני, תומך בעברית באופן מלא (למרות שגרסת מודל השפה המקבילה שלו ממש לא), קטן ומהיר (עיבוד שאילתא לוקח פחות משניה על CPU בכימות Q4).
את מערך נתוני האימון יצרתי באופן חצי סינטטי (שרפתי מכסה של שבועיים שלמים בקודקס), והוא כולל גם שאלות ותשובות וגם חיפוש סמנטי.
אחרי האימון אמנם היתה קפיצה עצומה ביכולות התאמת תשובה לשאילתת חיפוש, ברמה שלטעמי כבר מוכנה לשילוב באוצריא במקביל לחיפוש הרגיל, אבל נכון לעכשיו עדיין זה לא 100%, כי עדיין אין מודל מספיק טוב בעברית בגודל שמתאים לחומרה חלשה.
אני שוקל אולי לאמן מאפס מודל הטמעה המבוסס על כל אוצריא, אבל זה כבר ידרוש תקציב מסוים. -
פוסט זה נמחק!
-
פוסט זה נמחק!
@Nils-Sjoberg בגלל אנשים כמוך.

מותק. -
-
מה באמת מקבלים בקולאב פרו
גישה למעבדי הtpu העוצמתיים של גוגל,
או לפחות לסדרת הטסלה. -
מה באמת מקבלים בקולאב פרו
גישה למעבדי הtpu העוצמתיים של גוגל,
או לפחות לסדרת הטסלה. -
@חיים-שנקר הוא לא משמש בקאגל אלא בקולאב, אני משתמש בקאגל ולא מסתדר עם הממשק, אני עדיין מחפש מדריכים טובים לו..
וכן אני מאומת עם סמס.קולאב לא חסום בנטפרי?
ואז מה?
-
@חיים-שנקר הוא לא משמש בקאגל אלא בקולאב, אני משתמש בקאגל ולא מסתדר עם הממשק, אני עדיין מחפש מדריכים טובים לו..
וכן אני מאומת עם סמס.קולאב לא חסום בנטפרי?
ואז מה?
-
@המלאך אז אפשר לבנות מחברת בקולאב ולייבא לקאגל - ולTPU הם דורשים אימות פנים [אמיתי] - תנסה להגיש בקשה בצד ימין לTPU
-
@חיים-שנקר מוזר.
אני אימתתי עם סמס ויש לי גישה לTpu.
ואפילו השתמשתי בtpu..
ולייבא לקאגל @א.מ.ד. כמדומני טען שאי אפשר.. -
@חיים-שנקר מוזר.
אני אימתתי עם סמס ויש לי גישה לTpu.
ואפילו השתמשתי בtpu..
ולייבא לקאגל @א.מ.ד. כמדומני טען שאי אפשר.. -
@חיים-שנקר דרך אגב יש לך ניסיון עם קאגל?
אני לא הצלחתי לשמור סשן בקאגל עצמו למרות שרשמית זה אחד הפלוסים העיקריים שלהם על קולאב.
עיין כאן: https://tchumim.com/topic/17538/הגדרת-שמירת-נתונים-בקאגל
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות