שיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים 💬
-
מסכים. אחרי הכל, החברה היחידה עם משאבי חישוב בלתי מוגבלים ונתונים ללא סוף מכל סוג שהוא, זו רק גוגל.
יש להם את הנתונים הכי טובים לרכבים אוטונומיים, אבל ממש אפס נתונים לסוכני קוד.
OpenAI ואנתרופיק ואפילו קורסור הרבה יותר טובים בתחום, ויש להם הרבה יותר דאטה רלוונטית
(גם למייקרוסופט יש יתרון מסויים, כי היא יכולה תיאורטית להתאמן על מאגרים פרטיים בגיטהאב)
-
מסכים. אחרי הכל, החברה היחידה עם משאבי חישוב בלתי מוגבלים ונתונים ללא סוף מכל סוג שהוא, זו רק גוגל.
יש להם את הנתונים הכי טובים לרכבים אוטונומיים, אבל ממש אפס נתונים לסוכני קוד.
OpenAI ואנתרופיק ואפילו קורסור הרבה יותר טובים בתחום, ויש להם הרבה יותר דאטה רלוונטית
(גם למייקרוסופט יש יתרון מסויים, כי היא יכולה תיאורטית להתאמן על מאגרים פרטיים בגיטהאב)
-
מסכים. אחרי הכל, החברה היחידה עם משאבי חישוב בלתי מוגבלים ונתונים ללא סוף מכל סוג שהוא, זו רק גוגל.
יש להם את הנתונים הכי טובים לרכבים אוטונומיים, אבל ממש אפס נתונים לסוכני קוד.
OpenAI ואנתרופיק ואפילו קורסור הרבה יותר טובים בתחום, ויש להם הרבה יותר דאטה רלוונטית
(גם למייקרוסופט יש יתרון מסויים, כי היא יכולה תיאורטית להתאמן על מאגרים פרטיים בגיטהאב)
יש להם את הנתונים הכי טובים לרכבים אוטונומיים, אבל ממש אפס נתונים לסוכני קוד.
חלק גדול מהנתונים הוא לא טבעי או סינטטי, אלא יצירה אנושית מוזמנת, כלומר גוגל משלמים לאנשי מקצוע בתחומים שונים לכתוב שאלות אקראיות ולכתוב להם מסלולי חשיבה ותשובות סופיות. ככה בוודאות זה היה בתחומים אחרים, ומסתבר שגם בנתוני קידוד סוכני זה ככה. לא בעיה לסדר את זה. אחרי הכל, גם OpenAI, אנתרופיק וקורסור התחילו מאפס בנושא.
חוץ מזה יש לגוגל גישה לאין ספור בסיסי קוד דרך השירותים השונים שלה. -
למה שיהיה להם יותר מגוגל? קורסור אולי אם הם מאמנים על מידע של משתמשים חינמיים
כי לגוגל אין סוכני AI בשימוש נרחב.
יצירת קידוד דרך צ'אטים או כלים אחרים, או סתם מאגרי קוד, פחות משמעותיים עבור יכולות סוכניות, שהן הדבר הכי חשוב כיום באימון מודל
@א.מ.ד. כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים
:חלק גדול מהנתונים הוא לא טבעי או סינטטי, אלא יצירה אנושית מוזמנת, כלומר גוגל משלמים לאנשי מקצוע בתחומים שונים לכתוב שאלות אקראיות ולכתוב להם מסלולי חשיבה ותשובות סופיות. ככה בוודאות זה היה בתחומים אחרים, ומסתבר שגם בנתוני קידוד סוכני זה ככה.
שוב: זה משמעותי עבור מודל צ'אט או משימות מדעיות, אבל לא למשימה המרכזית של קידוד ותפעול סוכני
ככלל, זה ככל הנראה כמעט ולא עובד ככה היום. מאז המעבר לאימון RL, מומחים חיצוניים שעוזרים בניסוח תשובות הם כבר ממש לא צוואר הבקבוק. מודלי AI טובים יותר מהמומחים הכי גדולים בכל תחום, אם זה מתמטיקה, מדע, רפואה, ואפילו אימונולגיה.
כבר הזכרתי את הלקח המר בשרשור אחר לאחרונה, והוא בהחלט רלוונטי גם לנושא זה.
לא בעיה לסדר את זה. אחרי הכל, גם OpenAI, אנתרופיק וקורסור התחילו מאפס בנושא.
ועוד איך שבעיה. לאנתרופיק ודומותיה לקח שנה ויותר להגיע ליכולות של היום.
והיכולות הנוראיות של גוגל בתחום מוכיחות בפועל כמה זה בעיה...שוב, בפעם השלישית: בסיסי קוד אינם דאטה לקידוד סוכני.
ובפעם הרביעית: בסיסי קוד אינם דאטה לקידוד סוכני.
(לא ביצעתי מחקר מסודר עם סוכן על הנושא לפני כתיבת התוכן, אז הדברים נאמרים בערבון מוגבל מתוך ניסיוני)
-
למה שיהיה להם יותר מגוגל? קורסור אולי אם הם מאמנים על מידע של משתמשים חינמיים
כי לגוגל אין סוכני AI בשימוש נרחב.
יצירת קידוד דרך צ'אטים או כלים אחרים, או סתם מאגרי קוד, פחות משמעותיים עבור יכולות סוכניות, שהן הדבר הכי חשוב כיום באימון מודל
@א.מ.ד. כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים
:חלק גדול מהנתונים הוא לא טבעי או סינטטי, אלא יצירה אנושית מוזמנת, כלומר גוגל משלמים לאנשי מקצוע בתחומים שונים לכתוב שאלות אקראיות ולכתוב להם מסלולי חשיבה ותשובות סופיות. ככה בוודאות זה היה בתחומים אחרים, ומסתבר שגם בנתוני קידוד סוכני זה ככה.
שוב: זה משמעותי עבור מודל צ'אט או משימות מדעיות, אבל לא למשימה המרכזית של קידוד ותפעול סוכני
ככלל, זה ככל הנראה כמעט ולא עובד ככה היום. מאז המעבר לאימון RL, מומחים חיצוניים שעוזרים בניסוח תשובות הם כבר ממש לא צוואר הבקבוק. מודלי AI טובים יותר מהמומחים הכי גדולים בכל תחום, אם זה מתמטיקה, מדע, רפואה, ואפילו אימונולגיה.
כבר הזכרתי את הלקח המר בשרשור אחר לאחרונה, והוא בהחלט רלוונטי גם לנושא זה.
לא בעיה לסדר את זה. אחרי הכל, גם OpenAI, אנתרופיק וקורסור התחילו מאפס בנושא.
ועוד איך שבעיה. לאנתרופיק ודומותיה לקח שנה ויותר להגיע ליכולות של היום.
והיכולות הנוראיות של גוגל בתחום מוכיחות בפועל כמה זה בעיה...שוב, בפעם השלישית: בסיסי קוד אינם דאטה לקידוד סוכני.
ובפעם הרביעית: בסיסי קוד אינם דאטה לקידוד סוכני.
(לא ביצעתי מחקר מסודר עם סוכן על הנושא לפני כתיבת התוכן, אז הדברים נאמרים בערבון מוגבל מתוך ניסיוני)
שוב, בפעם השלישית: בסיסי קוד אינם דאטה לקידוד סוכני.
ובפעם הרביעית: בסיסי קוד אינם דאטה לקידוד סוכני.
(לא ביצעתי מחקר מסודר עם סוכן על הנושא לפני כתיבת התוכן, אז הדברים נאמרים בערבון מוגבל מתוך ניסיוני)
הייתי בטוח שבספוילר אתה כותב 'בסיסי קוד אינם דאטה לקידוד סוכני' מאה פעמים, עם חתימת הורים
-
למה שיהיה להם יותר מגוגל? קורסור אולי אם הם מאמנים על מידע של משתמשים חינמיים
כי לגוגל אין סוכני AI בשימוש נרחב.
יצירת קידוד דרך צ'אטים או כלים אחרים, או סתם מאגרי קוד, פחות משמעותיים עבור יכולות סוכניות, שהן הדבר הכי חשוב כיום באימון מודל
@א.מ.ד. כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים
:חלק גדול מהנתונים הוא לא טבעי או סינטטי, אלא יצירה אנושית מוזמנת, כלומר גוגל משלמים לאנשי מקצוע בתחומים שונים לכתוב שאלות אקראיות ולכתוב להם מסלולי חשיבה ותשובות סופיות. ככה בוודאות זה היה בתחומים אחרים, ומסתבר שגם בנתוני קידוד סוכני זה ככה.
שוב: זה משמעותי עבור מודל צ'אט או משימות מדעיות, אבל לא למשימה המרכזית של קידוד ותפעול סוכני
ככלל, זה ככל הנראה כמעט ולא עובד ככה היום. מאז המעבר לאימון RL, מומחים חיצוניים שעוזרים בניסוח תשובות הם כבר ממש לא צוואר הבקבוק. מודלי AI טובים יותר מהמומחים הכי גדולים בכל תחום, אם זה מתמטיקה, מדע, רפואה, ואפילו אימונולגיה.
כבר הזכרתי את הלקח המר בשרשור אחר לאחרונה, והוא בהחלט רלוונטי גם לנושא זה.
לא בעיה לסדר את זה. אחרי הכל, גם OpenAI, אנתרופיק וקורסור התחילו מאפס בנושא.
ועוד איך שבעיה. לאנתרופיק ודומותיה לקח שנה ויותר להגיע ליכולות של היום.
והיכולות הנוראיות של גוגל בתחום מוכיחות בפועל כמה זה בעיה...שוב, בפעם השלישית: בסיסי קוד אינם דאטה לקידוד סוכני.
ובפעם הרביעית: בסיסי קוד אינם דאטה לקידוד סוכני.
(לא ביצעתי מחקר מסודר עם סוכן על הנושא לפני כתיבת התוכן, אז הדברים נאמרים בערבון מוגבל מתוך ניסיוני)
שוב: זה משמעותי עבור מודל צ'אט או משימות מדעיות, אבל לא למשימה המרכזית של קידוד ותפעול סוכני
מה זאת אומרת? אם יושבים מהנדסי תוכנה אנושיים וכותבים לולאת סוכן מפורטת, מה יותר טוב מזה?
ועוד איך שבעיה. לאנתרופיק ודומותיה לקח שנה ויותר להגיע ליכולות של היום.
והיכולות הנוראיות של גוגל בתחום מוכיחות בפועל כמה זה בעיה...ולסינים לקח כמה חודשים. מה ש-zAI יכולים, גוגל ודאי יכולים.
והיכולות הנוראיות של גוגל בתחום מוכיחות בפועל כמה זה בעיה...
אני לא בטוח שהיכולות של אנטיגרוויטי כל כך גרועות. אולי בסך הכללי קלוד קוד וקודקס עולים עליו (עם המודלים שלהם), אבל היו בעיות שרק אנטיגרוויטי הצליח לפתור אצלי...
שוב, בפעם השלישית: בסיסי קוד אינם דאטה לקידוד סוכני.
אבל מודל טוב יכול ליצור מהם מסלול סוכן איכותי.
ובפעם הרביעית: בסיסי קוד אינם דאטה לקידוד סוכני.
גם מהם מודל טוב יכול ליצור מסלול סוכן איכותי.
ועוד איך שבעיה. לאנתרופיק ודומותיה לקח שנה ויותר להגיע ליכולות של היום.
נתוני משתמשים זה ממש לא הכל בתחום. למעשה זה רק חלק קטן. בפרט כמו שכתבת - כיום בעידן ה-RL וה-GPO. מה שגוגל צריכים לעשות בסך הכל זה ליצור ע"י המודל הרגיל מיליוני מסלולי סוכן מפורטים עם מבחני הצלחה מוגדרים מראש, שירוצו בתוך מרחבי בדיקות ייעודיות, ולזקק מתוכם הצלחות. המודל הגולמי של גוגל מספיק טוב בקידוד, הנחיתות שלהם זה רק בנתוני לולאות סוכניות, שאותם אפשר לזקק, ובניגוד ל-OpenAI ואנתרופיק לגוגל יש הרבה יותר משאבים כדי לזרז את זה.
מקווה שהובנתי, אם לא אני יסביר יותר מפורט. מציע לך לקרוא את המאמר של Vibe Thinker, הוא תיאור של התהליך הזה בקטן. -
שוב: זה משמעותי עבור מודל צ'אט או משימות מדעיות, אבל לא למשימה המרכזית של קידוד ותפעול סוכני
מה זאת אומרת? אם יושבים מהנדסי תוכנה אנושיים וכותבים לולאת סוכן מפורטת, מה יותר טוב מזה?
ועוד איך שבעיה. לאנתרופיק ודומותיה לקח שנה ויותר להגיע ליכולות של היום.
והיכולות הנוראיות של גוגל בתחום מוכיחות בפועל כמה זה בעיה...ולסינים לקח כמה חודשים. מה ש-zAI יכולים, גוגל ודאי יכולים.
והיכולות הנוראיות של גוגל בתחום מוכיחות בפועל כמה זה בעיה...
אני לא בטוח שהיכולות של אנטיגרוויטי כל כך גרועות. אולי בסך הכללי קלוד קוד וקודקס עולים עליו (עם המודלים שלהם), אבל היו בעיות שרק אנטיגרוויטי הצליח לפתור אצלי...
שוב, בפעם השלישית: בסיסי קוד אינם דאטה לקידוד סוכני.
אבל מודל טוב יכול ליצור מהם מסלול סוכן איכותי.
ובפעם הרביעית: בסיסי קוד אינם דאטה לקידוד סוכני.
גם מהם מודל טוב יכול ליצור מסלול סוכן איכותי.
ועוד איך שבעיה. לאנתרופיק ודומותיה לקח שנה ויותר להגיע ליכולות של היום.
נתוני משתמשים זה ממש לא הכל בתחום. למעשה זה רק חלק קטן. בפרט כמו שכתבת - כיום בעידן ה-RL וה-GPO. מה שגוגל צריכים לעשות בסך הכל זה ליצור ע"י המודל הרגיל מיליוני מסלולי סוכן מפורטים עם מבחני הצלחה מוגדרים מראש, שירוצו בתוך מרחבי בדיקות ייעודיות, ולזקק מתוכם הצלחות. המודל הגולמי של גוגל מספיק טוב בקידוד, הנחיתות שלהם זה רק בנתוני לולאות סוכניות, שאותם אפשר לזקק, ובניגוד ל-OpenAI ואנתרופיק לגוגל יש הרבה יותר משאבים כדי לזרז את זה.
מקווה שהובנתי, אם לא אני יסביר יותר מפורט. מציע לך לקרוא את המאמר של Vibe Thinker, הוא תיאור של התהליך הזה בקטן.מה זאת אומרת? אם יושבים מהנדסי תוכנה אנושיים וכותבים לולאת סוכן מפורטת, מה יותר טוב מזה?
ביג דאטה.
ולסינים לקח כמה חודשים. מה ש-zAI יכולים, גוגל ודאי יכולים.
כי הסינים מתאמנים על היכולות הקיימות של OAI ואנתרופיק. בדיוק כמו שמודל אלפקה בזמנו הביא יכולות קרובות ל-GPT 3.5 בעלות מזערית של כמה מאות דולרים.
(זה מזכיר את מנגנון האימון של מודלי המיני והפלאש למיניהם - שמשתמשים במודל הגדול בתור מורה ומביאים יכולות טובות בעלות נמוכה בהרבה)
אני לא בטוח שהיכולות של אנטיגרוויטי כל כך גרועות. אולי בסך הכללי קלוד קוד וקודקס עולים עליו (עם המודלים שלהם), אבל היו בעיות שרק אנטיגרוויטי הצליח לפתור אצלי...
לא התנסתי בו, אבל פוק חזי מאי עמא דבר. כלומר אלה שמשתמשים ביכולות ה-SOTA, ולא ב-GPT 5.4 mini כדי לחסוך טוקנים.
אבל מודל טוב יכול ליצור מהם מסלול סוכן איכותי.
לא, הוא לא. ע"ע ג'מיני.
גם מהם מודל טוב יכול ליצור מסלול סוכן איכותי.
כנ"ל.
נתוני משתמשים זה ממש לא הכל בתחום. למעשה זה רק חלק קטן. בפרט כמו שכתבת - כיום בעידן ה-RL וה-GPO. מה שגוגל צריכים לעשות בסך הכל זה ליצור ע"י המודל הרגיל מיליוני מסלולי סוכן מפורטים עם מבחני הצלחה מוגדרים מראש, שירוצו בתוך מרחבי בדיקות ייעודיות, ולזקק מתוכם הצלחות. המודל הגולמי של גוגל מספיק טוב בקידוד, הנחיתות שלהם זה רק בנתוני לולאות סוכניות, שאותם אפשר לזקק, ובניגוד ל-OpenAI ואנתרופיק לגוגל יש הרבה יותר משאבים כדי לזרז את זה.
אני באמת לא מתיימר להבין בזה.
המציאות בשטח וג'מיני 3.5 המתעכב שוב ושוב מוכיחה שזה לא עובד.
-
תכלס אם גילברייק מספיק טוב הסינים לא צריכים מודל משלהם בשביל לאמן הם פשוט ישתמשו במודלים של ענקיות הטכנולוגיה
-
@יודע-ספר מה מעניין?
טסלה הייתה רכבת הרים לא פחות.
אף אחד לא חשב שספייס אקס תהיה שונה.
היא עוד תעלה ברמה שכולם ישאלו איך לא השקענו בה, ותרד ברמה שכולם ישאלו מה חשב מי שכן השקיע בה.
וחוזר חלילה. -
@יודע-ספר מה מעניין?
טסלה הייתה רכבת הרים לא פחות.
אף אחד לא חשב שספייס אקס תהיה שונה.
היא עוד תעלה ברמה שכולם ישאלו איך לא השקענו בה, ותרד ברמה שכולם ישאלו מה חשב מי שכן השקיע בה.
וחוזר חלילה.מסכים עם כל מילה
חוץ מזהוחוזר חלילה.
יהיה לזה סוף די מהר, הוא לא יוכל המשיך ככה לנצח
אבל כבר סטיתי רחוק... -
חברים רק לעדכן שמדד אס אנד פי 500 סגר את היום עם 11 אחוזי קפיצה...
מה קשור לAI עוד מעט תפתחו פה שרשורים באילו מניות בפורצן 500 להשקיע...
-
@שניאור-שמח לא שמעתי משהו.
אני מאמין שהם ראו שהמודל לא מתקרב ליכולות של פייבל 5 ו-GPT 5.6, אז הם החזירו אותו להמשך אימון.
אני לא רואה עוד סיבה אחרת...אני מאמין שהם ראו שהמודל לא מתקרב ליכולות של פייבל 5 ו-GPT 5.6, אז הם החזירו אותו להמשך אימון.
אני לא רואה עוד סיבה אחרת...אני דווקא חושב על סיבה אחרת, כנראה הם רוצים שבניגוד למודלים החדשים של GPT וקלוד שבתחילה יצאו, ואז אסרו אותם לכל העולם, ורק לאחר זמן שיחררו אותם לכל העולם - שהמודלים שלהם ישר ישוחררו לכולם בלי בעיות עם הממשל האמריקאי..
ואם כבר סיבת עיכוב יציאה, זה אולי בגלל שהוא השתווה למודלים, והם רוצים שהמודל שלהם יעקוף את שאר המודלים בעת ההשקה.
אם נסתכל על נתוני העבר - מלא פעמים כשגוגל השיקו מודלים חדשים מגירסת פרו, פתאום הם היו המובילים בעולם, אז אולי בדיוק זה לא הסתדר עם הלוח זמנים - כי בדיוק השיקו את GPT וקלוד החדשים (ואולי הם באמת היו אמורים להקדים אותם, אבל בגלל בעיות רגולטוריות הם חיכו זמן ואז הם כבר לא היו מובילים (כי כבר קלוד וGPT הספיקו בנתיים להשיק..)
שוב, כל זה השערה שלי בעלמא..
-
אני מאמין שהם ראו שהמודל לא מתקרב ליכולות של פייבל 5 ו-GPT 5.6, אז הם החזירו אותו להמשך אימון.
אני לא רואה עוד סיבה אחרת...אני דווקא חושב על סיבה אחרת, כנראה הם רוצים שבניגוד למודלים החדשים של GPT וקלוד שבתחילה יצאו, ואז אסרו אותם לכל העולם, ורק לאחר זמן שיחררו אותם לכל העולם - שהמודלים שלהם ישר ישוחררו לכולם בלי בעיות עם הממשל האמריקאי..
ואם כבר סיבת עיכוב יציאה, זה אולי בגלל שהוא השתווה למודלים, והם רוצים שהמודל שלהם יעקוף את שאר המודלים בעת ההשקה.
אם נסתכל על נתוני העבר - מלא פעמים כשגוגל השיקו מודלים חדשים מגירסת פרו, פתאום הם היו המובילים בעולם, אז אולי בדיוק זה לא הסתדר עם הלוח זמנים - כי בדיוק השיקו את GPT וקלוד החדשים (ואולי הם באמת היו אמורים להקדים אותם, אבל בגלל בעיות רגולטוריות הם חיכו זמן ואז הם כבר לא היו מובילים (כי כבר קלוד וGPT הספיקו בנתיים להשיק..)
שוב, כל זה השערה שלי בעלמא..
לא יודע אם אתה צודק הסיבה שפייבל נחסם כי חוקרי אבטחה מאמזון מצאו גילברייק שעקף את כל מגבלות הסינון לא בגלל בעייה בו
שוב אני למשל לא סובל את הגיבריש בעברית ובאנגלית שגיפיטי וקלוד מציגים רק גמיני -
חברים רק לעדכן שמדד אס אנד פי 500 סגר את היום עם 11 אחוזי קפיצה...
מה קשור לAI עוד מעט תפתחו פה שרשורים באילו מניות בפורצן 500 להשקיע...
> @Nils-Sjoberg כתב:
חברים רק לעדכן שמדד אס אנד פי 500 סגר את היום עם 11 אחוזי קפיצה...
מה קשור לAI עוד מעט תפתחו פה שרשורים באילו מניות בפורצן 500 להשקיע...
מילא הנתון היה נכון, אבל זה גם לא נכון, וגם לא קשור לפורום ולנושא השרשור..

-
> @Nils-Sjoberg כתב:
חברים רק לעדכן שמדד אס אנד פי 500 סגר את היום עם 11 אחוזי קפיצה...
מה קשור לAI עוד מעט תפתחו פה שרשורים באילו מניות בפורצן 500 להשקיע...
מילא הנתון היה נכון, אבל זה גם לא נכון, וגם לא קשור לפורום ולנושא השרשור..

@חובבן-מקצועי
זהו בדיוק הנושא לא נכון ולא קשור ולכן כתבתי את זה כמישהו עבר לדבר על ירידת מניות טסלה
ככהוכחה לפוסט לא רלוונטי
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות

