בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

NH.LOCAL

@המלאך כתב:

@NH.LOCAL מבחינה מסויימת זה התעלמות מהשינויים בשטח.
השיטה המקובלת כיום סוברת שדאטה מלאכותי לא משפר יותר מדאטה אנושי.

הוא לא צריך לשפר יותר מדאטה אנושי, מספיק שהוא משפר כמו דאטה אנושי.
כל הגדלה משפרת את המודלים באופן טבעי, לא רק איכות הנתונים.

אותה שיטה גם גורסת שאין ברירה אלא להאכיל את המודל בדאטה מלאכותי.

לא מכיר את השיטה הזו. נשמע כמו מחקר מ-2023.

הטענות הללו הופרכו כבר לפני שנים. אפילו GPT 4 כבר השתמש בדאטה מלאכותית לשיפור שלו.

ואני מוסיף עליה שככה לא נראה התקדמות פורצת דרך בשנים הקרובות,

אתה טוען פה טענות שפשוט לא מתכתבות עם המציאות והנתונים.
אין ערך לסברות כרס, הנתונים די ברורים בנושא.

ומה עם מערכות רובוטיות עם גוף משלהם? זה דורש הרבה יותר..

GPT 6 הביא פריצת דרך משמעותית גם בתחום הזה. ולפי קצב האירועים השיפור ילך ויהיה מהיר יותר עם הזמן.

רפאל vnkl

@המלאך כתב:

כלומר המצאה מבית היוצר של אנטרופיק.

הוכחות?
למעשה יש הוכחות בדיוק לצד השני. אנת'רופיק ביצעה את הניסוי הזה גם על מודלים של openAI וחברות אחרות ודיווחה שזה קרה גם שם. אם זה היה בשביל יח''צ למודלים שלה, היא לא הייתה מפרסמת את זה על המודלים של שאר החברות.

המלאך

@NH.LOCAL שוב פעם, אדייק יותר את דברי.

דאטה מלאכותי הוא לא ברמה של דאטה אנושי.

אלא פחות ממנו.

כך או כך, גם אם למודל שפה זה מספיק, מה תענה על עולם שלם? מודל שפה ב'ס"ה' נותן תשובות, הוא לא צריך להגיב בזמן אמת בחיים האמיתיים.

תחשוב על כמות החישובים לרובוט שרץ ברחוב סואן.

Gpt 6 העניק 'התקדמות' ואיך זה נוגע תכלס? האם יש שינויים? אז אתה מסכים שההתקדמות הרבה יותר איטי בחיים האמיתיים.

@רפאל-vnkl כתב:

הוכחות?
למעשה יש הוכחות בדיוק לצד השני. אנת'רופיק ביצעה את הניסוי הזה גם על מודלים של openAI וחברות אחרות ודיווחה שזה קרה גם שם. אם זה היה בשביל יח''צ למודלים שלה, היא לא הייתה מפרסמת את זה על המודלים של שאר החברות.

למעשה היחצ הוא לא על המודלים אלא על הרצון שלה לוועדה שתאכוף את בטיחות המודלים.

י. פל.

@המלאך כתב:

השיטה המקובלת כיום סוברת שדאטה מלאכותי לא משפר יותר מדאטה אנושי.

חייב לספר לך: כש @לא-מתייאש עשה את המודל ocr שלו - הוא עשה אותו רק על דאטה סינטטי. הוא התפלא שאנחנו מנסים לקחת דאטה אנושי.
וככל הנראה (לא התעסקתי בעצמי, לא אומר בבירור) - הוא צדק. לא אומר שהדאטה האנושי של עזר, אבל הסינטטי עושה עבודה מצויינת.

שלץ

> @המלאך כתב:

כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.

סברתי ככה מלכתחילה לכן נתתי לנושא את שמו, כדי להדגיש שמדובר בשטות.
אבל לא להאמין - נראה שאנשים ממש רוצים לחרוש על השטות הזו...
(לא יודע אם ראית, אבל המטרה המקורית של השרשור הייתה להציל את השרשור של בנימין-מחשבים מההספמות בנושא)

המלאך

@י.-פל.
ייתכן כמו שאמרתי שגאטה מלאכותי אכן יועיל למודלי שפה.

אבל מה עם מערכות רובוטיות?

אני היחיד ששמתי לב שהגיזרה הזו שקטה מדי? קלוד ואופן ai רבים מי יוציא מודל שפה עם מספר גבוה יותר אבל שם אין בכלל מודל ייעודי?

NH.LOCAL

@המלאך כתב:

Gpt 6 העניק 'התקדמות' ואיך זה נוגע תכלס? האם יש שינויים?

בהחלט, יש התקדמות מדהימה בהבנה של העולם האמיתי והתנהלות בו.
זו ממש לא התקדמות במרכאות, אלא התקדמות אמיתית וממשית.

לדוגמה: במבחן רובוטיקה, GPT 6 קיבל 95% לעומת 30% של פייבל 5.1 ו-5% של GPT 5.6, מדובר בהתקדמות בלתי נתפסת תוך פחות מחודשיים.

ביצירת תלת מימד, הבנת תמונה וסימון פריטים, GPT 6 הוא המודל הראשון אי פעם שפשוט מגיע לרמת שלמות של 100%, לא מדובר בקפיצה מ-70% ל-80% אלא בקפיצה כמו מ-20% ל-99%.

זו גם הסיבה שרבים מתייחסים אליו כ-AGI אמיתי, מכיוון שהוא פתר במידה רבה את החלק האחרון שהיה חסר למודל - הבנה ופעולה בעולם האמיתי.

אז אתה מסכים שההתקדמות הרבה יותר איטי בחיים האמיתיים.

אתה צודק שההתקדמות בחיים האמיתיים הרבה יותר מורכבת ואיטית באופן יחסי, השאלה איך זה רלוונטי לדיון?
וגם, האם ותוך כמה זמן זה יפתר.

אני היחיד ששמתי לב שהגיזרה הזו שקטה מדי? קלוד ואופן ai רבים מי יוציא מודל שפה עם מספר גבוה יותר אבל שם אין בכלל מודל ייעודי?

גוגל אכן מתקדמת גם במודלי ג'מיני עבור רובוטיקה.

אבל הלקח המר מלמד שמודלים גדולים יותר תמיד ינצחו מודלים יעודיים.

@המלאך כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

@NH.LOCAL שוב פעם, אדייק יותר את דברי.

דאטה מלאכותי הוא לא ברמה של דאטה אנושי.

אלא פחות ממנו.

אני חושב שאתה מערבב בין שני דברים: ביחס לתכנות, מתמטיקה וכו', דאטה סינתטי בהחלט משתווה לדאטה אנושי וכנראה עולה עליו במקרים רבים.
יש בסיס דאטה אנושי מספיק טוב בשביל ליצור ממנו דאטה סינתטי באיכות גבוהה.

לגבי דאטה עבור רובוטיקה והבנת העולם, לעומת יצירת עולמות סינתטיים אכן אין תחליף לדאטה אנושי בשלב זה.

לעכשיו

@nh.local
בתכלס, יש מודל פועל רובוטי (היינו עם גוף פיזי) ברמת תפקוד שמתחילה להשתוות לגוף אנושי?

NH.LOCAL

@לעכשיו כתב:

@nh.local
בתכלס, יש מודל פועל רובוטי (היינו עם גוף פיזי) ברמת תפקוד שמתחילה להשתוות לגוף אנושי?

ביכולת הפיזית - זה די קרוב להשלמה.

ביכולת החשיבה והפעולה בעולם - אין עדיין מודל כזה.

רפאל vnkl

@המלאך כתב:

למעשה היחצ הוא לא על המודלים אלא על הרצון שלה לוועדה שתאכוף את בטיחות המודלים.

נשמע לי קונספירציה מוחלטת.
היא רצתה שבגלל הניסוי הזה תוקם ועדה שתדאג לבטיחות המודלים, כן?
והיא לא חשבה שהוועדה הזאת תרצה לבדוק אם הניסוי שאנת'רופיק טוענת שביצעה, אמיתי בכלל? לפני שהיא מתחילה מאבק משפטי אדיר לכפייה על חברות ה AI את בטיחות המודלים?

לעכשיו

@NH.LOCAL כתב:

ביכולת הפיזית - זה די קרוב להשלמה.

ביכולת החשיבה והפעולה בעולם - אין עדיין מודל כזה.

היינו, שתכלס אנחנו רחוקים (כנראה מאוד, במושגים של היום) מבינה מלאכותית פיזית.

NH.LOCAL

@לעכשיו כתב:

היינו, שתכלס אנחנו רחוקים (כנראה מאוד, במושגים של היום) מבינה מלאכותית פיזית.

לדעתי לא מאוד. גם 5 שנים הם מעט מאוד. ולפי ההשערות של אנשים כמו דמיס חסאביס, מדובר על שנתיים ואפילו פחות עד שנראה פריצת דרך גדולה בתחום.

צא מנקודת הנחה שהתקדמות והגעה ל-ASI (בינה מלאכותית סופר אינטלגנטית) תגרור כתופעת לוואי התקדמות מהירה בכל תחום אפשרי, כולל רובוטיקה

א.מ.ד.

@המלאך כתב:

@NH.LOCAL מבחינה מסויימת זה התעלמות מהשינויים בשטח.
השיטה המקובלת כיום סוברת שדאטה מלאכותי לא משפר יותר מדאטה אנושי.

אותה שיטה גם גורסת שאין ברירה אלא להאכיל את המודל בדאטה מלאכותי.

אז איך אתה מסביר את ההתקדמות (המטורפת) מ-GPT 5 ל-GPT 6 בכל המובנים? היא כולה מבוססת על דאטה סינטטי (האנושי כבר נגמר מזמן ב-GPT 3.5/4), וה-RL כיום מבוסס נטו על דאטה סינטטי שנוצר בזמן אמת.

NH.LOCAL

@א.מ.ד. כתב:

אז איך אתה מסביר את ההתקדמות (המטורפת) מ-GPT 5 ל-GPT 6 בכל המובנים? היא כולה מבוססת על דאטה סינטטי (האנושי כבר נגמר מזמן ב-GPT 3.5/4), וה-RL כיום מבוסס נטו על דאטה סינטטי שנוצר בזמן אמת.

רק דיוק קטן: לא דווקא בזמן אמת. תוצאות אימוני RL נשמרים לטווח ארוך וכך יכולים לאמן את המודלים הבאים ולהצטבר

א.מ.ד.

@NH.LOCAL כתב:

רק דיוק קטן: לא דווקא בזמן אמת. תוצאות אימוני RL נשמרים לטווח ארוך וכך יכולים לאמן את המודלים הבאים ולהצטבר

כן, התכוונתי שזה לא מערך נתונים סינטטי קלאסי.

המלאך

@רפאל-vnkl חבל..

אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.

דבר נורמלי שקורה בכל מדינה ובכל תחום אפשרי.

כמו שעשן ערוץ 12 ו13 במלחמה עם וועדת חקירה ממלכתית.

וכמו ש14 עשו עם הלאומית ממשלתית.

NH.LOCAL

@המלאך כתב:

@רפאל-vnkl חבל..

אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.

זה לא בדיוק יח"צ, זה יותר דרך לאסור קוד פתוח ולהשאיר את השליטה בידי קומץ חברות

המלאך

@NH.LOCAL והדרך יישום של זה, = על ידי הציבור.

אין עוד דרך בה אנטרופיק יכולים ללחוץ.

לא נראה לי שהסיפור יועד לאוזניו של טראמפ..

המלך גורג

שימו לב -
https://fortune.com/2026/09/12/after-three-years-of-silence-washington-discovers-it-finally-cares-about-ai-safety/
זה נראה בעליל (גם סתם מהציוצים של טראמפ) כמו פשוט מריחה של זמן עד שיגיע זמן שכבר לא נוכל ללכת אחורה (אולי כבר הגיע...)
אבל האמת היא שיש עוד מעט בחירות אמצע קדנציה בארה"ב ואם אפילו עכשיו טראמפ (ולא רק הוא...) מושך זמן - כנראה שבאמת אבדה תקוותנו...
אפרופו מה שכתב @ישראל1212 - יש למישהו פתרון מעשי בנוגע לשדים שכבר יצאו מהבקבוק? -
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?

המלך גורג

@המלאך כתב:

כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.

AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.

ישנם פילוסופיים ופסיכולוגיים רבים שטוענים שבעצם גם לבני אדם אין באמת רגשות אלא זה אלגוריתמים של ניתוחי מקרים שונים (פסיכואנליזה, תורת ההכרה ועוד)
(בלי אחריות לאספקלריה התורנית של התאוריה הזו...
בכו"א, יש בשביל לאכול לא צריך רגשות, צריך תיאבון, ותיאבון מגיע בעקבות צורך, ומי יודע איזה צורך יהיה לו בהמשך?
(בנימא אישית, אני לא באמת חושב את מה שכתבתי (כתבתי למעלה את דעתי בנושא.. )אבל זה נכתב במענה למה שמכונה כאן בפורום "בלת"ק (בלא תגובת קודמיי...)
וסליחה על הבוטות...