בירור | בינה מלאכותית והאנושות - לאן?

[א.מ.ד.]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה דעתכם?

כמו שכתבתי למעלה -

כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@המלאך מסכים איתך. אני חושב שקו הגבול של יכולות המודלים, בהנחה שלא ישנו משמעותית את הארכיטקטורה, היא לספק את התוצרים האנושיים הגבוהים ביותר כיום, אך לא מעבר לכך. לדוגמא בתכנות, היא תספק את התוצר הטוב ביותר שנוצר או שיש היתכנות שיווצר על ידי צוות אנושי.
גם אם נספק לה תוצרים סינטטיים, הם בעיקר יצמצמו את האחוזים שבהם הבינה לא נותנת את המקסימום שלה, אבל לא ייפרצו דרך.
מקווה שהבנתי, אם לא - אשמח לבאר.

[י. פל.]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אז נכון, בסוף יהיה לנו כאן מפלצת שטובה בכל תחום ברמות הכי גבוהות שיש - אבל עד גבול התחכום העקרוני של האדם, גם אם בפועל לא נולד האדם שהגיע לרמות האלה.

מה המשמעות? שהוא לעולם לא יצליח ליצור משהו, שבלי הAI גם עוד 4K שנים לא היה נוצר?
בסדר, מקבל.

[רפאל vnkl]

@י.-פל. כן ולא,
אולי עוד 20 שנה יוולד האיינשטיין של המשחק Go, שיצליח לנתב את כל עוצמת המוח האנושי לתחום הזה - את זה כבר AI לא יעקוף.

עוד x שנים, שהai יצליח להביא את התחכום הגדול הזה לכל תחום, שם תהיה תקרת הזכוכית שלו והוא לא יתקדם יותר.

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@nh.local @המלאך ו@ כולם
לדעתי, הai יכול לעקוף את האדם, אבל עד גבול החוכמה הגדולה ביותר בכל תחום.

אולי תגלה לנו איפה בדיוק נמצא הגבול הזה? מה זה בכלל?

כלומר, כאשר למשל הai עקף את המוח האנושי במשחק GO, הוא לא באמת עקף אותו, אלא שאב את היצירתיות והתחכום שלו מתחומים אחרים, כגון שחמט או מתמטיקה או אנאערף, והצליח להתאים אותם עבור המשחק GO.

מה? לא, ממש לא. AI עקף את המוח האנושי במשחק GO, על ידי מנגנון למידת חיזוק (RL).
הוא פשוט שיחק מליוני פעמים ובכל פעם שיפר את האלגוריתם של עצמו. אחרי כמה שעות כאלה הוא הפך לשחקן הטוב ביותר בעולם. לא שאיבת יצירתיות משום תחום אחר ולא נעליים.

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

אבל מעבר לתחכום והיצירתיות שאדם הגיע אליהם בתחום כלשהו - את זה הai לעולם לא יצליח לעקוף.
אז נכון, בסוף יהיה לנו כאן מפלצת שטובה בכל תחום ברמות הכי גבוהות שתועדו אי פעם - אבל עד גבול התחכום העקרוני של האדם, גם אם בפועל לא נולד האדם שהגיע לרמות האלה.

זה כבר נוגע לשאלה פילוסופית עקרונית - האם יש גבול כלשהו לאינטליגנציה או לא, זה כבר חורג לחלוטין מדיון על יכולות ה-AI

בכל אופן, אם יש משהו שעבר את "גבול התחכום האנושי", זה הטיעון הזה בעצמו

[י. פל.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

תכתוב את זה ל @המלאך - הוא כותב שוב ושוב שהתקרה היא דאטה, לא עוזר שום דבר

[NH.LOCAL]

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

תכתוב את זה ל @המלאך - הוא כותב שוב ושוב שהתקרה היא דאטה, לא עוזר שום דבר

אני כבר מדמיין את הדיונים כאן בפורום ב-2030:

"כל עוד AI לא מצליח להוציא מים מסלע או להפוך מטה לנחש - הוא פשוט לא משתווה בכלל ליכולות האנושיות"

[א.מ.ד.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה? לא, ממש לא. AI עקף את המוח האנושי במשחק GO, על ידי מנגנון למידת חיזוק (RL).
הוא פשוט שיחק מליוני פעמים ובכל פעם שיפר את האלגוריתם של עצמו. אחרי כמה שעות כאלה הוא הפך לשחקן הטוב ביותר בעולם. לא שאיבת יצירתיות משום תחום אחר ולא נעליים.

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

למידת חיזוק היא לא הסקת מסקנות מתקדמת. היא בסך הכל סינון של הפלטים הלא מושלמים. לדוגמא למודל שלא עבר למידת חיזוק יש סבירות של 5% שייתן את הפלט המושלם, לעומת מודל שעבר למידת חיזק שיש לו סבירות של 40% לפלט המושלם. זה לא העצמת היכולות של עצמו.

[NH.LOCAL]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

למידת חיזוק היא לא הסקת מסקנות מתקדמת. היא בסך הכל סינון של הפלטים הלא מושלמים. לדוגמא למודל שלא עבר למידת חיזוק יש סבירות של 5% שייתן את הפלט המושלם, לעומת מודל שעבר למידת חיזק שיש לו סבירות של 40% לפלט המושלם. זה לא העצמת היכולות של עצמו.

אני לא יודע מאיפה העתקת את הטקסט הזה. אבל המציאות מוכיחה ש-RL שיפר יכולות מודלים ברמה של תגליות חדשות שבהחלט חורגים מנתוני האימון (ע"ע בעית ארדוש הנ"ל)

ולמען ה', תפסיק להשתמש במינוח "בסך הכל". זה ממש לא "בסך הכל", וזה רחוק מלהיות פשוט כל כך.
שוב מדובר על פישוט יתר של פונקציה מתוחכמת להחריד שהושקעו בה עשרות מליארדים

[רפאל vnkl]

@NH.LOCAL אוקי, אתה צודק - אבל אני דיברתי רק על מה שה AI יכול להפיק מהאימון של הדאטא.

ודרך אגב יש לי תחושה שלא הבנת את הטיעון ההוא - לא אמרתי שבסוף יווצר כאן משהו שעוקף את יכולות האדם, אלא שאם למשל התחכום הכי גדול שתועד עד כה היה למשל בפיזיקה, ה AI יצליח ליישר את התחכום הזה לכל תחום. אבל לא מעבר.

אבל שוב, זה רק מהדאטא - אני לא מדבר על הRL.

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אוקי, אתה צודק - אבל אני דיברתי רק על מה שה AI יכול להפיק מהאימון של הדאטא.

אבל שוב, זה רק מהדאטא - אני לא מדבר על הRL.

מה זה "אני לא מדבר על RL"? זה חלק ישיר ומרכזי בכל התפתחות ה-AI כיום. וכמובן שסיכוי טוב שיתפתחו גם ארכיקטורות שונות לחוטין בשנים הקרובות.

איך זה יקרה? זה בכלל לא משנה. האם זה יקרה? זו השאלה החשובה

ודרך אגב יש לי תחושה שלא הבנת את הטיעון ההוא - לא אמרתי שבסוף יווצר כאן משהו שעוקף את יכולות האדם, אלא שאם למשל התחכום הכי גדול שתועד עד כה היה למשל בפיזיקה, ה AI יצליח ליישר את התחכום הזה לכל תחום. אבל לא מעבר.

כמה שאלות למחשבה:

• האם יש אינדיקציה לטענה הזו?
• האם יש הוכחה או אפילו השערה סבירה שתומכת בטיעון הזה?
• האם יש סיבה ממשית לחשוב שה-AI יתקל בגבול השנים הקרובות?

[אזולאי]

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

תקרא את גיקטיים.
כל הכתבות האחרונות, על פיטורי ענק של מתכנתים...
יש לך אחות בסמינר? שאל אותה כמה מסיימות תכנות מצאו עבודה

זה רק אלה הכי גרועים, לא אלה שיש להם שכל.
זה כמו הרובוט שמחליף פועלי בניין (עבודה מכנית פשוטה), בשונה מרובוט שיהיה אחראי על פרויקט הבניה כולו

[נוחעם FM]

Spoiler

נראה שכדאי למנהלים להרשות דיונים בפורום... תראו איך הנושא הזה פורח...
240 פוסטים ב4 שעות. Welcome to Prog.

[NH.LOCAL]

@אזולאי כתב בבירור | בינה מלאכותית והאנושות - לאן?:

זה רק אלה הכי גרועים, לא אלה שיש להם שכל.

תיאור מדויק של 50% מהשוק בערך, בהערכה מפרגנת

ומספיק פיטורים גם של 20% מהשוק כדי לגרום לטלטלה עצומה

[רפאל vnkl]

@NH.LOCAL שוב, אתה צודק! אני רק הגנתי על המשפט שהגולם לא יקום על יוצרו, מהבחינה של הדאטא. כלומר שאין לו דרך (מלבד RL) להמציא תחכום שלא היה קיים באף תחום, הוא רק מעתיק את התחכום הנדיר ההוא לכל שאר התחומים.

ואתה צודק לגמרי, בזכות ה RL הוא אכן יעקוף גם את זה.

כלומר במילים אחרות אם הבנתי נכון: התחכום הנוכחי של ה-AI לא הולך לגדול?

רמת התחכום של מודל AI בשנת 2040 יהיה זהה לתחכום שלו כיום?

אם נשים רגע את הRL בצד - היא לא תישאר זהה, אלא התחכום הגדול ביותר שתועד אי פעם יותאם לכל תחום.

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם נשים רגע את הRL בצד - היא לא תישאר זהה, אלא התחכום הגדול ביותר שתועד אי פעם יותאם לכל תחום.

אפשר לשים בצד הרבה דברים. אפשר גם לשים בצד את ה-AI או את הטרנספורמר ולטעון שמחשבון לא יוכל להתעלות על בני האדם.
סליחה על החריפות, אבל זה פשוט לא רלוונטי לדיון. אולי ליקום מקביל או ל-2020

[יודע ספר]

@NH.LOCAL אתה מקבל כסף מסם אלטמן או אילון מאסק על קידום מוצרים?

[לנציצ]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

האם יש סיבה ממשית לחשוב שה-AI יתקל בגבול השנים הקרובות?

כן
האנושות תשים לו
וזה יקרה תרצה או לא

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אתה מקבל כסף מסם אלטמן או אילון מאסק על קידום מוצרים?

לא. כמו שאתה רואה, המוצרים שלהם כל כך טובים שהם מדברים בעד עצמם

קוראים לזה בשפה השיווקית: "מוצר שמוכר את עצמו"

@לנציצ כתב בבירור | בינה מלאכותית והאנושות - לאן?:

כן
האנושות תשים לו
וזה יקרה תרצה או לא

נחיה ונראה.

זה כבר גולש לתחום הפוליטיקה והיחסים בין מדינות, פחות טכנולוגיה. אבל הערכה שלי: כל עוד סין באירוע הסיכוי לעצירה שואף לאפס.

העניין פשוט: סין לא תעצור כי היא שואפת למוצר החזק ביותר שיעזור לה להשתלט על העולם. וכך גם רוסיה וכל מדינה לא מערבית אחרת.

התוצר הישיר של זה, היא שכל מדינה מערבית חפצת חיים תהיה חייבת ליצור מוצר חזק יותר. וזה כולל כמובן את ארצות הברית בראשן.
(המונח "חפצת חיים" לא כולל כמובן את אירופה שמזמן כבר החליטה להתאבד)

תקרא היסטוריה קצת: גם את המהפכה התעשייתית ואת מהפכת הדפוס ניסו לעצור. זה עזר באופן זמני. מאוד זמני.

[רפאל vnkl]

@NH.LOCAL אתה חוזר לאותה נקודה. שוב. אני מסכים שהוא יתעלה על האדם בזכות ה RL.

אני סה"כ אמרתי, שמנוע חיפוש לא יכול למצוא מידע שלא קיים לו במאגר. אלא אם כן הoutput שלו הוא לא רק מנוע חיפוש אלא נסיונות בלתי פוסקים לייצר נתונים רנדומליים ולקחת שוב ושוב את המוצלח.

שזה AI של ימינו.

אבל אתה צודק שזה לא רלוונטי לדיון, כשכתבתי את מה שכתבתי שכחתי שיש גם RL.

[א.מ.ד.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אני לא יודע מאיפה העתקת את הטקסט הזה.

מהראש שלי.

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אבל המציאות מוכיחה ש-RL שיפר יכולות מודלים ברמה של תגליות חדשות שבהחלט חורגים מנתוני האימון (ע"ע בעית ארדוש הנ"ל)

מה שאני טוען זה שה-AI לא יכול לעבור את המקסימום הניתן להשגה בידי בן אנוש, ללא מגבלות זמן וכוח חישוב אנושי.
כל טכנולוגיית אימון ולמידת חיזוק קיימת, תקרא לזה "בסך הכל" או לא, משפרת את מציאת הפיתרון בתוך ים האפשרויות הקיים. גם תגליות "חדשות" הן בעצם רק "תגליות" ולא "המצאות".
אז כמובן זה דיון תאורטי שלא ממש ניתן להוכחה, אולי רק לטווח הרחוק...