בירור | בינה מלאכותית והאנושות - לאן?

[א.מ.ד.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה? לא, ממש לא. AI עקף את המוח האנושי במשחק GO, על ידי מנגנון למידת חיזוק (RL).
הוא פשוט שיחק מליוני פעמים ובכל פעם שיפר את האלגוריתם של עצמו. אחרי כמה שעות כאלה הוא הפך לשחקן הטוב ביותר בעולם. לא שאיבת יצירתיות משום תחום אחר ולא נעליים.

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

למידת חיזוק היא לא הסקת מסקנות מתקדמת. היא בסך הכל סינון של הפלטים הלא מושלמים. לדוגמא למודל שלא עבר למידת חיזוק יש סבירות של 5% שייתן את הפלט המושלם, לעומת מודל שעבר למידת חיזק שיש לו סבירות של 40% לפלט המושלם. זה לא העצמת היכולות של עצמו.

[NH.LOCAL]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

למידת חיזוק היא לא הסקת מסקנות מתקדמת. היא בסך הכל סינון של הפלטים הלא מושלמים. לדוגמא למודל שלא עבר למידת חיזוק יש סבירות של 5% שייתן את הפלט המושלם, לעומת מודל שעבר למידת חיזק שיש לו סבירות של 40% לפלט המושלם. זה לא העצמת היכולות של עצמו.

אני לא יודע מאיפה העתקת את הטקסט הזה. אבל המציאות מוכיחה ש-RL שיפר יכולות מודלים ברמה של תגליות חדשות שבהחלט חורגים מנתוני האימון (ע"ע בעית ארדוש הנ"ל)

ולמען ה', תפסיק להשתמש במינוח "בסך הכל". זה ממש לא "בסך הכל", וזה רחוק מלהיות פשוט כל כך.
שוב מדובר על פישוט יתר של פונקציה מתוחכמת להחריד שהושקעו בה עשרות מליארדים

[רפאל vnkl]

@NH.LOCAL אוקי, אתה צודק - אבל אני דיברתי רק על מה שה AI יכול להפיק מהאימון של הדאטא.

ודרך אגב יש לי תחושה שלא הבנת את הטיעון ההוא - לא אמרתי שבסוף יווצר כאן משהו שעוקף את יכולות האדם, אלא שאם למשל התחכום הכי גדול שתועד עד כה היה למשל בפיזיקה, ה AI יצליח ליישר את התחכום הזה לכל תחום. אבל לא מעבר.

אבל שוב, זה רק מהדאטא - אני לא מדבר על הRL.

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אוקי, אתה צודק - אבל אני דיברתי רק על מה שה AI יכול להפיק מהאימון של הדאטא.

אבל שוב, זה רק מהדאטא - אני לא מדבר על הRL.

מה זה "אני לא מדבר על RL"? זה חלק ישיר ומרכזי בכל התפתחות ה-AI כיום. וכמובן שסיכוי טוב שיתפתחו גם ארכיקטורות שונות לחוטין בשנים הקרובות.

איך זה יקרה? זה בכלל לא משנה. האם זה יקרה? זו השאלה החשובה

ודרך אגב יש לי תחושה שלא הבנת את הטיעון ההוא - לא אמרתי שבסוף יווצר כאן משהו שעוקף את יכולות האדם, אלא שאם למשל התחכום הכי גדול שתועד עד כה היה למשל בפיזיקה, ה AI יצליח ליישר את התחכום הזה לכל תחום. אבל לא מעבר.

כמה שאלות למחשבה:

• האם יש אינדיקציה לטענה הזו?
• האם יש הוכחה או אפילו השערה סבירה שתומכת בטיעון הזה?
• האם יש סיבה ממשית לחשוב שה-AI יתקל בגבול השנים הקרובות?

[אזולאי]

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

תקרא את גיקטיים.
כל הכתבות האחרונות, על פיטורי ענק של מתכנתים...
יש לך אחות בסמינר? שאל אותה כמה מסיימות תכנות מצאו עבודה

זה רק אלה הכי גרועים, לא אלה שיש להם שכל.
זה כמו הרובוט שמחליף פועלי בניין (עבודה מכנית פשוטה), בשונה מרובוט שיהיה אחראי על פרויקט הבניה כולו

[נוחעם FM]

Spoiler

נראה שכדאי למנהלים להרשות דיונים בפורום... תראו איך הנושא הזה פורח...
240 פוסטים ב4 שעות. Welcome to Prog.

[NH.LOCAL]

@אזולאי כתב בבירור | בינה מלאכותית והאנושות - לאן?:

זה רק אלה הכי גרועים, לא אלה שיש להם שכל.

תיאור מדויק של 50% מהשוק בערך, בהערכה מפרגנת

ומספיק פיטורים גם של 20% מהשוק כדי לגרום לטלטלה עצומה

[רפאל vnkl]

@NH.LOCAL שוב, אתה צודק! אני רק הגנתי על המשפט שהגולם לא יקום על יוצרו, מהבחינה של הדאטא. כלומר שאין לו דרך (מלבד RL) להמציא תחכום שלא היה קיים באף תחום, הוא רק מעתיק את התחכום הנדיר ההוא לכל שאר התחומים.

ואתה צודק לגמרי, בזכות ה RL הוא אכן יעקוף גם את זה.

כלומר במילים אחרות אם הבנתי נכון: התחכום הנוכחי של ה-AI לא הולך לגדול?

רמת התחכום של מודל AI בשנת 2040 יהיה זהה לתחכום שלו כיום?

אם נשים רגע את הRL בצד - היא לא תישאר זהה, אלא התחכום הגדול ביותר שתועד אי פעם יותאם לכל תחום.

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם נשים רגע את הRL בצד - היא לא תישאר זהה, אלא התחכום הגדול ביותר שתועד אי פעם יותאם לכל תחום.

אפשר לשים בצד הרבה דברים. אפשר גם לשים בצד את ה-AI או את הטרנספורמר ולטעון שמחשבון לא יוכל להתעלות על בני האדם.
סליחה על החריפות, אבל זה פשוט לא רלוונטי לדיון. אולי ליקום מקביל או ל-2020

[יודע ספר]

@NH.LOCAL אתה מקבל כסף מסם אלטמן או אילון מאסק על קידום מוצרים?

[לנציצ]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

האם יש סיבה ממשית לחשוב שה-AI יתקל בגבול השנים הקרובות?

כן
האנושות תשים לו
וזה יקרה תרצה או לא

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אתה מקבל כסף מסם אלטמן או אילון מאסק על קידום מוצרים?

לא. כמו שאתה רואה, המוצרים שלהם כל כך טובים שהם מדברים בעד עצמם

קוראים לזה בשפה השיווקית: "מוצר שמוכר את עצמו"

@לנציצ כתב בבירור | בינה מלאכותית והאנושות - לאן?:

כן
האנושות תשים לו
וזה יקרה תרצה או לא

נחיה ונראה.

זה כבר גולש לתחום הפוליטיקה והיחסים בין מדינות, פחות טכנולוגיה. אבל הערכה שלי: כל עוד סין באירוע הסיכוי לעצירה שואף לאפס.

העניין פשוט: סין לא תעצור כי היא שואפת למוצר החזק ביותר שיעזור לה להשתלט על העולם. וכך גם רוסיה וכל מדינה לא מערבית אחרת.

התוצר הישיר של זה, היא שכל מדינה מערבית חפצת חיים תהיה חייבת ליצור מוצר חזק יותר. וזה כולל כמובן את ארצות הברית בראשן.
(המונח "חפצת חיים" לא כולל כמובן את אירופה שמזמן כבר החליטה להתאבד)

תקרא היסטוריה קצת: גם את המהפכה התעשייתית ואת מהפכת הדפוס ניסו לעצור. זה עזר באופן זמני. מאוד זמני.

[רפאל vnkl]

@NH.LOCAL אתה חוזר לאותה נקודה. שוב. אני מסכים שהוא יתעלה על האדם בזכות ה RL.

אני סה"כ אמרתי, שמנוע חיפוש לא יכול למצוא מידע שלא קיים לו במאגר. אלא אם כן הoutput שלו הוא לא רק מנוע חיפוש אלא נסיונות בלתי פוסקים לייצר נתונים רנדומליים ולקחת שוב ושוב את המוצלח.

שזה AI של ימינו.

אבל אתה צודק שזה לא רלוונטי לדיון, כשכתבתי את מה שכתבתי שכחתי שיש גם RL.

[א.מ.ד.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אני לא יודע מאיפה העתקת את הטקסט הזה.

מהראש שלי.

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אבל המציאות מוכיחה ש-RL שיפר יכולות מודלים ברמה של תגליות חדשות שבהחלט חורגים מנתוני האימון (ע"ע בעית ארדוש הנ"ל)

מה שאני טוען זה שה-AI לא יכול לעבור את המקסימום הניתן להשגה בידי בן אנוש, ללא מגבלות זמן וכוח חישוב אנושי.
כל טכנולוגיית אימון ולמידת חיזוק קיימת, תקרא לזה "בסך הכל" או לא, משפרת את מציאת הפיתרון בתוך ים האפשרויות הקיים. גם תגליות "חדשות" הן בעצם רק "תגליות" ולא "המצאות".
אז כמובן זה דיון תאורטי שלא ממש ניתן להוכחה, אולי רק לטווח הרחוק...

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אתה חוזר לאותה נקודה. שוב. אני מסכים שהוא יתעלה על האדם בזכות ה RL.

אני סה"כ אמרתי, שמנוע חיפוש לא יכול למצוא מידע שלא קיים לו במאגר. אלא אם כן הoutput שלו הוא לא רק מנוע חיפוש אלא נסיונות בלתי פוסקים לייצר נתונים רנדומליים ולקחת שוב ושוב את המוצלח.

שזה AI של ימינו.

ה-AI מעולם לא היה מנוע חיפוש וממילא זה גם ממש לא AI של ימינו

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מהראש שלי.

אז כדאי שתברר שוב על הנושא ותבדוק אם אלו נתונים מבוססים

[א.מ.ד.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אז כדאי שתברר שוב על הנושא ותבדוק אם אלו נתונים מבוססים

אני עושה את זה בעצמי (את ה-RL, כן?), תאמין לי שלמדתי על זה מספיק חומר.

[NH.LOCAL]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה שאני טוען זה שה-AI לא יכול לעבור את המקסימום הניתן להשגה בידי בן אנוש, ללא מגבלות זמן וכוח חישוב אנושי.
כל טכנולוגיית אימון ולמידת חיזוק קיימת, תקרא לזה "בסך הכל" או לא, משפרת את מציאת הפיתרון בתוך ים האפשרויות הקיים. גם תגליות "חדשות" הן בעצם רק "תגליות" ולא "המצאות".

מצוין. ולאור כותרת הדיון - האם יש יתרון לאנושות על ה-AI? כנראה שלא.

אתה רק מגדיר את הנקודה (בצורה נכונה), שבני האדם לא באמת ממציאים שום דבר חדש. וזה אכן נכון גם ל-AI

Spoiler

לך תדע, אולי יום אחד הבינה תתן לי משכורת על העמידה בפרץ להגנתה...

[אזולאי]

@NH.LOCAL ואנחנו ניפגע מהבאסיליסק של רוקו

[י. פל.]

@אזולאי כתב בבירור | בינה מלאכותית והאנושות - לאן?:

ואנחנו ניפגע מהבאסיליסק של רוקו

?

[יודע ספר]

@NH.LOCAL אתה חולק על דברי ערן כץ שהבאתי לעיל?