בירור | בינה מלאכותית והאנושות - לאן?

[לנציצ]

@י.-פל. קודם כל הוא בסך הכל מציג שם מחקר ככה שאין יותר מידי מה לפספס
כמובן שהמחקר יכול להיות טעות והוא לא מציג את טווח הטעות בעניין אבל בסוף בסוף זה מעניין
ואני לא ממש מקשיב לכל הגיג פלוסופי שלו פשוט השם החיצוני סיקרן אז נכנסתי לשמוע

[NH.LOCAL]

@עניו-כמשה כתב בבירור | בינה מלאכותית והאנושות - לאן?:

זה מה שאמרתי כבר מקודם
לאן העולם ילך בשליטת ה ai למקום טוב יותר או פחות טוב?

קשה לדעת.

מה שכן אפשר לדעת - אין שום אפשרות למנוע את המהפכה הזו

[חמור חמורותיים]

@י.-פל. זה נכון אבל הצרכים שלו שונים משל בנאדם. אין לו רגליים אז הוא לא צריך נעליים וכו'

[NH.LOCAL]

@המלאך כתב בבירור | בינה מלאכותית והאנושות - לאן?:

עניתי לך על זה.
הדבר הזה הוא טעות! מוחלטת!
האנושות לא הגיע לעולם רווי והסתמכה על מידע קיים.
היא המציאה הרבה דברים חדשים שלא היו קיימים קודם לכן, ולא היו שילוב בין שני דברים.
כך כדוגמא כמה כאלה ידועים, כמו כוס הזכוכית, החלילית או הכי נכון - האובניים.
זה שילוב של שני גילויים חדשים בעולם המדע.
1 - עיקרון הסיבוב והתנע הזוויתי,
2 - חומר גלם אחיד, (כן הם קדמו לגלגל, למרות שבנושא זה יש הרבה תאוריות כפרניות אז הייתי צריך להיזהר בלשוני),

תשאל כל מודל AI, חכם ככל שתרצה, אם הטיעון שלך נכון.
רק תבקש תשובה אובייקטיבית בלי לנסות לגרום לו לאשר את הטיעונים שלך

Spoiler

ספוילר: הוא לא

@המלאך כתב בבירור | בינה מלאכותית והאנושות - לאן?:

סתם המלצה לחיים: אל תסתמך על הבינה כמקור ידע עיקרי,
אני מעדיף לסמוך על בני אנוש מאשר על כאלה שמעבדים בצורה על אנושית תוכן אנושי, (שהגיוני מאוד שהוא שגוי.. חסר טקסטים שגויים באינטרנט?)

חבל מאוד. AI חכם יותר, אמין יותר ובעל ידע מקיף יותר מרוב מוחלט של בני האדם.
חשוב כמובן להיות זהיר איתו ולבקש תמיד לשמוע את שתי הצדדים ולהיות אובייקטיבי

מדובר במכונת ידע שיכולה להוסיף לך המון, כמו ששום אנציקלופדיה לא תוכל לעולם
ההפסד כולו שלך

[י. פל.]

@חמור-חמורותיים כתב בבירור | בינה מלאכותית והאנושות - לאן?:

זה נכון אבל הצרכים שלו שונים משל בנאדם. אין לו רגליים אז הוא לא צריך נעליים וכו'

אבל הוא צריך שלך יהיו נעליים.

[עד הניצחון]

פוסט זה נמחק!

[עד הניצחון]

@איש-הישראלי כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם כבר מדברים..
אני לא מכניס ראשי בין ההרים הגבוהים ..
אבל עקב כמות המומחים לAI שצופים בנושא חשבתי להציע
שאולי יהיה בפורום מדריכים מסודרים לAI
מה המודלים שיש במה כל אחד מתמחה יותר
מה זה לכתוב פרומפטים
כי אני שומע ורואה מה אחרי עושים עם AI ואני לא מצליח להוציא מו כלום
מה דעתכם??

אולי תבקש מהבינה מדריכים מדוייקים

[י. פל.]

עוד רופא מפוחד:
https://www.geektime.co.il/ai-medical-diagnosis-doctors-hospitals-regulation/

[NH.LOCAL]

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

עוד רופא מפוחד:
https://www.geektime.co.il/ai-medical-diagnosis-doctors-hospitals-regulation/

היפה בכתבה הזו שאפשר לקחת את כל הכתבה הזו ולשנות כמה מילים. בכל מקום שכתוב רופא להחליף ב-AI, ובכל מקום שכתוב AI להחליף ברופא.

כתבה שלמה על פספוסים של AI, בלי לדבר על אינסוף האבחונים השגויים של רופאים אנושיים...

[רפאל vnkl]

@nh.local @המלאך ו@ כולם
לדעתי, הai יכול לעקוף את האדם, אבל עד גבול החוכמה הגדולה ביותר בכל תחום.

כלומר, כאשר למשל הai עקף את המוח האנושי במשחק GO, הוא לא באמת עקף אותו, אלא שאב את היצירתיות והתחכום שלו מתחומים אחרים, כגון שחמט או מתמטיקה או אנאערף, והצליח להתאים אותם עבור המשחק GO.

אבל מעבר לתחכום והיצירתיות שאדם הגיע אליהם בתחום כלשהו - את זה הai לעולם לא יצליח לעקוף.
אז נכון, בסוף יהיה לנו כאן מפלצת שטובה בכל תחום ברמות הכי גבוהות שתועדו אי פעם - אבל עד גבול התחכום העקרוני של האדם, גם אם בפועל לא נולד האדם שהגיע לרמות האלה.

מה דעתכם?

[א.מ.ד.]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה דעתכם?

כמו שכתבתי למעלה -

כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@המלאך מסכים איתך. אני חושב שקו הגבול של יכולות המודלים, בהנחה שלא ישנו משמעותית את הארכיטקטורה, היא לספק את התוצרים האנושיים הגבוהים ביותר כיום, אך לא מעבר לכך. לדוגמא בתכנות, היא תספק את התוצר הטוב ביותר שנוצר או שיש היתכנות שיווצר על ידי צוות אנושי.
גם אם נספק לה תוצרים סינטטיים, הם בעיקר יצמצמו את האחוזים שבהם הבינה לא נותנת את המקסימום שלה, אבל לא ייפרצו דרך.
מקווה שהבנתי, אם לא - אשמח לבאר.

[י. פל.]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אז נכון, בסוף יהיה לנו כאן מפלצת שטובה בכל תחום ברמות הכי גבוהות שיש - אבל עד גבול התחכום העקרוני של האדם, גם אם בפועל לא נולד האדם שהגיע לרמות האלה.

מה המשמעות? שהוא לעולם לא יצליח ליצור משהו, שבלי הAI גם עוד 4K שנים לא היה נוצר?
בסדר, מקבל.

[רפאל vnkl]

@י.-פל. כן ולא,
אולי עוד 20 שנה יוולד האיינשטיין של המשחק Go, שיצליח לנתב את כל עוצמת המוח האנושי לתחום הזה - את זה כבר AI לא יעקוף.

עוד x שנים, שהai יצליח להביא את התחכום הגדול הזה לכל תחום, שם תהיה תקרת הזכוכית שלו והוא לא יתקדם יותר.

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@nh.local @המלאך ו@ כולם
לדעתי, הai יכול לעקוף את האדם, אבל עד גבול החוכמה הגדולה ביותר בכל תחום.

אולי תגלה לנו איפה בדיוק נמצא הגבול הזה? מה זה בכלל?

כלומר, כאשר למשל הai עקף את המוח האנושי במשחק GO, הוא לא באמת עקף אותו, אלא שאב את היצירתיות והתחכום שלו מתחומים אחרים, כגון שחמט או מתמטיקה או אנאערף, והצליח להתאים אותם עבור המשחק GO.

מה? לא, ממש לא. AI עקף את המוח האנושי במשחק GO, על ידי מנגנון למידת חיזוק (RL).
הוא פשוט שיחק מליוני פעמים ובכל פעם שיפר את האלגוריתם של עצמו. אחרי כמה שעות כאלה הוא הפך לשחקן הטוב ביותר בעולם. לא שאיבת יצירתיות משום תחום אחר ולא נעליים.

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

אבל מעבר לתחכום והיצירתיות שאדם הגיע אליהם בתחום כלשהו - את זה הai לעולם לא יצליח לעקוף.
אז נכון, בסוף יהיה לנו כאן מפלצת שטובה בכל תחום ברמות הכי גבוהות שתועדו אי פעם - אבל עד גבול התחכום העקרוני של האדם, גם אם בפועל לא נולד האדם שהגיע לרמות האלה.

זה כבר נוגע לשאלה פילוסופית עקרונית - האם יש גבול כלשהו לאינטליגנציה או לא, זה כבר חורג לחלוטין מדיון על יכולות ה-AI

בכל אופן, אם יש משהו שעבר את "גבול התחכום האנושי", זה הטיעון הזה בעצמו

[י. פל.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

תכתוב את זה ל @המלאך - הוא כותב שוב ושוב שהתקרה היא דאטה, לא עוזר שום דבר

[NH.LOCAL]

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

תכתוב את זה ל @המלאך - הוא כותב שוב ושוב שהתקרה היא דאטה, לא עוזר שום דבר

אני כבר מדמיין את הדיונים כאן בפורום ב-2030:

"כל עוד AI לא מצליח להוציא מים מסלע או להפוך מטה לנחש - הוא פשוט לא משתווה בכלל ליכולות האנושיות"

[א.מ.ד.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה? לא, ממש לא. AI עקף את המוח האנושי במשחק GO, על ידי מנגנון למידת חיזוק (RL).
הוא פשוט שיחק מליוני פעמים ובכל פעם שיפר את האלגוריתם של עצמו. אחרי כמה שעות כאלה הוא הפך לשחקן הטוב ביותר בעולם. לא שאיבת יצירתיות משום תחום אחר ולא נעליים.

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

למידת חיזוק היא לא הסקת מסקנות מתקדמת. היא בסך הכל סינון של הפלטים הלא מושלמים. לדוגמא למודל שלא עבר למידת חיזוק יש סבירות של 5% שייתן את הפלט המושלם, לעומת מודל שעבר למידת חיזק שיש לו סבירות של 40% לפלט המושלם. זה לא העצמת היכולות של עצמו.

[NH.LOCAL]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

למידת חיזוק היא לא הסקת מסקנות מתקדמת. היא בסך הכל סינון של הפלטים הלא מושלמים. לדוגמא למודל שלא עבר למידת חיזוק יש סבירות של 5% שייתן את הפלט המושלם, לעומת מודל שעבר למידת חיזק שיש לו סבירות של 40% לפלט המושלם. זה לא העצמת היכולות של עצמו.

אני לא יודע מאיפה העתקת את הטקסט הזה. אבל המציאות מוכיחה ש-RL שיפר יכולות מודלים ברמה של תגליות חדשות שבהחלט חורגים מנתוני האימון (ע"ע בעית ארדוש הנ"ל)

ולמען ה', תפסיק להשתמש במינוח "בסך הכל". זה ממש לא "בסך הכל", וזה רחוק מלהיות פשוט כל כך.
שוב מדובר על פישוט יתר של פונקציה מתוחכמת להחריד שהושקעו בה עשרות מליארדים

[רפאל vnkl]

@NH.LOCAL אוקי, אתה צודק - אבל אני דיברתי רק על מה שה AI יכול להפיק מהאימון של הדאטא.

ודרך אגב יש לי תחושה שלא הבנת את הטיעון ההוא - לא אמרתי שבסוף יווצר כאן משהו שעוקף את יכולות האדם, אלא שאם למשל התחכום הכי גדול שתועד עד כה היה למשל בפיזיקה, ה AI יצליח ליישר את התחכום הזה לכל תחום. אבל לא מעבר.

אבל שוב, זה רק מהדאטא - אני לא מדבר על הRL.

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אוקי, אתה צודק - אבל אני דיברתי רק על מה שה AI יכול להפיק מהאימון של הדאטא.

אבל שוב, זה רק מהדאטא - אני לא מדבר על הRL.

מה זה "אני לא מדבר על RL"? זה חלק ישיר ומרכזי בכל התפתחות ה-AI כיום. וכמובן שסיכוי טוב שיתפתחו גם ארכיקטורות שונות לחוטין בשנים הקרובות.

איך זה יקרה? זה בכלל לא משנה. האם זה יקרה? זו השאלה החשובה

ודרך אגב יש לי תחושה שלא הבנת את הטיעון ההוא - לא אמרתי שבסוף יווצר כאן משהו שעוקף את יכולות האדם, אלא שאם למשל התחכום הכי גדול שתועד עד כה היה למשל בפיזיקה, ה AI יצליח ליישר את התחכום הזה לכל תחום. אבל לא מעבר.

כמה שאלות למחשבה:

• האם יש אינדיקציה לטענה הזו?
• האם יש הוכחה או אפילו השערה סבירה שתומכת בטיעון הזה?
• האם יש סיבה ממשית לחשוב שה-AI יתקל בגבול השנים הקרובות?