בירור | בינה מלאכותית והאנושות - לאן?

[עד הניצחון]

פוסט זה נמחק!

[עד הניצחון]

@איש-הישראלי כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם כבר מדברים..
אני לא מכניס ראשי בין ההרים הגבוהים ..
אבל עקב כמות המומחים לAI שצופים בנושא חשבתי להציע
שאולי יהיה בפורום מדריכים מסודרים לAI
מה המודלים שיש במה כל אחד מתמחה יותר
מה זה לכתוב פרומפטים
כי אני שומע ורואה מה אחרי עושים עם AI ואני לא מצליח להוציא מו כלום
מה דעתכם??

אולי תבקש מהבינה מדריכים מדוייקים

[י. פל.]

עוד רופא מפוחד:
https://www.geektime.co.il/ai-medical-diagnosis-doctors-hospitals-regulation/

[NH.LOCAL]

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

עוד רופא מפוחד:
https://www.geektime.co.il/ai-medical-diagnosis-doctors-hospitals-regulation/

היפה בכתבה הזו שאפשר לקחת את כל הכתבה הזו ולשנות כמה מילים. בכל מקום שכתוב רופא להחליף ב-AI, ובכל מקום שכתוב AI להחליף ברופא.

כתבה שלמה על פספוסים של AI, בלי לדבר על אינסוף האבחונים השגויים של רופאים אנושיים...

[רפאל vnkl]

@nh.local @המלאך ו@ כולם
לדעתי, הai יכול לעקוף את האדם, אבל עד גבול החוכמה הגדולה ביותר בכל תחום.

כלומר, כאשר למשל הai עקף את המוח האנושי במשחק GO, הוא לא באמת עקף אותו, אלא שאב את היצירתיות והתחכום שלו מתחומים אחרים, כגון שחמט או מתמטיקה או אנאערף, והצליח להתאים אותם עבור המשחק GO.

אבל מעבר לתחכום והיצירתיות שאדם הגיע אליהם בתחום כלשהו - את זה הai לעולם לא יצליח לעקוף.
אז נכון, בסוף יהיה לנו כאן מפלצת שטובה בכל תחום ברמות הכי גבוהות שתועדו אי פעם - אבל עד גבול התחכום העקרוני של האדם, גם אם בפועל לא נולד האדם שהגיע לרמות האלה.

מה דעתכם?

[א.מ.ד.]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה דעתכם?

כמו שכתבתי למעלה -

כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@המלאך מסכים איתך. אני חושב שקו הגבול של יכולות המודלים, בהנחה שלא ישנו משמעותית את הארכיטקטורה, היא לספק את התוצרים האנושיים הגבוהים ביותר כיום, אך לא מעבר לכך. לדוגמא בתכנות, היא תספק את התוצר הטוב ביותר שנוצר או שיש היתכנות שיווצר על ידי צוות אנושי.
גם אם נספק לה תוצרים סינטטיים, הם בעיקר יצמצמו את האחוזים שבהם הבינה לא נותנת את המקסימום שלה, אבל לא ייפרצו דרך.
מקווה שהבנתי, אם לא - אשמח לבאר.

[י. פל.]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אז נכון, בסוף יהיה לנו כאן מפלצת שטובה בכל תחום ברמות הכי גבוהות שיש - אבל עד גבול התחכום העקרוני של האדם, גם אם בפועל לא נולד האדם שהגיע לרמות האלה.

מה המשמעות? שהוא לעולם לא יצליח ליצור משהו, שבלי הAI גם עוד 4K שנים לא היה נוצר?
בסדר, מקבל.

[רפאל vnkl]

@י.-פל. כן ולא,
אולי עוד 20 שנה יוולד האיינשטיין של המשחק Go, שיצליח לנתב את כל עוצמת המוח האנושי לתחום הזה - את זה כבר AI לא יעקוף.

עוד x שנים, שהai יצליח להביא את התחכום הגדול הזה לכל תחום, שם תהיה תקרת הזכוכית שלו והוא לא יתקדם יותר.

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@nh.local @המלאך ו@ כולם
לדעתי, הai יכול לעקוף את האדם, אבל עד גבול החוכמה הגדולה ביותר בכל תחום.

אולי תגלה לנו איפה בדיוק נמצא הגבול הזה? מה זה בכלל?

כלומר, כאשר למשל הai עקף את המוח האנושי במשחק GO, הוא לא באמת עקף אותו, אלא שאב את היצירתיות והתחכום שלו מתחומים אחרים, כגון שחמט או מתמטיקה או אנאערף, והצליח להתאים אותם עבור המשחק GO.

מה? לא, ממש לא. AI עקף את המוח האנושי במשחק GO, על ידי מנגנון למידת חיזוק (RL).
הוא פשוט שיחק מליוני פעמים ובכל פעם שיפר את האלגוריתם של עצמו. אחרי כמה שעות כאלה הוא הפך לשחקן הטוב ביותר בעולם. לא שאיבת יצירתיות משום תחום אחר ולא נעליים.

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

אבל מעבר לתחכום והיצירתיות שאדם הגיע אליהם בתחום כלשהו - את זה הai לעולם לא יצליח לעקוף.
אז נכון, בסוף יהיה לנו כאן מפלצת שטובה בכל תחום ברמות הכי גבוהות שתועדו אי פעם - אבל עד גבול התחכום העקרוני של האדם, גם אם בפועל לא נולד האדם שהגיע לרמות האלה.

זה כבר נוגע לשאלה פילוסופית עקרונית - האם יש גבול כלשהו לאינטליגנציה או לא, זה כבר חורג לחלוטין מדיון על יכולות ה-AI

בכל אופן, אם יש משהו שעבר את "גבול התחכום האנושי", זה הטיעון הזה בעצמו

[י. פל.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

תכתוב את זה ל @המלאך - הוא כותב שוב ושוב שהתקרה היא דאטה, לא עוזר שום דבר

[NH.LOCAL]

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

תכתוב את זה ל @המלאך - הוא כותב שוב ושוב שהתקרה היא דאטה, לא עוזר שום דבר

אני כבר מדמיין את הדיונים כאן בפורום ב-2030:

"כל עוד AI לא מצליח להוציא מים מסלע או להפוך מטה לנחש - הוא פשוט לא משתווה בכלל ליכולות האנושיות"

[א.מ.ד.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה? לא, ממש לא. AI עקף את המוח האנושי במשחק GO, על ידי מנגנון למידת חיזוק (RL).
הוא פשוט שיחק מליוני פעמים ובכל פעם שיפר את האלגוריתם של עצמו. אחרי כמה שעות כאלה הוא הפך לשחקן הטוב ביותר בעולם. לא שאיבת יצירתיות משום תחום אחר ולא נעליים.

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

למידת חיזוק היא לא הסקת מסקנות מתקדמת. היא בסך הכל סינון של הפלטים הלא מושלמים. לדוגמא למודל שלא עבר למידת חיזוק יש סבירות של 5% שייתן את הפלט המושלם, לעומת מודל שעבר למידת חיזק שיש לו סבירות של 40% לפלט המושלם. זה לא העצמת היכולות של עצמו.

[NH.LOCAL]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

למידת חיזוק היא לא הסקת מסקנות מתקדמת. היא בסך הכל סינון של הפלטים הלא מושלמים. לדוגמא למודל שלא עבר למידת חיזוק יש סבירות של 5% שייתן את הפלט המושלם, לעומת מודל שעבר למידת חיזק שיש לו סבירות של 40% לפלט המושלם. זה לא העצמת היכולות של עצמו.

אני לא יודע מאיפה העתקת את הטקסט הזה. אבל המציאות מוכיחה ש-RL שיפר יכולות מודלים ברמה של תגליות חדשות שבהחלט חורגים מנתוני האימון (ע"ע בעית ארדוש הנ"ל)

ולמען ה', תפסיק להשתמש במינוח "בסך הכל". זה ממש לא "בסך הכל", וזה רחוק מלהיות פשוט כל כך.
שוב מדובר על פישוט יתר של פונקציה מתוחכמת להחריד שהושקעו בה עשרות מליארדים

[רפאל vnkl]

@NH.LOCAL אוקי, אתה צודק - אבל אני דיברתי רק על מה שה AI יכול להפיק מהאימון של הדאטא.

ודרך אגב יש לי תחושה שלא הבנת את הטיעון ההוא - לא אמרתי שבסוף יווצר כאן משהו שעוקף את יכולות האדם, אלא שאם למשל התחכום הכי גדול שתועד עד כה היה למשל בפיזיקה, ה AI יצליח ליישר את התחכום הזה לכל תחום. אבל לא מעבר.

אבל שוב, זה רק מהדאטא - אני לא מדבר על הRL.

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אוקי, אתה צודק - אבל אני דיברתי רק על מה שה AI יכול להפיק מהאימון של הדאטא.

אבל שוב, זה רק מהדאטא - אני לא מדבר על הRL.

מה זה "אני לא מדבר על RL"? זה חלק ישיר ומרכזי בכל התפתחות ה-AI כיום. וכמובן שסיכוי טוב שיתפתחו גם ארכיקטורות שונות לחוטין בשנים הקרובות.

איך זה יקרה? זה בכלל לא משנה. האם זה יקרה? זו השאלה החשובה

ודרך אגב יש לי תחושה שלא הבנת את הטיעון ההוא - לא אמרתי שבסוף יווצר כאן משהו שעוקף את יכולות האדם, אלא שאם למשל התחכום הכי גדול שתועד עד כה היה למשל בפיזיקה, ה AI יצליח ליישר את התחכום הזה לכל תחום. אבל לא מעבר.

כמה שאלות למחשבה:

• האם יש אינדיקציה לטענה הזו?
• האם יש הוכחה או אפילו השערה סבירה שתומכת בטיעון הזה?
• האם יש סיבה ממשית לחשוב שה-AI יתקל בגבול השנים הקרובות?

[אזולאי]

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

תקרא את גיקטיים.
כל הכתבות האחרונות, על פיטורי ענק של מתכנתים...
יש לך אחות בסמינר? שאל אותה כמה מסיימות תכנות מצאו עבודה

זה רק אלה הכי גרועים, לא אלה שיש להם שכל.
זה כמו הרובוט שמחליף פועלי בניין (עבודה מכנית פשוטה), בשונה מרובוט שיהיה אחראי על פרויקט הבניה כולו

[נוחעם FM]

Spoiler

נראה שכדאי למנהלים להרשות דיונים בפורום... תראו איך הנושא הזה פורח...
240 פוסטים ב4 שעות. Welcome to Prog.

[NH.LOCAL]

@אזולאי כתב בבירור | בינה מלאכותית והאנושות - לאן?:

זה רק אלה הכי גרועים, לא אלה שיש להם שכל.

תיאור מדויק של 50% מהשוק בערך, בהערכה מפרגנת

ומספיק פיטורים גם של 20% מהשוק כדי לגרום לטלטלה עצומה

[רפאל vnkl]

@NH.LOCAL שוב, אתה צודק! אני רק הגנתי על המשפט שהגולם לא יקום על יוצרו, מהבחינה של הדאטא. כלומר שאין לו דרך (מלבד RL) להמציא תחכום שלא היה קיים באף תחום, הוא רק מעתיק את התחכום הנדיר ההוא לכל שאר התחומים.

ואתה צודק לגמרי, בזכות ה RL הוא אכן יעקוף גם את זה.

כלומר במילים אחרות אם הבנתי נכון: התחכום הנוכחי של ה-AI לא הולך לגדול?

רמת התחכום של מודל AI בשנת 2040 יהיה זהה לתחכום שלו כיום?

אם נשים רגע את הRL בצד - היא לא תישאר זהה, אלא התחכום הגדול ביותר שתועד אי פעם יותאם לכל תחום.

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם נשים רגע את הRL בצד - היא לא תישאר זהה, אלא התחכום הגדול ביותר שתועד אי פעם יותאם לכל תחום.

אפשר לשים בצד הרבה דברים. אפשר גם לשים בצד את ה-AI או את הטרנספורמר ולטעון שמחשבון לא יוכל להתעלות על בני האדם.
סליחה על החריפות, אבל זה פשוט לא רלוונטי לדיון. אולי ליקום מקביל או ל-2020