בירור | בינה מלאכותית והאנושות - לאן?

NH.LOCAL

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אתה מקבל כסף מסם אלטמן או אילון מאסק על קידום מוצרים?

לא. כמו שאתה רואה, המוצרים שלהם כל כך טובים שהם מדברים בעד עצמם

קוראים לזה בשפה השיווקית: "מוצר שמוכר את עצמו"

@לנציצ כתב בבירור | בינה מלאכותית והאנושות - לאן?:

כן
האנושות תשים לו
וזה יקרה תרצה או לא

נחיה ונראה.

זה כבר גולש לתחום הפוליטיקה והיחסים בין מדינות, פחות טכנולוגיה. אבל הערכה שלי: כל עוד סין באירוע הסיכוי לעצירה שואף לאפס.

העניין פשוט: סין לא תעצור כי היא שואפת למוצר החזק ביותר שיעזור לה להשתלט על העולם. וכך גם רוסיה וכל מדינה לא מערבית אחרת.

התוצר הישיר של זה, היא שכל מדינה מערבית חפצת חיים תהיה חייבת ליצור מוצר חזק יותר. וזה כולל כמובן את ארצות הברית בראשן.
(המונח "חפצת חיים" לא כולל כמובן את אירופה שמזמן כבר החליטה להתאבד)

תקרא היסטוריה קצת: גם את המהפכה התעשייתית ואת מהפכת הדפוס ניסו לעצור. זה עזר באופן זמני. מאוד זמני.

רפאל vnkl

@NH.LOCAL אתה חוזר לאותה נקודה. שוב. אני מסכים שהוא יתעלה על האדם בזכות ה RL.

אני סה"כ אמרתי, שמנוע חיפוש לא יכול למצוא מידע שלא קיים לו במאגר. אלא אם כן הoutput שלו הוא לא רק מנוע חיפוש אלא נסיונות בלתי פוסקים לייצר נתונים רנדומליים ולקחת שוב ושוב את המוצלח.

שזה AI של ימינו.

אבל אתה צודק שזה לא רלוונטי לדיון, כשכתבתי את מה שכתבתי שכחתי שיש גם RL.

א.מ.ד.

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אני לא יודע מאיפה העתקת את הטקסט הזה.

מהראש שלי.

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אבל המציאות מוכיחה ש-RL שיפר יכולות מודלים ברמה של תגליות חדשות שבהחלט חורגים מנתוני האימון (ע"ע בעית ארדוש הנ"ל)

מה שאני טוען זה שה-AI לא יכול לעבור את המקסימום הניתן להשגה בידי בן אנוש, ללא מגבלות זמן וכוח חישוב אנושי.
כל טכנולוגיית אימון ולמידת חיזוק קיימת, תקרא לזה "בסך הכל" או לא, משפרת את מציאת הפיתרון בתוך ים האפשרויות הקיים. גם תגליות "חדשות" הן בעצם רק "תגליות" ולא "המצאות".
אז כמובן זה דיון תאורטי שלא ממש ניתן להוכחה, אולי רק לטווח הרחוק...

NH.LOCAL

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אתה חוזר לאותה נקודה. שוב. אני מסכים שהוא יתעלה על האדם בזכות ה RL.

אני סה"כ אמרתי, שמנוע חיפוש לא יכול למצוא מידע שלא קיים לו במאגר. אלא אם כן הoutput שלו הוא לא רק מנוע חיפוש אלא נסיונות בלתי פוסקים לייצר נתונים רנדומליים ולקחת שוב ושוב את המוצלח.

שזה AI של ימינו.

ה-AI מעולם לא היה מנוע חיפוש וממילא זה גם ממש לא AI של ימינו

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מהראש שלי.

אז כדאי שתברר שוב על הנושא ותבדוק אם אלו נתונים מבוססים

א.מ.ד.

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אז כדאי שתברר שוב על הנושא ותבדוק אם אלו נתונים מבוססים

אני עושה את זה בעצמי (את ה-RL, כן?), תאמין לי שלמדתי על זה מספיק חומר.

NH.LOCAL

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה שאני טוען זה שה-AI לא יכול לעבור את המקסימום הניתן להשגה בידי בן אנוש, ללא מגבלות זמן וכוח חישוב אנושי.
כל טכנולוגיית אימון ולמידת חיזוק קיימת, תקרא לזה "בסך הכל" או לא, משפרת את מציאת הפיתרון בתוך ים האפשרויות הקיים. גם תגליות "חדשות" הן בעצם רק "תגליות" ולא "המצאות".

מצוין. ולאור כותרת הדיון - האם יש יתרון לאנושות על ה-AI? כנראה שלא.

אתה רק מגדיר את הנקודה (בצורה נכונה), שבני האדם לא באמת ממציאים שום דבר חדש. וזה אכן נכון גם ל-AI

לך תדע, אולי יום אחד הבינה תתן לי משכורת על העמידה בפרץ להגנתה...

אזולאי

@NH.LOCAL ואנחנו ניפגע מהבאסיליסק של רוקו

י. פל.

@אזולאי כתב בבירור | בינה מלאכותית והאנושות - לאן?:

ואנחנו ניפגע מהבאסיליסק של רוקו

?

יודע ספר

@NH.LOCAL אתה חולק על דברי ערן כץ שהבאתי לעיל?

אזולאי

אחד הדברים שאופן קלואו הוכיח, (לי לפחות ),
שלא צריך לחכות עד שיהיו רובוטים עם בינה מלאכותית, כדי שהם יוכלו לרצוח ולהשחית.
אלא הם יוכלו גם פשוט לשכור בני אנוש שכירי חרב, שיעשו בשבילם את העבודה.

אני מתכוון לכך שבהרבה סרטים שמדברים על הסכנה שבבינה מלאכותית, מביאים לצורך העניין רובוט שמזיק ומשחית, מכיוון שלמחשב רגיל פשוט אין ידיים ורגליים כדי לבצע את זה.
ככה שעד עכשיו היית רגוע שגם אם המחשב משתגע הוא לא יכול להחריב את העולם, ואילו כעת כשהסוכן אוטונומי הוא יכול פשוט לדבר עם מישהו ולשכנע אותו שזה חוב קדוש ומצווה גדולה להשחית איזה בית לדוגמה

האמת שמאיה קינן כבר כתבה משהו דומה בספר מישהו כמוני (בילי עוזר מוסמך לקשישים), אבל רק בסערה של אופן קלואו קלטתי את זה.

לגבי הבסיליסק של רוקו תבקש סיכום מבינה מלאכותית אולי גם תצרף פה בשביל הבאים בתור

NH.LOCAL

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אתה חולק על דברי ערן כץ שהבאתי לעיל?

לא ממש טרחתי לשמוע אותם. אבל בגדול, אני בהחלט חולק עליו.

לא רואה שום יתרון ביכולת הניבוי שלו בעובדה שהוא מומחה לפיתוח זיכרון

א.מ.ד.

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

?

https://he.wikipedia.org/wiki/הבסיליסק_של_רוקו

אזהרה: אם תקרא תהיה מחוייב!!!

רפאל vnkl

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

ה-AI מעולם לא היה מנוע חיפוש

ברור שלא. זאת הייתה סך הכל אנלוגיה, שבאה לומר שאם מודל רק היה מאומן על דאטא, ולא היה משתפר ע"י RL, רמת התחכום שלו לא הייתה עולה על רמת התחכום הגבוהה ביותר שתועדה.

שוב, כאמור שכחתי ש AI זה לא רק אימון אלא גם למידת חיזוק, ואתה צודק שזה לא היה רלוונטי לשרשור.

NH.LOCAL

@רפאל-vnkl
Whatever

י. פל.

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אזהרה: אם תקרא תהיה מחוייב!!!

האמן לי, שעוד לפני השמדה, אני פשוט חושש מהיום שאשתי תאבד את העבודה שלה.
מספיק גרוע בשבילי...

פיקחון

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

שלום לכולם,
בשרשור העדכונים של הבינה המלאכותית התפתח לאחרונה דיון מרתק בעניין יכולות הAI ורמת היכולת שלהם מול המח האנושי, אך מכיוון שהדיון התפתח במקום שהוא לא מיועד לו, החלטתי לפתוח נושא חדש עם סיכום קצרצר של הנכתב שם.
אחד המשתתפים שיתף שהבינה המלאכותית מצליחה להבין לאיזו מילה הוא מתכוון עוד לפני שהוא כותב אותה.
משתמשים אחרים תהו האם הדבר נובע מהנחיות מסוימות או ממידע אישי שהזין לאלגוריתם.
@א.מ.ד. שידיו רב לו בתחום הבינה המלאכותית והגנרטיבית, ומשתמשים נוספים טענו אף הם טיעונים מעניינים.
מכאן התפתח דיון מרתק.
יכולתן של מערכות ה-AI 'ללמוד' אותנו ואת מנגנוני החשיבה שלנו מעלה תהייה כבדת משקל: לאן מועדות פניה של האנושות? האם ייתכן שנגיע לנקודה שבה הבינה המלאכותית תכיר אותנו טוב משאנו מכירים את עצמנו, וכיצד מציאות כזו תשפיע על אורחות חיינו ועל החברה כולה?
@י.-פל. @מייבין-במקצת @מחנה-ידידים @א.מ.ד. @המלאך @רציונל @חובבן-מקצועי
נשמח לשמוע את דעתכם בדיון כאן!

בלת"ק
מה שברור שההודעה הזו נכתבה על ידי AI...

יודע ספר

@NH.LOCAL
הוא טוען שם בראיון שהבינה המלאכותית אמנם מתפתחת במהירות ויכולה לבצע עבורנו משימות רבות כמו כתיבת עבודות, אך היא לעולם לא תהווה תחליף לבני האדם כיוון שאין לה תפיסה אנושית הוליסטית, מרחבית או חוש הומור.
והוא מביא שתי דוגמאות מרכזיות:
הוא מספר בראיון שבמבחן טיורינג שנערך בעבר, הבינה המלאכותית ענתה על שאלות השופטים מיד ובאופן טכני, בעוד שהאדם שנבחן מולה בחר שלא לענות ישירות על השאלה, אלא שאל את השופטים בהומור ובאופן אסוציאטיבי: "למה התחלנו את המבחן ב-8:30 ולא ב-8:00? זה בגלל הפקקים שהיו בדרך?".
הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא.
והוא מדגים את דעתו דרך תמונה מהרצאותיו שמציגה אישה בעלת שיער מתולתל הדומה מאוד לכלב הפודל שלה. בעוד שכל בן אדם מבין מיד את הקשר המשעשע וההומוריסטי, הבינה המלאכותית פספסה לחלוטין את הפואנטה וענתה בצורה יבשה וטכנית, שזה כלב וזה בן אדם, ואין פה שום קשר...
בשורה התחתונה, הוא מסביר כאן שלא כדברי @nh.local שלא באמת "כיף" לתקשר עם בינה מלאכותית, מכיוון שאין לה רגשות, חברים, כאבים או היסטוריה אישית, ולכן הטכנולוגיה יכולה רק לעזור לנו – אך לעולם לא להחליף את האנושיות שלנו.
וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

א.מ.ד.

@NH.LOCAL עוד נקודה, זה האם מודל יכול להחליט על אקסיומות מדעית כמו אדם. לדוגמא ההבנה שהייתה קיימת במשך אלפי שנים היא שהזמן לא משתנה בין מקומות שונים ביקום, עד שבא איינשטיין עם תורת היחסות והחליט לשבור את החוקי הלוגיקה הקיימים ואת תפיסת המציאות סתם כי בא לו והחליט לקבוע אקסיומה חדשה - שרק מהירות האור זהה בכל מקום, וממילא הזמן הוא זה שמשתנה ממקום למקום.
לדעתי, מודל לעולם לא היה מחליט לשבור את החוקים הקיימים כשאין לו את הרצון ה"רגשי" והיכולת האנושית לשבור את המוסכמות.
יש מה להתווכח כשזה נוגע לאקסיומות של קונצנזוס אנושי, פחות כשזה נוגע לאקסיומות מתמטיות כמו מספרים מרוכבים (שאין שורש למספר שלילי).

רפאל vnkl

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא

זה לא, זה סהכ הגבלת פורמט.
כיום מודלי ai מונחים ש "שאלו אותך משהו - תענה לעניין".
אין מניעה לחשוב שבעתיד (הלא כ"כ רחוק), ai ישומש בדרכים אחרות ולא בפורמט המגביל הזה.

אזולאי

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

סליחה, זה שהוא מבין במדעי המוח זה אומר שהוא יכול לדבר על המוח האנושי כמה שהוא רוצה אבל אם הוא לא מבין בבינה מלאכותית איך הוא יכול להגיד מה היא יכולה ומה לא?