בירור | בינה מלאכותית והאנושות - לאן?

[רפאל vnkl]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

ה-AI מעולם לא היה מנוע חיפוש

ברור שלא. זאת הייתה סך הכל אנלוגיה, שבאה לומר שאם מודל רק היה מאומן על דאטא, ולא היה משתפר ע"י RL, רמת התחכום שלו לא הייתה עולה על רמת התחכום הגבוהה ביותר שתועדה.

שוב, כאמור שכחתי ש AI זה לא רק אימון אלא גם למידת חיזוק, ואתה צודק שזה לא היה רלוונטי לשרשור.

[NH.LOCAL]

@רפאל-vnkl
Whatever

[י. פל.]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אזהרה: אם תקרא תהיה מחוייב!!!

האמן לי, שעוד לפני השמדה, אני פשוט חושש מהיום שאשתי תאבד את העבודה שלה.
מספיק גרוע בשבילי...

[פיקחון]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

שלום לכולם,
בשרשור העדכונים של הבינה המלאכותית התפתח לאחרונה דיון מרתק בעניין יכולות הAI ורמת היכולת שלהם מול המח האנושי, אך מכיוון שהדיון התפתח במקום שהוא לא מיועד לו, החלטתי לפתוח נושא חדש עם סיכום קצרצר של הנכתב שם.
אחד המשתתפים שיתף שהבינה המלאכותית מצליחה להבין לאיזו מילה הוא מתכוון עוד לפני שהוא כותב אותה.
משתמשים אחרים תהו האם הדבר נובע מהנחיות מסוימות או ממידע אישי שהזין לאלגוריתם.
@א.מ.ד. שידיו רב לו בתחום הבינה המלאכותית והגנרטיבית, ומשתמשים נוספים טענו אף הם טיעונים מעניינים.
מכאן התפתח דיון מרתק.
יכולתן של מערכות ה-AI 'ללמוד' אותנו ואת מנגנוני החשיבה שלנו מעלה תהייה כבדת משקל: לאן מועדות פניה של האנושות? האם ייתכן שנגיע לנקודה שבה הבינה המלאכותית תכיר אותנו טוב משאנו מכירים את עצמנו, וכיצד מציאות כזו תשפיע על אורחות חיינו ועל החברה כולה?
@י.-פל. @מייבין-במקצת @מחנה-ידידים @א.מ.ד. @המלאך @רציונל @חובבן-מקצועי
נשמח לשמוע את דעתכם בדיון כאן!

בלת"ק
מה שברור שההודעה הזו נכתבה על ידי AI...

[יודע ספר]

@NH.LOCAL
הוא טוען שם בראיון שהבינה המלאכותית אמנם מתפתחת במהירות ויכולה לבצע עבורנו משימות רבות כמו כתיבת עבודות, אך היא לעולם לא תהווה תחליף לבני האדם כיוון שאין לה תפיסה אנושית הוליסטית, מרחבית או חוש הומור.
והוא מביא שתי דוגמאות מרכזיות:
הוא מספר בראיון שבמבחן טיורינג שנערך בעבר, הבינה המלאכותית ענתה על שאלות השופטים מיד ובאופן טכני, בעוד שהאדם שנבחן מולה בחר שלא לענות ישירות על השאלה, אלא שאל את השופטים בהומור ובאופן אסוציאטיבי: "למה התחלנו את המבחן ב-8:30 ולא ב-8:00? זה בגלל הפקקים שהיו בדרך?".
הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא.
והוא מדגים את דעתו דרך תמונה מהרצאותיו שמציגה אישה בעלת שיער מתולתל הדומה מאוד לכלב הפודל שלה. בעוד שכל בן אדם מבין מיד את הקשר המשעשע וההומוריסטי, הבינה המלאכותית פספסה לחלוטין את הפואנטה וענתה בצורה יבשה וטכנית, שזה כלב וזה בן אדם, ואין פה שום קשר...
בשורה התחתונה, הוא מסביר כאן שלא כדברי @nh.local שלא באמת "כיף" לתקשר עם בינה מלאכותית, מכיוון שאין לה רגשות, חברים, כאבים או היסטוריה אישית, ולכן הטכנולוגיה יכולה רק לעזור לנו – אך לעולם לא להחליף את האנושיות שלנו.
וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

[א.מ.ד.]

@NH.LOCAL עוד נקודה, זה האם מודל יכול להחליט על אקסיומות מדעית כמו אדם. לדוגמא ההבנה שהייתה קיימת במשך אלפי שנים היא שהזמן לא משתנה בין מקומות שונים ביקום, עד שבא איינשטיין עם תורת היחסות והחליט לשבור את החוקי הלוגיקה הקיימים ואת תפיסת המציאות סתם כי בא לו והחליט לקבוע אקסיומה חדשה - שרק מהירות האור זהה בכל מקום, וממילא הזמן הוא זה שמשתנה ממקום למקום.
לדעתי, מודל לעולם לא היה מחליט לשבור את החוקים הקיימים כשאין לו את הרצון ה"רגשי" והיכולת האנושית לשבור את המוסכמות.
יש מה להתווכח כשזה נוגע לאקסיומות של קונצנזוס אנושי, פחות כשזה נוגע לאקסיומות מתמטיות כמו מספרים מרוכבים (שאין שורש למספר שלילי).

[רפאל vnkl]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא

זה לא, זה סהכ הגבלת פורמט.
כיום מודלי ai מונחים ש "שאלו אותך משהו - תענה לעניין".
אין מניעה לחשוב שבעתיד (הלא כ"כ רחוק), ai ישומש בדרכים אחרות ולא בפורמט המגביל הזה.

[אזולאי]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

סליחה, זה שהוא מבין במדעי המוח זה אומר שהוא יכול לדבר על המוח האנושי כמה שהוא רוצה אבל אם הוא לא מבין בבינה מלאכותית איך הוא יכול להגיד מה היא יכולה ומה לא?

[יודע ספר]

@אזולאי אם אתה מבין בבינה מלאכותית, אתה יכול לדעת לאילו תחומים היא לא תחדור במח?
כעת תהפוך את היוצרות

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL
הוא טוען שם בראיון שהבינה המלאכותית אמנם מתפתחת במהירות ויכולה לבצע עבורנו משימות רבות כמו כתיבת עבודות, אך היא לעולם לא תהווה תחליף לבני האדם כיוון שאין לה תפיסה אנושית הוליסטית, מרחבית או חוש הומור.
והוא מביא שתי דוגמאות מרכזיות:
הוא מספר בראיון שבמבחן טיורינג שנערך בעבר, הבינה המלאכותית ענתה על שאלות השופטים מיד ובאופן טכני, בעוד שהאדם שנבחן מולה בחר שלא לענות ישירות על השאלה, אלא שאל את השופטים בהומור ובאופן אסוציאטיבי: "למה התחלנו את המבחן ב-8:30 ולא ב-8:00? זה בגלל הפקקים שהיו בדרך?".
הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא.
בשורה התחתונה, הוא מסביר כאן שלא כדברי @nh.local שלא באמת "כיף" לתקשר עם בינה מלאכותית, מכיוון שאין לה רגשות, חברים, כאבים או היסטוריה אישית, ולכן הטכנולוגיה יכולה רק לעזור לנו – אך לעולם לא להחליף את האנושיות שלנו.

יש פה מגון של טיעונים.

חלקם נכונים, חלקם נכונים באופן חלקי וחלקם מוטעים או קופצים למסקנות.

האם לבינה מלאכותית אין רגשות? כמובן. האם בגלל זה לא כיף לדבר איתה? ממש לא.

האם בינה מלאכותית לא יכול להחליף את האנושיות שלנו - אין ספק. ולכן מה?

דווקא הניסוח המתבדח "למה התחלנו את המבחן ב-8:30 ולא ב-8:00? זה בגלל הפקקים שהיו בדרך?", נשמע מאוד כמו ג'יפיטי ופחות אנושי... ובכל מקרה, זה רק עניין של חיבור וכלים, יותר עניין טכני מאשר פער טכנולוגי אמיתי

והוא מדגים את דעתו דרך תמונה מהרצאותיו שמציגה אישה בעלת שיער מתולתל הדומה מאוד לכלב הפודל שלה. בעוד שכל בן אדם מבין מיד את הקשר המשעשע וההומוריסטי, הבינה המלאכותית פספסה לחלוטין את הפואנטה וענתה בצורה יבשה וטכנית, שזה כלב וזה בן אדם, ואין פה שום קשר...

תנסה להכניס את התמונה הזו לכל מודל ותשאל מה מצחיק כאן

וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

באופן מובהק כבר עשרות שנים, דווקא המומחים בתחום ה-AI נתנו תחזיות שגויות לחלוטין ולרוב איטיות בהרבה מהמציאות בפועל, זה בעיה מוכרת בשם "עיוורון מומחה"

כל עוד הוא לא מונח בעניינים, הידע שלו במדעי המוח לא עוזר לו הרבה

הנה דוגמה לאחד ה"מומחים" כיבכול והפרשנות שלו למודל o1 שהביא את הפריצה ההיסטורית של השנים האחרונות

https://mitmachim.top/post/890594

(לא @sivan22 אלא המומחה שהוא מביא בקישור)

[יודע ספר]

@nh.local
כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם אתה מבין בבינה מלאכותית, אתה יכול לדעת לאילו תחומים היא לא תחדור במח?
כעת תהפוך את היוצרות

וסליחה אם אני מרגיז אותך

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

זה לא, זה סהכ הגבלת פורמט.
כיום מודלי ai מונחים ש "שאלו אותך משהו - תענה לעניין".
אין מניעה לחשוב שבעתיד (הלא כ"כ רחוק), ai ישומש בדרכים אחרות ולא בפורמט המגביל הזה.

גם בעתיד הנוכחי, זה קיים לא מעט בפלטפורמות שיחה כמו https://character.ai

[רפאל vnkl]

@NH.LOCAL לא מכיר את זה..
במה זה מתבטא שזה קיים שם? למה הכוונה?

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL לא מכיר את זה..
במה זה מתבטא שזה קיים שם? למה הכוונה?

אתה פשוט מדבר עם דמויות, זה יכול להיות מורה, חבר או נירון קיסר. זה לא מקובע לדמות העוזר AI המקצועי שלא סוטה ימין ושמאל

[יודע ספר]

@NH.LOCAL קיים בכל GEM בגימיני, לא?

[NH.LOCAL]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL עוד נקודה, זה האם מודל יכול להחליט על אקסיומות מדעית כמו אדם. לדוגמא ההבנה שהייתה קיימת במשך אלפי שנים היא שהזמן לא משתנה בין מקומות שונים ביקום, עד שבא איינשטיין עם תורת היחסות והחליט לשבור את החוקי הלוגיקה הקיימים ואת תפיסת המציאות סתם כי בא לו והחליט לקבוע אקסיומה חדשה - שרק מהירות האור זהה בכל מקום, וממילא הזמן הוא זה שמשתנה ממקום למקום.
לדעתי, מודל לעולם לא היה מחליט לשבור את החוקים הקיימים כשאין לו את הרצון ה"רגשי" והיכולת האנושית לשבור את המוסכמות.
יש מה להתווכח כשזה נוגע לאקסיומות של קונצנזוס אנושי, פחות כשזה נוגע לאקסיומות מתמטיות כמו מספרים מרוכבים (שאין שורש למספר שלילי).

נכון. מעצמו הוא לא עושה כלום
אבל אפשר לתת לו משימה: חפש את הכשלים בתאוריה המדעית הנוכחית או נסה ליצור תיאוריה חדשה.
בדיוק כמו שנותנים לו כיום משימה של זיהוי באגים ופרצות בקוד קיים

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@nh.local
כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם אתה מבין בבינה מלאכותית, אתה יכול לדעת לאילו תחומים היא לא תחדור במח?
כעת תהפוך את היוצרות

לא זכיתי להבין איך אתה מוכיח משהו מהטיעון הזה

וסליחה אם אני מרגיז אותך

זה בסדר גמור

[יודע ספר]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

לא זכיתי להבין איך אתה מוכיח משהו מהטיעון הזה

את הטיעון של הציפור כבר מחקת, אז תחשוב עוד קצת, אם לא תצליח אני אשתדל לעזור

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

את הטיעון של הציפור כבר מחקת, אז תחשוב עוד קצת, אם לא תצליח אני אשתדל לעזור

לא זכיתי להבין אם אתה מתכוון שכמו שמומחה AI יכול להבין במוח גם מומחה מוח יכול להבין ב-AI
או שלהיפך: כמו שמומחה AI יכול לדבר על המוח למרות שהוא לא מבין גם מומחה מוח יכול לדבר על המוח למרות שהוא לא מבין?

או משהו שלישי?

[יודע ספר]

@פיקחון תודה על המחמאה...

[יודע ספר]

@NH.LOCAL משהו רביעי!
[שכחת לציין את האופציה הזו-כמו שמומחה AI ידבר על AI, אתה לא מאזן ]...
התכוונתי שאדם שמתעסק ומפתח תחום/בתחום מסויים, מן הסתם יש לו ידע ביכולות של דברים אחרים להשפיע על הדבר שבו הוא מתמקצע.
וזה נכון לשני הכיוונים, לכן אין לבטל את דברי האחד רק בגלל שאין לו די ידע בתחום השני, מאותה סיבה שיש לומר הפוך.
ואם אדם שמכיר את המח האנושי, אותו, לצורך הענין, לא מכיר הסטודנט שכתב מאמר נפלא בגיקטיים, אזי אין לנו לבטל דבריו בהינף יד כמו שלא היית מבטל את דברי אותו סטונדט או מאמר.
אז זה לא שהדברים שערן כץ [לצורך הענין], אמר, הם עובדה או סוף פסוק, אבל בהחלט יש לשכלל אותם לפני מסקנות חורצות והצעה לצילומי מסך בדמות גזור ושמור עם תאריכים ומיקומים.
קצת ענווה לא תזיק, זה הכל, אל תבטל את כל מה שאתה רואה רק כי ראית איזה מאמר או מחקר או שאתה אפוף תדהמה מהתפתחות הבינה בקצב מטרלל בשנים האחרונות בייחוד לשנתיים האחרונות.
בקיצור, אם אני פיתחתי איזו תרופה, האם אני יכול להתחייב שהיא תעבוד על מחלה מסויימת ללא שיש לי הוכחה עובדתית ממש?
או אם פיתחתי איזה וירוס ברשת, האם אני יכול להגיע ולטעון כלפי חברות הגנה שהן לא עמידות בפניו? כלום יודע אתה אילו טקטיקות הם נקטו, שאתה לא מודע אליהם?
נשמח לשמוע אתה ואחרים חושבים על זה.
ולא, לא AI כתב את הפוסט.
ולא, לא קוראים לי ערן כץ.