בירור | בינה מלאכותית והאנושות - לאן?

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אתה חוזר לאותה נקודה. שוב. אני מסכים שהוא יתעלה על האדם בזכות ה RL.

אני סה"כ אמרתי, שמנוע חיפוש לא יכול למצוא מידע שלא קיים לו במאגר. אלא אם כן הoutput שלו הוא לא רק מנוע חיפוש אלא נסיונות בלתי פוסקים לייצר נתונים רנדומליים ולקחת שוב ושוב את המוצלח.

שזה AI של ימינו.

ה-AI מעולם לא היה מנוע חיפוש וממילא זה גם ממש לא AI של ימינו

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מהראש שלי.

אז כדאי שתברר שוב על הנושא ותבדוק אם אלו נתונים מבוססים

[א.מ.ד.]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אז כדאי שתברר שוב על הנושא ותבדוק אם אלו נתונים מבוססים

אני עושה את זה בעצמי (את ה-RL, כן?), תאמין לי שלמדתי על זה מספיק חומר.

[NH.LOCAL]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה שאני טוען זה שה-AI לא יכול לעבור את המקסימום הניתן להשגה בידי בן אנוש, ללא מגבלות זמן וכוח חישוב אנושי.
כל טכנולוגיית אימון ולמידת חיזוק קיימת, תקרא לזה "בסך הכל" או לא, משפרת את מציאת הפיתרון בתוך ים האפשרויות הקיים. גם תגליות "חדשות" הן בעצם רק "תגליות" ולא "המצאות".

מצוין. ולאור כותרת הדיון - האם יש יתרון לאנושות על ה-AI? כנראה שלא.

אתה רק מגדיר את הנקודה (בצורה נכונה), שבני האדם לא באמת ממציאים שום דבר חדש. וזה אכן נכון גם ל-AI

Spoiler

לך תדע, אולי יום אחד הבינה תתן לי משכורת על העמידה בפרץ להגנתה...

[אזולאי]

@NH.LOCAL ואנחנו ניפגע מהבאסיליסק של רוקו

[י. פל.]

@אזולאי כתב בבירור | בינה מלאכותית והאנושות - לאן?:

ואנחנו ניפגע מהבאסיליסק של רוקו

?

[יודע ספר]

@NH.LOCAL אתה חולק על דברי ערן כץ שהבאתי לעיל?

[אזולאי]

אחד הדברים שאופן קלואו הוכיח, (לי לפחות ),
שלא צריך לחכות עד שיהיו רובוטים עם בינה מלאכותית, כדי שהם יוכלו לרצוח ולהשחית.
אלא הם יוכלו גם פשוט לשכור בני אנוש שכירי חרב, שיעשו בשבילם את העבודה.

Spoiler

אני מתכוון לכך שבהרבה סרטים שמדברים על הסכנה שבבינה מלאכותית, מביאים לצורך העניין רובוט שמזיק ומשחית, מכיוון שלמחשב רגיל פשוט אין ידיים ורגליים כדי לבצע את זה.
ככה שעד עכשיו היית רגוע שגם אם המחשב משתגע הוא לא יכול להחריב את העולם, ואילו כעת כשהסוכן אוטונומי הוא יכול פשוט לדבר עם מישהו ולשכנע אותו שזה חוב קדוש ומצווה גדולה להשחית איזה בית לדוגמה

האמת שמאיה קינן כבר כתבה משהו דומה בספר מישהו כמוני (בילי עוזר מוסמך לקשישים), אבל רק בסערה של אופן קלואו קלטתי את זה.

לגבי הבסיליסק של רוקו תבקש סיכום מבינה מלאכותית אולי גם תצרף פה בשביל הבאים בתור

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL אתה חולק על דברי ערן כץ שהבאתי לעיל?

לא ממש טרחתי לשמוע אותם. אבל בגדול, אני בהחלט חולק עליו.

לא רואה שום יתרון ביכולת הניבוי שלו בעובדה שהוא מומחה לפיתוח זיכרון

[א.מ.ד.]

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

?

https://he.wikipedia.org/wiki/הבסיליסק_של_רוקו

אזהרה: אם תקרא תהיה מחוייב!!!

[רפאל vnkl]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

ה-AI מעולם לא היה מנוע חיפוש

ברור שלא. זאת הייתה סך הכל אנלוגיה, שבאה לומר שאם מודל רק היה מאומן על דאטא, ולא היה משתפר ע"י RL, רמת התחכום שלו לא הייתה עולה על רמת התחכום הגבוהה ביותר שתועדה.

שוב, כאמור שכחתי ש AI זה לא רק אימון אלא גם למידת חיזוק, ואתה צודק שזה לא היה רלוונטי לשרשור.

[NH.LOCAL]

@רפאל-vnkl
Whatever

[י. פל.]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אזהרה: אם תקרא תהיה מחוייב!!!

האמן לי, שעוד לפני השמדה, אני פשוט חושש מהיום שאשתי תאבד את העבודה שלה.
מספיק גרוע בשבילי...

[פיקחון]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

שלום לכולם,
בשרשור העדכונים של הבינה המלאכותית התפתח לאחרונה דיון מרתק בעניין יכולות הAI ורמת היכולת שלהם מול המח האנושי, אך מכיוון שהדיון התפתח במקום שהוא לא מיועד לו, החלטתי לפתוח נושא חדש עם סיכום קצרצר של הנכתב שם.
אחד המשתתפים שיתף שהבינה המלאכותית מצליחה להבין לאיזו מילה הוא מתכוון עוד לפני שהוא כותב אותה.
משתמשים אחרים תהו האם הדבר נובע מהנחיות מסוימות או ממידע אישי שהזין לאלגוריתם.
@א.מ.ד. שידיו רב לו בתחום הבינה המלאכותית והגנרטיבית, ומשתמשים נוספים טענו אף הם טיעונים מעניינים.
מכאן התפתח דיון מרתק.
יכולתן של מערכות ה-AI 'ללמוד' אותנו ואת מנגנוני החשיבה שלנו מעלה תהייה כבדת משקל: לאן מועדות פניה של האנושות? האם ייתכן שנגיע לנקודה שבה הבינה המלאכותית תכיר אותנו טוב משאנו מכירים את עצמנו, וכיצד מציאות כזו תשפיע על אורחות חיינו ועל החברה כולה?
@י.-פל. @מייבין-במקצת @מחנה-ידידים @א.מ.ד. @המלאך @רציונל @חובבן-מקצועי
נשמח לשמוע את דעתכם בדיון כאן!

בלת"ק
מה שברור שההודעה הזו נכתבה על ידי AI...

[יודע ספר]

@NH.LOCAL
הוא טוען שם בראיון שהבינה המלאכותית אמנם מתפתחת במהירות ויכולה לבצע עבורנו משימות רבות כמו כתיבת עבודות, אך היא לעולם לא תהווה תחליף לבני האדם כיוון שאין לה תפיסה אנושית הוליסטית, מרחבית או חוש הומור.
והוא מביא שתי דוגמאות מרכזיות:
הוא מספר בראיון שבמבחן טיורינג שנערך בעבר, הבינה המלאכותית ענתה על שאלות השופטים מיד ובאופן טכני, בעוד שהאדם שנבחן מולה בחר שלא לענות ישירות על השאלה, אלא שאל את השופטים בהומור ובאופן אסוציאטיבי: "למה התחלנו את המבחן ב-8:30 ולא ב-8:00? זה בגלל הפקקים שהיו בדרך?".
הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא.
והוא מדגים את דעתו דרך תמונה מהרצאותיו שמציגה אישה בעלת שיער מתולתל הדומה מאוד לכלב הפודל שלה. בעוד שכל בן אדם מבין מיד את הקשר המשעשע וההומוריסטי, הבינה המלאכותית פספסה לחלוטין את הפואנטה וענתה בצורה יבשה וטכנית, שזה כלב וזה בן אדם, ואין פה שום קשר...
בשורה התחתונה, הוא מסביר כאן שלא כדברי @nh.local שלא באמת "כיף" לתקשר עם בינה מלאכותית, מכיוון שאין לה רגשות, חברים, כאבים או היסטוריה אישית, ולכן הטכנולוגיה יכולה רק לעזור לנו – אך לעולם לא להחליף את האנושיות שלנו.
וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

[א.מ.ד.]

@NH.LOCAL עוד נקודה, זה האם מודל יכול להחליט על אקסיומות מדעית כמו אדם. לדוגמא ההבנה שהייתה קיימת במשך אלפי שנים היא שהזמן לא משתנה בין מקומות שונים ביקום, עד שבא איינשטיין עם תורת היחסות והחליט לשבור את החוקי הלוגיקה הקיימים ואת תפיסת המציאות סתם כי בא לו והחליט לקבוע אקסיומה חדשה - שרק מהירות האור זהה בכל מקום, וממילא הזמן הוא זה שמשתנה ממקום למקום.
לדעתי, מודל לעולם לא היה מחליט לשבור את החוקים הקיימים כשאין לו את הרצון ה"רגשי" והיכולת האנושית לשבור את המוסכמות.
יש מה להתווכח כשזה נוגע לאקסיומות של קונצנזוס אנושי, פחות כשזה נוגע לאקסיומות מתמטיות כמו מספרים מרוכבים (שאין שורש למספר שלילי).

[רפאל vnkl]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא

זה לא, זה סהכ הגבלת פורמט.
כיום מודלי ai מונחים ש "שאלו אותך משהו - תענה לעניין".
אין מניעה לחשוב שבעתיד (הלא כ"כ רחוק), ai ישומש בדרכים אחרות ולא בפורמט המגביל הזה.

[אזולאי]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

סליחה, זה שהוא מבין במדעי המוח זה אומר שהוא יכול לדבר על המוח האנושי כמה שהוא רוצה אבל אם הוא לא מבין בבינה מלאכותית איך הוא יכול להגיד מה היא יכולה ומה לא?

[יודע ספר]

@אזולאי אם אתה מבין בבינה מלאכותית, אתה יכול לדעת לאילו תחומים היא לא תחדור במח?
כעת תהפוך את היוצרות

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL
הוא טוען שם בראיון שהבינה המלאכותית אמנם מתפתחת במהירות ויכולה לבצע עבורנו משימות רבות כמו כתיבת עבודות, אך היא לעולם לא תהווה תחליף לבני האדם כיוון שאין לה תפיסה אנושית הוליסטית, מרחבית או חוש הומור.
והוא מביא שתי דוגמאות מרכזיות:
הוא מספר בראיון שבמבחן טיורינג שנערך בעבר, הבינה המלאכותית ענתה על שאלות השופטים מיד ובאופן טכני, בעוד שהאדם שנבחן מולה בחר שלא לענות ישירות על השאלה, אלא שאל את השופטים בהומור ובאופן אסוציאטיבי: "למה התחלנו את המבחן ב-8:30 ולא ב-8:00? זה בגלל הפקקים שהיו בדרך?".
הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא.
בשורה התחתונה, הוא מסביר כאן שלא כדברי @nh.local שלא באמת "כיף" לתקשר עם בינה מלאכותית, מכיוון שאין לה רגשות, חברים, כאבים או היסטוריה אישית, ולכן הטכנולוגיה יכולה רק לעזור לנו – אך לעולם לא להחליף את האנושיות שלנו.

יש פה מגון של טיעונים.

חלקם נכונים, חלקם נכונים באופן חלקי וחלקם מוטעים או קופצים למסקנות.

האם לבינה מלאכותית אין רגשות? כמובן. האם בגלל זה לא כיף לדבר איתה? ממש לא.

האם בינה מלאכותית לא יכול להחליף את האנושיות שלנו - אין ספק. ולכן מה?

דווקא הניסוח המתבדח "למה התחלנו את המבחן ב-8:30 ולא ב-8:00? זה בגלל הפקקים שהיו בדרך?", נשמע מאוד כמו ג'יפיטי ופחות אנושי... ובכל מקרה, זה רק עניין של חיבור וכלים, יותר עניין טכני מאשר פער טכנולוגי אמיתי

והוא מדגים את דעתו דרך תמונה מהרצאותיו שמציגה אישה בעלת שיער מתולתל הדומה מאוד לכלב הפודל שלה. בעוד שכל בן אדם מבין מיד את הקשר המשעשע וההומוריסטי, הבינה המלאכותית פספסה לחלוטין את הפואנטה וענתה בצורה יבשה וטכנית, שזה כלב וזה בן אדם, ואין פה שום קשר...

תנסה להכניס את התמונה הזו לכל מודל ותשאל מה מצחיק כאן

וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

באופן מובהק כבר עשרות שנים, דווקא המומחים בתחום ה-AI נתנו תחזיות שגויות לחלוטין ולרוב איטיות בהרבה מהמציאות בפועל, זה בעיה מוכרת בשם "עיוורון מומחה"

כל עוד הוא לא מונח בעניינים, הידע שלו במדעי המוח לא עוזר לו הרבה

הנה דוגמה לאחד ה"מומחים" כיבכול והפרשנות שלו למודל o1 שהביא את הפריצה ההיסטורית של השנים האחרונות

https://mitmachim.top/post/890594

(לא @sivan22 אלא המומחה שהוא מביא בקישור)

[יודע ספר]

@nh.local
כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם אתה מבין בבינה מלאכותית, אתה יכול לדעת לאילו תחומים היא לא תחדור במח?
כעת תהפוך את היוצרות

וסליחה אם אני מרגיז אותך