בירור | בינה מלאכותית והאנושות - לאן?

[יודע ספר]

@nh.local
כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם אתה מבין בבינה מלאכותית, אתה יכול לדעת לאילו תחומים היא לא תחדור במח?
כעת תהפוך את היוצרות

וסליחה אם אני מרגיז אותך

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

זה לא, זה סהכ הגבלת פורמט.
כיום מודלי ai מונחים ש "שאלו אותך משהו - תענה לעניין".
אין מניעה לחשוב שבעתיד (הלא כ"כ רחוק), ai ישומש בדרכים אחרות ולא בפורמט המגביל הזה.

גם בעתיד הנוכחי, זה קיים לא מעט בפלטפורמות שיחה כמו https://character.ai

[רפאל vnkl]

@NH.LOCAL לא מכיר את זה..
במה זה מתבטא שזה קיים שם? למה הכוונה?

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL לא מכיר את זה..
במה זה מתבטא שזה קיים שם? למה הכוונה?

אתה פשוט מדבר עם דמויות, זה יכול להיות מורה, חבר או נירון קיסר. זה לא מקובע לדמות העוזר AI המקצועי שלא סוטה ימין ושמאל

[יודע ספר]

@NH.LOCAL קיים בכל GEM בגימיני, לא?

[NH.LOCAL]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL עוד נקודה, זה האם מודל יכול להחליט על אקסיומות מדעית כמו אדם. לדוגמא ההבנה שהייתה קיימת במשך אלפי שנים היא שהזמן לא משתנה בין מקומות שונים ביקום, עד שבא איינשטיין עם תורת היחסות והחליט לשבור את החוקי הלוגיקה הקיימים ואת תפיסת המציאות סתם כי בא לו והחליט לקבוע אקסיומה חדשה - שרק מהירות האור זהה בכל מקום, וממילא הזמן הוא זה שמשתנה ממקום למקום.
לדעתי, מודל לעולם לא היה מחליט לשבור את החוקים הקיימים כשאין לו את הרצון ה"רגשי" והיכולת האנושית לשבור את המוסכמות.
יש מה להתווכח כשזה נוגע לאקסיומות של קונצנזוס אנושי, פחות כשזה נוגע לאקסיומות מתמטיות כמו מספרים מרוכבים (שאין שורש למספר שלילי).

נכון. מעצמו הוא לא עושה כלום
אבל אפשר לתת לו משימה: חפש את הכשלים בתאוריה המדעית הנוכחית או נסה ליצור תיאוריה חדשה.
בדיוק כמו שנותנים לו כיום משימה של זיהוי באגים ופרצות בקוד קיים

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@nh.local
כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם אתה מבין בבינה מלאכותית, אתה יכול לדעת לאילו תחומים היא לא תחדור במח?
כעת תהפוך את היוצרות

לא זכיתי להבין איך אתה מוכיח משהו מהטיעון הזה

וסליחה אם אני מרגיז אותך

זה בסדר גמור

[יודע ספר]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

לא זכיתי להבין איך אתה מוכיח משהו מהטיעון הזה

את הטיעון של הציפור כבר מחקת, אז תחשוב עוד קצת, אם לא תצליח אני אשתדל לעזור

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

את הטיעון של הציפור כבר מחקת, אז תחשוב עוד קצת, אם לא תצליח אני אשתדל לעזור

לא זכיתי להבין אם אתה מתכוון שכמו שמומחה AI יכול להבין במוח גם מומחה מוח יכול להבין ב-AI
או שלהיפך: כמו שמומחה AI יכול לדבר על המוח למרות שהוא לא מבין גם מומחה מוח יכול לדבר על המוח למרות שהוא לא מבין?

או משהו שלישי?

[יודע ספר]

@פיקחון תודה על המחמאה...

[יודע ספר]

@NH.LOCAL משהו רביעי!
[שכחת לציין את האופציה הזו-כמו שמומחה AI ידבר על AI, אתה לא מאזן ]...
התכוונתי שאדם שמתעסק ומפתח תחום/בתחום מסויים, מן הסתם יש לו ידע ביכולות של דברים אחרים להשפיע על הדבר שבו הוא מתמקצע.
וזה נכון לשני הכיוונים, לכן אין לבטל את דברי האחד רק בגלל שאין לו די ידע בתחום השני, מאותה סיבה שיש לומר הפוך.
ואם אדם שמכיר את המח האנושי, אותו, לצורך הענין, לא מכיר הסטודנט שכתב מאמר נפלא בגיקטיים, אזי אין לנו לבטל דבריו בהינף יד כמו שלא היית מבטל את דברי אותו סטונדט או מאמר.
אז זה לא שהדברים שערן כץ [לצורך הענין], אמר, הם עובדה או סוף פסוק, אבל בהחלט יש לשכלל אותם לפני מסקנות חורצות והצעה לצילומי מסך בדמות גזור ושמור עם תאריכים ומיקומים.
קצת ענווה לא תזיק, זה הכל, אל תבטל את כל מה שאתה רואה רק כי ראית איזה מאמר או מחקר או שאתה אפוף תדהמה מהתפתחות הבינה בקצב מטרלל בשנים האחרונות בייחוד לשנתיים האחרונות.
בקיצור, אם אני פיתחתי איזו תרופה, האם אני יכול להתחייב שהיא תעבוד על מחלה מסויימת ללא שיש לי הוכחה עובדתית ממש?
או אם פיתחתי איזה וירוס ברשת, האם אני יכול להגיע ולטעון כלפי חברות הגנה שהן לא עמידות בפניו? כלום יודע אתה אילו טקטיקות הם נקטו, שאתה לא מודע אליהם?
נשמח לשמוע אתה ואחרים חושבים על זה.
ולא, לא AI כתב את הפוסט.
ולא, לא קוראים לי ערן כץ.

[NH.LOCAL]

@יודע-ספר הכל עניין של הסתברויות והערכות.

אמת נכון, צריך להיזהר מעיוורון המומחה כפי שציינתי לעיל.

אני בהחלט לא יכול להתחייב בוודאות מלאה על העתיד. עם זאת לא מדובר במסקנות נחרצות ברמה של 100%, אלא בשקלול של הסתברות גבוהה מאוד, בלי שיש קיר או מגבלה נראית לעין, מה שמוביל למסקנות ברורות

העניין עם ערן כץ הוא שהוא מבין בזה לא הרבה יותר משמבין בזה מוכר בשוק מחנה יהודה, והיחס בהתאם
זה לא מוריד מערכו או מהמומחיות שלו בתחומו אך בהחלט מגביל את הערך של דבריו לגבי תחום ה-AI

פשוט די נמאס מכל מיני מומחים שמקשקשים שטויות בשם המומחיות שלהם, ערן כץ הוא לא הראשון ולא האחרון

[יודע ספר]

@NH.LOCAL אתה בהחלט צודק שאין לרוץ אחרי כל איזה אחד שחושב שבגלל מקצועיות בתחומו הוא יכול לחוות דעה מקצועית לעוד נושאים.
אך עכ"פ ליקטתי בעזרת הבינה [כמובן] וחיפוש בגוגל אודות הסבורים כדלעיל, וזה מה שמצאתי:
אגב
תראה מה כתב לי גרוק בעצמו, הודאת בע"ד...

פרופ' יאן לקון (אחד מאבות ה-Deep Learning ומדען ה-AI הראשי של Meta) חוזר ומדגיש שמודלים כמו GPT הם בעיקר "תוכים סטטיסטיים" (Stochastic Parrots) – הם מצטיינים בחיקוי שפה על בסיס הסתברויות, אבל חסרים "שכל ישר" (common sense) אמיתי. הוא סבור שצריך ארכיטקטורה חדשה לגמרי – Objective-Driven AI – כדי להתקדם.

פרופ' שמעון אולמן (ויצמן) מראה במחקריו (כמו ב-PNAS) כיצד רשתות נוירונים מזהות עצמים על בסיס שברירי פיקסלים וסטטיסטיקה, אבל נכשלות ברגע שמשנים את ההקשר – בניגוד למוח האנושי שמבין בצורה הוליסטית.

ד"ר מריאנו סיגמן (נוירולוג) מסביר שהחשיבה, ההומור והאמפתיה שלנו נובעים מEmbodied Cognition – מהגוף הפיזי והחוויה החושית. למכונה אין את זה, ולכן היא מניפולציה של סמלים, לא מחשבה אמיתית.

פרופ' דוד הראל (נשיא האקדמיה הלאומית למדעים) בספרו Computers Ltd: What They Really Can't Do מדגיש את המגבלות המתמטיות והעקרוניות: יצירתיות, שיפוט מוסרי ואינטואיציה עמוקה הם מעבר ליכולת החישוב הדיגיטלית.

לסיכום: הבינה המלאכותית תשנה את העולם ותהיה כלי מדהים – אבל סביר להניח שהיא תישאר כלי חזק מאוד, ולא תחליף את המוח האנושי עם ההבנה, התודעה והעומק הרגשי שלו. מי שמצפה ל"סינגולריות" בקרוב עלול להתאכזב.
מקורות:

• Yann LeCun על Objective-Driven AI: הרצאה
• מאמר PNAS של שמעון אולמן: Atoms of Recognition
• ספרו של דוד הראל: Computers Ltd.

ברור שתמצא גם מחקרים ופרופסורים הטוענים את ההיפך, אבל אל תבטל במחי יד את להקת המדענים והחוקרים הללו.
... ישפוט/(תשפוט?) בין אלו לאלו

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

פרופ' יאן לקון (אחד מאבות ה-Deep Learning ומדען ה-AI הראשי של Meta) חוזר ומדגיש שמודלים כמו GPT הם בעיקר "תוכים סטטיסטיים" (Stochastic Parrots) – הם מצטיינים בחיקוי שפה על בסיס הסתברויות, אבל חסרים "שכל ישר" (common sense) אמיתי. הוא סבור שצריך ארכיטקטורה חדשה לגמרי – Objective-Driven AI – כדי להתקדם.

לגבי יאן לקון, דעתו לא חדשה. וההצלחות שלו בהתאם. הפילוסופיה שלו נחלה כישלון חרוץ, ועם כל הכבוד הראוי לפריצות הדרך המדהימות שלו בשנות ה-90, נראה שהאיש פספס משהו במרוץ הנוכחי.

לגבי כל האחרים - לא שמעתי עליהם בלתי היום. ובכל מקרה, הם מצביעים על נקודות מסויימות שאף אחד לא חולק עליהם, וגם לא אני.
לא כל כך אכפת לי אם תגדיר ש-AI הוא לא בעל תודעה, או שאין לו רגשות. זה לא באמת משנה כל עוד הוא יכול לדמות תודעה ולדמות רגשות בצורה מושלמת

Spoiler

אגב, להביא טיעונים לצד השני זה אף פעם לא בעיה, כי תמיד יש אאוטסיידרים, גם לחיסוני הקורונה להבדיל היו מתנגדים. להביא כמה שמות עלומים לא באמת מוסיף משהו לדיון.

[יודע ספר]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אגב, להביא טיעונים לצד השני זה אף פעם לא בעיה, כי תמיד יש אאוטסיידרים, גם לחיסוני הקורונה להבדיל היו מתנגדים. להביא כמה שמות עלומים לא באמת מוסיף משהו לדיון.

מה כן?

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה כן?

שמות כמו יאן לקון למשל

[יודע ספר]

@NH.LOCAL הבאתי

[Codex]

וואי וואי היה לכם מענין בלילה בקושי הצלחתי לעבור על הכל, באמת מרתק:)
אפשר לשבור שיא על כמות התגובות בפוסט בכמה שעות

מה שאותי הקפיץ זה הטענות שהAI יכול ליצור רק מדברים קיימים
קודם כל למי שלא יודע איך מודלים עובדים,
המודל לא מחזיק שום מאגר טקסטים או דאטה בייס , אלא אךך ורק מיליארדי משקלים מתמטיים שמתארים קשרים ודפוסים שהוא למד במהלך האימון
ושמודל מייצר תשובה הוא מייצר את התשובה מחדש. זו לא שליפה, זו סינתזה וזה אפרופו יצירה.. מסתבר שזה ברור לכולם אבל בכל זאת חידדתי.
תכלס הבינה אכן יוצרת, אמנם על בסיס מידע שהיא מכירה אבל הgenaration והganeralization מאפשרים לה ליצור דברים מחדש, זאת אומרת לחבר דברים ומושגים בצורה שעדיין לא היתה בעבר כמו להגיע לאסטרטגיות ופתרונות שאף בן אדם לא העלה קודם על דעתו וזה דיון פילוסופי בפני עצמו האם ניתן לקרוא לזה המצאה או שללא---

ובינינו גם אינשטיין לא יצר את תורת היחסות מאפס , אלא הוא התבסס על משוואות מקסוול על ניסויים ומתמטיקות שכבר היו קיימות ופשוט חיבר ביניהם ( מי שמכיר את התורת היחסות כבר ידע...)

[קפטן מרשמלו]

להמודל באמת אין דטה בייס אבל אם היית מתכתב רק עם המודל עצמו היית מבין כמה הוא לא מעודכן כל פעם שאתה שואל שאלה יש חיפוש באינטרנט והתוצאות נכנסות לקונטקסט של התשובה וזה עוד הבדל בין בני אדם לבינה מלאכותית בינה מלאכותית לא לומדת שום דבר אחרי שגמרו לאמן אותה כל מידע חדש מהאינטרנט או כל דבר שהוא לומד עליך כן נמצא בדטה בייס שהבינה המלאכותית קוראת תוך כדי שהיא כותבת את התשובה

[המלאך]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

תשאל כל מודל AI, חכם ככל שתרצה, אם הטיעון שלך נכון.
רק תבקש תשובה אובייקטיבית בלי לנסות לגרום לו לאשר את הטיעונים שלך

ושוב פעם לא ענית על הטיעונים עצמם.

Spoiler

AI לא משנה.
אין דרך לשלול את הטיעונים כי זה רק דוגמית.
איך לפני 5000 שנה יצרו את היצירה הארכיטקטונית המרשימה ביותר שהייתה אי פעם? - מגדל בבל? יש אינספור דוגמאות..

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

חבל מאוד. AI חכם יותר, אמין יותר ובעל ידע מקיף יותר מרוב מוחלט של בני האדם.
חשוב כמובן להיות זהיר איתו ולבקש תמיד לשמוע את שתי הצדדים ולהיות אובייקטיבי

מדובר במכונת ידע שיכולה להוסיף לך המון, כמו ששום אנציקלופדיה לא תוכל לעולם
ההפסד כולו שלך

מעולם לא אמרתי שאני לא משתמש בו להעשיר את הידע שלי.
אלא שאני לא סומך על תשובותיו.

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מה המשמעות? שהוא לעולם לא יצליח ליצור משהו, שבלי הAI גם עוד 4K שנים לא היה נוצר?
בסדר, מקבל.

לא.
שבלי קשר לAI כבר היום אנחנו מביאים דברים שAI לעולם לא יכול להגיע אליהם.

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

כן ולא,
אולי עוד 20 שנה יוולד האיינשטיין של המשחק Go, שיצליח לנתב את כל עוצמת המוח האנושי לתחום הזה - את זה כבר AI לא יעקוף.

ספציפית זה לא דוגמא.
זה כבר פחות תלוי בתחכום, פה אין דרך לעקוף את הבינה..

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אגב, @א.מ.ד. טועה מאותה סיבה. מודלי AI כיום לא מסתמכים רק על דאטה, אלא גם על מנגוני למידת חיזוק חזקים מאוד. ממילא, הם גם לא מוגבלים רק ליכולת של הדאטה

שטות מוחלטת.
RL זה ס"ה זיקוק הידע הקיים.
הAI עדיין מסתמך על המאגרי מידע.
זה גם לא פיתרון לטקסט סינטטי, אם תמיד יצטרכו לזקק את המידע הסינטטי שלו ע"י בנ"א - הוא ישאר תלוי בבנ"א אם יצטרכו לעשות זאת על ידי מודל - הוא יהיה ג"כ עם הבעיה הסינטטית..

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

זה כבר נוגע לשאלה פילוסופית עקרונית - האם יש גבול כלשהו לאינטליגנציה או לא, זה כבר חורג לחלוטין מדיון על יכולות ה-AI

Spoiler

אין.
עיין ערך איינשטיי והמשפט פרופיל שלי..

@י.-פל. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

תכתוב את זה ל @המלאך - הוא כותב שוב ושוב שהתקרה היא דאטה, לא עוזר שום דבר

הנה עניתי.
התקרה היא הדאטה.
לא עוזר שום דבר.
כל מי שחושב אחרת - משלה את עצמו לדעת.

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אני כבר מדמיין את הדיונים כאן בפורום ב-2030:

"כל עוד AI לא מצליח להוציא מים מסלע או להפוך מטה לנחש - הוא פשוט לא משתווה בכלל ליכולות האנושיות"

נו נו..
כמו שאמרתי 20K גם ב23 אמרו את זה..

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אני לא יודע מאיפה העתקת את הטקסט הזה. אבל המציאות מוכיחה ש-RL שיפר יכולות מודלים ברמה של תגליות חדשות שבהחלט חורגים מנתוני האימון (ע"ע בעית ארדוש הנ"ל)

למען ה' מאיפה הוצאת את זה?
בעיית ארדוש זה לא בעיה!
זה דבר שמותאם למשימות שהAI יכול לעמוד בהם!

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

תיאור מדויק של 50% מהשוק בערך, בהערכה מפרגנת

99% בהערכה פחות מפרגנת.

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

מצוין. ולאור כותרת הדיון - האם יש יתרון לאנושות על ה-AI? כנראה שלא.

כן.

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אזהרה: אם תקרא תהיה מחוייב!!!

עוד שטות מוחלטת של השכל האנושי.
כל מי שהקשיב לבירבור שכל הזה הוא טיפש מעיקרו.
טיפש לא יוכל בכל מקרה להגיע להמצאה שתכלה את האנושות..

@Codex כתב בבירור | בינה מלאכותית והאנושות - לאן?:

וואי וואי היה לכם מענין בלילה בקושי הצלחתי לעבור על הכל, באמת מרתק:)
אפשר לשבור שיא על כמות התגובות בפוסט בכמה שעות

מה שאותי הקפיץ זה הטענות שהAI יכול ליצור רק מדברים קיימים
קודם כל למי שלא יודע איך מודלים עובדים,
המודל לא מחזיק שום מאגר טקסטים או דאטה בייס , אלא אךך ורק מיליארדי משקלים מתמטיים שמתארים קשרים ודפוסים שהוא למד במהלך האימון
ושמודל מייצר תשובה הוא מייצר את התשובה מחדש. זו לא שליפה, זו סינתזה וזה אפרופו יצירה.. מסתבר שזה ברור לכולם אבל בכל זאת חידדתי.
תכלס הבינה אכן יוצרת, אמנם על בסיס מידע שהיא מכירה אבל הgenaration והganeralization מאפשרים לה ליצור דברים מחדש, זאת אומרת לחבר דברים ומושגים בצורה שעדיין לא היתה בעבר כמו להגיע לאסטרטגיות ופתרונות שאף בן אדם לא העלה קודם על דעתו וזה דיון פילוסופי בפני עצמו האם ניתן לקרוא לזה המצאה או שללא---

לא חידשת כלום.
אני מניח שכולם פה יודעים את זה.
ובאנו לחדש לך שכן הבינה זה ס"ה עיבוד חכם של הנתונים שהוכנסו לה.
יחד עם הייתרון היחסי של המהירות חישוב.
אין לה את היצירותיות ואת האינטואציה האנושית..

@Codex כתב בבירור | בינה מלאכותית והאנושות - לאן?:

ובינינו גם אינשטיין לא יצר את תורת היחסות מאפס , אלא הוא התבסס על משוואות מקסוול על ניסויים ומתמטיקות שכבר היו קיימות ופשוט חיבר ביניהם ( מי שמכיר את התורת היחסות כבר ידע...)

א' טעות מוחלטת.
ב' בכל מקרה הבאתי לעיל דוגמאות שבוודאי לא מבוססות על דברים שהיו.
לתקוף אותי מהכיוון הזה זה כנראה לי פיתרון..

@קפטן-מרשמלו כתב בבירור | בינה מלאכותית והאנושות - לאן?:

להמודל באמת אין דטה בייס אבל אם היית מתכתב רק עם המודל עצמו היית מבין כמה הוא לא מעודכן כל פעם שאתה שואל שאלה יש חיפוש באינטרנט והתוצאות נכנסות לקונטקסט של התשובה וזה עוד הבדל בין בני אדם לבינה מלאכותית בינה מלאכותית לא לומדת שום דבר אחרי שגמרו לאמן אותה כל מידע חדש מהאינטרנט או כל דבר שהוא לומד עליך כן נמצא בדטה בייס שהבינה המלאכותית קוראת תוך כדי שהיא כותבת את התשובה

את זה אמרו לנו בכיתה א'.
כיום המודלים השתפרו הרבה יותר.
על RL למדת?
מה זה אם לא למידה אחרי האימון?

@nh.local סתם ככה לא הבנתי מה נתפסת על RL.
מה עם הSL?

[NH.LOCAL]

@המלאך כתב בבירור | בינה מלאכותית והאנושות - לאן?:

ב' בכל מקרה הבאתי לעיל דוגמאות שבוודאי לא מבוססות על דברים שהיו.

הדוגמאות שהבאת דווקא בהחלט מבוססות על דברים שהיו

לומר את האמת? אין לי יותר מידי כח להתחיל לענות. שב עם כל מודל AI ותבקש ממנו את נקודות התורפה בטיעונים שלך (אפשר גם בשלי)

אגב, מגדל בבל הוקם לפני כ-3800 שנה, ממש לא 5000.