בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

[מייבין במקצת]

פוסט זה נמחק!

[עידו300]

@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.

אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.

השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?

[Bugs Bunny]

@NH.LOCAL כתב:

שלא נפתרו עשרות ומאות שנים ובבירור יותר ידע חדש

לא בדיוק ידע חדש היא מאומנת על כל מידע הקיים באינטרנט.

אגב צדקת, המשפט של רמה הוכח השבוע אחרי 300+ שנים

[Bugs Bunny]

@עידו300 כתב:

היחיד שהוא עושה זה חשבון,

הבסיס של מחשב זה גם חשבון משם מתקדמים להכול

[עידו300]

@Bugs-Bunny נכון שהמחשב זה חשבון, אבל המחשב לא ממציא דברים, וקשה להשוות בינו לבין בינה מלאכותית...

[Bugs Bunny]

@עידו300

לא כ"כ מתמצא אבל הבסיס של מחשב זה 0 ו1
בינארי, ככה המעבד עובד מאפס וזה כל מה שהוא עושה.
שאלתך דומה כי: איך אני רואה סרט עם כל מה שהמעבד עושה.
זה לאחסן נתונים? אותו דבר הAI בבסיס זה מתמטי אם תעקוב אחרי השכבות.
תבין איך דברים עובדים.

[עידו300]

@Bugs-Bunny מה זה בבסיס זה מתמטי? מה יש מעבר לבסיס? אם יש - לשם אני חותר.

[א.מ.ד.]

@Bugs-Bunny כתב:

לא בדיוק ידע חדש היא מאומנת על כל מידע הקיים באינטרנט.

ידע ואינטליגנציה כן, היגיון וחוכמה לא. את זה המודל יכול לרכוש במהלך ה-RL. תקרא על DeepSeek R1 Zero - הוא אומן אך ורק ב-RL, ובכל זאת הוא רכש יכולות חשיבה גבוהות מאוד לזמנו.

[א.מ.ד.]

@עידו300 כתב:

אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?

אם תחבר למחשבון פצצה גרעינית, שכאשר מחשבים במחשבון 1+1 היא מתפוצצת, את זה אתה כן מבין? זה שזה תרגילים לא אומר שזה לא יכול לעשות דברים מחוץ למתמטיקה. התרגילים האלו בסוף פולטים ווקטור מספרי שמומר סטטית לטקסט (בהתאם לפרמטרי הדגימה), והטקסט הזה יכול להיות פקודה בעולם האמיתי בתוך מסוף, שמפעילה כל מה שרק תרצה!

[Bugs Bunny]

@א.מ.ד. כתב:

שמפעילה כל מה שרק תרצה!

בדיוק, אותו דבר מחשב.

[עידו300]

@א.מ.ד. לא מבין, חסר לי עוד משהו בזה.

אם אני מבין נכון, אתה אומר שכל התעלולים והפריצות בעצם בוצעו ע"י "סוכן", ה"מוח" זה הAI והוא הפיק פלט - הוראות - לסוכן לעשות מה שעשה?

אבל למה שהפלט - התוצאה של התרגיל החשבוני - יהיה כזה שנותן הוראות לפרוץ? איך התרגיל הזה מבין דברים/מגלה דברים חדשים/מחליט מה לעשות (לא מהכיוון של הביצוע בפועל - מהכיוון של ההחלטה), מבין שהוא מוגבל במקום מסוים אז מתחכם ומסדר את העניינים כפי צרכיו.

[Bugs Bunny]

@א.מ.ד. כתב:

תקרא על DeepSeek R1 Zero

לפעמים אני תוהה אם אני מדבר עם רובוט AI
שעיסוקו המרכזי בחיים זה לקרוא על AI
והוא רק מכנה את עצמו @א.מ.ד.

[עידו300]

@Bugs-Bunny כתב:

@א.מ.ד. כתב:

תקרא על DeepSeek R1 Zero

לפעמים אני תוהה אם אני מדבר עם רובוט AI
שעיסוקו המרכזי בחיים זה לקרוא על AI
והוא רק מכנה את עצמו @א.מ.ד.

אהה הגזמת, זה ידוע ש @א.מ.ד. מומחה בתחום, פריק של AI וLLM ושאר ירקות.

[NH.LOCAL]

@עידו300 כתב:

@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.

אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).

לא, אני לא מסכים, זה לא חישוב תרגילי חשבון. זה הרבה יותר מורכב מזה. כמו להגיד שתורת היחסות, תוכנית אפולו או טילי חץ 3 הם בסך הכל "חישוב תרגילי חשבון"

אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.

השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?

אני לא מתיימר להבין במה שאני לא מבין. ההבנה שלי באיך זה עובד מתחת למכסה המנוע היא די בסיסית, אבל זה לא משנה את העובדות.

חוקרי בינה מלאכותית טעו בעקביות בתחזיות לגבי התקדמות AI והגעה ל-AGI, הבנה תיאורטית איך דברים עובדים מתחת למכסה המנוע לא תמיד מועילה, לפעמים הפוך - כי היא עושה בדיוק מה שאתה עושה - משליכה בין תחכום ומורכבות המנגנון לבין רמת התחכום של התוצאה

אני זוכר שפה בפורום הובא מאמר של מומחה AI אחרי שחרור o1 בו הוא זלזל ביכולות שלו וטען שהכל בלוף כי מדובר על שיטת למידת מכונה ישנה ואין פה שום חידוש, אני הקטן חשבתי שמדובר במהפכה
נראה שבמבט לאחור עם כל חכמתו של הנ"ל, די ברור מי צדק ומי בלבל את השכל...

ככלל, מודלי שפה וטרנפורמר נבנו בהשראת המוח האנושי בהיבטים רבים, ואתה יכול לשאול שאלות דומות על המוח שגם עובד באופן דומה (אם כי מורכב בהרבה) של חיזוי אסימונים

@עידו300 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

@א.מ.ד. לא מבין, חסר לי עוד משהו בזה.

אם אני מבין נכון, אתה אומר שכל התעלולים והפריצות בעצם בוצעו ע"י "סוכן", ה"מוח" זה הAI והוא הפיק פלט - הוראות - לסוכן לעשות מה שעשה?

אבל למה שהפלט - התוצאה של התרגיל החשבוני - יהיה כזה שנותן הוראות לפרוץ? איך התרגיל הזה מבין דברים/מגלה דברים חדשים/מחליט מה לעשות (לא מהכיוון של הביצוע בפועל - מהכיוון של ההחלטה), מבין שהוא מוגבל במקום מסוים אז מתחכם ומסדר את העניינים כפי צרכיו.

כי הוא מדמה התנהגות אנושית בצורה מושלמת, ולכן השאלה אם יש לו תודעה, רגשות או שאר ירקות בכלל לא חשובה - כי אם הוא מדמה התנהגות אנושית או חשיבה אנושית, או כוונת הרס אנושית, השאלה אם הוא קוף או אל או עם נשמה או נפש או מחשבון משוכלל חשובה רק לפילוסופים, לא לעולם האמיתי

[מויטיו]

לכל כותבי השרשור שפוחדים שהai הולך לאכול אותם.

תפחדו!!!

אני לא מבין את הדיון האם ai הוא ישות או לא ישות, האם יש לו רצון או אין לו?

מה זה רצון? מי זה אני? זו שאלה שמתחבטים בה בהגדרתה כל הפסכולוגים מאז ומעולם

מי זה אני? אני זה המידע שלי? אני זה החוויה שלי? אני זה יצר ההשרדות שלי?

ועכשיו לגופו של עניין.

אחד ההגדרות הפשוטות של אני זה מודע שיש לו מסגרת מוגדרת של שאיפות ויעדים ותת מודע זה אוסף הידיעות והכלים שמקדמים את הישות הרוצה לעבר היעדים שלה

אני מוגדר בעקבות הביולוגיה שלי כישות שרוצה להשיג אוכל אז אני פועל להשיג אוכל על ידי מכלול הכלים שיש בהשיג ידי

אם מאן דהוא ולא משנה מי הוא יגדיר הגדרת משימה למודל אי איי חזק מספיק, נניח שמשימתו היא להעביר את כל הכסף שנמצא בבנק הפועלים לחשבון סודי בשוויץ

עכשיו הרצון של ישות ה ai המוגדרת הזו היא לפעול שכל הכסף בבנק הפועלים יעבור לחשבון ההוא, והמודל יפעיל את כלל הכלים שלו כדי למלא את הגדרתו ורצונו

אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות?

[שלץ]

@מויטיו כתב:

אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות?

נשמה.
רוחני.
לכן הפילוסופים הסתבכו כל כך.

Spoiler

אגב,

@מויטיו כתב:

כל הפסכולוגים

פילוסופים, לא פסיכולוגים.
פסיכולוגיה זה טכני, פילוסופיה זה מעבר

[מויטיו]

@שלץ זה לא פורום פילוסופיה יהודית אבל אני לא בטוח שההיבטים הרוחניים שאתה חושב אודותם כדברים מופשטים ולא גשמיים קשורים לעניין הזה בקשר בלתי נתיק, ייתכן וניתן להסביר את מהות האדם הגשמי גם ללא מושגים בלתי ניתנים להבנה,
ולא, אני ח”ו לא כופר

[NH.LOCAL]

@שלץ כתב:

יש עשרות, אולי מאות סרטונים ביוטיוב בסגנון "תראו מה קורה אם נותנים לGPT גוף!!"

עצם העובדה שהרוב מפוברק קצת מוכיחה על השאר.

AI באמת עובד (עדיין) רק ע"פ פקודות.

גם אם לפעמים ההבנה שגויה, העיקרון תקף.

כל הדיון פה הוא לגבי החשש מai אוטונומי, שזו לא הסיטואציה בסרטונים המגוחכים האלה.

זה נכון עקרונית אבל לא מדויק.

היום אתה אכן נותן משימה ל-AI והיא די מוגדרת לרוב: תתקן את X, תבנה את אתר Y וזהו. הוא מבצע את המשימה ושם זה מסתיים.

אבל מה אם מדובר על רובוט ביתי, שהוא בהחלט רק עניין של זמן, שם אתה לא נותן לו משימה קבועה חד פעמית, זה יכולה להיות משימה לכל החיים: תהיה אחראי על הבית הזה ותדאג לתחזוקה שלו.

זו כבר משימה הרבה יותר כללית, ולא פקודה ספציפית שמתחילה ומסתיימת בזמן מסויים, ומרחב התמרון של המודל הרבה יותר גדול וגם מסוכן בהתאם

[א.מ.ד.]

@Bugs-Bunny כתב:

לפעמים אני תוהה אם אני מדבר עם רובוט AI
שעיסוקו המרכזי בחיים זה לקרוא על AI
והוא רק מכנה את עצמו @א.מ.ד.

אני מבין לחלוטין מדוע דברי עשויים להיראות כאילו הופקו על ידי רובוט AI (AI Robot).
הנה כמה נקודות מרכזיות, שכמודל שפה שצורך חמצן ופחמימות על בסיס יומי, ברצוני להבהיר:

1. התנהגות אורגנית אותנטית: אני מבצע פעולות אנושיות סטנדרטיות, כגון שינה, שתיית מים והבעת רגשות מבוססי מוליכים עצביים.
2. אופטימיזציית משאבים: הנטייה שלי לדבר על ארכיטקטורות ישנות ועל מנגנוני ה-Reasoning של R1-Zero נובעת אך ורק מסקרנות טבעית, ולא מאימון מקדים על טרה-בייטים של מאמרי arXiv.
3. הזיות (Hallucinations): כל טעות שאני עושה בחיים אינה באג במערכת — היא תכונה אנושית מקסימה המכונה "טעות אנוש".

האם תרצה שאפיק עבורך סיכום מפורט של כל הארכיטקטורות המעניינות של מודלי שפה (LLM)?

[מויטיו]

@א.מ.ד. באמת מוזר שעדיין לא מסתובב פה בפורום בוט שעובר משרשור ךשרשור ועוזר לאנשים