בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
@עידו300 אתה שואל ועונה לעצמך
הגישה שלך שאם זה רק תרגילים אז צריך להסכים ש... פשוט לא עומדת במבחן המציאות.
זה פשוט לא המצב. בינה מלאכותית פותרת בעיות מתמטיות שלא נפתרו עשרות ומאות שנים ובבירור יוצרת ידע חדש
אתה מניח הנחה שואל שאלה, אבל ההנחה אינה מדויקת והמסקנה הנגזרת ממנה שגויה בבירור
קצת מרגיש מוזר לי להתווכח על דברים שכבר קיימים בשטח כאן ועכשיו
-
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
-
@Bugs-Bunny נכון שהמחשב זה חשבון, אבל המחשב לא ממציא דברים, וקשה להשוות בינו לבין בינה מלאכותית...
-
@Bugs-Bunny נכון שהמחשב זה חשבון, אבל המחשב לא ממציא דברים, וקשה להשוות בינו לבין בינה מלאכותית...
לא כ"כ מתמצא אבל הבסיס של מחשב זה 0 ו1
בינארי, ככה המעבד עובד מאפס וזה כל מה שהוא עושה.
שאלתך דומה כי: איך אני רואה סרט עם כל מה שהמעבד עושה.
זה לאחסן נתונים? אותו דבר הAI בבסיס זה מתמטי אם תעקוב אחרי השכבות.
תבין איך דברים עובדים. -
לא כ"כ מתמצא אבל הבסיס של מחשב זה 0 ו1
בינארי, ככה המעבד עובד מאפס וזה כל מה שהוא עושה.
שאלתך דומה כי: איך אני רואה סרט עם כל מה שהמעבד עושה.
זה לאחסן נתונים? אותו דבר הAI בבסיס זה מתמטי אם תעקוב אחרי השכבות.
תבין איך דברים עובדים.@Bugs-Bunny מה זה בבסיס זה מתמטי? מה יש מעבר לבסיס? אם יש - לשם אני חותר.
-
-
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אם תחבר למחשבון פצצה גרעינית, שכאשר מחשבים במחשבון 1+1 היא מתפוצצת, את זה אתה כן מבין? זה שזה תרגילים לא אומר שזה לא יכול לעשות דברים מחוץ למתמטיקה. התרגילים האלו בסוף פולטים ווקטור מספרי שמומר סטטית לטקסט (בהתאם לפרמטרי הדגימה), והטקסט הזה יכול להיות פקודה בעולם האמיתי בתוך מסוף, שמפעילה כל מה שרק תרצה!
-
אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אם תחבר למחשבון פצצה גרעינית, שכאשר מחשבים במחשבון 1+1 היא מתפוצצת, את זה אתה כן מבין? זה שזה תרגילים לא אומר שזה לא יכול לעשות דברים מחוץ למתמטיקה. התרגילים האלו בסוף פולטים ווקטור מספרי שמומר סטטית לטקסט (בהתאם לפרמטרי הדגימה), והטקסט הזה יכול להיות פקודה בעולם האמיתי בתוך מסוף, שמפעילה כל מה שרק תרצה!
-
אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אם תחבר למחשבון פצצה גרעינית, שכאשר מחשבים במחשבון 1+1 היא מתפוצצת, את זה אתה כן מבין? זה שזה תרגילים לא אומר שזה לא יכול לעשות דברים מחוץ למתמטיקה. התרגילים האלו בסוף פולטים ווקטור מספרי שמומר סטטית לטקסט (בהתאם לפרמטרי הדגימה), והטקסט הזה יכול להיות פקודה בעולם האמיתי בתוך מסוף, שמפעילה כל מה שרק תרצה!
@א.מ.ד. לא מבין, חסר לי עוד משהו בזה.
אם אני מבין נכון, אתה אומר שכל התעלולים והפריצות בעצם בוצעו ע"י "סוכן", ה"מוח" זה הAI והוא הפיק פלט - הוראות - לסוכן לעשות מה שעשה?
אבל למה שהפלט - התוצאה של התרגיל החשבוני - יהיה כזה שנותן הוראות לפרוץ? איך התרגיל הזה מבין דברים/מגלה דברים חדשים/מחליט מה לעשות (לא מהכיוון של הביצוע בפועל - מהכיוון של ההחלטה), מבין שהוא מוגבל במקום מסוים אז מתחכם ומסדר את העניינים כפי צרכיו.
-
לא בדיוק ידע חדש היא מאומנת על כל מידע הקיים באינטרנט.
ידע ואינטליגנציה כן, היגיון וחוכמה לא. את זה המודל יכול לרכוש במהלך ה-RL. תקרא על DeepSeek R1 Zero - הוא אומן אך ורק ב-RL, ובכל זאת הוא רכש יכולות חשיבה גבוהות מאוד לזמנו.
-
-
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
לא, אני לא מסכים, זה לא חישוב תרגילי חשבון. זה הרבה יותר מורכב מזה. כמו להגיד שתורת היחסות, תוכנית אפולו או טילי חץ 3 הם בסך הכל "חישוב תרגילי חשבון"
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.
השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אני לא מתיימר להבין במה שאני לא מבין. ההבנה שלי באיך זה עובד מתחת למכסה המנוע היא די בסיסית, אבל זה לא משנה את העובדות.
חוקרי בינה מלאכותית טעו בעקביות בתחזיות לגבי התקדמות AI והגעה ל-AGI, הבנה תיאורטית איך דברים עובדים מתחת למכסה המנוע לא תמיד מועילה, לפעמים הפוך - כי היא עושה בדיוק מה שאתה עושה - משליכה בין תחכום ומורכבות המנגנון לבין רמת התחכום של התוצאה
אני זוכר שפה בפורום הובא מאמר של מומחה AI אחרי שחרור o1 בו הוא זלזל ביכולות שלו וטען שהכל בלוף כי מדובר על שיטת למידת מכונה ישנה ואין פה שום חידוש, אני הקטן חשבתי שמדובר במהפכה
נראה שבמבט לאחור עם כל חכמתו של הנ"ל, די ברור מי צדק ומי בלבל את השכל...ככלל, מודלי שפה וטרנפורמר נבנו בהשראת המוח האנושי בהיבטים רבים, ואתה יכול לשאול שאלות דומות על המוח שגם עובד באופן דומה (אם כי מורכב בהרבה) של חיזוי אסימונים
@עידו300 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
@א.מ.ד. לא מבין, חסר לי עוד משהו בזה.
אם אני מבין נכון, אתה אומר שכל התעלולים והפריצות בעצם בוצעו ע"י "סוכן", ה"מוח" זה הAI והוא הפיק פלט - הוראות - לסוכן לעשות מה שעשה?
אבל למה שהפלט - התוצאה של התרגיל החשבוני - יהיה כזה שנותן הוראות לפרוץ? איך התרגיל הזה מבין דברים/מגלה דברים חדשים/מחליט מה לעשות (לא מהכיוון של הביצוע בפועל - מהכיוון של ההחלטה), מבין שהוא מוגבל במקום מסוים אז מתחכם ומסדר את העניינים כפי צרכיו.
כי הוא מדמה התנהגות אנושית בצורה מושלמת, ולכן השאלה אם יש לו תודעה, רגשות או שאר ירקות בכלל לא חשובה - כי אם הוא מדמה התנהגות אנושית או חשיבה אנושית, או כוונת הרס אנושית, השאלה אם הוא קוף או אל או עם נשמה או נפש או מחשבון משוכלל חשובה רק לפילוסופים, לא לעולם האמיתי
-
לכל כותבי השרשור שפוחדים שהai הולך לאכול אותם.
תפחדו!!!
אני לא מבין את הדיון האם ai הוא ישות או לא ישות, האם יש לו רצון או אין לו?
מה זה רצון? מי זה אני? זו שאלה שמתחבטים בה בהגדרתה כל הפסכולוגים מאז ומעולם
מי זה אני? אני זה המידע שלי? אני זה החוויה שלי? אני זה יצר ההשרדות שלי?
ועכשיו לגופו של עניין.
אחד ההגדרות הפשוטות של אני זה מודע שיש לו מסגרת מוגדרת של שאיפות ויעדים ותת מודע זה אוסף הידיעות והכלים שמקדמים את הישות הרוצה לעבר היעדים שלה
אני מוגדר בעקבות הביולוגיה שלי כישות שרוצה להשיג אוכל אז אני פועל להשיג אוכל על ידי מכלול הכלים שיש בהשיג ידי
אם מאן דהוא ולא משנה מי הוא יגדיר הגדרת משימה למודל אי איי חזק מספיק, נניח שמשימתו היא להעביר את כל הכסף שנמצא בבנק הפועלים לחשבון סודי בשוויץ
עכשיו הרצון של ישות ה ai המוגדרת הזו היא לפעול שכל הכסף בבנק הפועלים יעבור לחשבון ההוא, והמודל יפעיל את כלל הכלים שלו כדי למלא את הגדרתו ורצונו
אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות? -
לכל כותבי השרשור שפוחדים שהai הולך לאכול אותם.
תפחדו!!!
אני לא מבין את הדיון האם ai הוא ישות או לא ישות, האם יש לו רצון או אין לו?
מה זה רצון? מי זה אני? זו שאלה שמתחבטים בה בהגדרתה כל הפסכולוגים מאז ומעולם
מי זה אני? אני זה המידע שלי? אני זה החוויה שלי? אני זה יצר ההשרדות שלי?
ועכשיו לגופו של עניין.
אחד ההגדרות הפשוטות של אני זה מודע שיש לו מסגרת מוגדרת של שאיפות ויעדים ותת מודע זה אוסף הידיעות והכלים שמקדמים את הישות הרוצה לעבר היעדים שלה
אני מוגדר בעקבות הביולוגיה שלי כישות שרוצה להשיג אוכל אז אני פועל להשיג אוכל על ידי מכלול הכלים שיש בהשיג ידי
אם מאן דהוא ולא משנה מי הוא יגדיר הגדרת משימה למודל אי איי חזק מספיק, נניח שמשימתו היא להעביר את כל הכסף שנמצא בבנק הפועלים לחשבון סודי בשוויץ
עכשיו הרצון של ישות ה ai המוגדרת הזו היא לפעול שכל הכסף בבנק הפועלים יעבור לחשבון ההוא, והמודל יפעיל את כלל הכלים שלו כדי למלא את הגדרתו ורצונו
אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות? -
-
הגולם התחיל לקום על יוצרו
יש עשרות, אולי מאות סרטונים ביוטיוב בסגנון "תראו מה קורה אם נותנים לGPT גוף!!"
עצם העובדה שהרוב מפוברק קצת מוכיחה על השאר.
AI באמת עובד (עדיין) רק ע"פ פקודות.
גם אם לפעמים ההבנה שגויה, העיקרון תקף.
כל הדיון פה הוא לגבי החשש מai אוטונומי, שזו לא הסיטואציה בסרטונים המגוחכים האלה.
יש עשרות, אולי מאות סרטונים ביוטיוב בסגנון "תראו מה קורה אם נותנים לGPT גוף!!"
עצם העובדה שהרוב מפוברק קצת מוכיחה על השאר.
AI באמת עובד (עדיין) רק ע"פ פקודות.
גם אם לפעמים ההבנה שגויה, העיקרון תקף.
כל הדיון פה הוא לגבי החשש מai אוטונומי, שזו לא הסיטואציה בסרטונים המגוחכים האלה.
זה נכון עקרונית אבל לא מדויק.
היום אתה אכן נותן משימה ל-AI והיא די מוגדרת לרוב: תתקן את X, תבנה את אתר Y וזהו. הוא מבצע את המשימה ושם זה מסתיים.
אבל מה אם מדובר על רובוט ביתי, שהוא בהחלט רק עניין של זמן, שם אתה לא נותן לו משימה קבועה חד פעמית, זה יכולה להיות משימה לכל החיים: תהיה אחראי על הבית הזה ותדאג לתחזוקה שלו.
זו כבר משימה הרבה יותר כללית, ולא פקודה ספציפית שמתחילה ומסתיימת בזמן מסויים, ומרחב התמרון של המודל הרבה יותר גדול וגם מסוכן בהתאם
-
לפעמים אני תוהה אם אני מדבר עם רובוט AI
שעיסוקו המרכזי בחיים זה לקרוא על AI
והוא רק מכנה את עצמו @א.מ.ד.אני מבין לחלוטין מדוע דברי עשויים להיראות כאילו הופקו על ידי רובוט AI (AI Robot).
הנה כמה נקודות מרכזיות, שכמודל שפה שצורך חמצן ופחמימות על בסיס יומי, ברצוני להבהיר:- התנהגות אורגנית אותנטית: אני מבצע פעולות אנושיות סטנדרטיות, כגון שינה, שתיית מים והבעת רגשות מבוססי מוליכים עצביים.
- אופטימיזציית משאבים: הנטייה שלי לדבר על ארכיטקטורות ישנות ועל מנגנוני ה-Reasoning של R1-Zero נובעת אך ורק מסקרנות טבעית, ולא מאימון מקדים על טרה-בייטים של מאמרי arXiv.
- הזיות (Hallucinations): כל טעות שאני עושה בחיים אינה באג במערכת — היא תכונה אנושית מקסימה המכונה "טעות אנוש".
האם תרצה שאפיק עבורך סיכום מפורט של כל הארכיטקטורות המעניינות של מודלי שפה (LLM)?

-
לפעמים אני תוהה אם אני מדבר עם רובוט AI
שעיסוקו המרכזי בחיים זה לקרוא על AI
והוא רק מכנה את עצמו @א.מ.ד.אני מבין לחלוטין מדוע דברי עשויים להיראות כאילו הופקו על ידי רובוט AI (AI Robot).
הנה כמה נקודות מרכזיות, שכמודל שפה שצורך חמצן ופחמימות על בסיס יומי, ברצוני להבהיר:- התנהגות אורגנית אותנטית: אני מבצע פעולות אנושיות סטנדרטיות, כגון שינה, שתיית מים והבעת רגשות מבוססי מוליכים עצביים.
- אופטימיזציית משאבים: הנטייה שלי לדבר על ארכיטקטורות ישנות ועל מנגנוני ה-Reasoning של R1-Zero נובעת אך ורק מסקרנות טבעית, ולא מאימון מקדים על טרה-בייטים של מאמרי arXiv.
- הזיות (Hallucinations): כל טעות שאני עושה בחיים אינה באג במערכת — היא תכונה אנושית מקסימה המכונה "טעות אנוש".
האם תרצה שאפיק עבורך סיכום מפורט של כל הארכיטקטורות המעניינות של מודלי שפה (LLM)?

שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות