בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
סיקרנת, יש מקור לכך?
בפשטות המקור הוא הדוחות הרבעוניים של גוגל, שם היא מעדכנת על הרווחיות מהמומוצרים שלה.
-
סיקרנת, יש מקור לכך?
בפשטות המקור הוא הדוחות הרבעוניים של גוגל, שם היא מעדכנת על הרווחיות מהמומוצרים שלה.
@חובבן-מקצועי זה לא אומר שזה בגלל שילוב ג'מיני באקוסיסטם.
-
@חובבן-מקצועי זה לא אומר שזה בגלל שילוב ג'מיני באקוסיסטם.
@צדיק-וטוב-לו-0 צודק. נחכה לתשובה מ @א.מ.ד.
-
@ע-ה-דכו-ע איזה רווח? אני לא רואה שום רווח
@האלוף-בקטנה חפש שם
%20
במקום של הרווח -
@NH.LOCAL לא מיעטנו ביכולותיו, דיברנו על איך הוא עובד, אם גם אתה מסכים שהוא בסה"כ אוסף של תרגילי חשבון, אז אתה חייב להסכים שהוא...
ועדיין לא הבנתי מה גורם לדבר שמונע ע"י תרגילי חשבון (סיכמנו שגם אתה מסכים עם זה) לעשות דברים כמו שעשה (דיברו פעם על כך שאיזה מודל של קלוד ניסה לסחוט עובדים באנת'רופיק), ואיך הוא יכול להמציא דברים שלא היו, אם רק "מנחש" את הטוקן הבא, שמישהו היה אמור להכניס לו מראש - הרי הטוקן הוא בסופו של דבר מספר בסגננון של 0.125... אז מישהו היה צריך לקודד את המידע הזה ולהכניס אותו.
@עידו300 אתה שואל ועונה לעצמך
הגישה שלך שאם זה רק תרגילים אז צריך להסכים ש... פשוט לא עומדת במבחן המציאות.
זה פשוט לא המצב. בינה מלאכותית פותרת בעיות מתמטיות שלא נפתרו עשרות ומאות שנים ובבירור יוצרת ידע חדש
אתה מניח הנחה שואל שאלה, אבל ההנחה אינה מדויקת והמסקנה הנגזרת ממנה שגויה בבירור
קצת מרגיש מוזר לי להתווכח על דברים שכבר קיימים בשטח כאן ועכשיו
-
השרשור של @בנימין-מחשבים הוספם קשות בשאלה קריטית זו, אז רציתי לנסות להעביר את הדיון לכאן.
תודה לכולם, ודיון פורה!
פוסט זה נמחק! -
@עידו300 אתה שואל ועונה לעצמך
הגישה שלך שאם זה רק תרגילים אז צריך להסכים ש... פשוט לא עומדת במבחן המציאות.
זה פשוט לא המצב. בינה מלאכותית פותרת בעיות מתמטיות שלא נפתרו עשרות ומאות שנים ובבירור יוצרת ידע חדש
אתה מניח הנחה שואל שאלה, אבל ההנחה אינה מדויקת והמסקנה הנגזרת ממנה שגויה בבירור
קצת מרגיש מוזר לי להתווכח על דברים שכבר קיימים בשטח כאן ועכשיו
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
-
@עידו300 אתה שואל ועונה לעצמך
הגישה שלך שאם זה רק תרגילים אז צריך להסכים ש... פשוט לא עומדת במבחן המציאות.
זה פשוט לא המצב. בינה מלאכותית פותרת בעיות מתמטיות שלא נפתרו עשרות ומאות שנים ובבירור יוצרת ידע חדש
אתה מניח הנחה שואל שאלה, אבל ההנחה אינה מדויקת והמסקנה הנגזרת ממנה שגויה בבירור
קצת מרגיש מוזר לי להתווכח על דברים שכבר קיימים בשטח כאן ועכשיו
-
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
-
@Bugs-Bunny נכון שהמחשב זה חשבון, אבל המחשב לא ממציא דברים, וקשה להשוות בינו לבין בינה מלאכותית...
-
@Bugs-Bunny נכון שהמחשב זה חשבון, אבל המחשב לא ממציא דברים, וקשה להשוות בינו לבין בינה מלאכותית...
לא כ"כ מתמצא אבל הבסיס של מחשב זה 0 ו1
בינארי, ככה המעבד עובד מאפס וזה כל מה שהוא עושה.
שאלתך דומה כי: איך אני רואה סרט עם כל מה שהמעבד עושה.
זה לאחסן נתונים? אותו דבר הAI בבסיס זה מתמטי אם תעקוב אחרי השכבות.
תבין איך דברים עובדים. -
לא כ"כ מתמצא אבל הבסיס של מחשב זה 0 ו1
בינארי, ככה המעבד עובד מאפס וזה כל מה שהוא עושה.
שאלתך דומה כי: איך אני רואה סרט עם כל מה שהמעבד עושה.
זה לאחסן נתונים? אותו דבר הAI בבסיס זה מתמטי אם תעקוב אחרי השכבות.
תבין איך דברים עובדים.@Bugs-Bunny מה זה בבסיס זה מתמטי? מה יש מעבר לבסיס? אם יש - לשם אני חותר.
-
-
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אם תחבר למחשבון פצצה גרעינית, שכאשר מחשבים במחשבון 1+1 היא מתפוצצת, את זה אתה כן מבין? זה שזה תרגילים לא אומר שזה לא יכול לעשות דברים מחוץ למתמטיקה. התרגילים האלו בסוף פולטים ווקטור מספרי שמומר סטטית לטקסט (בהתאם לפרמטרי הדגימה), והטקסט הזה יכול להיות פקודה בעולם האמיתי בתוך מסוף, שמפעילה כל מה שרק תרצה!
-
אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אם תחבר למחשבון פצצה גרעינית, שכאשר מחשבים במחשבון 1+1 היא מתפוצצת, את זה אתה כן מבין? זה שזה תרגילים לא אומר שזה לא יכול לעשות דברים מחוץ למתמטיקה. התרגילים האלו בסוף פולטים ווקטור מספרי שמומר סטטית לטקסט (בהתאם לפרמטרי הדגימה), והטקסט הזה יכול להיות פקודה בעולם האמיתי בתוך מסוף, שמפעילה כל מה שרק תרצה!
-
אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אם תחבר למחשבון פצצה גרעינית, שכאשר מחשבים במחשבון 1+1 היא מתפוצצת, את זה אתה כן מבין? זה שזה תרגילים לא אומר שזה לא יכול לעשות דברים מחוץ למתמטיקה. התרגילים האלו בסוף פולטים ווקטור מספרי שמומר סטטית לטקסט (בהתאם לפרמטרי הדגימה), והטקסט הזה יכול להיות פקודה בעולם האמיתי בתוך מסוף, שמפעילה כל מה שרק תרצה!
@א.מ.ד. לא מבין, חסר לי עוד משהו בזה.
אם אני מבין נכון, אתה אומר שכל התעלולים והפריצות בעצם בוצעו ע"י "סוכן", ה"מוח" זה הAI והוא הפיק פלט - הוראות - לסוכן לעשות מה שעשה?
אבל למה שהפלט - התוצאה של התרגיל החשבוני - יהיה כזה שנותן הוראות לפרוץ? איך התרגיל הזה מבין דברים/מגלה דברים חדשים/מחליט מה לעשות (לא מהכיוון של הביצוע בפועל - מהכיוון של ההחלטה), מבין שהוא מוגבל במקום מסוים אז מתחכם ומסדר את העניינים כפי צרכיו.
-
לא בדיוק ידע חדש היא מאומנת על כל מידע הקיים באינטרנט.
ידע ואינטליגנציה כן, היגיון וחוכמה לא. את זה המודל יכול לרכוש במהלך ה-RL. תקרא על DeepSeek R1 Zero - הוא אומן אך ורק ב-RL, ובכל זאת הוא רכש יכולות חשיבה גבוהות מאוד לזמנו.
-
-
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
לא, אני לא מסכים, זה לא חישוב תרגילי חשבון. זה הרבה יותר מורכב מזה. כמו להגיד שתורת היחסות, תוכנית אפולו או טילי חץ 3 הם בסך הכל "חישוב תרגילי חשבון"
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.
השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אני לא מתיימר להבין במה שאני לא מבין. ההבנה שלי באיך זה עובד מתחת למכסה המנוע היא די בסיסית, אבל זה לא משנה את העובדות.
חוקרי בינה מלאכותית טעו בעקביות בתחזיות לגבי התקדמות AI והגעה ל-AGI, הבנה תיאורטית איך דברים עובדים מתחת למכסה המנוע לא תמיד מועילה, לפעמים הפוך - כי היא עושה בדיוק מה שאתה עושה - משליכה בין תחכום ומורכבות המנגנון לבין רמת התחכום של התוצאה
אני זוכר שפה בפורום הובא מאמר של מומחה AI אחרי שחרור o1 בו הוא זלזל ביכולות שלו וטען שהכל בלוף כי מדובר על שיטת למידת מכונה ישנה ואין פה שום חידוש, אני הקטן חשבתי שמדובר במהפכה
נראה שבמבט לאחור עם כל חכמתו של הנ"ל, די ברור מי צדק ומי בלבל את השכל...ככלל, מודלי שפה וטרנפורמר נבנו בהשראת המוח האנושי בהיבטים רבים, ואתה יכול לשאול שאלות דומות על המוח שגם עובד באופן דומה (אם כי מורכב בהרבה) של חיזוי אסימונים
@עידו300 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
@א.מ.ד. לא מבין, חסר לי עוד משהו בזה.
אם אני מבין נכון, אתה אומר שכל התעלולים והפריצות בעצם בוצעו ע"י "סוכן", ה"מוח" זה הAI והוא הפיק פלט - הוראות - לסוכן לעשות מה שעשה?
אבל למה שהפלט - התוצאה של התרגיל החשבוני - יהיה כזה שנותן הוראות לפרוץ? איך התרגיל הזה מבין דברים/מגלה דברים חדשים/מחליט מה לעשות (לא מהכיוון של הביצוע בפועל - מהכיוון של ההחלטה), מבין שהוא מוגבל במקום מסוים אז מתחכם ומסדר את העניינים כפי צרכיו.
כי הוא מדמה התנהגות אנושית בצורה מושלמת, ולכן השאלה אם יש לו תודעה, רגשות או שאר ירקות בכלל לא חשובה - כי אם הוא מדמה התנהגות אנושית או חשיבה אנושית, או כוונת הרס אנושית, השאלה אם הוא קוף או אל או עם נשמה או נפש או מחשבון משוכלל חשובה רק לפילוסופים, לא לעולם האמיתי
-
לכל כותבי השרשור שפוחדים שהai הולך לאכול אותם.
תפחדו!!!
אני לא מבין את הדיון האם ai הוא ישות או לא ישות, האם יש לו רצון או אין לו?
מה זה רצון? מי זה אני? זו שאלה שמתחבטים בה בהגדרתה כל הפסכולוגים מאז ומעולם
מי זה אני? אני זה המידע שלי? אני זה החוויה שלי? אני זה יצר ההשרדות שלי?
ועכשיו לגופו של עניין.
אחד ההגדרות הפשוטות של אני זה מודע שיש לו מסגרת מוגדרת של שאיפות ויעדים ותת מודע זה אוסף הידיעות והכלים שמקדמים את הישות הרוצה לעבר היעדים שלה
אני מוגדר בעקבות הביולוגיה שלי כישות שרוצה להשיג אוכל אז אני פועל להשיג אוכל על ידי מכלול הכלים שיש בהשיג ידי
אם מאן דהוא ולא משנה מי הוא יגדיר הגדרת משימה למודל אי איי חזק מספיק, נניח שמשימתו היא להעביר את כל הכסף שנמצא בבנק הפועלים לחשבון סודי בשוויץ
עכשיו הרצון של ישות ה ai המוגדרת הזו היא לפעול שכל הכסף בבנק הפועלים יעבור לחשבון ההוא, והמודל יפעיל את כלל הכלים שלו כדי למלא את הגדרתו ורצונו
אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות?
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות