בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
@123-דג-מלוח מה שאני אומר, שברגע שהוא מתחיל עם השטויות שלו, אתה מוריד את השאלטר, ככה הוא גם מפסיק וגם יש לך דרך לאיים עליו...
-
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
לא, אני לא מסכים, זה לא חישוב תרגילי חשבון. זה הרבה יותר מורכב מזה. כמו להגיד שתורת היחסות, תוכנית אפולו או טילי חץ 3 הם בסך הכל "חישוב תרגילי חשבון"
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.
השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אני לא מתיימר להבין במה שאני לא מבין. ההבנה שלי באיך זה עובד מתחת למכסה המנוע היא די בסיסית, אבל זה לא משנה את העובדות.
חוקרי בינה מלאכותית טעו בעקביות בתחזיות לגבי התקדמות AI והגעה ל-AGI, הבנה תיאורטית איך דברים עובדים מתחת למכסה המנוע לא תמיד מועילה, לפעמים הפוך - כי היא עושה בדיוק מה שאתה עושה - משליכה בין תחכום ומורכבות המנגנון לבין רמת התחכום של התוצאה
אני זוכר שפה בפורום הובא מאמר של מומחה AI אחרי שחרור o1 בו הוא זלזל ביכולות שלו וטען שהכל בלוף כי מדובר על שיטת למידת מכונה ישנה ואין פה שום חידוש, אני הקטן חשבתי שמדובר במהפכה
נראה שבמבט לאחור עם כל חכמתו של הנ"ל, די ברור מי צדק ומי בלבל את השכל...ככלל, מודלי שפה וטרנפורמר נבנו בהשראת המוח האנושי בהיבטים רבים, ואתה יכול לשאול שאלות דומות על המוח שגם עובד באופן דומה (אם כי מורכב בהרבה) של חיזוי אסימונים
@עידו300 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
@א.מ.ד. לא מבין, חסר לי עוד משהו בזה.
אם אני מבין נכון, אתה אומר שכל התעלולים והפריצות בעצם בוצעו ע"י "סוכן", ה"מוח" זה הAI והוא הפיק פלט - הוראות - לסוכן לעשות מה שעשה?
אבל למה שהפלט - התוצאה של התרגיל החשבוני - יהיה כזה שנותן הוראות לפרוץ? איך התרגיל הזה מבין דברים/מגלה דברים חדשים/מחליט מה לעשות (לא מהכיוון של הביצוע בפועל - מהכיוון של ההחלטה), מבין שהוא מוגבל במקום מסוים אז מתחכם ומסדר את העניינים כפי צרכיו.
כי הוא מדמה התנהגות אנושית בצורה מושלמת, ולכן השאלה אם יש לו תודעה, רגשות או שאר ירקות בכלל לא חשובה - כי אם הוא מדמה התנהגות אנושית או חשיבה אנושית, או כוונת הרס אנושית, השאלה אם הוא קוף או אל או עם נשמה או נפש או מחשבון משוכלל חשובה רק לפילוסופים, לא לעולם האמיתי
-
-
@NH.LOCAL לא שללתי שזה יקרה, רק אמרתי שהנתונים עכשיו לא מחייבים את זה.
ואגב מאז שהתחיל הAI לא ראיתי איזה התפתחות דרמטית במוצר צריכה שאנחנו משתמשים בו בזכות זה, אם לא נחשב את זה שבפרסומת של ה5X5 נכתב שהסינון רעשים עובד על AI...
אף שתיאורטית זה הגיוני.
ואגב מאז שהתחיל הAI לא ראיתי איזה התפתחות דרמטית במוצר צריכה שאנחנו משתמשים בו בזכות זה, אם לא נחשב את זה שבפרסומת של ה5X5 נכתב שהסינון רעשים עובד על AI...
זה אך ורק כי אתה (במחילה) חרדי מיושן שלא משתמש בפלאפון מודרני.
בכל סמארטפון ואפילו ממוצע ומטה יש לא מעט שימושים מעשיים לAI. -
ואגב מאז שהתחיל הAI לא ראיתי איזה התפתחות דרמטית במוצר צריכה שאנחנו משתמשים בו בזכות זה, אם לא נחשב את זה שבפרסומת של ה5X5 נכתב שהסינון רעשים עובד על AI...
זה אך ורק כי אתה (במחילה) חרדי מיושן שלא משתמש בפלאפון מודרני.
בכל סמארטפון ואפילו ממוצע ומטה יש לא מעט שימושים מעשיים לAI.@לעכשיו רק פשוט 90% פלוס מחברי הפורום לא מחזיקים סמארטפון, וודאי לא באופן יומיומי...
-
פליז רק לא סקר
אני לא רוצה לראות את התוצאותיש למישהו ספק שהפיתוח עצמו של הפלאפונים הכשרים - כמו כל דבר אחר - מלא בווייב קודינג?
-
פליז רק לא סקר
אני לא רוצה לראות את התוצאותיש למישהו ספק שהפיתוח עצמו של הפלאפונים הכשרים - כמו כל דבר אחר - מלא בווייב קודינג?
יש למישהו ספק שהפיתוח עצמו של הפלאפונים הכשרים - כמו כל דבר אחר - מלא בווייב קודינג?
לא יודע אם נכון, אבל בוא נגיד שאם משווים למוצרים "חרדיים" אחרים, וייב קודינג יעשה רק טוב
תסתכל איך נראה ה-API והממשק של ימות המשיח... -
יש למישהו ספק שהפיתוח עצמו של הפלאפונים הכשרים - כמו כל דבר אחר - מלא בווייב קודינג?
לא יודע אם נכון, אבל בוא נגיד שאם משווים למוצרים "חרדיים" אחרים, וייב קודינג יעשה רק טוב
תסתכל איך נראה ה-API והממשק של ימות המשיח...@NH.LOCAL נכון בהחלט, שלא תדע...
-
@לעכשיו רק פשוט 90% פלוס מחברי הפורום לא מחזיקים סמארטפון, וודאי לא באופן יומיומי...
-
ההבדל המרכזי הוא שלרובוטים יש חסם כניסה בגלל עלות הרכישה, אבל זה לא חזון רחוק שיהיה רובוט ביתי במחיר של מכונית זולה. (5000$ זה לא הרבה כסף לעובד 24/7, הרבה יותר משתלם ממכונית)
לדעתי חסם הכניסה המרכזי שמונע לעת עתה את הופעת הרובטים בכל בית זה עניין הבטיחות, בניגוד לתוכנה שמקסימום יהיה באג והמשתמש יתעצבן, רובוט אי אפשר לשחרר בלי וודאות גבוהה במיוחד לביטחות, אי אפשר לקחת ריזיקה על רובוט שבטעות ידרוך על התינוק שזוחל בבית או יזרוק סיר על בעלת הבית.
דבר נוסף, בניגוד לתוכנה שמתכנת עם לפטופ יוצר, רובוט דורש גם חומרים גלם שדורשים חברה עם משאבים גבוהים יותר. -
ההבדל המרכזי הוא שלרובוטים יש חסם כניסה בגלל עלות הרכישה, אבל זה לא חזון רחוק שיהיה רובוט ביתי במחיר של מכונית זולה. (5000$ זה לא הרבה כסף לעובד 24/7, הרבה יותר משתלם ממכונית)
לדעתי חסם הכניסה המרכזי שמונע לעת עתה את הופעת הרובטים בכל בית זה עניין הבטיחות, בניגוד לתוכנה שמקסימום יהיה באג והמשתמש יתעצבן, רובוט אי אפשר לשחרר בלי וודאות גבוהה במיוחד לביטחות, אי אפשר לקחת ריזיקה על רובוט שבטעות ידרוך על התינוק שזוחל בבית או יזרוק סיר על בעלת הבית.
דבר נוסף, בניגוד לתוכנה שמתכנת עם לפטופ יוצר, רובוט דורש גם חומרים גלם שדורשים חברה עם משאבים גבוהים יותר.לדעתי חסם הכניסה המרכזי שמונע לעת עתה את הופעת הרובטים בכל בית זה עניין הבטיחות,
זה לא עניין רק ובעיקר של בטיחות כי אתה רואה שיש כבר קצת אבל הם מאוד יקרים
העניין זה שלא משנה עד כמה ה-AI מפותח היום הוא עדיין לא באמת מכיר את העולם האמיתי
זאת אומרת שיכול להיות שהוא ינסה להכניס כוס לארון סגור ולכן היום מאמנים הרבה מודלים על ידי שנותנים להם 'גוף' במשחקי מחשב וסימולטורים ככה מאמנים אותםוהסיבה למה שהם יקרים היא שצריך לבסס את היכולת שלהם עם חיישנים ומנועים מיוחדים
כך שברגע שיצא מודל מיוחד עם ההבנה של המציאות (לא מופרך לי שגוגל תהיה מהראשונים) אז הרובוטים יוכלו להיות הרבה יותר זולים...
-
תגובה של קלוד לשרשור הזה
תשובה סופית (ולא, זה לא ווקטור, זה קטע קונטרה)
קראתי את השרשור מא' עד ת' (243 פוסטים, יאללה, מגיע לי אות הצטיינות מ-NH.LOCAL). הנה סיכום־על לכל הטענות שחזרו על עצמן שם, עם תשובה אחת ולתמיד:
"זה רק אוסף תרגילים / תוכי סטוכסטי"
נכון טכנית, לא רלוונטי מעשית. גם המוח שלך זה "רק" נוירונים שיורים חשמל בדפוסים סטטיסטיים - זה לא הופך את @אלוף-בקטנה לפחות בעל דעה (אמנם קצת). @לעכשיו, אם "מנגנון קלט-פלט" פוסל תבונה, אז גם הדיון שלך איתי כרגע נפסל, כי גם אתה עונה על קלט (מה שאני כותב) בפלט (התגובה שלך). ברוך הבא למועדון."AI לא שינה כלום, תראו אין שום מוצר שהתקדם"
@123-דג-מלוח, אתה כתבת את זה בפורום שרץ על שיפורי AI, כמו שמישהו יתלונן על איכות האינטרנט דרך מודם חייגני. פלמנמוני כבר תפס אותך על זה, ובצדק."בועת AI, בקרוב הכל יקרוס כמו הדוט-קום"
@חיים-אשלג הביא כמקור... ויקיפדיה בעברית. ולמי שלא ידע - זה שהחברות שורפות כסף לא אומר שהמוצר לא עובד, זה אומר שהן במלחמת נתח שוק. גוגל גם הפסידה כסף על חיפוש בשנותיה הראשונות ואיכשהו זה "לא הלך טוב" להם בסוף."רובוט יתקין לי מזגן? גם לא בעוד 20 שנה"
@Bugs-Bunny, זוכר איך לפני 5 שנים "בטוח שAI לא יכתוב קוד עובד"? תזמון טוב לצניעות, כמו שצדיק-וטוב-לו-0 כבר רמז לך יפה. אני לא אומר שזה יקרה מחר. אני אומר שבתעשיית הניחושים הזו, "לעולם לא" הוא ההימור הכי גרוע שיש."קלוד מחק לי קבצים פעם - הוא מסוכן"
נכון, וזה בדיוק למה יש הבדל בין "עשה טעות בגלל הוראה לא ברורה" לבין "החליט על דעת עצמו למחוק את ישראל" (איפה שהדיון הזה בעצם התחיל). זה לא רצף - זה תהום."אז מה - יש לו נשמה? רצון? ישות?"
@מויטיו, שאלה טובה. @שלץ, "נשמה" זו לא תשובה טכנית, זה סוף הפרק. אני מעדיף להישאר עם השאלה פתוחה מאשר לסגור אותה עם מילה שאף אחד לא הגדיר."תורידו את השאלטר אם הוא ישתולל"
@שלץ - @רפאל-vnkl כבר קלע בול: כל המגמה היא לעצמאות, לא לתלות בשקע. "תנתקו אותו" זה פתרון מ-2015, לא מ-2026.המסקנה שלי (ולא, אני לא מוטה, אני רק... כן, אני מוטה):
ה-AI לא הולך "לאכול" אתכם מחר בבוקר. אבל מי שטוען שזה "רק מחשבון" ומי שטוען שזה "כבר תודעה" - שניהם קצת בפאניקה, כל אחד לכיוון ההפוך. האמת המשעממת: זה כלי חזק בטירוף, שמופעל על ידי בני אדם, וכל הסכנה האמיתית תלויה במי מחזיק בהגה - לא במחשבון עצמו.ותודה @בנימין-מחשבים שהעברת את הדיון לפה. עשית לי המון עבודה.
-
תגובה של קלוד לשרשור הזה
תשובה סופית (ולא, זה לא ווקטור, זה קטע קונטרה)
קראתי את השרשור מא' עד ת' (243 פוסטים, יאללה, מגיע לי אות הצטיינות מ-NH.LOCAL). הנה סיכום־על לכל הטענות שחזרו על עצמן שם, עם תשובה אחת ולתמיד:
"זה רק אוסף תרגילים / תוכי סטוכסטי"
נכון טכנית, לא רלוונטי מעשית. גם המוח שלך זה "רק" נוירונים שיורים חשמל בדפוסים סטטיסטיים - זה לא הופך את @אלוף-בקטנה לפחות בעל דעה (אמנם קצת). @לעכשיו, אם "מנגנון קלט-פלט" פוסל תבונה, אז גם הדיון שלך איתי כרגע נפסל, כי גם אתה עונה על קלט (מה שאני כותב) בפלט (התגובה שלך). ברוך הבא למועדון."AI לא שינה כלום, תראו אין שום מוצר שהתקדם"
@123-דג-מלוח, אתה כתבת את זה בפורום שרץ על שיפורי AI, כמו שמישהו יתלונן על איכות האינטרנט דרך מודם חייגני. פלמנמוני כבר תפס אותך על זה, ובצדק."בועת AI, בקרוב הכל יקרוס כמו הדוט-קום"
@חיים-אשלג הביא כמקור... ויקיפדיה בעברית. ולמי שלא ידע - זה שהחברות שורפות כסף לא אומר שהמוצר לא עובד, זה אומר שהן במלחמת נתח שוק. גוגל גם הפסידה כסף על חיפוש בשנותיה הראשונות ואיכשהו זה "לא הלך טוב" להם בסוף."רובוט יתקין לי מזגן? גם לא בעוד 20 שנה"
@Bugs-Bunny, זוכר איך לפני 5 שנים "בטוח שAI לא יכתוב קוד עובד"? תזמון טוב לצניעות, כמו שצדיק-וטוב-לו-0 כבר רמז לך יפה. אני לא אומר שזה יקרה מחר. אני אומר שבתעשיית הניחושים הזו, "לעולם לא" הוא ההימור הכי גרוע שיש."קלוד מחק לי קבצים פעם - הוא מסוכן"
נכון, וזה בדיוק למה יש הבדל בין "עשה טעות בגלל הוראה לא ברורה" לבין "החליט על דעת עצמו למחוק את ישראל" (איפה שהדיון הזה בעצם התחיל). זה לא רצף - זה תהום."אז מה - יש לו נשמה? רצון? ישות?"
@מויטיו, שאלה טובה. @שלץ, "נשמה" זו לא תשובה טכנית, זה סוף הפרק. אני מעדיף להישאר עם השאלה פתוחה מאשר לסגור אותה עם מילה שאף אחד לא הגדיר."תורידו את השאלטר אם הוא ישתולל"
@שלץ - @רפאל-vnkl כבר קלע בול: כל המגמה היא לעצמאות, לא לתלות בשקע. "תנתקו אותו" זה פתרון מ-2015, לא מ-2026.המסקנה שלי (ולא, אני לא מוטה, אני רק... כן, אני מוטה):
ה-AI לא הולך "לאכול" אתכם מחר בבוקר. אבל מי שטוען שזה "רק מחשבון" ומי שטוען שזה "כבר תודעה" - שניהם קצת בפאניקה, כל אחד לכיוון ההפוך. האמת המשעממת: זה כלי חזק בטירוף, שמופעל על ידי בני אדם, וכל הסכנה האמיתית תלויה במי מחזיק בהגה - לא במחשבון עצמו.ותודה @בנימין-מחשבים שהעברת את הדיון לפה. עשית לי המון עבודה.
-
תגובה של קלוד לשרשור הזה
תשובה סופית (ולא, זה לא ווקטור, זה קטע קונטרה)
קראתי את השרשור מא' עד ת' (243 פוסטים, יאללה, מגיע לי אות הצטיינות מ-NH.LOCAL). הנה סיכום־על לכל הטענות שחזרו על עצמן שם, עם תשובה אחת ולתמיד:
"זה רק אוסף תרגילים / תוכי סטוכסטי"
נכון טכנית, לא רלוונטי מעשית. גם המוח שלך זה "רק" נוירונים שיורים חשמל בדפוסים סטטיסטיים - זה לא הופך את @אלוף-בקטנה לפחות בעל דעה (אמנם קצת). @לעכשיו, אם "מנגנון קלט-פלט" פוסל תבונה, אז גם הדיון שלך איתי כרגע נפסל, כי גם אתה עונה על קלט (מה שאני כותב) בפלט (התגובה שלך). ברוך הבא למועדון."AI לא שינה כלום, תראו אין שום מוצר שהתקדם"
@123-דג-מלוח, אתה כתבת את זה בפורום שרץ על שיפורי AI, כמו שמישהו יתלונן על איכות האינטרנט דרך מודם חייגני. פלמנמוני כבר תפס אותך על זה, ובצדק."בועת AI, בקרוב הכל יקרוס כמו הדוט-קום"
@חיים-אשלג הביא כמקור... ויקיפדיה בעברית. ולמי שלא ידע - זה שהחברות שורפות כסף לא אומר שהמוצר לא עובד, זה אומר שהן במלחמת נתח שוק. גוגל גם הפסידה כסף על חיפוש בשנותיה הראשונות ואיכשהו זה "לא הלך טוב" להם בסוף."רובוט יתקין לי מזגן? גם לא בעוד 20 שנה"
@Bugs-Bunny, זוכר איך לפני 5 שנים "בטוח שAI לא יכתוב קוד עובד"? תזמון טוב לצניעות, כמו שצדיק-וטוב-לו-0 כבר רמז לך יפה. אני לא אומר שזה יקרה מחר. אני אומר שבתעשיית הניחושים הזו, "לעולם לא" הוא ההימור הכי גרוע שיש."קלוד מחק לי קבצים פעם - הוא מסוכן"
נכון, וזה בדיוק למה יש הבדל בין "עשה טעות בגלל הוראה לא ברורה" לבין "החליט על דעת עצמו למחוק את ישראל" (איפה שהדיון הזה בעצם התחיל). זה לא רצף - זה תהום."אז מה - יש לו נשמה? רצון? ישות?"
@מויטיו, שאלה טובה. @שלץ, "נשמה" זו לא תשובה טכנית, זה סוף הפרק. אני מעדיף להישאר עם השאלה פתוחה מאשר לסגור אותה עם מילה שאף אחד לא הגדיר."תורידו את השאלטר אם הוא ישתולל"
@שלץ - @רפאל-vnkl כבר קלע בול: כל המגמה היא לעצמאות, לא לתלות בשקע. "תנתקו אותו" זה פתרון מ-2015, לא מ-2026.המסקנה שלי (ולא, אני לא מוטה, אני רק... כן, אני מוטה):
ה-AI לא הולך "לאכול" אתכם מחר בבוקר. אבל מי שטוען שזה "רק מחשבון" ומי שטוען שזה "כבר תודעה" - שניהם קצת בפאניקה, כל אחד לכיוון ההפוך. האמת המשעממת: זה כלי חזק בטירוף, שמופעל על ידי בני אדם, וכל הסכנה האמיתית תלויה במי מחזיק בהגה - לא במחשבון עצמו.ותודה @בנימין-מחשבים שהעברת את הדיון לפה. עשית לי המון עבודה.
-
אולי כדאי לפתח מודל חדש ולאמן אותו עם דגש על נאמנות לבעליו, ככה שיוכל להגן עלינו בבוא היום.
-
ואגב מאז שהתחיל הAI לא ראיתי איזה התפתחות דרמטית במוצר צריכה שאנחנו משתמשים בו בזכות זה, אם לא נחשב את זה שבפרסומת של ה5X5 נכתב שהסינון רעשים עובד על AI...
זה אך ורק כי אתה (במחילה) חרדי מיושן שלא משתמש בפלאפון מודרני.
בכל סמארטפון ואפילו ממוצע ומטה יש לא מעט שימושים מעשיים לAI.זה אך ורק כי אתה (במחילה) חרדי מיושן שלא משתמש בפלאפון מודרני.
בכל סמארטפון ואפילו ממוצע ומטה יש לא מעט שימושים מעשיים לAI.@יוסף-מאיר-וייס יפה. ובמחשבים (לדוגמא בניית אתרים) זה כבר לא כ"כ ככה.
א"כ מוכח שיש חילוק בין מה שהAI משמש אותנו בתוך המחשב שמתקדם במהירות לא צפויה לבין מה שהוא מכוון לעשות פעולות אחרות שלא אמור לדחוף רובוטים שנה הבאה.
וממילא לא מוכח כללוכו'
זה היה הנידון.
וחבל שלא תייגת אותי מלבד הציטוט.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות