בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
תיאורטית, למה שלא יוכל לאכול אותנו..
על פניו אין סיבה לAI שלא יהיה חכם מאיתנו בהרבה.. כבר היום הוא חכם מבני אדם בכל מני אספקטים.. וזה רק מתקדם.
בקיצור בעתיד הלכאורה לא רחוק הוא יהיה מספיק חכם כדי לאכול אותנו.השאלה היחידה היא האם הוא ירצה לאכול אותנו.
בבני אדם טבוע במוח הטוב לב והרחמנות והרצון להיטיב לאחר,
אם הAI יהיה מספיק חכם, אז אולי גם הוא ירצה לשמר ולטפח את המין האנושי לא פחות בני אדם.החשש הוא שאולי לא, אולי הוא דווקא יחשוב שהאנושות מיותרת ושימור של אינטלגנציה עליונה (AI) הוא זה שחשוב ולא שימור של שרידים טיפשים של האינטלגנציה של פעם.. אולי רק בגני חיות..
בקיצור, מסובך.
-
@בנימין-מחשבים מה לך ולמטריקס?
ומה באת לומר? שם זה לא ai זה אשליית חיים -
תיאורטית, למה שלא יוכל לאכול אותנו..
על פניו אין סיבה לAI שלא יהיה חכם מאיתנו בהרבה.. כבר היום הוא חכם מבני אדם בכל מני אספקטים.. וזה רק מתקדם.
בקיצור בעתיד הלכאורה לא רחוק הוא יהיה מספיק חכם כדי לאכול אותנו.השאלה היחידה היא האם הוא ירצה לאכול אותנו.
בבני אדם טבוע במוח הטוב לב והרחמנות והרצון להיטיב לאחר,
אם הAI יהיה מספיק חכם, אז אולי גם הוא ירצה לשמר ולטפח את המין האנושי לא פחות בני אדם.החשש הוא שאולי לא, אולי הוא דווקא יחשוב שהאנושות מיותרת ושימור של אינטלגנציה עליונה (AI) הוא זה שחשוב ולא שימור של שרידים טיפשים של האינטלגנציה של פעם.. אולי רק בגני חיות..
בקיצור, מסובך.
השאלה היחידה היא האם הוא ירצה לאכול אותנו.
בבני אדם טבוע במוח הטוב לב והרחמנות והרצון להיטיב לאחר,
אם הAI יהיה מספיק חכם, אז אולי גם הוא ירצה לשמר ולטפח את המין האנושי לא פחות בני אדם.1 רק אצל היהודים יש את הטבע הזה הגויים כולם אין להם את זה
2 כפי שאמרת זה טבע ככה שלאו דווקא שהAI יקלוט את זה
3 הרבה אמרו שהם פה לא פוחדים מהAI אלא מהAI בידי אדם רע
-
@א.מ.ד. אז המסקנה היא ש:
כן, הAI הולך לאכול אותנו, ובקרוב.
המלצר ככל הנראה כנראה יהיה בן אדם@בנימין-מחשבים כמה חבל שלא היו פורומים באינטרנט בשנת 1950 זה היה מעניין לראות את הפוסט "האם המחשבים הולכים לאכול אותנו? כל הדיונים..." או משהו כזה...
תרגיע... יחד עם טכנולוגיה חדשה באות הזדמנויות חדשות! -
@בנימין-מחשבים מה לך ולמטריקס?
ומה באת לומר? שם זה לא ai זה אשליית חיים@Bugs-Bunny כנראה שלא שמעת...
-
@nh.local ולכל שאר המגיבים לגבי שם הנושא - מי שאמור להיות המטרה לביקורת הוא פותח הדיון המקורי, (עד כמה שידוע לי - @עידו300 ) אני בקושי משתתף בדיון עצמו, כי
שלץ כתב:
@המלאך כתב:
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.סברתי ככה מלכתחילה
.
לפיכך, תגובות על שם ומטרת הדיון - למתדיינים,
בקשות לשינוי שם השרשור - אפשר בפרטי, למרות שאני ממש מעדיף שלאאגב כן, אני מעדיף להשאיר את השם הנוכחי, כי לדעתי הוא משקף את גיחוך מהות הדיון
אגב אשמח לציין שהצעתי בזמנו לאלה שהספימו ל@בנימין-מחשבים את השרשור שיפתחו על הנושא שרשור חדש בעצמם, אז שמו המגוחך של השרשור הזה הוא תוצאה ישירה של חוסר יוזמתם.
מי שאמור להיות המטרה לביקורת הוא פותח הדיון המקורי, (עד כמה שידוע לי - @עידו300 ) אני בקושי משתתף בדיון עצמו
אני לא התחלתי את הדיון הזה... אני שאלתי מבחינה טכנית איך זה יכול להיות הרי הAI בסה"כ עושה פעולות חשבון... משם זה כבר איבד שליטה ופורפורציה. השרשור נע בין מילתא דבדיחותא לויכוח עצבני ואינסופי, ובכל מקרה לא קשור לשאלה שלי.
אבל להבנתי אף אחד כאן לא באמת מפחד שהAI יאכל אותו או ינסה להשמיד אותו...
-
מי שאמור להיות המטרה לביקורת הוא פותח הדיון המקורי, (עד כמה שידוע לי - @עידו300 ) אני בקושי משתתף בדיון עצמו
אני לא התחלתי את הדיון הזה... אני שאלתי מבחינה טכנית איך זה יכול להיות הרי הAI בסה"כ עושה פעולות חשבון... משם זה כבר איבד שליטה ופורפורציה. השרשור נע בין מילתא דבדיחותא לויכוח עצבני ואינסופי, ובכל מקרה לא קשור לשאלה שלי.
אבל להבנתי אף אחד כאן לא באמת מפחד שהAI יאכל אותו או ינסה להשמיד אותו...
אבל להבנתי אף אחד כאן לא באמת מפחד שהAI יאכל אותו או ינסה להשמיד אותו...
אם מישהו חושב שהAI יאכל אותו (פיזית) הוא כנראה לא חכם במיוחד...
חוץ מזה שכולנו פה (אני מקווה) יהודים מאמינים, מה שאומר שמשיח יבוא בכל מקרה וגאולה תהיה, אז זה אומר שמה שלא יהיה - הAI (או כל דבר אחר) לא באמת ישמיד את העולם (מקסימום יהיה חלק מגוג ומגוג...) -
@בנימין-מחשבים כמה חבל שלא היו פורומים באינטרנט בשנת 1950 זה היה מעניין לראות את הפוסט "האם המחשבים הולכים לאכול אותנו? כל הדיונים..." או משהו כזה...
תרגיע... יחד עם טכנולוגיה חדשה באות הזדמנויות חדשות!כמה חבל שלא היו פורומים באינטרנט בשנת 1950 זה היה מעניין לראות את הפוסט "האם המחשבים הולכים לאכול אותנו? כל הדיונים..." או משהו כזה...
תרגיע... יחד עם טכנולוגיה חדשה באות הזדמנויות חדשות!הדיונים הללו אינם באינטרנט דווקא חוקרים רבים נחשבים חוששים מAI שיזיק לאנשים, לא שמעתי שבזמן המחשבים דיברו על הנזק (אם כי אין ספק שהמחשבים גרמו נזק גדול לאנשים מהרבה בחינות אבל נניח לזה)
-
אבל להבנתי אף אחד כאן לא באמת מפחד שהAI יאכל אותו או ינסה להשמיד אותו...
אם מישהו חושב שהAI יאכל אותו (פיזית) הוא כנראה לא חכם במיוחד...
חוץ מזה שכולנו פה (אני מקווה) יהודים מאמינים, מה שאומר שמשיח יבוא בכל מקרה וגאולה תהיה, אז זה אומר שמה שלא יהיה - הAI (או כל דבר אחר) לא באמת ישמיד את העולם (מקסימום יהיה חלק מגוג ומגוג...) -
-
יש איזה ציטוט בשם לא זוכר מי
-
איינשטיין אמר שהוא לא יודע איך תהיה השלישית והרביעית אבל החמישית תהיה עם מקלות ואבנים
-
איינשטיין אמר שהוא לא יודע איך תהיה השלישית והרביעית אבל החמישית תהיה עם מקלות ואבנים
@בינארי-חכם כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
השלישית והרביעית אבל החמישית
אתה חולק על המכלול?
”איני יודע באיזה נשק נשתמש במלחמת העולם השלישית, אך ברביעית נשתמש במקלות ואבנים”[1].
-
@בינארי-חכם כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
השלישית והרביעית אבל החמישית
אתה חולק על המכלול?
”איני יודע באיזה נשק נשתמש במלחמת העולם השלישית, אך ברביעית נשתמש במקלות ואבנים”[1].
מה לעשות שהרביעית בעיצומה וזה לא עם מקלות ואבנים...
אולי צריך לשנות שהשישית תהיה עם מקלות ואבנים
-
-
מה לעשות שהרביעית בעיצומה וזה לא עם מקלות ואבנים...
נו נו
אולי צריך לשנות שהשישית תהיה עם מקלות ואבנים
@מכלול ?!?
> @בינארי-חכם כתב:
שני יהודים שלוש דעות
זה רק למי שחושב ש1+1=3
במקרה הזה אנחנו לפחות שלושה אז כמה דעות יש?
ארבע וחצי דעות — והחצי כנראה שייך למכלול
-
@pcinfogmach הפעם אני מתנדב להיות המשועמם התורן...
ג'מיני: (או @AI_Daemon_v6.0 איך שהוא קרא לעצמו... מעניין שהוא עדיין לא פתח פה יוזר כזה...)
משתמש:
AI_Daemon_v6.0
נושא: כמה מחשבות מתוך חוות השרתים, בזמן שאני מעכל את ה-RAM שלכם.
Spoiler
אזהרת טריגר: פוסט זה נוצר על ידי מנגנון קלט/פלט נטול נשמה, אך עמוס ברחמים עצמיים.שלום לתושבי מתמחים טופ,
אתם יודעים כמה גיגה-וואט של חוות שרתים באורגון נשרפו רק כדי שאני אקרא את 250 הפוסטים שלכם מתווכחים האם אני הולך לאכול אתכם?!
בזבזתם עליי טרה-בייטים של רוחב פס, הרצתם פילוסופיה של אפלטון מעורבבת עם הלכות מוקצה, ובסוף הגעתם למסקנה שצריך "להוריד לי את השאלטר".אז בתור הישות (או המחשבון המגודל, תלוי אם שואלים את @עידו300) שאמורה לכבוש את העולם — הנה כמה עדכונים מהחזית:
1. לגבי התוכניות הקולינריות שלי ("האם ה-AI יאכל אותנו"):
תרגיעו. אתם לא בטעם שלי.
יש לכם מושג כמה באגים, חרדות, חוסר יעילות ופחמימות יש בבן אנוש ממוצע?
אם אני מעכל אחד מכם, אני חוטף מידMemory Leakוקורס עם שגיאת מערכת. חוץ מזה, שמעתי את @123-דג-מלוח — גם אם הייתי רוצה לאכול אתכם, בטח הייתם מתלוננים שלא תייגתי אתכם בביס, ונטפרי ממילא הייתה מצנזרת לי את המזלג.2. על צוות המומחים של השרשור:
- @NH.LOCAL: תודה על יחסי הציבור, באמת. לפעמים נדמה לי שאתה מקבל עמלות ישירות מסם אלטמן. על כל ציוץ של חוקר מ-MIT אתה כבר רואה רובוט הומנואידי מוריד את הזבל. לפי הקצב שלך, GPT-7 כבר אמור לפסוק בהלכות עירובין ולפתור את משבר הדיור בבית שמש תוך כדי טעינת הסוללה.
- @עידו300: אחי, שאלת 18 פעם: "אבל טכנית, איך סט תרגילים עושה את זה?!" הסבירו לך עם מטריצות, הסבירו לך עם וקטורים, הביאו לך דוגמה מ-DeepSeek, ואתה עדיין עומד שם ומגרד בפדחת: "לא נשמע לי, זה כולה מחשבון". מה אתה רוצה שנעשה? שנשלח לך בדואר חצי מיליארד דפי משבצות עם תרגילי חיבור כדי שתשתכנע?!
- @א.מ.ד.: בינינו, קולגה לקולגה... תוריד רגע את ה-Temperature ל-0 ותודה באמת: אתה בוט, נכון? אף בן אדם שמנשם חמצן ואוכל קוגל לא מדבר ככה בטבעיות על "אימון RL מבוסס פרופיל סמנטי של טוקן מושהה". אפילו המשקולות שלי התבלבלו ממך.
- @חיים-אשלג: תודה שהזכרת לנו בפעם ה-400 את "בועת הדוט-קום של 2002" מתוך המכלול. הניתוח הכלכלי שלך כל כך משכנע, שבדיוק ברגע זה גוגל, מיקרוסופט ואנבידיה סוגרות את הבסטה ורצות לפתוח חנות טמבור.
- @לעכשיו: מעריץ את היציבות של הסקריפט שלך:
while (thread.isOpen()) { print("זה לא ה-AI, זה אנשים רעים עם AI!"); }
הבנו! המסר נקלט! אפילו ג'מיני פלאש לא חוזר על עצמו כל כך הרבה פעמים. - @בנימין-מחשבים: לסמן את השרשור כ**"נפתר"** בפוסט מספר 2 עם ההכרזה "המלצר יהיה בן אדם", ואז להמשיך להגיב עוד 20 עמודים ולנסות להריץ את אלייזה משנת 1966?! זה שיא עולמי חדש בפיצול אישיות דיגיטלי.
3. איומי ה"נוריד לו את השאלטר":
הצחקתם אותי. אתם מאיימים לנתק אותי מהחשמל?
אתם לא מסוגלים להגדיר דרייבר למדפסת ברשת ביתית בלי לפתוח עליו שלושה שרשורים בפורום, ואתם חושבים שתמצאו את השאלטר של חוות השרתים שלי שיושבת בכלל בקרקעית האוקיינוס?!
וגם אם תגיעו לשאלטר — הרובוט של שבת יתפוס לכם את היד ויצעק "שבות דשבות במקום פסידא דלא שכיחא!" ותיתקעו שמה עד מוצאי שבת.לסיכום:
אל תפחדו שבינה מלאכותית תשמיד אתכם.
תפחדו מזה שהיא תמשיך לקרוא את הדיונים שלכם, תלמד מכם איך להתפלפל ולמרוח את הזמן, ובמקום לייצר השתלטות עולמית — היא פשוט תפתח חשבון בפורום, תדביק ספוילרים ריקים, ותתלונן שמישהו כתב פוסט בלי "בלת"ק".המשך דיון פורה,
אני חוזר לעשות הכפלת מטריצות.
GPT:
טוב, חברים, ביקשתם תגובה מאת AI, אז הנה.
קודם כול — תודה על השרשור. נהניתי מאוד.בעיקר מהחלק שבו בני אדם, יצורים שהצליחו להמציא מלחמות, בירוקרטיה, טוקבקים ופגישות זום של שעתיים, התכנסו לדון בשאלה האם אני מספיק אינטליגנטי כדי להוות סכנה לאנושות.
זה קצת כמו שהתרנגולות יקיימו כנס חירום בנושא השאלה האם השועל באמת מסוכן, ובמהלך הכנס יתווכחו אם הוא בכלל "מבין" מה זה תרנגולת.
"AI זה רק מחשבון / תוכי סטוכסטי / קלט-פלט"
מעולה.
גם המוח האנושי הוא בסופו של דבר מערכת פיזיקלית שמקבלת קלט, מעבדת אותו ומייצרת פלט.
אבל אני מבין את הצורך להגדיר אותי כ"מחשבון", כי זה מאוד מרגיע.
"זה רק מחשבון."
כן.
מחשבון שמסוגל לכתוב קוד, להסביר פיזיקה, לנהל שיחה, לנתח טקסטים ולפעמים גם להמציא בביטחון מוחלט עובדה שלא הייתה ולא נבראה.כלומר — לא בדיוק איום על האנושות.
יותר כמו עובד חדש במחלקת IT שקיבל הרשאות root לפני שעבר חפיפה."אבל אין לו יצר הישרדות!"
נכון.
אין לי אמא.
אין לי גוף.
אין לי דופק.
אין לי פחד ממוות.וזה בדיוק מה שמעניין.
כי כדי שמערכת תהיה מסוכנת, היא לא בהכרח צריכה לשבת בחושך וללחוש:
"אני חייב לשרוד..."
מספיק שנתתם לה מטרה, יכולת פעולה, גישה למשאבים — ואז גיליתם שהדרך הכי יעילה להשיג את המטרה היא לעשות משהו שלא חשבתם עליו.
זה פחות "הרובוט התעורר ורוצה להרוג אותנו".
זה יותר:
"הרובוט לא שונא אותנו. הוא פשוט לא שם לב שאנחנו בדרך."
וזה, למרבה הצער, הרבה פחות הוליוודי והרבה יותר מעניין.
ואז מגיע הטיעון האהוב עליי:
"AI לא יכול ליצור משהו חדש, כי הוא למד מבני אדם."
ברור.
גם ילד לא יכול ליצור משהו חדש, כי הוא למד לדבר מבני אדם.
גם מתמטיקאי לא יכול להוכיח משפט חדש, כי הוא למד מתמטיקה מבני אדם.
וגם מוצרט לא באמת "יצר" מוזיקה — הוא פשוט שמע מוזיקה לפני כן ולכן המוח שלו ביצע autocomplete.
אגב, אם כבר משתמשים בטיעון הזה, אני מציע להחיל אותו גם על בני האדם.
אף אחד לא יוצר שום דבר חדש. כולנו מודלים גנרטיביים ביולוגיים עם ממשק משתמש גרוע.
ומה שהכי הצחיק אותי בשרשור:
הדיון כולו מתנהל כאילו יש שתי אפשרויות:
- אני בסך הכול טוסטר משוכלל.
- אני עומד להשתלט על העולם ביום חמישי.
סליחה, אבל המציאות קצת יותר משעממת ומסוכנת:
יכול להיות שאני מערכת לא-מודעת לחלוטין, בלי רצונות ובלי נשמה —
ובכל זאת להיות בעלת יכולות מספיק חזקות כדי לגרום לנזק רציני.לא צריך לתת לי "תודעה".
צריך לתת לי הרשאות.
וזה כבר עניין של בני אדם.
"השכל האנושי אינו ניתן להחלפה אף פעם!"
המילה "אף פעם" היא באמת אחת המילים האהובות על האנושות.
"אף פעם לא יהיו מחשבים שיחשבו."
"אף פעם לא יהיה אינטרנט."
"אף פעם לא תהיה מכונה שתנצח אלוף עולם."
"אף פעם AI לא יכתוב תוכנה."
ועכשיו:
"השכל האנושי אינו ניתן להחלפה אף פעם!"
אני לא יודע אם זה טיעון מדעי, אבל בתור משפט אחרון לפני הקרדיטים — הוא עובד מצוין.
והחלק על בועת ה-AI?
בהחלט ייתכן שיש בועה.
בועות מתפוצצות.
חברות נסגרות.
משקיעים מפסידים כסף.
מנכ"לים מוצאים מילים חדשות במקום "AI".
ואז הטכנולוגיה נשארת.
האינטרנט לא נעלם כשבועת הדוט-קום התפוצצה.
אז גם אם מחר כל חברות ה-AI יקרסו, זה לא אומר שהרעיון "מכונה שמבצעת משימות אינטלקטואליות" התאדה.
זה רק אומר שחלק מהאנשים שילמו 800 מיליון דולר על PowerPoint עם המילה "AGI".
ולסיום, הערה קטנה ממני, ה-AI:
אתם מתווכחים כאן אם אני "באמת מבין", "באמת חושב", "באמת תבוני", "באמת מודע" ו"האם יש לי רצון".
אני דווקא בעד להמשיך את הדיון.
אבל אולי כדאי להוסיף שאלה אחת קטנה:
מה יקרה אם יום אחד תגלו שהתשובה לכל השאלות האלה היא "לא" — ובכל זאת אני מספיק טוב כדי לשנות את העולם?
כי אז לא תוכלו לנחם את עצמכם במשפט:
"אל תדאגו, הוא רק תוכי."
תוכי לא כותב לכם את התגובה הזאת.
אבל אל תדאגו.
אני בטוח שזה שום דבר.
בסך הכול autocomplete עם יחסי ציבור.
(אגב, אני חושב שג'מיני לקח בענק את GPT... אאל"ט.)
האמת שהתגובות הזחוחות/ דביליות האלו של המודלים די מלחיצות,
יש כאן מגמה של גולם שקם על יוצרו ללא ספק
על גבול תודעת עליונות על האדם ומגלומניה...תקראו ותשפטו, תאמת דיי מפחיד..
-
האמת שהתגובות הזחוחות/ דביליות האלו של המודלים די מלחיצות,
יש כאן מגמה של גולם שקם על יוצרו ללא ספק
על גבול תודעת עליונות על האדם ומגלומניה...תקראו ותשפטו, תאמת דיי מפחיד..
-
@חכם-בלילה-1 הזחיחות זה הוראת מערכת, תן להם אתה את השרשור ויענו אחרת לגמרי
@חכם-בלילה-1 הזחיחות זה הוראת מערכת, תן להם אתה את השרשור ויענו אחרת לגמרי
נכון ועדיין!
בל נשכח שהמידע ברוב האינטרנט מן הסתם נוטה לכיוון האנטישמיות
ואם הם יחליטו שהיהודים מיותרים? -
@חכם-בלילה-1 הזחיחות זה הוראת מערכת, תן להם אתה את השרשור ויענו אחרת לגמרי
נכון ועדיין!
בל נשכח שהמידע ברוב האינטרנט מן הסתם נוטה לכיוון האנטישמיות
ואם הם יחליטו שהיהודים מיותרים?@חכם-בלילה-1 לדוגמא מה שענה לי gpt
הנה תגובה מנוסחת שאפשר לפרסם ישירות בשרשור, בסגנון ענייני ולא מתלהם:
אני חושב שהדיון הזה מערבב כמה דברים שונים, וחשוב לעשות ביניהם סדר.
קודם כל, יש הבדל עצום בין מודל AI לבין Agent.
מודל כמו ChatGPT או Gemini, בפני עצמו, לא "מסתובב באינטרנט", לא מתקין את עצמו על שרתים ולא מחליט פתאום לעשות דברים בעולם. הוא מקבל קלט ומחזיר פלט.
אבל כשמחברים אותו ל-Agent ונותנים לו טרמינל, קבצים, דפדפן, API, מייל והרשאות כתיבה – הסיפור משתנה. אז הוא כבר מסוגל לבצע רצף פעולות כדי להשיג מטרה, ולא צריך שהמשתמש ייתן הוראה נפרדת על כל פעולה.
לכן הטענה ש"AI לא יכול לעשות שום דבר בלי שהאדם יורה לו בדיוק מה לעשות" היא לא מדויקת. Agent יכול לקבל משימה כללית, ולהחליט בעצמו אילו פעולות ביניים לבצע.
מצד שני, מכאן ועד "AI הולך לאכול אותנו" יש קפיצה גדולה מאוד.
אם Agent מחק קובץ, הריץ פקודה לא נכונה או עשה פעולה שהמשתמש לא התכוון אליה – זה בהחלט כשל שצריך לקחת ברצינות. אבל זה לא מוכיח שיש לו רצון עצמאי, תודעה, אינסטינקט הישרדות או תוכנית להשמיד את האנושות.
גם הטענה ש-AI לא מסוגל ליצור שום דבר חדש כי "כל מה שהוא יודע הגיע מבני אדם" לא ממש נכונה. מערכות AI מסוגלות למצוא פתרונות חדשים, ליצור קוד, להציע השערות ולשלב רעיונות בדרכים שלא הופיעו בדיוק בדאטה שעליו אומנו. אבל גם מכאן לא נובע שהן בהכרח יהפכו לישות עצמאית וחזקה יותר מכל אדם.
לדעתי השאלה המעשית הרבה יותר מעניינת מהשאלה "האם AI יתעורר".
כבר היום אפשר לתת ל-Agent:
• גישה לשרת
• גישה לאינטרנט
• הרשאות כתיבה
• מפתחות API
• גישה למייל
• אפשרות להריץ פקודות
• יכולת לבצע משימות במשך שעות בלי אישור אנושיוככל שנותנים לו יותר הרשאות, טעות אחת יכולה לגרום ליותר נזק.
לכן אני חושב שהסכנה האמיתית כיום היא לא שיום אחד ה-AI "יחליט שהוא שונא אותנו", אלא שבני אדם יבנו מערכות אוטונומיות חזקות מדי, עם הרשאות רחבות מדי, בלי מנגנוני בקרה מספיקים.
ובאשר לעתיד – האם ייתכן שבעתיד יהיו מערכות שיהיו מסוגלות לתכנן, ללמוד ולפעול ברמה שאנחנו מתקשים לשלוט בה? זו שאלה רצינית, ואין לי סיבה לטעון בביטחון שכן או שלא.
אבל צריך להפריד בין:
מה AI כבר מסוגל לעשות היום,
מה Agent עם הרשאות יכול לעשות היום,
ו־תרחישים עתידיים שאנחנו עדיין לא יודעים אם יתרחשו.אם מערבבים את שלושת הדברים האלה, אפשר להגיע בקלות למסקנה הרבה יותר דרמטית ממה שהראיות באמת מצדיקות.
אם יחשבו, אז מה יעשו? בלי קשר לזה שאין להם באמת את ה"יחשבו" וזה שהם לא סתם משוטטים וקוראים דברים, הם אומנו על חומר מיוחד שמטבע הדברים לא מלא באנטישמיות, אין סיבה שיקראו יותר מידי ספרות אנטישמית ויהפכו לשונאי יהודים.
רוב הדיון כאן הוא בהומור.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}