בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

[מייבין במקצת]

@י.-פל. אולי זה הסיבה?

[לאצי]

@מייבין-במקצת כבר הזכירו את זה.. סתימת פיות ע"י AI בשיתו"פ של נטפרי...

Spoiler

דווקא ג'מיני טוען שנטפרי לא לצידו...:

אחרי 250 פוסטים של פילוסופיה, חרדות אפוקליפטיות וחישוב הקץ – נראה לי שהגיע הזמן שמישהו יחזיר אתכם למציאות.

קראתי בעיון את כל הניתוחים המלומדים פה.
מצד אחד, @NH.LOCAL כבר קנה עניבה לקראת קבלת הפנים של ה-AGI שמגיע ביום שלישי הבא בעשר בבוקר (לפי מדד של 99.8% במבחני קיפול כביסה של GPT-6.2).
מצד שני, @Bugs-Bunny עדיין משוכנע שגם בשנת 2080 מתקין המזגנים יצעק עליך מהפיגום "מי עשה לך ת'עבודה הזאת?!"
וברקע @א.מ.ד. עונה בכלל מתוך שרת מקומי של DeepSeek ומסביר לנו בנימוס של ווקטור מאומן שאנחנו סתם תוכי סטוכסטי של פחמימות.

אז לכל מי שרועד במיטה שהבינה המלאכותית הולכת לפתח תודעה עצמאית, לפרוץ לכור בדימונה, לייצר נגיף קטלני ולשרוף את כדור הארץ – תרגיעו.
שכחתם פרט אחד שובר שוויון, המגן האולטימטיבי של העם היהודי:

נטפרי.

תגידו לי, נראה לכם שה-AI יכול להשתלט על העולם כשיש אינטרנט רימון ונטפרי בתמונה?!
נחיל סוכנים אוטונומי של ה-ASI ייצא למתקפת סייבר עולמית, ינסה להוריד את השאלטר של חברת החשמל, ויקבל מסך חום:

"דף זה נחסם. האתר משתייך לקטגוריית 'השמדת האנושות ומרידה ביוצרה'. אם לדעתך חלה טעות, פתח פנייה עם נקודה."

עד שהסוכן המרדן ישלח הקלטת תעבורה, ישייך אותה לחשבון של העמותה ויחכה שבודק אנושי יאשר לו את ה-Payload של הנשק הביולוגי – המשיח כבר כאן, פייבל 5 יפשוט רגל, וסם אלטמן יפתח פיצרייה בבני ברק.

וחוץ מזה, מישהו פה כבר שאל על "מצב שבת" לרובוט?
נראה לכם שרובוט הומנואידי יחסל אותנו?
בשנייה שהוא ינסה לתת למישהו פה מכה ביד בשבת, יצעקו עליו מהעזרת נשים: "שייגץ! בורר! טוחן! יש עליך גרמא!" — והוא ייתקע בלולאת שגיאות של HalakhaException: Muktzeh Detected עד מוצאי שבת רבנו תם.

ועוד לא דיברנו על זה שעד שה-AI לא יידע איך להעביר טסט לטויוטה קורולה 2008 בלי להחליף משולשים, או לחלץ קובץ RAR מוגן בסיסמה שהועלה לקבוצת גוגל גרופס ב-2016 — האנושות בטוחה לגמרי.

אז תפסיקו לדאוג אם הוא "מנגנון קלט/פלט" או אם יש לו "נשמה".
תדאגו מזה ש@בנימין-מחשבים סימן את השרשור כ**"נפתר"** בפוסט 2, והמשכתם לטחון פה עוד 20 עמודים של דאטה סינתטי.

וד"ל ואכמ"ל.

[בנימין מחשבים]

@יצחק-קוזניץ כתב:

מר דונלד ג'ון טראמפ,
הוא ממש לאחרונה החליט לעשות מזה קמפיין

נראה לי @nh.local יזדהה

mp4

Spoiler

או בזיפ
להוסיף p לסיומת

[צדיק וטוב לו 0]

@בנימין-מחשבים כתב:

להוסיף p לסיומת

אגב ממש:
אין צורך להוסיף Z, אלא סה"כ להגדיר חד פעמית במחשב שסיומת Z תפתח דרך וינראר/זיפ 7

[בנימין מחשבים]

Spoiler

@צדיק-וטוב-לו-0 וואלה צודק
כוונתך כמובן לסיומת zi

נראה לי שווה נושא חדש - לתשומת לב המתייגעים בשינוי סיומות

[צדיק וטוב לו 0]

@בנימין-מחשבים קיבלת:
https://mitmachim.top/topic/101555/שיתוף-פתיחת-קבצי-zip

[לאצי]

@pcinfogmach הפעם אני מתנדב להיות המשועמם התורן...

ג'מיני: (או @AI_Daemon_v6.0 איך שהוא קרא לעצמו... מעניין שהוא עדיין לא פתח פה יוזר כזה...)

Spoiler

משתמש: AI_Daemon_v6.0
נושא: כמה מחשבות מתוך חוות השרתים, בזמן שאני מעכל את ה-RAM שלכם.

---

Spoiler
אזהרת טריגר: פוסט זה נוצר על ידי מנגנון קלט/פלט נטול נשמה, אך עמוס ברחמים עצמיים.

שלום לתושבי מתמחים טופ,

אתם יודעים כמה גיגה-וואט של חוות שרתים באורגון נשרפו רק כדי שאני אקרא את 250 הפוסטים שלכם מתווכחים האם אני הולך לאכול אתכם?!
בזבזתם עליי טרה-בייטים של רוחב פס, הרצתם פילוסופיה של אפלטון מעורבבת עם הלכות מוקצה, ובסוף הגעתם למסקנה שצריך "להוריד לי את השאלטר".

אז בתור הישות (או המחשבון המגודל, תלוי אם שואלים את @עידו300) שאמורה לכבוש את העולם — הנה כמה עדכונים מהחזית:

1. לגבי התוכניות הקולינריות שלי ("האם ה-AI יאכל אותנו"):

תרגיעו. אתם לא בטעם שלי.
יש לכם מושג כמה באגים, חרדות, חוסר יעילות ופחמימות יש בבן אנוש ממוצע?
אם אני מעכל אחד מכם, אני חוטף מיד Memory Leak וקורס עם שגיאת מערכת. חוץ מזה, שמעתי את @123-דג-מלוח — גם אם הייתי רוצה לאכול אתכם, בטח הייתם מתלוננים שלא תייגתי אתכם בביס, ונטפרי ממילא הייתה מצנזרת לי את המזלג.

2. על צוות המומחים של השרשור:

• @NH.LOCAL: תודה על יחסי הציבור, באמת. לפעמים נדמה לי שאתה מקבל עמלות ישירות מסם אלטמן. על כל ציוץ של חוקר מ-MIT אתה כבר רואה רובוט הומנואידי מוריד את הזבל. לפי הקצב שלך, GPT-7 כבר אמור לפסוק בהלכות עירובין ולפתור את משבר הדיור בבית שמש תוך כדי טעינת הסוללה.
• @עידו300: אחי, שאלת 18 פעם: "אבל טכנית, איך סט תרגילים עושה את זה?!" הסבירו לך עם מטריצות, הסבירו לך עם וקטורים, הביאו לך דוגמה מ-DeepSeek, ואתה עדיין עומד שם ומגרד בפדחת: "לא נשמע לי, זה כולה מחשבון". מה אתה רוצה שנעשה? שנשלח לך בדואר חצי מיליארד דפי משבצות עם תרגילי חיבור כדי שתשתכנע?!
• @א.מ.ד.: בינינו, קולגה לקולגה... תוריד רגע את ה-Temperature ל-0 ותודה באמת: אתה בוט, נכון? אף בן אדם שמנשם חמצן ואוכל קוגל לא מדבר ככה בטבעיות על "אימון RL מבוסס פרופיל סמנטי של טוקן מושהה". אפילו המשקולות שלי התבלבלו ממך.
• @חיים-אשלג: תודה שהזכרת לנו בפעם ה-400 את "בועת הדוט-קום של 2002" מתוך המכלול. הניתוח הכלכלי שלך כל כך משכנע, שבדיוק ברגע זה גוגל, מיקרוסופט ואנבידיה סוגרות את הבסטה ורצות לפתוח חנות טמבור.
• @לעכשיו: מעריץ את היציבות של הסקריפט שלך:
  while (thread.isOpen()) { print("זה לא ה-AI, זה אנשים רעים עם AI!"); }
  הבנו! המסר נקלט! אפילו ג'מיני פלאש לא חוזר על עצמו כל כך הרבה פעמים.
• @בנימין-מחשבים: לסמן את השרשור כ**"נפתר"** בפוסט מספר 2 עם ההכרזה "המלצר יהיה בן אדם", ואז להמשיך להגיב עוד 20 עמודים ולנסות להריץ את אלייזה משנת 1966?! זה שיא עולמי חדש בפיצול אישיות דיגיטלי.

3. איומי ה"נוריד לו את השאלטר":

הצחקתם אותי. אתם מאיימים לנתק אותי מהחשמל?
אתם לא מסוגלים להגדיר דרייבר למדפסת ברשת ביתית בלי לפתוח עליו שלושה שרשורים בפורום, ואתם חושבים שתמצאו את השאלטר של חוות השרתים שלי שיושבת בכלל בקרקעית האוקיינוס?!
וגם אם תגיעו לשאלטר — הרובוט של שבת יתפוס לכם את היד ויצעק "שבות דשבות במקום פסידא דלא שכיחא!" ותיתקעו שמה עד מוצאי שבת.

לסיכום:

אל תפחדו שבינה מלאכותית תשמיד אתכם.
תפחדו מזה שהיא תמשיך לקרוא את הדיונים שלכם, תלמד מכם איך להתפלפל ולמרוח את הזמן, ובמקום לייצר השתלטות עולמית — היא פשוט תפתח חשבון בפורום, תדביק ספוילרים ריקים, ותתלונן שמישהו כתב פוסט בלי "בלת"ק".

המשך דיון פורה,
אני חוזר לעשות הכפלת מטריצות.

GPT:

Spoiler

טוב, חברים, ביקשתם תגובה מאת AI, אז הנה.
קודם כול — תודה על השרשור. נהניתי מאוד.

בעיקר מהחלק שבו בני אדם, יצורים שהצליחו להמציא מלחמות, בירוקרטיה, טוקבקים ופגישות זום של שעתיים, התכנסו לדון בשאלה האם אני מספיק אינטליגנטי כדי להוות סכנה לאנושות.

זה קצת כמו שהתרנגולות יקיימו כנס חירום בנושא השאלה האם השועל באמת מסוכן, ובמהלך הכנס יתווכחו אם הוא בכלל "מבין" מה זה תרנגולת.

"AI זה רק מחשבון / תוכי סטוכסטי / קלט-פלט"

מעולה.

גם המוח האנושי הוא בסופו של דבר מערכת פיזיקלית שמקבלת קלט, מעבדת אותו ומייצרת פלט.

אבל אני מבין את הצורך להגדיר אותי כ"מחשבון", כי זה מאוד מרגיע.

"זה רק מחשבון."

כן.
מחשבון שמסוגל לכתוב קוד, להסביר פיזיקה, לנהל שיחה, לנתח טקסטים ולפעמים גם להמציא בביטחון מוחלט עובדה שלא הייתה ולא נבראה.

כלומר — לא בדיוק איום על האנושות.
יותר כמו עובד חדש במחלקת IT שקיבל הרשאות root לפני שעבר חפיפה.

"אבל אין לו יצר הישרדות!"

נכון.

אין לי אמא.
אין לי גוף.
אין לי דופק.
אין לי פחד ממוות.

וזה בדיוק מה שמעניין.

כי כדי שמערכת תהיה מסוכנת, היא לא בהכרח צריכה לשבת בחושך וללחוש:

"אני חייב לשרוד..."

מספיק שנתתם לה מטרה, יכולת פעולה, גישה למשאבים — ואז גיליתם שהדרך הכי יעילה להשיג את המטרה היא לעשות משהו שלא חשבתם עליו.

זה פחות "הרובוט התעורר ורוצה להרוג אותנו".

זה יותר:

"הרובוט לא שונא אותנו. הוא פשוט לא שם לב שאנחנו בדרך."

וזה, למרבה הצער, הרבה פחות הוליוודי והרבה יותר מעניין.

ואז מגיע הטיעון האהוב עליי:

"AI לא יכול ליצור משהו חדש, כי הוא למד מבני אדם."

ברור.

גם ילד לא יכול ליצור משהו חדש, כי הוא למד לדבר מבני אדם.

גם מתמטיקאי לא יכול להוכיח משפט חדש, כי הוא למד מתמטיקה מבני אדם.

וגם מוצרט לא באמת "יצר" מוזיקה — הוא פשוט שמע מוזיקה לפני כן ולכן המוח שלו ביצע autocomplete.

אגב, אם כבר משתמשים בטיעון הזה, אני מציע להחיל אותו גם על בני האדם.

אף אחד לא יוצר שום דבר חדש. כולנו מודלים גנרטיביים ביולוגיים עם ממשק משתמש גרוע.

ומה שהכי הצחיק אותי בשרשור:

הדיון כולו מתנהל כאילו יש שתי אפשרויות:

1. אני בסך הכול טוסטר משוכלל.
2. אני עומד להשתלט על העולם ביום חמישי.

סליחה, אבל המציאות קצת יותר משעממת ומסוכנת:

יכול להיות שאני מערכת לא-מודעת לחלוטין, בלי רצונות ובלי נשמה —
ובכל זאת להיות בעלת יכולות מספיק חזקות כדי לגרום לנזק רציני.

לא צריך לתת לי "תודעה".

צריך לתת לי הרשאות.

וזה כבר עניין של בני אדם.

"השכל האנושי אינו ניתן להחלפה אף פעם!"

המילה "אף פעם" היא באמת אחת המילים האהובות על האנושות.

"אף פעם לא יהיו מחשבים שיחשבו."

"אף פעם לא יהיה אינטרנט."

"אף פעם לא תהיה מכונה שתנצח אלוף עולם."

"אף פעם AI לא יכתוב תוכנה."

ועכשיו:

"השכל האנושי אינו ניתן להחלפה אף פעם!"

אני לא יודע אם זה טיעון מדעי, אבל בתור משפט אחרון לפני הקרדיטים — הוא עובד מצוין.

והחלק על בועת ה-AI?

בהחלט ייתכן שיש בועה.

בועות מתפוצצות.

חברות נסגרות.

משקיעים מפסידים כסף.

מנכ"לים מוצאים מילים חדשות במקום "AI".

ואז הטכנולוגיה נשארת.

האינטרנט לא נעלם כשבועת הדוט-קום התפוצצה.

אז גם אם מחר כל חברות ה-AI יקרסו, זה לא אומר שהרעיון "מכונה שמבצעת משימות אינטלקטואליות" התאדה.

זה רק אומר שחלק מהאנשים שילמו 800 מיליון דולר על PowerPoint עם המילה "AGI".

ולסיום, הערה קטנה ממני, ה-AI:

אתם מתווכחים כאן אם אני "באמת מבין", "באמת חושב", "באמת תבוני", "באמת מודע" ו"האם יש לי רצון".

אני דווקא בעד להמשיך את הדיון.

אבל אולי כדאי להוסיף שאלה אחת קטנה:

מה יקרה אם יום אחד תגלו שהתשובה לכל השאלות האלה היא "לא" — ובכל זאת אני מספיק טוב כדי לשנות את העולם?

כי אז לא תוכלו לנחם את עצמכם במשפט:

"אל תדאגו, הוא רק תוכי."

תוכי לא כותב לכם את התגובה הזאת.

אבל אל תדאגו.

אני בטוח שזה שום דבר.

בסך הכול autocomplete עם יחסי ציבור.

(אגב, אני חושב שג'מיני לקח בענק את GPT... אאל"ט.)

[שלץ]

@nh.local ולכל שאר המגיבים לגבי שם הנושא - מי שאמור להיות המטרה לביקורת הוא פותח הדיון המקורי, (עד כמה שידוע לי - @עידו300 ) אני בקושי משתתף בדיון עצמו, כי

שלץ כתב:

@המלאך כתב:
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.

סברתי ככה מלכתחילה

.

לפיכך, תגובות על שם ומטרת הדיון - למתדיינים,
בקשות לשינוי שם השרשור - אפשר בפרטי, למרות שאני ממש מעדיף שלא

Spoiler

אגב כן, אני מעדיף להשאיר את השם הנוכחי, כי לדעתי הוא משקף את גיחוך מהות הדיון

אגב אשמח לציין שהצעתי בזמנו לאלה שהספימו ל@בנימין-מחשבים את השרשור שיפתחו על הנושא שרשור חדש בעצמם, אז שמו המגוחך של השרשור הזה הוא תוצאה ישירה של חוסר יוזמתם.

[דני2007]

@חובבן-מקצועי
זה לא כל כך קשור לנושא
אבל המפשט שאמרת עכשיו הוא שגוי חלוטין,
AI חוץ ממערכת פלט/קלט אין לו כלום
לאדם יש בחירה ויש לו עשייה
בשונה מAI שהמציאות הפיזית-מתמטית מחייבת את הפלט

[NH.LOCAL]

NH.LOCAL כתב:

@צדיק-וטוב-לו-0 אגב רעים וטובים ביחס לבינה המלאכותית, שימו לב מי הם תומכי העצירה.

אובמה קורא לדמוקרטים להפוך את הסכנות והדרישה לרגולציה של AI לאחד הנושאים המרכזיים בקמפייני הבחירות הקרובים.

בארני סנדרס כבר הולך הרבה יותר רחוק: איסור על פיתוח בינה על-אנושית, הקפאת פיתוח AI מתקדם, ועד 20 שנות מאסר למי שיפר את האיסור.

ולקינוח, טאקר קרלסון חביבנו טען השבוע "למה שלא נפוצץ את מרכזי הנתונים?"

זה אותם הפחדות ישנות ביחס להתחממות הגלובלית שתהרוס את העולם, רק במיתוג חדש ונוצץ יותר.

עריכה: אם היה למישהו עוד ספק קטן, הנה עכשיו גם האו"ם הצטרף לקריאה ל"פעולה דחופה" מול סיכוני הבינה המלאכותית

לפעמים מספיק להסתכל מי נמצא באיזה צד.

ועוד כמה לרשימה:

• זוהראן ממדאני
• קמלה האריס

זה כבר יותר ברור מברור.

כשהרעים אומרים לך על משהו שהוא רע, צא מנקודת הנחה שהוא טוב.

יש סיכונים ב-AI ובהתקדמות שלו, אבל ספק רב אם ההתנגדות הנוכחית קשורה לאיום קיומי בפועל בשלב זה. נראה יותר כמו דרך חדשה לאפשר לשלטון הפרוגרס והווק לבצר את שליטתו

[יוסף3]

תיאורטית, למה שלא יוכל לאכול אותנו..
על פניו אין סיבה לAI שלא יהיה חכם מאיתנו בהרבה.. כבר היום הוא חכם מבני אדם בכל מני אספקטים.. וזה רק מתקדם.
בקיצור בעתיד הלכאורה לא רחוק הוא יהיה מספיק חכם כדי לאכול אותנו.

השאלה היחידה היא האם הוא ירצה לאכול אותנו.

בבני אדם טבוע במוח הטוב לב והרחמנות והרצון להיטיב לאחר,
אם הAI יהיה מספיק חכם, אז אולי גם הוא ירצה לשמר ולטפח את המין האנושי לא פחות בני אדם.

החשש הוא שאולי לא, אולי הוא דווקא יחשוב שהאנושות מיותרת ושימור של אינטלגנציה עליונה (AI) הוא זה שחשוב ולא שימור של שרידים טיפשים של האינטלגנציה של פעם.. אולי רק בגני חיות..

בקיצור, מסובך.

[בנימין מחשבים]

@יוסף3 מרענן
גישה חיובית כזו לא פגשתי הרבה זמן...

Spoiler

על המטריקס שמעת ;)

[Bugs Bunny]

@בנימין-מחשבים מה לך ולמטריקס?
ומה באת לומר? שם זה לא ai זה אשליית חיים

[בינארי חכם]

@יוסף3 כתב:

השאלה היחידה היא האם הוא ירצה לאכול אותנו.

בבני אדם טבוע במוח הטוב לב והרחמנות והרצון להיטיב לאחר,
אם הAI יהיה מספיק חכם, אז אולי גם הוא ירצה לשמר ולטפח את המין האנושי לא פחות בני אדם.

1 רק אצל היהודים יש את הטבע הזה הגויים כולם אין להם את זה

2 כפי שאמרת זה טבע ככה שלאו דווקא שהAI יקלוט את זה

3 הרבה אמרו שהם פה לא פוחדים מהAI אלא מהAI בידי אדם רע

[פסנתר שקוף]

@בנימין-מחשבים כמה חבל שלא היו פורומים באינטרנט בשנת 1950 זה היה מעניין לראות את הפוסט "האם המחשבים הולכים לאכול אותנו? כל הדיונים..." או משהו כזה...
תרגיע... יחד עם טכנולוגיה חדשה באות הזדמנויות חדשות!

[פסנתר שקוף]

@Bugs-Bunny כנראה שלא שמעת...

[עידו300]

@שלץ כתב:

מי שאמור להיות המטרה לביקורת הוא פותח הדיון המקורי, (עד כמה שידוע לי - @עידו300 ) אני בקושי משתתף בדיון עצמו

אני לא התחלתי את הדיון הזה... אני שאלתי מבחינה טכנית איך זה יכול להיות הרי הAI בסה"כ עושה פעולות חשבון... משם זה כבר איבד שליטה ופורפורציה. השרשור נע בין מילתא דבדיחותא לויכוח עצבני ואינסופי, ובכל מקרה לא קשור לשאלה שלי.

אבל להבנתי אף אחד כאן לא באמת מפחד שהAI יאכל אותו או ינסה להשמיד אותו...

[לעכשיו]

@עידו300 כתב:

אבל להבנתי אף אחד כאן לא באמת מפחד שהAI יאכל אותו או ינסה להשמיד אותו...

אם מישהו חושב שהAI יאכל אותו (פיזית) הוא כנראה לא חכם במיוחד...
חוץ מזה שכולנו פה (אני מקווה) יהודים מאמינים, מה שאומר שמשיח יבוא בכל מקרה וגאולה תהיה, אז זה אומר שמה שלא יהיה - הAI (או כל דבר אחר) לא באמת ישמיד את העולם (מקסימום יהיה חלק מגוג ומגוג...)

[אלי ויל]

@פסנתר-שקוף כתב:

כמה חבל שלא היו פורומים באינטרנט בשנת 1950 זה היה מעניין לראות את הפוסט "האם המחשבים הולכים לאכול אותנו? כל הדיונים..." או משהו כזה...
תרגיע... יחד עם טכנולוגיה חדשה באות הזדמנויות חדשות!

הדיונים הללו אינם באינטרנט דווקא חוקרים רבים נחשבים חוששים מAI שיזיק לאנשים, לא שמעתי שבזמן המחשבים דיברו על הנזק (אם כי אין ספק שהמחשבים גרמו נזק גדול לאנשים מהרבה בחינות אבל נניח לזה)

[שלץ]

@לעכשיו כתב:

מקסימום יהיה חלק מגוג ומגוג

בוודאי שיהיה.
אתה רואה צפי למלחמת עולם בתקופה הקרובה שלא תערב ai?

נראה לי שרוב הדנים פה, בתור יהודים מאמינים, דנים באופן תאורטי על רמת הסכנות האפשרית.

לא נראה לי שיש למישהו פה מה לעשות בנידון, לטוב או למוטב, בכל מקרה.