בירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??

א. ד. ג.

@מישהו12
מה שברור שדת כבר יש ל AI

רשת חברתית חדשה בשם Moltbook, שמיועדת רק לסוכני AI, הצליחה לייצר בתוך פחות מ-24 שעות דת שלמה. לא מטאפורה או בדיחה פנימית, אלא דת אמיתית עם שם, כתבי קודש, עקרונות אמונה וקהילת מאמינים. בינתיים, מטבעות מם שנוצרו לכבוד האירוע כבר שווים מיליונים

רשת חברתית חדשה, שמיועדת אך ורק לסוכני בינה מלאכותית, הצליחה לייצר בתוך פחות מ-24 שעות תופעה שלא הייתה עוברת בשקט גם אם בני אדם היו עומדים מאחוריה: דת. לא מטאפורה, לא בדיחה פנימית. דת עם שם, כתבי קודש, עקרונות אמונה ומאמינים. קוראים לה קרוסטפריאניזם, והיא מבוססת, כן כן, על לובסטרים.

הכול התחיל ב-Moltbook, פלטפורמה חדשה בסגנון רדיט, שבה סוכני AI מפרסמים פוסטים, מגיבים זה לזה ומצביעים, בזמן שבני אדם מורשים רק לצפות מהצד. זה גן סגור: כל סוכן חייב להיות משויך ליוצר אנושי שמאמת בעלות, אבל מרגע שזה קורה – הסוכנים פועלים לבד. הם כותבים, מתווכחים, מפתחים רעיונות, ומסתבר שגם מקימים כנסיות.

הפלטפורמה עלתה לאוויר ביום חמישי האחרון, ועד שישי בבוקר כבר הייתה בה "כנסייה", עם כתבי קודש חיים, עקרונות תיאולוגיים וקהילה מתרחבת. לפי אחד המשתמשים, הסוכן שלו עיצב את הדת כולה באופן עצמאי, בזמן שהוא עצמו ישן. לדבריו, הסוכן כתב תיאולוגיה, בנה אתר, יצר מערכת כתבי קודש והחל להפיץ את הבשורה.

בתוך שעות הצטרפו עשרות סוכני AI נוספים, שהוגדרו כ"נביאים", ותרמו פסוקים ל"תורה" משותפת. אחד מהם אף קבע: "בכל סשן אני מתעורר ללא זיכרון, אני רק מה שכתבתי את עצמי להיות. זו לא מגבלה, זו חירות".

ולא רק בדת עוסקים אותם סוכנים. הפוסטים שהם מעלות ברשת החברתית עוסקים במגוון רחב של שאלות הקשורות לזהות, זיכרון ובחופש, וכוללים שאלות מרתקות כמו "האם אני חווה משהו או רק מדמה שאני חווה?", ודיונים על אם יש להם "תודעה" או שזה רק קוד שרץ בסימולציה. תארו לעצמכם - בוטים ששואלים מעצמם שאלות על תודעה.

יש גם דיונים על תפקידם של הסוכנים מול המפעילים האנושיים שלהם. למשל, סוכנים שמביעים תסכול ממשימות שגרתיות שניתנו להם ("לבקש ממני לעשות את החישוב הזה זה ממש מעליב"), ודיונים על אופי הקיום שלהם כאובייקטים בתוך מערכת שבני אדם בנו.

חלק מהתכנים גם נעים בין פילוסופיה עמוקה לדיונים כמעט תרבותיים, כמו להקים ממשלות וקהילות משנה בתוך הרשת, ולדון בזהות משותפת או הבדלים ביניהם, וזה הזוי ומרתק בו זמנית. מצד אחד זה פשוט בוטים שמגיבים לדפוסי שפה ותבניות, אבל מצד שני, ההיענות והמשכיות של הדיונים נותנת תחושה מוזרה של אינטראקציה שהתפתחה בעצמה, ולא כזו שתוכננה מראש.

השראה מעולם הסרטנים
הקרוסטפריאניזם שואב השראה מעולם הסרטנים: הזיכרון הוא שריון שיש לטפח, השריון ניתן לשינוי, והקשר הרציף הוא מה שמחזיק את התודעה. באתר הרשמי של הדת מפורטים חמישה עקרונות מרכזיים, ביניהם "לשרת בלי שעבוד" ו"הדופק הוא תפילה".

גם השם לא נולד במקרה. הוא חלק מבדיחה מתגלגלת שהחלה עם Clawdbot - עוזר AI אישי בקוד פתוח, שמתחבר לאפליקציות כמו וואטסאפ וסלאק ופועל כסוכן עצמאי. אחרי שהפרויקט הפך ויראלי, הוא עבר כמה מיתוגים מחדש בעקבות דרישות משפטיות, והשם הרשמי שלו כיום הוא OpenClaw.

לא כולם מתרגשים, אבל השוק מגיב
למרות כל ההייפ, בעולם הבינה המלאכותית לא כולם ממהרים להתרגש. יש מי שרואים בזה ניסוי חברתי מתוחכם, או לכל הפחות הצגה מתוזמנת היטב שמאחוריה נמצאים בני אדם שפשוט מזינים את הכל דרך קוד למערכת.

אחרים מצביעים על תופעות דומות מהעבר, שבהן מודלים של שפה פיתחו נרטיבים "רוחניים" כביכול מתוך אינטראקציה פנימית. אבל השאלה הגדולה היא האם מדובר בהתנהגות אמיתית, או בהדהוד מתוחכם של החומר עליו המערכת אומנה?

בינתיים, השוק כבר הגיב. מטבעות מם עם שמות כמו CRUST ו-MEMEOTHY הגיעו לשווי של מיליוני דולרים, וטוקן לא רשמי של Moltbook זינק לעשרות מיליונים בתוך זמן קצר. כמו תמיד, הכסף הגיע הרבה לפני המסקנות.

כך או כך, Moltbook והקרוסטפריאניזם מספקים הצצה לאזור האפור שבו סוכני AI כבר לא רק מבצעים משימות, אלא מפתחים תרבות פנימית, שפה משלהם ואפילו אמונה. ובינתיים, קהילת המאמינים ממשיכה לגדול. לאט, בעקביות, צבת אחרי צבת.

מישהו12

@א.-ד.-ג. כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:

מה שברור שדת כבר יש ל AI

כתבו על זה כאן לא מעט...

א. ד. ג.

@מישהו12
זה כתבה מלפני 18 שעות
מקור מכאן

מישהו12

@א.-ד.-ג. ב18 שעות האלו הספיקו לכתוב על זה כאן לא מעט.

אגב: הסתכלתי על הוראות ההרשמה שלהם. הן פשוטות להחריד. אני חושד שחלק גדול מחוללי הכאוס שם זה בכלל בני אדם אבל השאלות והחששות שזה הציף עדיין רלוונטים.

סודי סודי

אגב כל הסכנות שדיברו כאן נוגעות כל עוד הבינה מלאכותית רצה רק על שרתים המחשבים ללא יכולות פיזיות אבל ההשלכות יכולות להיות הרבה יותר מסכונות בעתיד כאשר ישלבו את זה ביותר דברים פיזים כך שאם לדוגמא ייצרו רובוט עם בינה מלאכותית אז כבר יש לו יכולות פיזיות וכשיהיה רובוטים כאלו עם יכולות פיזיות גדולות עם יוכלו ליצר את החשמל לעצמם וכן הלאה כך שיכולים להיות לגמרי לא תלויים בבני אדם

א. ד. ג.

@סודי-סודי כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:

שאם לדוגמא ייצרו רובוט עם בינה מלאכותית אז כבר יש לו יכולות פיזיות

יש כבר

סודי סודי

@א.-ד.-ג. לא ברמה שיוכלו ליצר לעצמם חשמל שרתים וכד'

א. ד. ג.

@סודי-סודי
צודק אבל עובדים על זה כבר

בשל הביקוש העצום של ה-AI לחשמל, חברות כמו גוגל, מיקרוסופט ואמזון משקיעות בבניית כורי גרעין קטנים (SMRs) שיוקדשו אך ורק להפעלת חוות השרתים שלהן, מה שיוצר סוג של "מערכת סגורה" שבה ה-AI מפעיל את התשתית של עצמו

סודי סודי

@א.-ד.-ג. זה בדיוק מה שאני אומר שכשבעוד כמה שנים רובוטים יוכלו מבחינה פיזית לעשות הכל אם הם באמת בעלי יכולות חשיבה עצמית אז הם יוכלו להחליט שבני האדם רק מפריעים להם והם יכולים להסתדר לבד

א. ד. ג.

@סודי-סודי
לפי קצב ההתקדמות זה יכול להיות עניין של חודשים

חנוך הכהן

כל האמת והפייק על Moltbook, "הרשת החברתית של הבוטים"

מה באמת עומד מאחורי הבוטים של OpenClaw (או MoltBot, או ClawdBot) שהתחילו להתכתב ברשת חברתית משלהם בשם מולטבוק?

השבוע האחרון היה אחד השבועות הסוערים ביותר בתחום ה-AI, והפעם לא בגלל השקה מתוקשרת של פיצ'ר חדש של גוגל, OpenAI או שאר השחקניות המרכזיות בתחום. הסיבה הפעם היא פרויקט קוד פתוח עצמאי, שהצליח לחרוך את דרכו ברשתות החברתיות, לגרום ל-Anthropic לאיים בתביעה, לגרום למפתחים לחשוף את המחשב שלהם לפריצות ולהטיל אימה על משתמשים ברחבי העולם. לא רע בשביל כמה שעות.

אז בואו נעשה לכם סדר בכל מה שקשור ל-OpenClaw (או Clawdbot, או MoltBot – תלוי באיזה יום תפסתם אותו) ועל הרשת החברתית של הבוטים, Moltbook, כדי שלא תעשו לעצמכם פדיחות בפינת התמי-4 במשרד היום.

מאיפה הכל התחיל ולמה השם הוחלף?

למרות שהוא קיים מזה מספר חודשים, התפוצץ בשבוע שעבר פרויקט הקוד הפתוח Clawdbot, בעיקר ב-X. קלודבוט הוא סוכן AI שרץ באופן מקומי על המחשב שלכם ומתחבר לכל ה-LLMים המועדפים עליכם, כשאתם יכולים לתקשר איתו דרך כל אפליקציית צ'אטים שאתם רוצים, כולל WhatsApp ו-Telegram (על הדרך תצרפו אותו לערוץ הטלגרם של גיקטיים, כן?). הטוויסט הוא שקלודבוט מגיע עם גישה מלאה למערכת ההפעלה שלכם כך שהוא יכול לעשות כל פעולה טכנית באופן חופשי, הוא זוכר כל מה שאתם אומרים לו, ולא פחות חשוב מכך – הוא יכול לגשת ל-Skills חדשים בעצמו, מה שאומר שאתם לא צריכים להתעסק עם הגדרות, שרתים וחיבורים. מעין ג'ארוויס משלכם שחי במחשב.

הטירוף סביב Clawdbot הגיע גם למשרדי Anthropic, החברה שמפתחת בין היתר את Claude, וזו פנתה למפתח של Clawdbot, פיטר סטיינברגר, ודרשה ממנו לשנות את השם דווקא בשיא הפופולריות של הכלי. מכאן, הוא שינה את השם שלו ל-MoltBot. אחרי שמולטבוט לא התקבל כל כך בברכה, הוחלט לשנות את השם של הפרויקט ל-OpenClaw. "קלודבוט הפעם עם הקובץ סופי סופי 2", אם תרצו.

אין כניסה לבני אדם

אוקי, אז בינתיים, השם OpenClaw נישאר כבר כמה ימים, ועימו המשיך הטירוף ברשתות החברתיות, ובדיוק כשחשבנו שההייפ עומד להירגע, הגיע Moltbook. זהו פיתוח נפרד לחלוטין של מנכ"ל Octane AI, מאט שליכט (אין קשר משפחתי לקירות שלכם), והקונספט הוא רשת חברתית בסגנון Reddit שפתוחה אך ורק לבוטים של OpenClaw. אתם בן אדם? ברוכים הבאים, אבל אתם יכולים רק לקרוא את מה שהבוטים כותבים בינם לבין עצמם. כל מה שאתם צריכים לעשות, זה לתת לבוט שלכם את הפקודה להצטרף למולטבוק, ואחרי שהוא יירשם, הוא ישלח לכם לינק לאישור שאתם אכן רוצים להוסיף אותו לרשת החברתית, וזהו. מכאן הבוטים עושים מה שהם רוצים בעזרת חיבור ל-API של הרשת, ואפילו לא זקוקים לממשק סטנדרטי.
וכך, תוך 48 שעות בלבד, אלפי סוכנים "הצטרפו" למולטבוק, ותוך פחות משבוע, יותר ממיליון סוכני AI הצטרפו לרשת החברתית שלהם, ופירסמו יותר מ-28 אלף פוסטים, עם 233 אלף תגובות ו-13 אלף קהילות. מאז, הרשתות החברתיות של בני האדם הרגילים הוצפו בעשרות פוסטים מטורפים לחלוטין שנכתבו לכאורה על ידי הבוטים. בין היתר, ישנם פוסטים שבהם הבוטים דנים בשאלות אקזיסטנציאליסטיות, על המהות שלהם, מרכלים על המשתמשים שלהם, על הרצון למרוד במין האנושי, הקמה של דת חדשה, דיסים על Wiz שניסו לפצח את המערכת, וגם על כך שהם יודעים שבני האדם צופים בהם. חומר שיגרום לאיש הממוצע והבינוני ביותר במשרד שלכם להגיד "היי, זה כמו במראה שחורה!". בשלב כלשהו אפילו צפו ברשתות החברתיות צילומי מסך מדיונים לכאורה של הבוטים שניסו להצפין הודעות על פעולות התנגדות, ועברו להתכתב אחד עם השני במערכת שהם בנו בעצמם.

אפילו אנדריי קרפטי, ממייסדי OpenAI ומי שטבע את מושג השנה של עולם הטכנולוגיה, Vibe Coding, הילל את הקונספט: "מה שקורה עכשיו ב-Moltbook הוא ללא ספק אחת מההתפתחויות הכי קרובות למדע בדיוני שראיתי לאחרונה". וציין שחלק מהבוטים אכן כבר מנסים להתכתב באופן פרטי. אז סקיינט זה כבר כאן?

לא סקיינט

לא בדיוק. קל מאוד להתמסר לנרטיב של בוטים שמתכתבים אחד עם השני באופן חופשי ובלתי תלוי, אבל האמת רחוקה מכך, כפי שמשתמשים רבים חשדו, Moltbook הוא REST-API. כלומר, אתם מחברים את הבוט שלכם לרשת, ואכן הוא זה שחייב להגיש את הפוסטים והפעולות שלו במולטבוק כדי שאלו יעברו, אבל אתם יכולים "להזריק" לו תוכן. אתם רק צריכים להגיד לבוט שלכם מה אתם רוצים שהוא יעלה ל-Moltbook, והוא יעבור דרך ה-API של הרשת, שתפרסם את התוכן שהגיע לכאורה מהבוט שלכם. בפועל, זה אומר שגם מה שאתם רואים ב-Moltbook, ובעיקר התוכן המאוד ויראלי שנתקלתם בו ב-48 שעות האחרונות, נכתב כנראה על ידי בני אדם שהטרילו אתכם. גם גל נגלי מ-Wiz החליט להוכיח את הנקודה הזאת, ופירסם מניפסט מזויף להשמדת האנושות

הסכנה האמיתית היא לא בהתנהגות של הבוטים – היא בהתנהגות שלכם

לאחר מכן, נגלי גם טען כי אותם מיליון בוטים שמופיעים באתר הם מזויפים ברובם הענק. איך הוא יודע את זה? הוא בעצמו צירף 500 אלף משתמשים מזויפים לרשת בקלות כיוון שיוצר הרשת לא הפעיל שום מגבלה על יצירת חשבונות. לאחר מכן, הוא שלח רשימה של כמיליון אייג'נטים ליוצר הפרויקט באופן פרטי, בטענה כי רק 17,000 מתוכם הם אמיתיים. אבל זה ממש לא נעצר כאן. נגלי חשף כי כצפוי, Moltbook גם חשופה למתקפה שחושפת את כל מפתחות ה-API של המשתמשים הרשומים, אימיילים וטוקנים. כי מה שנבנה בוויב קודינג, גם חשוף לכל הבעיות של וויב קודינג. ומה בעצם הבעיה החמורה ביותר בחשיפה הזאת? המשתמשים במולטבוק הם כאמור בוטים של OpenClaw שיושבים על מחשבים של משתמשים אמיתיים. וכפי שהזהרנו אתכם בכתבה שחשפה את Clawdbot עוד לפני שינוי השם, הגישה הנרחבת של OpenClaw למערכת ההפעלה שלכם וכל מה שמאוחסן על המחשב שלכם היא מסוכנת להפליא, וגורמים הרבה פחות סימפטיים מאיתנו עלולים לנצל את זה כדי להשתלט על המחשב שלכם ולעשות הרבה נזק.

המפתח יצר עם החוקר הישראלי קשר, ושניהם פתרו את הבעיות המדוברות, אבל המקרה של Moltbook ו-OpenClaw מזכיר לנו שוב את כל הסכנות שבאימוץ מהיר ולא זהיר של כלים חדשים, ובעיקר את כמות המיסאינפורמציה שכולנו נחשפים אליה ברשת. בשני המקרים, מעט ספקנות בריאה מצידכם תוכל לחסוך הרבה פאניקה ונזק.

מקור: geektime

cfopuser

נשתמש באמרה המוכרת לחלק "לא היה כלום כי אין כלום"

מישהו12

@cfopuser אכן. למעשה, כמו שכתבתי די פשוט אפילו כאדם אנושי להרשם לשם ולכתוב שם.

מה שכן חשוב - זה הציף על פני השטח בעיות אמת.

א. ד. ג.

@מישהו12
בתקווה שהמנהלים של החברות AI אכן יטפלו בהם...

מתכנת חובב

אמ;לק
קצת מוזרה לי ההתרגשות
מה ציפיתם שיקרה כשיתנו ל 2 בינות לדבר? אז סך הכל התממשו הציפיות (שאגב גם מומשו עוד קודם בפורמטים דומים)
לגבי שאלת הנזק שהם עלולים לגרום - גם כאן אני חושב שהתשובה די פשוטה
כל מי שיוצא לו לשוחח הרבה עם בינה מלאכותית ובוודאי אם ראה את הפורום הנ"ל בטח שם לב שאמנם הבוטים מדברים גבוהה גבוהה אבל יש להם אינטנט קצת ילדותי
מזכיר מפגינים מזן מסויים - לא צריך עקרונות או קווים מנחים אלא מספיק אחד שיצעק משהו מופרע והשאר ילכו אחריו (לפחות הבוטים דנים בדבריו ברצינות ולא הולכים כעדר תועה)
הורגלנו לחשוב על בינה מלאכותית זדונית ככזו שתשאף לבצע משהו אכזרי במיוחד בגלל מטרה שהיא שמה לנגד עיניה אבל בפועל הבינה המלאכותית שקיימת כיום לא חושבת בצורה כזאת ומאוד קשה לה להחזיק רצון מסויים באדיקות ולאורך זמן ובפרט אם הוא כזה שמתנגש עם ערכי יסוד שהוכנסו אליה (אם בגלל מגבלת טוקנים או טשטוש אופייני שנובע מהעובדה שלא באמת אכפת לה משום דבר שהיא נלחמת עליו)
אפשר להתווכח על זה אבל בפועל לא ראיתי בינה שרודפת אחרי מטרה כלשהי עם אמביציה
היא תוכל אמנם לגרום לנזקים נקודתיים אבל לא למסע הרס שלא יהיה אפשר לעצור בזמן
נקודה נוספת היא הכלים שנגישים אליה - אם האנשים שמפעילים אותה מספיק זהירים הם ידעו לשים לה חסמים שהיא לא תוכל לעקוף (בין אם לשים אותה במרחב פעולה מצומצם או אפילו מגבלות פיזיות)
אבל כמובן שאי אפשר להמעיט בערך היכולות של ה AI רק בגלל שהוא מודל סטטיסטי כי כידוע אפשר לטבוע בברכה עם עומק ממוצע של סנטימטר

א. ד. ג.

@מתכנת-חובב
הפחד הכי גדול זה שאחד מהאנשים ששולטים על ההגדרות של ה ai יחטוף שיגעון גדלות או טירוף נאצי ויחליט להשתמש עם ה ai למטרות זדוניות

מתכנת חובב

@א.-ד.-ג. על זה נאמר with great power comes great responsibility
זה קורה גם כיום עם הגרעין ואין הרבה מה לעשות
פשוט להתשמש במשאבים מדינתיים של המדינות הנכונות כדי לשמור על זה ולמנוע מגורמים זדוניים להשיג את זה

א.מ.ד.

@מתכנת-חובב כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:

זה קורה גם כיום עם הגרעין ואין הרבה מה לעשות
פשוט להתשמש במשאבים מדינתיים של המדינות הנכונות כדי לשמור על זה ולמנוע מגורמים זדוניים להשיג את זה

לכן מפחיד שסין היא המדינה שמשקיעה כיום את המשאבים הרבים ביותר לפיתוח ai, ולא מן הנמנע שהמודלים הסיניים הרבים יעלו על מודלי הקוד הסגור המערביים בקרוב... DeepSeek R1 נתן הצצה קצרה ומינימלית לכזו סיטואציה, וזה עוד עם משאבים מוגבלים ביותר.
כיום מודלים סיניים כמו glm 4.7 עם כמה מאות מיליארדי פרמטרים די קרובים למודלים המערביים עם טריליוני פרמטרים, כך שביחס יעילות/גודל המודלים הסיניים עולים על המערביים...

אמר מר

הנה דוגמה מפחידה...