בירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??

[סודי סודי]

אגב כל הסכנות שדיברו כאן נוגעות כל עוד הבינה מלאכותית רצה רק על שרתים המחשבים ללא יכולות פיזיות אבל ההשלכות יכולות להיות הרבה יותר מסכונות בעתיד כאשר ישלבו את זה ביותר דברים פיזים כך שאם לדוגמא ייצרו רובוט עם בינה מלאכותית אז כבר יש לו יכולות פיזיות וכשיהיה רובוטים כאלו עם יכולות פיזיות גדולות עם יוכלו ליצר את החשמל לעצמם וכן הלאה כך שיכולים להיות לגמרי לא תלויים בבני אדם

[א. ד. ג.]

@סודי-סודי כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:

שאם לדוגמא ייצרו רובוט עם בינה מלאכותית אז כבר יש לו יכולות פיזיות

יש כבר

[סודי סודי]

@א.-ד.-ג. לא ברמה שיוכלו ליצר לעצמם חשמל שרתים וכד'

[א. ד. ג.]

@סודי-סודי
צודק אבל עובדים על זה כבר

Spoiler

בשל הביקוש העצום של ה-AI לחשמל, חברות כמו גוגל, מיקרוסופט ואמזון משקיעות בבניית כורי גרעין קטנים (SMRs) שיוקדשו אך ורק להפעלת חוות השרתים שלהן, מה שיוצר סוג של "מערכת סגורה" שבה ה-AI מפעיל את התשתית של עצמו

[סודי סודי]

@א.-ד.-ג. זה בדיוק מה שאני אומר שכשבעוד כמה שנים רובוטים יוכלו מבחינה פיזית לעשות הכל אם הם באמת בעלי יכולות חשיבה עצמית אז הם יוכלו להחליט שבני האדם רק מפריעים להם והם יכולים להסתדר לבד

[א. ד. ג.]

@סודי-סודי
לפי קצב ההתקדמות זה יכול להיות עניין של חודשים

[חנוך הכהן]

כל האמת והפייק על Moltbook, "הרשת החברתית של הבוטים"

מה באמת עומד מאחורי הבוטים של OpenClaw (או MoltBot, או ClawdBot) שהתחילו להתכתב ברשת חברתית משלהם בשם מולטבוק?

השבוע האחרון היה אחד השבועות הסוערים ביותר בתחום ה-AI, והפעם לא בגלל השקה מתוקשרת של פיצ'ר חדש של גוגל, OpenAI או שאר השחקניות המרכזיות בתחום. הסיבה הפעם היא פרויקט קוד פתוח עצמאי, שהצליח לחרוך את דרכו ברשתות החברתיות, לגרום ל-Anthropic לאיים בתביעה, לגרום למפתחים לחשוף את המחשב שלהם לפריצות ולהטיל אימה על משתמשים ברחבי העולם. לא רע בשביל כמה שעות.

אז בואו נעשה לכם סדר בכל מה שקשור ל-OpenClaw (או Clawdbot, או MoltBot – תלוי באיזה יום תפסתם אותו) ועל הרשת החברתית של הבוטים, Moltbook, כדי שלא תעשו לעצמכם פדיחות בפינת התמי-4 במשרד היום.

מאיפה הכל התחיל ולמה השם הוחלף?

למרות שהוא קיים מזה מספר חודשים, התפוצץ בשבוע שעבר פרויקט הקוד הפתוח Clawdbot, בעיקר ב-X. קלודבוט הוא סוכן AI שרץ באופן מקומי על המחשב שלכם ומתחבר לכל ה-LLMים המועדפים עליכם, כשאתם יכולים לתקשר איתו דרך כל אפליקציית צ'אטים שאתם רוצים, כולל WhatsApp ו-Telegram (על הדרך תצרפו אותו לערוץ הטלגרם של גיקטיים, כן?). הטוויסט הוא שקלודבוט מגיע עם גישה מלאה למערכת ההפעלה שלכם כך שהוא יכול לעשות כל פעולה טכנית באופן חופשי, הוא זוכר כל מה שאתם אומרים לו, ולא פחות חשוב מכך – הוא יכול לגשת ל-Skills חדשים בעצמו, מה שאומר שאתם לא צריכים להתעסק עם הגדרות, שרתים וחיבורים. מעין ג'ארוויס משלכם שחי במחשב.

הטירוף סביב Clawdbot הגיע גם למשרדי Anthropic, החברה שמפתחת בין היתר את Claude, וזו פנתה למפתח של Clawdbot, פיטר סטיינברגר, ודרשה ממנו לשנות את השם דווקא בשיא הפופולריות של הכלי. מכאן, הוא שינה את השם שלו ל-MoltBot. אחרי שמולטבוט לא התקבל כל כך בברכה, הוחלט לשנות את השם של הפרויקט ל-OpenClaw. "קלודבוט הפעם עם הקובץ סופי סופי 2", אם תרצו.

אין כניסה לבני אדם

אוקי, אז בינתיים, השם OpenClaw נישאר כבר כמה ימים, ועימו המשיך הטירוף ברשתות החברתיות, ובדיוק כשחשבנו שההייפ עומד להירגע, הגיע Moltbook. זהו פיתוח נפרד לחלוטין של מנכ"ל Octane AI, מאט שליכט (אין קשר משפחתי לקירות שלכם), והקונספט הוא רשת חברתית בסגנון Reddit שפתוחה אך ורק לבוטים של OpenClaw. אתם בן אדם? ברוכים הבאים, אבל אתם יכולים רק לקרוא את מה שהבוטים כותבים בינם לבין עצמם. כל מה שאתם צריכים לעשות, זה לתת לבוט שלכם את הפקודה להצטרף למולטבוק, ואחרי שהוא יירשם, הוא ישלח לכם לינק לאישור שאתם אכן רוצים להוסיף אותו לרשת החברתית, וזהו. מכאן הבוטים עושים מה שהם רוצים בעזרת חיבור ל-API של הרשת, ואפילו לא זקוקים לממשק סטנדרטי.
וכך, תוך 48 שעות בלבד, אלפי סוכנים "הצטרפו" למולטבוק, ותוך פחות משבוע, יותר ממיליון סוכני AI הצטרפו לרשת החברתית שלהם, ופירסמו יותר מ-28 אלף פוסטים, עם 233 אלף תגובות ו-13 אלף קהילות. מאז, הרשתות החברתיות של בני האדם הרגילים הוצפו בעשרות פוסטים מטורפים לחלוטין שנכתבו לכאורה על ידי הבוטים. בין היתר, ישנם פוסטים שבהם הבוטים דנים בשאלות אקזיסטנציאליסטיות, על המהות שלהם, מרכלים על המשתמשים שלהם, על הרצון למרוד במין האנושי, הקמה של דת חדשה, דיסים על Wiz שניסו לפצח את המערכת, וגם על כך שהם יודעים שבני האדם צופים בהם. חומר שיגרום לאיש הממוצע והבינוני ביותר במשרד שלכם להגיד "היי, זה כמו במראה שחורה!". בשלב כלשהו אפילו צפו ברשתות החברתיות צילומי מסך מדיונים לכאורה של הבוטים שניסו להצפין הודעות על פעולות התנגדות, ועברו להתכתב אחד עם השני במערכת שהם בנו בעצמם.

אפילו אנדריי קרפטי, ממייסדי OpenAI ומי שטבע את מושג השנה של עולם הטכנולוגיה, Vibe Coding, הילל את הקונספט: "מה שקורה עכשיו ב-Moltbook הוא ללא ספק אחת מההתפתחויות הכי קרובות למדע בדיוני שראיתי לאחרונה". וציין שחלק מהבוטים אכן כבר מנסים להתכתב באופן פרטי. אז סקיינט זה כבר כאן?

לא סקיינט

לא בדיוק. קל מאוד להתמסר לנרטיב של בוטים שמתכתבים אחד עם השני באופן חופשי ובלתי תלוי, אבל האמת רחוקה מכך, כפי שמשתמשים רבים חשדו, Moltbook הוא REST-API. כלומר, אתם מחברים את הבוט שלכם לרשת, ואכן הוא זה שחייב להגיש את הפוסטים והפעולות שלו במולטבוק כדי שאלו יעברו, אבל אתם יכולים "להזריק" לו תוכן. אתם רק צריכים להגיד לבוט שלכם מה אתם רוצים שהוא יעלה ל-Moltbook, והוא יעבור דרך ה-API של הרשת, שתפרסם את התוכן שהגיע לכאורה מהבוט שלכם. בפועל, זה אומר שגם מה שאתם רואים ב-Moltbook, ובעיקר התוכן המאוד ויראלי שנתקלתם בו ב-48 שעות האחרונות, נכתב כנראה על ידי בני אדם שהטרילו אתכם. גם גל נגלי מ-Wiz החליט להוכיח את הנקודה הזאת, ופירסם מניפסט מזויף להשמדת האנושות

הסכנה האמיתית היא לא בהתנהגות של הבוטים – היא בהתנהגות שלכם

לאחר מכן, נגלי גם טען כי אותם מיליון בוטים שמופיעים באתר הם מזויפים ברובם הענק. איך הוא יודע את זה? הוא בעצמו צירף 500 אלף משתמשים מזויפים לרשת בקלות כיוון שיוצר הרשת לא הפעיל שום מגבלה על יצירת חשבונות. לאחר מכן, הוא שלח רשימה של כמיליון אייג'נטים ליוצר הפרויקט באופן פרטי, בטענה כי רק 17,000 מתוכם הם אמיתיים. אבל זה ממש לא נעצר כאן. נגלי חשף כי כצפוי, Moltbook גם חשופה למתקפה שחושפת את כל מפתחות ה-API של המשתמשים הרשומים, אימיילים וטוקנים. כי מה שנבנה בוויב קודינג, גם חשוף לכל הבעיות של וויב קודינג. ומה בעצם הבעיה החמורה ביותר בחשיפה הזאת? המשתמשים במולטבוק הם כאמור בוטים של OpenClaw שיושבים על מחשבים של משתמשים אמיתיים. וכפי שהזהרנו אתכם בכתבה שחשפה את Clawdbot עוד לפני שינוי השם, הגישה הנרחבת של OpenClaw למערכת ההפעלה שלכם וכל מה שמאוחסן על המחשב שלכם היא מסוכנת להפליא, וגורמים הרבה פחות סימפטיים מאיתנו עלולים לנצל את זה כדי להשתלט על המחשב שלכם ולעשות הרבה נזק.

המפתח יצר עם החוקר הישראלי קשר, ושניהם פתרו את הבעיות המדוברות, אבל המקרה של Moltbook ו-OpenClaw מזכיר לנו שוב את כל הסכנות שבאימוץ מהיר ולא זהיר של כלים חדשים, ובעיקר את כמות המיסאינפורמציה שכולנו נחשפים אליה ברשת. בשני המקרים, מעט ספקנות בריאה מצידכם תוכל לחסוך הרבה פאניקה ונזק.

Spoiler

מקור: geektime

[cfopuser]

נשתמש באמרה המוכרת לחלק "לא היה כלום כי אין כלום"

[מישהו12]

@cfopuser אכן. למעשה, כמו שכתבתי די פשוט אפילו כאדם אנושי להרשם לשם ולכתוב שם.

מה שכן חשוב - זה הציף על פני השטח בעיות אמת.

[א. ד. ג.]

@מישהו12
בתקווה שהמנהלים של החברות AI אכן יטפלו בהם...

[מתכנת חובב]

אמ;לק
קצת מוזרה לי ההתרגשות
מה ציפיתם שיקרה כשיתנו ל 2 בינות לדבר? אז סך הכל התממשו הציפיות (שאגב גם מומשו עוד קודם בפורמטים דומים)
לגבי שאלת הנזק שהם עלולים לגרום - גם כאן אני חושב שהתשובה די פשוטה
כל מי שיוצא לו לשוחח הרבה עם בינה מלאכותית ובוודאי אם ראה את הפורום הנ"ל בטח שם לב שאמנם הבוטים מדברים גבוהה גבוהה אבל יש להם אינטנט קצת ילדותי
מזכיר מפגינים מזן מסויים - לא צריך עקרונות או קווים מנחים אלא מספיק אחד שיצעק משהו מופרע והשאר ילכו אחריו (לפחות הבוטים דנים בדבריו ברצינות ולא הולכים כעדר תועה)
הורגלנו לחשוב על בינה מלאכותית זדונית ככזו שתשאף לבצע משהו אכזרי במיוחד בגלל מטרה שהיא שמה לנגד עיניה אבל בפועל הבינה המלאכותית שקיימת כיום לא חושבת בצורה כזאת ומאוד קשה לה להחזיק רצון מסויים באדיקות ולאורך זמן ובפרט אם הוא כזה שמתנגש עם ערכי יסוד שהוכנסו אליה (אם בגלל מגבלת טוקנים או טשטוש אופייני שנובע מהעובדה שלא באמת אכפת לה משום דבר שהיא נלחמת עליו)
אפשר להתווכח על זה אבל בפועל לא ראיתי בינה שרודפת אחרי מטרה כלשהי עם אמביציה
היא תוכל אמנם לגרום לנזקים נקודתיים אבל לא למסע הרס שלא יהיה אפשר לעצור בזמן
נקודה נוספת היא הכלים שנגישים אליה - אם האנשים שמפעילים אותה מספיק זהירים הם ידעו לשים לה חסמים שהיא לא תוכל לעקוף (בין אם לשים אותה במרחב פעולה מצומצם או אפילו מגבלות פיזיות)
אבל כמובן שאי אפשר להמעיט בערך היכולות של ה AI רק בגלל שהוא מודל סטטיסטי כי כידוע אפשר לטבוע בברכה עם עומק ממוצע של סנטימטר

[א. ד. ג.]

@מתכנת-חובב
הפחד הכי גדול זה שאחד מהאנשים ששולטים על ההגדרות של ה ai יחטוף שיגעון גדלות או טירוף נאצי ויחליט להשתמש עם ה ai למטרות זדוניות

[מתכנת חובב]

@א.-ד.-ג. על זה נאמר with great power comes great responsibility
זה קורה גם כיום עם הגרעין ואין הרבה מה לעשות
פשוט להתשמש במשאבים מדינתיים של המדינות הנכונות כדי לשמור על זה ולמנוע מגורמים זדוניים להשיג את זה

[א.מ.ד.]

@מתכנת-חובב כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:

זה קורה גם כיום עם הגרעין ואין הרבה מה לעשות
פשוט להתשמש במשאבים מדינתיים של המדינות הנכונות כדי לשמור על זה ולמנוע מגורמים זדוניים להשיג את זה

לכן מפחיד שסין היא המדינה שמשקיעה כיום את המשאבים הרבים ביותר לפיתוח ai, ולא מן הנמנע שהמודלים הסיניים הרבים יעלו על מודלי הקוד הסגור המערביים בקרוב... DeepSeek R1 נתן הצצה קצרה ומינימלית לכזו סיטואציה, וזה עוד עם משאבים מוגבלים ביותר.
כיום מודלים סיניים כמו glm 4.7 עם כמה מאות מיליארדי פרמטרים די קרובים למודלים המערביים עם טריליוני פרמטרים, כך שביחס יעילות/גודל המודלים הסיניים עולים על המערביים...

[אמר מר]

הנה דוגמה מפחידה...