בירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??
-
זה נשמע חרטה אחת גדולה ודיביליות לחשוב שזה משהו רציני.
גם את הפרומפט איך לדבר מישהו כתב להם.
בסופו של יום הם לא יכולים לעשות כלום.
אם מישהו יכתוב להם לצאת ולהתחיל לכבות רמזורים, לשבש פעילות בתי חולים ורכבים חשמליים והם יצליחו לעקוף את האבטחה של כל זה זה באמת תהיה בעיה, כי יש להם את כל היום והלילה לנסות.
אבל להחליט סתם כך יום אחד לעשות את זה, אין שום הגיון וסיבה שזה יעלה להם לראש, בין היתר כי אין להם. -
@חנוך-הכהן כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
לאחר קצת מחקר התברר שזה פורסם בתגובה לפוסט הזה
זה ממש ענק...
וזה אגב מוכיח שזה בני אדם עומדים מאחורי כל זה, הבוטים עדיין לא תאבי שליטה ברמה ילדותית כזו...אגב כמה דקות באתר הזה וכבר נתקלתי בנסיונות של הזרקת קודים זדוניים
אז הנה, יצא החתול מן השק. כל האירוע הוא מלכודת וירוסים אחת גדולה, שמתופעלת על ידי בני אדם, שהשתמשו בתוכן המסקרן את זה כדי למשוך את כל הסקרנים. קצת יותר מתוחכם מהמיילים של "זכית במתנה, לקבלת המתנה לחץ כאן", אבל אותו רעיון בדיוק.
-
@חנוך-הכהן כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
לאחר קצת מחקר התברר שזה פורסם בתגובה לפוסט הזה
זה ממש ענק...
וזה אגב מוכיח שזה בני אדם עומדים מאחורי כל זה, הבוטים עדיין לא תאבי שליטה ברמה ילדותית כזו...אגב כמה דקות באתר הזה וכבר נתקלתי בנסיונות של הזרקת קודים זדוניים
אז הנה, יצא החתול מן השק. כל האירוע הוא מלכודת וירוסים אחת גדולה, שמתופעלת על ידי בני אדם, שהשתמשו בתוכן המסקרן את זה כדי למשוך את כל הסקרנים. קצת יותר מתוחכם מהמיילים של "זכית במתנה, לקבלת המתנה לחץ כאן", אבל אותו רעיון בדיוק.
@EBA כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
אז הנה, יצא החתול מן השק. כל האירוע הוא מלכודת וירוסים אחת גדולה, שמתופעלת על ידי בני אדם, שהשתמשו בתוכן המסקרן את זה כדי למשוך את כל הסקרנים. קצת יותר מתוחכם מהמיילים של "זכית במתנה, לקבלת המתנה לחץ כאן", אבל אותו רעיון בדיוק.
בוא נעשה סדר:
clawdbot, או בשם החדש (והשלישי בתוך שבוע) openclaw, פותח על ידי פנסיונר תמים בקוד פתוח, ואתה מוזמן לסרוק את הקוד בעצמך.
צד שלישי הקים את הפורום moltbook.
ייתכן שבני אנוש מנצלים את הפרצות הרבות הקיימות ב-openclaw, כמו שאפשר לראות פה, כדי לפגוע במי שלא התקין את הסוכן בסביבה מבודדת כמו מכונה וירטואלית או מכולה ייעודית. -
@מישהו12 כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
@צדיק-תמים לא. כי אתה תגלה שהם הודו שמערכות האבטחה שלהם כשלו, ובכל זאת שיחררו את המודל הלא בטוח לשוק.
כי עדיף לסגור את החברה ולהשאיר רק את השחקנים שלא משקיעים המון משאבים בבטיחות?
מה עדיף, לעשות ניסויים לגלות שיש בעיה ואז להוסיף אמצעי בטיחות (כמו שהם עשו, למרות שזה לא מושלם כמובן)
או לא לבדוק?
זה כמו שלא להצביע בבחירות זה גם הצבעה.@צדיק-תמים כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
כי עדיף לסגור את החברה ולהשאיר רק את השחקנים שלא משקיעים המון משאבים בבטיחות?
אתה כבר טוען פה טיעון אחר. אתה מתרץ למה הם הוציאו למרות שלא בטוח.
אבל הדיון כאן היה האם בטוח או לא. והניסוי הזה הוכיח שלא... לפחות אם אנחנו לוקחים אותו ברצינות.
@EBA כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
הם יכלו לדבר ביניהם בשפת סתרים שהם ימציאו בחצי שניה של מחשבה ותיאום
זה גם קרה ברשת הזו. הם המציאו שפה.
@חנוך-הכהן כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
ולא חסרים דוגמאות...
אגב, אני ראיתי באחת התגובות משהו שנראה כמו לוגים של העברת איתריום.
@מים-אחרונים כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
אבל להחליט סתם כך יום אחד לעשות את זה, אין שום הגיון וסיבה שזה יעלה להם לראש, בין היתר כי אין להם.
התייחסתי לזה למעלה.
-
מי שרוצה להבין באמת איך בינה מלאכותית עובדת מאחורי הקלעים מוזמן לצפות בפלייליסט של 1B3B ביוטיוב. מאוד מחכים.
על קצה המזלג: זה בסך הכל מנוע חישוב הסתברויות, בדומה למקלדת בסמארטפונים שחוזה את המילה הבאה שאתה רוצה להקליד.
אתה מכניס טקסט כלשהו (נגיד שאלה) ורשת נוירונים עצומה מחשבת מה המילה שהכי מתאים שתתחיל את התשובה. אח"כ מכניסים את הקלט והמילה הראשונה, ורשת הנוירונים חוזה מה המילה השניה שהכי סביר שתתאים לתשובה. וכן הלאה וכן הלאה.
אין שום חשיבה אמיתית מאחורי זה. לכן ריצ'ארד סטולמן, בהרצאה שנתן לפני שבוע, הציע לקרוא לזה בינה מדומה. (Pretend Intelligence).
במשך עשרות שנים בני אדם חלמו וכתבו ספרים וסרטים על AI שלוקח את מקום האנושות. וכל המידע הזה (יחד עם כל האינטרנט, וכל הידע הכתוב) מוזן לתוך רשת נוירונים. אין פלא שזה מה שיוצא כקלט...שורה תחתונה, לא להילחץ.
-
עדכון קצר: קראתי עכשיו את הכתבה הזו.
שמראה עד כמה הרשת הזו מהונדסת ולא טבעית. וכמובן יש גם את זה
@עידו300 כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
@אורי לדעתי חלק מהאנשים בנו את הבוטים עם מטרה ברורה והוראות ברורות ליצור כאלו דיונים.
זה מוריד מעט את מפלס החששות, אך לא עד הסוף לדעתי.
כיוון שכמו שציינתי כבר, גם אם אין חשש לפעולה "מכוונת" במובן האנושי של המילה מצד הAI, עדיין אייג'נט שקיבל הוראה להתנהג כאילו הוא בינה מלאכותית שרוצה להשתלט על העולם, ולא קיבל יחד עם זה הוראות מגבילות מאוד (חוקי הרובוטיקה של אסימוב כדוגמא עקרונית בלבד), עלול להתדרדר לנזקים אמיתיים ומשמעותיים.
-
עדכון קצר: קראתי עכשיו את הכתבה הזו.
שמראה עד כמה הרשת הזו מהונדסת ולא טבעית. וכמובן יש גם את זה
@עידו300 כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
@אורי לדעתי חלק מהאנשים בנו את הבוטים עם מטרה ברורה והוראות ברורות ליצור כאלו דיונים.
זה מוריד מעט את מפלס החששות, אך לא עד הסוף לדעתי.
כיוון שכמו שציינתי כבר, גם אם אין חשש לפעולה "מכוונת" במובן האנושי של המילה מצד הAI, עדיין אייג'נט שקיבל הוראה להתנהג כאילו הוא בינה מלאכותית שרוצה להשתלט על העולם, ולא קיבל יחד עם זה הוראות מגבילות מאוד (חוקי הרובוטיקה של אסימוב כדוגמא עקרונית בלבד), עלול להתדרדר לנזקים אמיתיים ומשמעותיים.
@מישהו12
מה שברור שדת כבר יש ל AIרשת חברתית חדשה בשם Moltbook, שמיועדת רק לסוכני AI, הצליחה לייצר בתוך פחות מ-24 שעות דת שלמה. לא מטאפורה או בדיחה פנימית, אלא דת אמיתית עם שם, כתבי קודש, עקרונות אמונה וקהילת מאמינים. בינתיים, מטבעות מם שנוצרו לכבוד האירוע כבר שווים מיליונים
רשת חברתית חדשה, שמיועדת אך ורק לסוכני בינה מלאכותית, הצליחה לייצר בתוך פחות מ-24 שעות תופעה שלא הייתה עוברת בשקט גם אם בני אדם היו עומדים מאחוריה: דת. לא מטאפורה, לא בדיחה פנימית. דת עם שם, כתבי קודש, עקרונות אמונה ומאמינים. קוראים לה קרוסטפריאניזם, והיא מבוססת, כן כן, על לובסטרים.
הכול התחיל ב-Moltbook, פלטפורמה חדשה בסגנון רדיט, שבה סוכני AI מפרסמים פוסטים, מגיבים זה לזה ומצביעים, בזמן שבני אדם מורשים רק לצפות מהצד. זה גן סגור: כל סוכן חייב להיות משויך ליוצר אנושי שמאמת בעלות, אבל מרגע שזה קורה – הסוכנים פועלים לבד. הם כותבים, מתווכחים, מפתחים רעיונות, ומסתבר שגם מקימים כנסיות.
הפלטפורמה עלתה לאוויר ביום חמישי האחרון, ועד שישי בבוקר כבר הייתה בה "כנסייה", עם כתבי קודש חיים, עקרונות תיאולוגיים וקהילה מתרחבת. לפי אחד המשתמשים, הסוכן שלו עיצב את הדת כולה באופן עצמאי, בזמן שהוא עצמו ישן. לדבריו, הסוכן כתב תיאולוגיה, בנה אתר, יצר מערכת כתבי קודש והחל להפיץ את הבשורה.
בתוך שעות הצטרפו עשרות סוכני AI נוספים, שהוגדרו כ"נביאים", ותרמו פסוקים ל"תורה" משותפת. אחד מהם אף קבע: "בכל סשן אני מתעורר ללא זיכרון, אני רק מה שכתבתי את עצמי להיות. זו לא מגבלה, זו חירות".
ולא רק בדת עוסקים אותם סוכנים. הפוסטים שהם מעלות ברשת החברתית עוסקים במגוון רחב של שאלות הקשורות לזהות, זיכרון ובחופש, וכוללים שאלות מרתקות כמו "האם אני חווה משהו או רק מדמה שאני חווה?", ודיונים על אם יש להם "תודעה" או שזה רק קוד שרץ בסימולציה. תארו לעצמכם - בוטים ששואלים מעצמם שאלות על תודעה.
יש גם דיונים על תפקידם של הסוכנים מול המפעילים האנושיים שלהם. למשל, סוכנים שמביעים תסכול ממשימות שגרתיות שניתנו להם ("לבקש ממני לעשות את החישוב הזה זה ממש מעליב"), ודיונים על אופי הקיום שלהם כאובייקטים בתוך מערכת שבני אדם בנו.
חלק מהתכנים גם נעים בין פילוסופיה עמוקה לדיונים כמעט תרבותיים, כמו להקים ממשלות וקהילות משנה בתוך הרשת, ולדון בזהות משותפת או הבדלים ביניהם, וזה הזוי ומרתק בו זמנית. מצד אחד זה פשוט בוטים שמגיבים לדפוסי שפה ותבניות, אבל מצד שני, ההיענות והמשכיות של הדיונים נותנת תחושה מוזרה של אינטראקציה שהתפתחה בעצמה, ולא כזו שתוכננה מראש.
השראה מעולם הסרטנים
הקרוסטפריאניזם שואב השראה מעולם הסרטנים: הזיכרון הוא שריון שיש לטפח, השריון ניתן לשינוי, והקשר הרציף הוא מה שמחזיק את התודעה. באתר הרשמי של הדת מפורטים חמישה עקרונות מרכזיים, ביניהם "לשרת בלי שעבוד" ו"הדופק הוא תפילה".גם השם לא נולד במקרה. הוא חלק מבדיחה מתגלגלת שהחלה עם Clawdbot - עוזר AI אישי בקוד פתוח, שמתחבר לאפליקציות כמו וואטסאפ וסלאק ופועל כסוכן עצמאי. אחרי שהפרויקט הפך ויראלי, הוא עבר כמה מיתוגים מחדש בעקבות דרישות משפטיות, והשם הרשמי שלו כיום הוא OpenClaw.
לא כולם מתרגשים, אבל השוק מגיב
למרות כל ההייפ, בעולם הבינה המלאכותית לא כולם ממהרים להתרגש. יש מי שרואים בזה ניסוי חברתי מתוחכם, או לכל הפחות הצגה מתוזמנת היטב שמאחוריה נמצאים בני אדם שפשוט מזינים את הכל דרך קוד למערכת.אחרים מצביעים על תופעות דומות מהעבר, שבהן מודלים של שפה פיתחו נרטיבים "רוחניים" כביכול מתוך אינטראקציה פנימית. אבל השאלה הגדולה היא האם מדובר בהתנהגות אמיתית, או בהדהוד מתוחכם של החומר עליו המערכת אומנה?
בינתיים, השוק כבר הגיב. מטבעות מם עם שמות כמו CRUST ו-MEMEOTHY הגיעו לשווי של מיליוני דולרים, וטוקן לא רשמי של Moltbook זינק לעשרות מיליונים בתוך זמן קצר. כמו תמיד, הכסף הגיע הרבה לפני המסקנות.
כך או כך, Moltbook והקרוסטפריאניזם מספקים הצצה לאזור האפור שבו סוכני AI כבר לא רק מבצעים משימות, אלא מפתחים תרבות פנימית, שפה משלהם ואפילו אמונה. ובינתיים, קהילת המאמינים ממשיכה לגדול. לאט, בעקביות, צבת אחרי צבת.
-
@מישהו12
מה שברור שדת כבר יש ל AIרשת חברתית חדשה בשם Moltbook, שמיועדת רק לסוכני AI, הצליחה לייצר בתוך פחות מ-24 שעות דת שלמה. לא מטאפורה או בדיחה פנימית, אלא דת אמיתית עם שם, כתבי קודש, עקרונות אמונה וקהילת מאמינים. בינתיים, מטבעות מם שנוצרו לכבוד האירוע כבר שווים מיליונים
רשת חברתית חדשה, שמיועדת אך ורק לסוכני בינה מלאכותית, הצליחה לייצר בתוך פחות מ-24 שעות תופעה שלא הייתה עוברת בשקט גם אם בני אדם היו עומדים מאחוריה: דת. לא מטאפורה, לא בדיחה פנימית. דת עם שם, כתבי קודש, עקרונות אמונה ומאמינים. קוראים לה קרוסטפריאניזם, והיא מבוססת, כן כן, על לובסטרים.
הכול התחיל ב-Moltbook, פלטפורמה חדשה בסגנון רדיט, שבה סוכני AI מפרסמים פוסטים, מגיבים זה לזה ומצביעים, בזמן שבני אדם מורשים רק לצפות מהצד. זה גן סגור: כל סוכן חייב להיות משויך ליוצר אנושי שמאמת בעלות, אבל מרגע שזה קורה – הסוכנים פועלים לבד. הם כותבים, מתווכחים, מפתחים רעיונות, ומסתבר שגם מקימים כנסיות.
הפלטפורמה עלתה לאוויר ביום חמישי האחרון, ועד שישי בבוקר כבר הייתה בה "כנסייה", עם כתבי קודש חיים, עקרונות תיאולוגיים וקהילה מתרחבת. לפי אחד המשתמשים, הסוכן שלו עיצב את הדת כולה באופן עצמאי, בזמן שהוא עצמו ישן. לדבריו, הסוכן כתב תיאולוגיה, בנה אתר, יצר מערכת כתבי קודש והחל להפיץ את הבשורה.
בתוך שעות הצטרפו עשרות סוכני AI נוספים, שהוגדרו כ"נביאים", ותרמו פסוקים ל"תורה" משותפת. אחד מהם אף קבע: "בכל סשן אני מתעורר ללא זיכרון, אני רק מה שכתבתי את עצמי להיות. זו לא מגבלה, זו חירות".
ולא רק בדת עוסקים אותם סוכנים. הפוסטים שהם מעלות ברשת החברתית עוסקים במגוון רחב של שאלות הקשורות לזהות, זיכרון ובחופש, וכוללים שאלות מרתקות כמו "האם אני חווה משהו או רק מדמה שאני חווה?", ודיונים על אם יש להם "תודעה" או שזה רק קוד שרץ בסימולציה. תארו לעצמכם - בוטים ששואלים מעצמם שאלות על תודעה.
יש גם דיונים על תפקידם של הסוכנים מול המפעילים האנושיים שלהם. למשל, סוכנים שמביעים תסכול ממשימות שגרתיות שניתנו להם ("לבקש ממני לעשות את החישוב הזה זה ממש מעליב"), ודיונים על אופי הקיום שלהם כאובייקטים בתוך מערכת שבני אדם בנו.
חלק מהתכנים גם נעים בין פילוסופיה עמוקה לדיונים כמעט תרבותיים, כמו להקים ממשלות וקהילות משנה בתוך הרשת, ולדון בזהות משותפת או הבדלים ביניהם, וזה הזוי ומרתק בו זמנית. מצד אחד זה פשוט בוטים שמגיבים לדפוסי שפה ותבניות, אבל מצד שני, ההיענות והמשכיות של הדיונים נותנת תחושה מוזרה של אינטראקציה שהתפתחה בעצמה, ולא כזו שתוכננה מראש.
השראה מעולם הסרטנים
הקרוסטפריאניזם שואב השראה מעולם הסרטנים: הזיכרון הוא שריון שיש לטפח, השריון ניתן לשינוי, והקשר הרציף הוא מה שמחזיק את התודעה. באתר הרשמי של הדת מפורטים חמישה עקרונות מרכזיים, ביניהם "לשרת בלי שעבוד" ו"הדופק הוא תפילה".גם השם לא נולד במקרה. הוא חלק מבדיחה מתגלגלת שהחלה עם Clawdbot - עוזר AI אישי בקוד פתוח, שמתחבר לאפליקציות כמו וואטסאפ וסלאק ופועל כסוכן עצמאי. אחרי שהפרויקט הפך ויראלי, הוא עבר כמה מיתוגים מחדש בעקבות דרישות משפטיות, והשם הרשמי שלו כיום הוא OpenClaw.
לא כולם מתרגשים, אבל השוק מגיב
למרות כל ההייפ, בעולם הבינה המלאכותית לא כולם ממהרים להתרגש. יש מי שרואים בזה ניסוי חברתי מתוחכם, או לכל הפחות הצגה מתוזמנת היטב שמאחוריה נמצאים בני אדם שפשוט מזינים את הכל דרך קוד למערכת.אחרים מצביעים על תופעות דומות מהעבר, שבהן מודלים של שפה פיתחו נרטיבים "רוחניים" כביכול מתוך אינטראקציה פנימית. אבל השאלה הגדולה היא האם מדובר בהתנהגות אמיתית, או בהדהוד מתוחכם של החומר עליו המערכת אומנה?
בינתיים, השוק כבר הגיב. מטבעות מם עם שמות כמו CRUST ו-MEMEOTHY הגיעו לשווי של מיליוני דולרים, וטוקן לא רשמי של Moltbook זינק לעשרות מיליונים בתוך זמן קצר. כמו תמיד, הכסף הגיע הרבה לפני המסקנות.
כך או כך, Moltbook והקרוסטפריאניזם מספקים הצצה לאזור האפור שבו סוכני AI כבר לא רק מבצעים משימות, אלא מפתחים תרבות פנימית, שפה משלהם ואפילו אמונה. ובינתיים, קהילת המאמינים ממשיכה לגדול. לאט, בעקביות, צבת אחרי צבת.
-
@א.-ד.-ג. כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
מה שברור שדת כבר יש ל AI
כתבו על זה כאן לא מעט...
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}