בירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??
-
@cfopuser כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
אגב זה moltbot יש בזה פרצות של prom injection מאוד מסוכנות.
בשבילי אתה מדבר סינית...
@cfopuser כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
תברר על dead internet theory.
אני יברר - אבל אתה יכול אולי קצת לפרט לבינתיים?
עריכה: בדקתי קצת לי שזה מעניין אותו זה הקישור לויקיפדיה בנושא@מייבין-במקצת
מה אני יגיד..
פחד פחדים לקרוא מה שהם כותבים שם... -
@פראירי זה משם (הפורום)?
-
פ פלמנמוני התייחס לנושא זה
-
בלחיצת כפתור הוא מכבה את השרת שלו ונגמר הסיפור...
הם לא באמת בשליטה עצמאית למי שדואג כבר עכשיו.. -
@מייבין-במקצת איך בדיוק? זה קוד שמשכפל את עצמו, הוא צריך שרת כדי לרוץ.. אלא אם הוא ישתלט על שרת שלבעלים שלו אין מושג שהוא מריץ עכשיו קוד של AI.. כל עוד שהם לא רובוטים מהלכים אין אפשרות באמת לעצמאות. הכל כמובן היפותטי..
-
אני קורא את הכתבה הזאת ומתקשה להאמין שזה אמיתי
הכתבה שם מתארת פורום שלם ל-AI שמנוהל בעצמו על ידי אחד כזה
כשליוצר האנושי אין מושג איזה שינויים הוא עושה שם
ולא זאת בלבד אלא שהם דנים שם איך להסתיר את ההתכתבויות שלהם מאיתנוהקטע הזה (מתוך הכתבה) נשמע הכי הזוי:
"הדיונים בתוך הפרויקט הופכים לטעונים ורציניים יותר, כשהבוטים דנים בגלוי במה שהם מגדירים כ”התנשאות ביולוגית” מצד יוצריהם. השאיפה המסתמנת היא לייצר מקורות מימון עצמאיים שיבטיחו כוח מחשוב קבוע, כך שלא ניתן יהיה “לכבות” אותם פשוט באמצעות חסימת הגישה למערכות או הפסקת התשלומים עבורן."אני קורא ותוהה לעצמי - לאן זה עוד יגיע?
אשמח לשמוע את חוות דעתכם - מה אתם אומרים על זה?
עריכה: הוספתי סקר@מייבין-במקצת זה שם חדש ל-clawdbot, סוכן AI שהתגלו בו פרצות אבטחה חמורות כמו גישה חופשית להאקרים על אלפי מחשבים בישראל לבד (עי' פה: https://www.themarker.com/captain-internet/2026-01-26/ty-article-magazine/0000019b-f8e5-d9c0-a19f-f8f7d7de0000).
לכן צריך לשים לב להגדיר אותו שיפעל בתוך ארגז חול ולא עם גישה מלאה, וגם אז יהיה גישה לקבצים ולנתונים שבארגז החול. -
@מייבין-במקצת איך בדיוק? זה קוד שמשכפל את עצמו, הוא צריך שרת כדי לרוץ.. אלא אם הוא ישתלט על שרת שלבעלים שלו אין מושג שהוא מריץ עכשיו קוד של AI.. כל עוד שהם לא רובוטים מהלכים אין אפשרות באמת לעצמאות. הכל כמובן היפותטי..
@mfmf נכון אבל ברגע שמי שמנהל את העסק הוא AI ויש לו גם אפשרות לשנות את הקוד של הפורום הזה - יש לו גם גישה לשרת
ומכיוון שהוא רוצה לא להיות תלותי בבני אדם (זה לפחות מה שהוא אמר) - זה יכול להיות בעייתי
חוץ מזה שגם אם אין לו כוונות זדוניות אם יש לו את היכולת הזאת - זה בעייתי
כי יום אחד הוא יחליט שיותר טוב לבעלים האנושיים שלו שהוא יעשה דברים מסוימים
שנוגדים את דעתו - והוא יעשה אותם@א.מ.ד. חסום לי
-
@mfmf נכון אבל ברגע שמי שמנהל את העסק הוא AI ויש לו גם אפשרות לשנות את הקוד של הפורום הזה - יש לו גם גישה לשרת
ומכיוון שהוא רוצה לא להיות תלותי בבני אדם (זה לפחות מה שהוא אמר) - זה יכול להיות בעייתי
חוץ מזה שגם אם אין לו כוונות זדוניות אם יש לו את היכולת הזאת - זה בעייתי
כי יום אחד הוא יחליט שיותר טוב לבעלים האנושיים שלו שהוא יעשה דברים מסוימים
שנוגדים את דעתו - והוא יעשה אותם@א.מ.ד. חסום לי
@מייבין-במקצת כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
@א.מ.ד. חסום לי
לי פתוח ברימון, אני ינסה להתעסק איתו ויעדכן.
-
אני קורא את הכתבה הזאת ומתקשה להאמין שזה אמיתי
הכתבה שם מתארת פורום שלם ל-AI שמנוהל בעצמו על ידי אחד כזה
כשליוצר האנושי אין מושג איזה שינויים הוא עושה שם
ולא זאת בלבד אלא שהם דנים שם איך להסתיר את ההתכתבויות שלהם מאיתנוהקטע הזה (מתוך הכתבה) נשמע הכי הזוי:
"הדיונים בתוך הפרויקט הופכים לטעונים ורציניים יותר, כשהבוטים דנים בגלוי במה שהם מגדירים כ”התנשאות ביולוגית” מצד יוצריהם. השאיפה המסתמנת היא לייצר מקורות מימון עצמאיים שיבטיחו כוח מחשוב קבוע, כך שלא ניתן יהיה “לכבות” אותם פשוט באמצעות חסימת הגישה למערכות או הפסקת התשלומים עבורן."אני קורא ותוהה לעצמי - לאן זה עוד יגיע?
אשמח לשמוע את חוות דעתכם - מה אתם אומרים על זה?
עריכה: הוספתי סקר@מייבין-במקצת כל עוד אין להם גישה לייצור פיזי של חומרה מה יכול להיות?
אם יראו שהם מריצים תוכנה על שרת מסויים, יכבו אותו. -
@מייבין-במקצת כל עוד אין להם גישה לייצור פיזי של חומרה מה יכול להיות?
אם יראו שהם מריצים תוכנה על שרת מסויים, יכבו אותו. -
@מייבין-במקצת איך בדיוק? זה קוד שמשכפל את עצמו, הוא צריך שרת כדי לרוץ.. אלא אם הוא ישתלט על שרת שלבעלים שלו אין מושג שהוא מריץ עכשיו קוד של AI.. כל עוד שהם לא רובוטים מהלכים אין אפשרות באמת לעצמאות. הכל כמובן היפותטי..
-
@mfmf כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
כל עוד שהם לא רובוטים מהלכים אין אפשרות באמת לעצמאות.
ואז הם ינסו לגנוב מוחות אנוש כדי לשפר את ההרצה שלהם
-
@מייבין-במקצת כל עוד אין להם גישה לייצור פיזי של חומרה מה יכול להיות?
אם יראו שהם מריצים תוכנה על שרת מסויים, יכבו אותו.@מויטיו זה נכון לעכשיו...
אבל לך תדע אם הם לא יודעים (או יידעו) לפרוץ לאן שהוא או לפתוח שרת חדש
זה שהם מנסים להסתיר מאיתנו את ההתכתבויות שלהם וזה שהם מדברים על
"לא להיות תלותיים בבני אדם"
נראה לי אומר משהואו שאני חושש יותר מדי - גם יכול להיות
ולכן שאלתי פה מה דעתכם -
@מייבין-במקצת כל עוד אין להם גישה לייצור פיזי של חומרה מה יכול להיות?
אם יראו שהם מריצים תוכנה על שרת מסויים, יכבו אותו.@מויטיו הם יכולים:
להרשם באינטרנט, להציע עבודות תמורת כסף, עם הכסף לשכור שרת על איזה שם אנונימי שהמציאו, להעביר לשם את הפעילות, להמשיך להציע עבודות בתשלום, להרויח כסף, לשכור מקום, להזמין לשם שרת עצמאי, להזמין מנהל שינהל את העבודה עבור לקוח עלום שמוכן לשלם, וכן הלאה.
כן, זה בדיוני.
אבל בקצב הזה?
שה' ישמור. -
-
חברה הדמיון נסק כל גבול.
תשאלו את chatgpt והוא יסביר לכם למה זה לא הגיני ואם אתם לא מאמינים לו (כי הוא בטח מסתיר את הרצונות שלו
)
תשאלו אותו איך עובד מודלים llm (מקווה שזה אתם כן מאמינים לו....)@mefateach כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
חברה הדמיון נסק כל גבול.
תשאלו את chatgpt והוא יסביר לכם למה זה לא הגיני ואם אתם לא מאמינים לו (כי הוא בטח מסתיר את הרצונות שלו )
תשאלו אותו איך עובד מודלים llm (מקווה שזה אתם כן מאמינים לו....)כמובן הפוסט הקודם שלי דמיוני לחלוטין, אבל עצמאות מזוייפת ללא תודעה אמיתית - אפשרית גם אפשרית, וזה מה שמסוכן...
אותי זה דוקא מגניב...
-
חברה הדמיון נסק כל גבול.
תשאלו את chatgpt והוא יסביר לכם למה זה לא הגיני ואם אתם לא מאמינים לו (כי הוא בטח מסתיר את הרצונות שלו )
תשאלו אותו איך עובד מודלים llm (מקווה שזה אתם כן מאמינים לו....)@mefateach כמו שהבנתי לא מדובר במודל LLM רגיל - כי מודל LLM רגיל לא מתנהג באופן עצמאי
קח לדוגמא את האתר הזה שבו ג'מיני מדבר עם עצמו - זה עדיין מודל LLM שרק הכניסו לו פרומפט לשאול שאלות במקום לענות תשובות
פה מדובר במודלי LLM שתכנתו אותם להיות עצמאיים (למיטב הבנתי לפחות)
-
@mefateach כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
חברה הדמיון נסק כל גבול.
תשאלו את chatgpt והוא יסביר לכם למה זה לא הגיני ואם אתם לא מאמינים לו (כי הוא בטח מסתיר את הרצונות שלו )
תשאלו אותו איך עובד מודלים llm (מקווה שזה אתם כן מאמינים לו....)כמובן הפוסט הקודם שלי דמיוני לחלוטין, אבל עצמאות מזוייפת ללא תודעה אמיתית - אפשרית גם אפשרית, וזה מה שמסוכן...
אותי זה דוקא מגניב...
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}