שיתוף | סוכן AI ביצע מתקפת סייבר מלאה
-
@המלאך זה המקרה הראשון המתועד שבו סוכן עשה הכל בעצמו.
@אברהם-גלסר ומה בכך?
אם תרצה אני אוכל ג"כ "לתעד" מקרה כזה.לא התכוונתי ברצינות.
אל תבקשו ממני.אתה משכנע את הסוכן, נותן לו את ההוראות ואת הכלים או אפילו נותן לו לעשות אותם לבד, ומבקש ממנו בסקיל שיכתוב לקובץ TXT כל מהלך שהוא עשה.
"Code shapes logic, AI expands vision."
-
@אברהם-גלסר ומה בכך?
אם תרצה אני אוכל ג"כ "לתעד" מקרה כזה.לא התכוונתי ברצינות.
אל תבקשו ממני.אתה משכנע את הסוכן, נותן לו את ההוראות ואת הכלים או אפילו נותן לו לעשות אותם לבד, ומבקש ממנו בסקיל שיכתוב לקובץ TXT כל מהלך שהוא עשה.
@המלאך אז תתעד.
סתם, זה מגניב ומעניין לשמוע על זה שAI עשה מתקפת סייבר בעצמו, זה הכל.החידוש הוא ביכולת של סוכן AI לחבר באופן אוטונומי את כלל שלבי שרשרת התקיפה, לקבל החלטות בזמן אמת, להתאושש מכשלים ולהתאים את עצמו לסביבה, בדומה למפעיל אנושי מנוסה.
-
@אברהם-גלסר ומה בכך?
אם תרצה אני אוכל ג"כ "לתעד" מקרה כזה.לא התכוונתי ברצינות.
אל תבקשו ממני.אתה משכנע את הסוכן, נותן לו את ההוראות ואת הכלים או אפילו נותן לו לעשות אותם לבד, ומבקש ממנו בסקיל שיכתוב לקובץ TXT כל מהלך שהוא עשה.
לא כל כך ברור מה החידוש.
הפירצה הזו משתמשת בexec().
כל מודל יזהיר ממנה.
אז הוא אוטונומי?
ואז מה? יש כמויות של אייג׳נטים כיום.למיטב הבנתי הנקודה היא שהוא היה דינמי ותיקן את עצמו כל משך התקיפה.
מדובר בשינויים שהיה לוקח ימים או שבועות אפי' להאקר מנוסה לעשות כדי להצליח לפרוץ.
הוא עשה אותם לבד ובחצי דקה...@אברהם-גלסר פעם שנייה שאני כותב מייד אחריך את אותו תוכן...
-
לא כל כך ברור מה החידוש.
הפירצה הזו משתמשת בexec().
כל מודל יזהיר ממנה.
אז הוא אוטונומי?
ואז מה? יש כמויות של אייג׳נטים כיום.למיטב הבנתי הנקודה היא שהוא היה דינמי ותיקן את עצמו כל משך התקיפה.
מדובר בשינויים שהיה לוקח ימים או שבועות אפי' להאקר מנוסה לעשות כדי להצליח לפרוץ.
הוא עשה אותם לבד ובחצי דקה...@אברהם-גלסר פעם שנייה שאני כותב מייד אחריך את אותו תוכן...
-
@נוחעם-FM לא עיינתי היטב אבל לא יודע אם יקח להאקר שבועות.
לדעתי הרבה פחות.
אבל אני לא יודע, אני לא האקר. -
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אם כי עוד 20 שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
-
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אם כי עוד 20 שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
אם כי עוד 20 שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
עשרים שנה או עשרים יום?...
-
אם כי עוד 20 שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
עשרים שנה או עשרים יום?...
20 יום זה קצר מידי
אבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליו -
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אם כי עוד 20 שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
AI יכול ללמוד מטעויות כבר שנים.
כנ"ל בני אדם.כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אתה טועה בשני דברים.
1 - המודל פייבל כבר מצא זירו די, ובכמויות מסחריות.
2 - המודלים א' לא מאומנים רק על אוברפלואו.
ב' לא רק מה שהם יודעים על אוברפלואו הם יכולים לחשב.
פליז קצת רחמנות על כושר ההסברה שלי.
חפש טיפה על מודלי הריזירינג.
או יודע מה? מודלים בכללי.שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
אשמח אם תסביר לי היתכנות טכנית של הדבר הזה.
-
20 יום זה קצר מידי
אבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליואבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליובלי לדעת אני בטוח שזה כבר קיים
מאיפה נראה לך כל הכשרונות האיראניים והסיניים?...לוקחים מודל מקומי מ-HF ויוצרים סוכן שיעשה מה שאתה רוצה, נשמע לי פשוט
-
אבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליובלי לדעת אני בטוח שזה כבר קיים
מאיפה נראה לך כל הכשרונות האיראניים והסיניים?...לוקחים מודל מקומי מ-HF ויוצרים סוכן שיעשה מה שאתה רוצה, נשמע לי פשוט
@חכם-בלילה-1 אתה אכן צודק.
זה כבר קיים כיום.
גוגל הודיעה לפני חודש על ניסיון פריצה רשמי של ai למערכות שלה.
איך יודעים שזה ai?
כי זה מלא בתיעודים..
-
@חכם-בלילה-1 אתה אכן צודק.
זה כבר קיים כיום.
גוגל הודיעה לפני חודש על ניסיון פריצה רשמי של ai למערכות שלה.
איך יודעים שזה ai?
כי זה מלא בתיעודים.. -
אבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליובלי לדעת אני בטוח שזה כבר קיים
מאיפה נראה לך כל הכשרונות האיראניים והסיניים?...לוקחים מודל מקומי מ-HF ויוצרים סוכן שיעשה מה שאתה רוצה, נשמע לי פשוט
-
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
AI יכול ללמוד מטעויות כבר שנים.
כנ"ל בני אדם.כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אתה טועה בשני דברים.
1 - המודל פייבל כבר מצא זירו די, ובכמויות מסחריות.
2 - המודלים א' לא מאומנים רק על אוברפלואו.
ב' לא רק מה שהם יודעים על אוברפלואו הם יכולים לחשב.
פליז קצת רחמנות על כושר ההסברה שלי.
חפש טיפה על מודלי הריזירינג.
או יודע מה? מודלים בכללי.שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
אשמח אם תסביר לי היתכנות טכנית של הדבר הזה.
-
@אברהם-גלסר ואיך הם יקבלו אוטונומיה?
למה שהחברות יאשרו אוטונומיה למודלים?
שמא תאמר - הסינים.
הרי היא גופא.
הם לא יאשרו אוטונומיה שלא ימריד נגדם!
גם ככה יש לסינים מגבלות על הגישה לai."Code shapes logic, AI expands vision."
-
@אברהם-גלסר ואיך הם יקבלו אוטונומיה?
למה שהחברות יאשרו אוטונומיה למודלים?
שמא תאמר - הסינים.
הרי היא גופא.
הם לא יאשרו אוטונומיה שלא ימריד נגדם!
גם ככה יש לסינים מגבלות על הגישה לai.@המלאך כמו שכתבתי, אוטונומיה מול הבעלים. כשאני אומר אוטונומיה אני מתכוון לסוכן שלא צריך ממש כל דבר לומר לו לעשות, אלא אתה נותן לו את הכיוון הכללי ומשם - הוא מתכנן את הצעדים שלו ופועל בעצמו.
למה שהחברות יאשרו אוטונומיה למודלים?
יכול להיות שבעתיד הנגישות למודלים שיכולים להריץ סוכנים כאלה ואחרים תהיה הרבה יותר רחבה, זולה ופשוטה.
-
@אברהם-גלסר ואיך הם יקבלו אוטונומיה?
למה שהחברות יאשרו אוטונומיה למודלים?
שמא תאמר - הסינים.
הרי היא גופא.
הם לא יאשרו אוטונומיה שלא ימריד נגדם!
גם ככה יש לסינים מגבלות על הגישה לai. -
@המלאך כמו שכתבתי, אוטונומיה מול הבעלים. כשאני אומר אוטונומיה אני מתכוון לסוכן שלא צריך ממש כל דבר לומר לו לעשות, אלא אתה נותן לו את הכיוון הכללי ומשם - הוא מתכנן את הצעדים שלו ופועל בעצמו.
למה שהחברות יאשרו אוטונומיה למודלים?
יכול להיות שבעתיד הנגישות למודלים שיכולים להריץ סוכנים כאלה ואחרים תהיה הרבה יותר רחבה, זולה ופשוטה.
@אברהם-גלסר זה מחייב בהכרח או שינוי חומרה או שינוי ארכיטקטורה.
שניהם מנסים כבר שנה וחצי.
לא יצא מזה משהו, אבל מי יודע.. -
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}