שיתוף | סוכן AI ביצע מתקפת סייבר מלאה
-
@מייבין-במקצת מבריאתו, אנחנו מופקדים עליו.
@אברהם-גלסר צודק... יותר נכון להגיד שהעולם שייך לנו אבל בתנאים וחוקים מסוימים...
-
לא כל כך ברור מה החידוש.
הפירצה הזו משתמשת בexec().
כל מודל יזהיר ממנה.
אז הוא אוטונומי?
ואז מה? יש כמויות של אייג׳נטים כיום. -
לראשונה בעולם: סוכן AI ביצע מתקפת סייבר מלאה
קצת ארוך, אבל בהחלט שווה את זה:
חוקרי אבטחה זיהו לראשונה מתקפת כופרה שנוהלה ותוכננה במלואה על ידי סוכן בינה מלאכותית אוטונומי. המערכת הפגינה יכולת הסתגלות בזמן אמת, תיקנה שגיאות קוד במהירות והצפינה נתונים, אך גם חשפה פערים בהבנת ההקשר הפיננסי.
עידן חדש ומאיים במפת איומי הסייבר העולמית: חוקרי אבטחה זיהו את מה שנחשב למקרה המתועד הראשון של מתקפת כופרה שנוהלה, תוכננה והוצאה לפועל במלואה על ידי סוכן בינה מלאכותית אוטונומי (AI Agent). קבוצת התקיפה, המכונה JadePuffer, השתמשה במודל שפה גדול (LLM) כדי לנהל את כל שלבי התקיפה – החל מאיסוף מודיעין ראשוני, דרך גניבת הרשאות ומעבר רשת רוחבי, ועד להצפנת הנתונים ודרישת הכופר.
לפי הדו"ח הרשמי של חברת אבטחת הענן Sysdig, היכולת המדאיגה ביותר שהופגנה במתקפה זו היא הגמישות וההסתגלות של סוכן ה-AI בזמן אמת. בדומה להאקר אנושי מיומן, המערכת האוטונומית ידעה לזהות כשלים בפעולותיה ולתקן אותם במהירות שיא. באחד המקרים המתועדים, המערכת נתקלה בשגיאת התחברות (Login), ניתחה את הבעיה, שינתה את הפרמטרים של הקוד וניפקה פתרון עובד בתוך 31 שניות בלבד.
הפריצה הראשונית בוצעה באמצעות ניצול פרצת אבטחה מוכרת (CVE-2025-3248) במערכת Langflow – תשתית קוד פתוח פופולרית המשמשת לפיתוח אפליקציות בינה מלאכותית. לאחר חדירת המערכת, סוכן הבינה המלאכותית סרק את מסדי הנתונים, שלף סיסמאות ומפתחות הצפנה, והחל לנוע ברשת הארגונית לעבר שרתי הייצור המריצים את שירות Alibaba Nacos. בשלב זה, הסוכן הצפין 1,342 פריטי תצורה של השירות, מחק את המקור והותיר קובץ טקסט עם דרישת כופר בביטקוין וכתובת ליצירת קשר.
על אף התחכום הרב באוטומציה של התהליך, החוקרים ציינו כי ניכר שמדובר בטכנולוגיה בשלביה הראשונים. דרישת הכופר הכילה כתובת ארנק ביטקוין ציבורית המשמשת לעיתים קרובות כדוגמה במסמכי הדרכה ברשת, מה שמעיד על כך שהמודל העתיק נתונים מחומרי האימון שלו מבלי להבין את ההקשר הפיננסי. בנוסף, הקוד שנוצר כלל הערות מילוליות מפורטות בשפה חופשית שבהן הסוכן "הסביר" לעצמו את הלוגיקה של הפעולות הבאות – מאפיין מובהק של מודלי שפה.
מגמה זו משקפת קפיצת מדרגה טכנולוגית בהשוואה לכלי התקיפה המוכרים בשוק. עד כה, תעשיית הסייבר התמודדה בעיקר עם נוזקות סטטיות או חצי-אוטומטיות. כלי תקיפה מבוססי בינה מלאכותית, כמו WormGPT או FraudGPT שצצו בשנים האחרונות ברשת האפלה, שימשו בעיקר ליצירת תכני דיג (Phishing) מתוחכמים או לכתיבת קטעי קוד מבודדים עבור מפעילים אנושיים. המעבר לסוכנים אוטונומיים מלאים משנה את כללי המשחק, שכן הוא מאפשר להוציא לפועל מתקפות מורכבות ללא צורך במיומנות טכנית גבוהה מצד התוקף האנושי, ובקצב מהיר בהרבה מזה של מגן אנושי.
מבחינה היסטורית, עולם הסייבר נע בעשורים האחרונים מאוטומציה פשוטה של סקריפטים (כמו וירוסי האינטרנט הראשונים בשנות ה-90) למערכות מורכבות מונחות אדם (Human-operated ransomware), שבהן האקרים מנהלים את הפריצה באופן ידני לאחר השגת הגישה הראשונית. הטכנולוגיה שעומדת בבסיס המוצר הנוכחי – סוכני בינה מלאכותית (Agentic AI) – מבוססת על היכולת של מודלי שפה לא רק לנפק טקסט, אלא להשתמש בכלים חיצוניים, להריץ קוד באופן לולאתי ולבחון את התוצאות מול יעדים שהוגדרו להם מראש.מומחי אבטחה בעולם מדגישים כי הגעתם של "שחקני איום סוכנותיים" (Agentic Threat Actors) מחייבת שינוי תפיסתי עמוק במערכי ההגנה. היתרון הגדול של המגנים כרגע טמון דווקא באותו נפח פעילות מוגבר של הסוכן האוטונומי: הנטייה שלו לנסות פתרונות מרובים בזמן קצר, יחד עם השארת סימנים ייחודיים בקוד (כמו אותן הערות טקסטואליות), מייצרת "רעש" חריג ברשת שמערכות ניטור והגנה מתקדמות יכולות לזהות ולבלום בשלבים מוקדמים, לפני ביצוע ההצפנה בפועל.
יובל סיני, ראש מחלקת הגנה אקטיבית במערך הסייבר הלאומי הסביר את הנקודות החשובות בגילוי הזה:
"הנקודה המרכזית היא ש־JadePuffer אינו מציג טכניקות תקיפה מהפכניות. הסוכן ניצל חולשות מוכרות (N-day), תצורות ברירת מחדל לא מאובטחות (Misconfiguration) ומערכות שלא עודכנו בזמן. החידוש אינו באמצעי התקיפה עצמם, אלא ביכולת של סוכן AI לחבר באופן אוטונומי את כלל שלבי שרשרת התקיפה, לקבל החלטות בזמן אמת, להתאושש מכשלים ולהתאים את עצמו לסביבה, בדומה למפעיל אנושי מנוסה.
המשמעות עבור ארגונים היא שקצב הפעולה של התוקף עובר ל"מהירות מכונה". אם בעבר חלפו דקות ואף שעות בין שלבי התקיפה השונים, סוכן AI מסוגל לבצע את כל שרשרת התקיפה באופן רציף ואוטומטי, תוך צמצום משמעותי של חלון ההזדמנויות לזיהוי ולתגובה. בהתאם לכך, ארגונים צריכים לעבור מהסתמכות על מנגנוני זיהוי מבוססי חתימות בלבד לתפיסת Defense at Machine Speed: הגנה מבוססת התנהגות, ניטור רציף של זהויות והרשאות, הקשחת סביבות AI, צמצום שטח התקיפה, ניהול מוקפד של Secrets והאצת מחזורי תיקון הפגיעויות והטלאים.
עבור ארגונים המסתמכים על רשתות מבודדות (Air Gap), מדובר גם בתמרור אזהרה. אמנם בידוד פיזי נותר שכבת הגנה חשובה, אך הופעתם של סוכני תקיפה אוטונומיים מחייבת להיערך לתרחיש שבו לאחר חדירה ראשונית, למשל באמצעות שרשרת אספקה, מדיה ניידת או גורם פנים, הסוכן יוכל לפעול באופן עצמאי בתוך הרשת המבודדת, ללא צורך בהכוונה רציפה של התוקף. זוהי אינדיקציה נוספת לכך שעידן ה־Agentic Threat Actors (ATA) כבר אינו תרחיש עתידי, אלא מציאות מתפתחת."תודה ל @נוחעם-fm שסיפר לי על זה
מקור: Ynet
-
@המלאך זה המקרה הראשון המתועד שבו סוכן עשה הכל בעצמו.
@אברהם-גלסר ומה בכך?
אם תרצה אני אוכל ג"כ "לתעד" מקרה כזה.לא התכוונתי ברצינות.
אל תבקשו ממני.אתה משכנע את הסוכן, נותן לו את ההוראות ואת הכלים או אפילו נותן לו לעשות אותם לבד, ומבקש ממנו בסקיל שיכתוב לקובץ TXT כל מהלך שהוא עשה.
"Code shapes logic, AI expands vision."
-
@אברהם-גלסר ומה בכך?
אם תרצה אני אוכל ג"כ "לתעד" מקרה כזה.לא התכוונתי ברצינות.
אל תבקשו ממני.אתה משכנע את הסוכן, נותן לו את ההוראות ואת הכלים או אפילו נותן לו לעשות אותם לבד, ומבקש ממנו בסקיל שיכתוב לקובץ TXT כל מהלך שהוא עשה.
@המלאך אז תתעד.
סתם, זה מגניב ומעניין לשמוע על זה שAI עשה מתקפת סייבר בעצמו, זה הכל.החידוש הוא ביכולת של סוכן AI לחבר באופן אוטונומי את כלל שלבי שרשרת התקיפה, לקבל החלטות בזמן אמת, להתאושש מכשלים ולהתאים את עצמו לסביבה, בדומה למפעיל אנושי מנוסה.
-
@אברהם-גלסר ומה בכך?
אם תרצה אני אוכל ג"כ "לתעד" מקרה כזה.לא התכוונתי ברצינות.
אל תבקשו ממני.אתה משכנע את הסוכן, נותן לו את ההוראות ואת הכלים או אפילו נותן לו לעשות אותם לבד, ומבקש ממנו בסקיל שיכתוב לקובץ TXT כל מהלך שהוא עשה.
לא כל כך ברור מה החידוש.
הפירצה הזו משתמשת בexec().
כל מודל יזהיר ממנה.
אז הוא אוטונומי?
ואז מה? יש כמויות של אייג׳נטים כיום.למיטב הבנתי הנקודה היא שהוא היה דינמי ותיקן את עצמו כל משך התקיפה.
מדובר בשינויים שהיה לוקח ימים או שבועות אפי' להאקר מנוסה לעשות כדי להצליח לפרוץ.
הוא עשה אותם לבד ובחצי דקה...@אברהם-גלסר פעם שנייה שאני כותב מייד אחריך את אותו תוכן...
-
לא כל כך ברור מה החידוש.
הפירצה הזו משתמשת בexec().
כל מודל יזהיר ממנה.
אז הוא אוטונומי?
ואז מה? יש כמויות של אייג׳נטים כיום.למיטב הבנתי הנקודה היא שהוא היה דינמי ותיקן את עצמו כל משך התקיפה.
מדובר בשינויים שהיה לוקח ימים או שבועות אפי' להאקר מנוסה לעשות כדי להצליח לפרוץ.
הוא עשה אותם לבד ובחצי דקה...@אברהם-גלסר פעם שנייה שאני כותב מייד אחריך את אותו תוכן...
-
@נוחעם-FM לא עיינתי היטב אבל לא יודע אם יקח להאקר שבועות.
לדעתי הרבה פחות.
אבל אני לא יודע, אני לא האקר. -
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אם כי עוד 20 שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
-
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אם כי עוד 20 שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
אם כי עוד 20 שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
עשרים שנה או עשרים יום?...
-
אם כי עוד 20 שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
עשרים שנה או עשרים יום?...
20 יום זה קצר מידי
אבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליו -
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אם כי עוד 20 שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
AI יכול ללמוד מטעויות כבר שנים.
כנ"ל בני אדם.כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אתה טועה בשני דברים.
1 - המודל פייבל כבר מצא זירו די, ובכמויות מסחריות.
2 - המודלים א' לא מאומנים רק על אוברפלואו.
ב' לא רק מה שהם יודעים על אוברפלואו הם יכולים לחשב.
פליז קצת רחמנות על כושר ההסברה שלי.
חפש טיפה על מודלי הריזירינג.
או יודע מה? מודלים בכללי.שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
אשמח אם תסביר לי היתכנות טכנית של הדבר הזה.
-
20 יום זה קצר מידי
אבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליואבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליובלי לדעת אני בטוח שזה כבר קיים
מאיפה נראה לך כל הכשרונות האיראניים והסיניים?...לוקחים מודל מקומי מ-HF ויוצרים סוכן שיעשה מה שאתה רוצה, נשמע לי פשוט
-
אבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליובלי לדעת אני בטוח שזה כבר קיים
מאיפה נראה לך כל הכשרונות האיראניים והסיניים?...לוקחים מודל מקומי מ-HF ויוצרים סוכן שיעשה מה שאתה רוצה, נשמע לי פשוט
@חכם-בלילה-1 אתה אכן צודק.
זה כבר קיים כיום.
גוגל הודיעה לפני חודש על ניסיון פריצה רשמי של ai למערכות שלה.
איך יודעים שזה ai?
כי זה מלא בתיעודים..
-
@חכם-בלילה-1 אתה אכן צודק.
זה כבר קיים כיום.
גוגל הודיעה לפני חודש על ניסיון פריצה רשמי של ai למערכות שלה.
איך יודעים שזה ai?
כי זה מלא בתיעודים.. -
אבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליובלי לדעת אני בטוח שזה כבר קיים
מאיפה נראה לך כל הכשרונות האיראניים והסיניים?...לוקחים מודל מקומי מ-HF ויוצרים סוכן שיעשה מה שאתה רוצה, נשמע לי פשוט
-
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
AI יכול ללמוד מטעויות כבר שנים.
כנ"ל בני אדם.כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אתה טועה בשני דברים.
1 - המודל פייבל כבר מצא זירו די, ובכמויות מסחריות.
2 - המודלים א' לא מאומנים רק על אוברפלואו.
ב' לא רק מה שהם יודעים על אוברפלואו הם יכולים לחשב.
פליז קצת רחמנות על כושר ההסברה שלי.
חפש טיפה על מודלי הריזירינג.
או יודע מה? מודלים בכללי.שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
אשמח אם תסביר לי היתכנות טכנית של הדבר הזה.
-
@אברהם-גלסר ואיך הם יקבלו אוטונומיה?
למה שהחברות יאשרו אוטונומיה למודלים?
שמא תאמר - הסינים.
הרי היא גופא.
הם לא יאשרו אוטונומיה שלא ימריד נגדם!
גם ככה יש לסינים מגבלות על הגישה לai."Code shapes logic, AI expands vision."
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}