שיתוף | סוכן AI ביצע מתקפת סייבר מלאה
-
@המלאך כמו שכתבתי, אוטונומיה מול הבעלים. כשאני אומר אוטונומיה אני מתכוון לסוכן שלא צריך ממש כל דבר לומר לו לעשות, אלא אתה נותן לו את הכיוון הכללי ומשם - הוא מתכנן את הצעדים שלו ופועל בעצמו.
למה שהחברות יאשרו אוטונומיה למודלים?
יכול להיות שבעתיד הנגישות למודלים שיכולים להריץ סוכנים כאלה ואחרים תהיה הרבה יותר רחבה, זולה ופשוטה.
@אברהם-גלסר זה מחייב בהכרח או שינוי חומרה או שינוי ארכיטקטורה.
שניהם מנסים כבר שנה וחצי.
לא יצא מזה משהו, אבל מי יודע.. -
-
@שלץ זהו.
שנכון לעכשיו אין מישהו שהוא גם משוגע וגם טיפש עם כח עוצמה וכסף.
בל נשכח שיש רגולציה על ai בארה"ב..
זה גם הסיבה שפייבל הוגבל.. בגלל הממשל. -
@אברהם-גלסר ואיך הם יקבלו אוטונומיה?
למה שהחברות יאשרו אוטונומיה למודלים?
שמא תאמר - הסינים.
הרי היא גופא.
הם לא יאשרו אוטונומיה שלא ימריד נגדם!
גם ככה יש לסינים מגבלות על הגישה לai.יש לך מקור לזירו די אכ איזה בדיוק
ב AI טוב נגד רע הכוונה למדינות וגם למדינות אויב יהיו מודלים מאומנים על מליוני שורות קוד שבפרומפט קצר יתקפו תשתיות מסוימות מנגד יהיה המגן מצויד בAI דומה שישיב מלחמה שערה או יגן על עצמו זה מה שאני חושב עזוב מחשבים קוונטים אז זה יהיה הסוף להצפנותאגב האיראנים ממש אבל ממש לא טיפשים יש להם ידע ברמה מאוד גבוהה
התכוונתי לומר זירו די איכותי נובע משרשרת פרצות ולא רק מבאפר אוברפלואו שAI ימצא בקלות
זה דורש הבנה מעמיקה של: איפה המערכת תישבר -
-
יש לך מקור לזירו די אכ איזה בדיוק
ב AI טוב נגד רע הכוונה למדינות וגם למדינות אויב יהיו מודלים מאומנים על מליוני שורות קוד שבפרומפט קצר יתקפו תשתיות מסוימות מנגד יהיה המגן מצויד בAI דומה שישיב מלחמה שערה או יגן על עצמו זה מה שאני חושב עזוב מחשבים קוונטים אז זה יהיה הסוף להצפנותאגב האיראנים ממש אבל ממש לא טיפשים יש להם ידע ברמה מאוד גבוהה
התכוונתי לומר זירו די איכותי נובע משרשרת פרצות ולא רק מבאפר אוברפלואו שAI ימצא בקלות
זה דורש הבנה מעמיקה של: איפה המערכת תישבר -
אגב האיראנים ממש אבל ממש לא טיפשים
הם כן, למעשה. כל הידע הגרעיני שלהם למשל זה מצפון קוריאה
אגב לצפון קוריאה יש כבר מודל משלהם?...
-
@אברהם-גלסר
ככהנ כןלא האיראנים לא טיפשים יש שם אנשים מאוד חכמים להרע
-
יש לך מקור לזירו די אכ איזה בדיוק
ב AI טוב נגד רע הכוונה למדינות וגם למדינות אויב יהיו מודלים מאומנים על מליוני שורות קוד שבפרומפט קצר יתקפו תשתיות מסוימות מנגד יהיה המגן מצויד בAI דומה שישיב מלחמה שערה או יגן על עצמו זה מה שאני חושב עזוב מחשבים קוונטים אז זה יהיה הסוף להצפנותאגב האיראנים ממש אבל ממש לא טיפשים יש להם ידע ברמה מאוד גבוהה
התכוונתי לומר זירו די איכותי נובע משרשרת פרצות ולא רק מבאפר אוברפלואו שAI ימצא בקלות
זה דורש הבנה מעמיקה של: איפה המערכת תישבר@Nils-Sjoberg פייבל 5.
זה פורסם בעבר.
לגבי השרשרת שציינת, הכל נכון חוץ מכשל לוגי אחד.
לא פריצה למערכת.
פריצה לקוד.
את זה ai עושה מצויין.
ולגבי המדינות, ייתכן, אבל לא תוכל לקרוא לזה ai רע במובן של שליטה באנשים כמו כל סיוטי העבר של בני האנוש. -
-
@Nils-Sjoberg פייבל 5.
זה פורסם בעבר.
לגבי השרשרת שציינת, הכל נכון חוץ מכשל לוגי אחד.
לא פריצה למערכת.
פריצה לקוד.
את זה ai עושה מצויין.
ולגבי המדינות, ייתכן, אבל לא תוכל לקרוא לזה ai רע במובן של שליטה באנשים כמו כל סיוטי העבר של בני האנוש.@המלאך
שמע אתה צודק 1700 פרצות מאומתות וואו זה יותר מכל הארסנל של NSA כפול 10 -
@Nils-Sjoberg פייבל 5.
זה פורסם בעבר.
לגבי השרשרת שציינת, הכל נכון חוץ מכשל לוגי אחד.
לא פריצה למערכת.
פריצה לקוד.
את זה ai עושה מצויין.
ולגבי המדינות, ייתכן, אבל לא תוכל לקרוא לזה ai רע במובן של שליטה באנשים כמו כל סיוטי העבר של בני האנוש. -
לא יודע מה התלהבות שלך @אברהם-גלסר אני כבר לפני ארבע חודשים בערך שמעתי על קלוד שמצא לבד פורט פתוח במסדי נתונים של ממשלת מקסיקו
@לנציצ מה הקשר? זה לא אותו דבר.
אברהם-גלסר כתב:
@אברהם-גלסר כתב:
החידוש הוא ביכולת של סוכן AI לחבר באופן אוטונומי את כלל שלבי שרשרת התקיפה, לקבל החלטות בזמן אמת, להתאושש מכשלים ולהתאים את עצמו לסביבה, בדומה למפעיל אנושי מנוסה.
-
-
@לנציצ מה הקשר? זה לא אותו דבר.
אברהם-גלסר כתב:
@אברהם-גלסר כתב:
החידוש הוא ביכולת של סוכן AI לחבר באופן אוטונומי את כלל שלבי שרשרת התקיפה, לקבל החלטות בזמן אמת, להתאושש מכשלים ולהתאים את עצמו לסביבה, בדומה למפעיל אנושי מנוסה.
@אברהם-גלסר עד כמה שזכור לי שם
האדם ההוא טען לחפות
בגלל שלא הבין את המהלכים של קלוד
כלומר הוא טען לחוסר ידע כללי במונחי אקינג
הוי אומר אותו אחד נתן לקלוד להנחות אותו מ א' עד ת' -
@אברהם-גלסר עד כמה שזכור לי שם
האדם ההוא טען לחפות
בגלל שלא הבין את המהלכים של קלוד
כלומר הוא טען לחוסר ידע כללי במונחי אקינג
הוי אומר אותו אחד נתן לקלוד להנחות אותו מ א' עד ת' -
@לנציצ
פחחח...
אם הוא יצא נקי אני אחשוב על לפתוח חברה אקינג לטיפשים בלבד -
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}