שיתוף | סוכן AI ביצע מתקפת סייבר מלאה
-
אבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליובלי לדעת אני בטוח שזה כבר קיים
מאיפה נראה לך כל הכשרונות האיראניים והסיניים?...
לוקחים מודל מקומי מ-HF ויוצרים סוכן שיעשה מה שאתה רוצה, נשמע לי פשוט
@חכם-בלילה-1 אתה אכן צודק.
זה כבר קיים כיום.
גוגל הודיעה לפני חודש על ניסיון פריצה רשמי של ai למערכות שלה.
איך יודעים שזה ai?
כי זה מלא בתיעודים..
-
@חכם-בלילה-1 אתה אכן צודק.
זה כבר קיים כיום.
גוגל הודיעה לפני חודש על ניסיון פריצה רשמי של ai למערכות שלה.
איך יודעים שזה ai?
כי זה מלא בתיעודים.. -
אבל לא מופרך שככה יראו מתקפות הסייבר האוטונימיות בעתיד כיום
תחום זה עדיין בחיתוליובלי לדעת אני בטוח שזה כבר קיים
מאיפה נראה לך כל הכשרונות האיראניים והסיניים?...לוקחים מודל מקומי מ-HF ויוצרים סוכן שיעשה מה שאתה רוצה, נשמע לי פשוט
-
כל הרעיון פה זה סוג של בינה שאינה בינת אדם היכולת שלו ללמוד מטעויות ולבצע את כל השלבים לבד. זה החידוש מבחינת הפריצה זה כלל לא חידוש הוא השתמש בפרצת אבטחה מוכרת
AI יכול ללמוד מטעויות כבר שנים.
כנ"ל בני אדם.כיום גם למודלי שפה גדולים יהיה אין לפחות כרגע את היכולת למצוא פרצות זירו די זה דורש הבנה מעמיקה ביותר ב= לא עוד באפר אוברפלואו אני עצמי לא חושב שAI יגיע למצב שהוא מחליף בן אדם לגמרי
כי AI זה רובוט ורובוט עושה טעויות .אתה טועה בשני דברים.
1 - המודל פייבל כבר מצא זירו די, ובכמויות מסחריות.
2 - המודלים א' לא מאומנים רק על אוברפלואו.
ב' לא רק מה שהם יודעים על אוברפלואו הם יכולים לחשב.
פליז קצת רחמנות על כושר ההסברה שלי.
חפש טיפה על מודלי הריזירינג.
או יודע מה? מודלים בכללי.שנה נגיד לא יהיה מופרך AI טוב נגד AI רע.
אשמח אם תסביר לי היתכנות טכנית של הדבר הזה.
-
@אברהם-גלסר ואיך הם יקבלו אוטונומיה?
למה שהחברות יאשרו אוטונומיה למודלים?
שמא תאמר - הסינים.
הרי היא גופא.
הם לא יאשרו אוטונומיה שלא ימריד נגדם!
גם ככה יש לסינים מגבלות על הגישה לai."Code shapes logic, AI expands vision."
-
@אברהם-גלסר ואיך הם יקבלו אוטונומיה?
למה שהחברות יאשרו אוטונומיה למודלים?
שמא תאמר - הסינים.
הרי היא גופא.
הם לא יאשרו אוטונומיה שלא ימריד נגדם!
גם ככה יש לסינים מגבלות על הגישה לai.@המלאך כמו שכתבתי, אוטונומיה מול הבעלים. כשאני אומר אוטונומיה אני מתכוון לסוכן שלא צריך ממש כל דבר לומר לו לעשות, אלא אתה נותן לו את הכיוון הכללי ומשם - הוא מתכנן את הצעדים שלו ופועל בעצמו.
למה שהחברות יאשרו אוטונומיה למודלים?
יכול להיות שבעתיד הנגישות למודלים שיכולים להריץ סוכנים כאלה ואחרים תהיה הרבה יותר רחבה, זולה ופשוטה.
-
@אברהם-גלסר ואיך הם יקבלו אוטונומיה?
למה שהחברות יאשרו אוטונומיה למודלים?
שמא תאמר - הסינים.
הרי היא גופא.
הם לא יאשרו אוטונומיה שלא ימריד נגדם!
גם ככה יש לסינים מגבלות על הגישה לai. -
@המלאך כמו שכתבתי, אוטונומיה מול הבעלים. כשאני אומר אוטונומיה אני מתכוון לסוכן שלא צריך ממש כל דבר לומר לו לעשות, אלא אתה נותן לו את הכיוון הכללי ומשם - הוא מתכנן את הצעדים שלו ופועל בעצמו.
למה שהחברות יאשרו אוטונומיה למודלים?
יכול להיות שבעתיד הנגישות למודלים שיכולים להריץ סוכנים כאלה ואחרים תהיה הרבה יותר רחבה, זולה ופשוטה.
@אברהם-גלסר זה מחייב בהכרח או שינוי חומרה או שינוי ארכיטקטורה.
שניהם מנסים כבר שנה וחצי.
לא יצא מזה משהו, אבל מי יודע.. -
-
@שלץ זהו.
שנכון לעכשיו אין מישהו שהוא גם משוגע וגם טיפש עם כח עוצמה וכסף.
בל נשכח שיש רגולציה על ai בארה"ב..
זה גם הסיבה שפייבל הוגבל.. בגלל הממשל. -
@אברהם-גלסר ואיך הם יקבלו אוטונומיה?
למה שהחברות יאשרו אוטונומיה למודלים?
שמא תאמר - הסינים.
הרי היא גופא.
הם לא יאשרו אוטונומיה שלא ימריד נגדם!
גם ככה יש לסינים מגבלות על הגישה לai.יש לך מקור לזירו די אכ איזה בדיוק
ב AI טוב נגד רע הכוונה למדינות וגם למדינות אויב יהיו מודלים מאומנים על מליוני שורות קוד שבפרומפט קצר יתקפו תשתיות מסוימות מנגד יהיה המגן מצויד בAI דומה שישיב מלחמה שערה או יגן על עצמו זה מה שאני חושב עזוב מחשבים קוונטים אז זה יהיה הסוף להצפנותאגב האיראנים ממש אבל ממש לא טיפשים יש להם ידע ברמה מאוד גבוהה
התכוונתי לומר זירו די איכותי נובע משרשרת פרצות ולא רק מבאפר אוברפלואו שAI ימצא בקלות
זה דורש הבנה מעמיקה של: איפה המערכת תישבר -
-
יש לך מקור לזירו די אכ איזה בדיוק
ב AI טוב נגד רע הכוונה למדינות וגם למדינות אויב יהיו מודלים מאומנים על מליוני שורות קוד שבפרומפט קצר יתקפו תשתיות מסוימות מנגד יהיה המגן מצויד בAI דומה שישיב מלחמה שערה או יגן על עצמו זה מה שאני חושב עזוב מחשבים קוונטים אז זה יהיה הסוף להצפנותאגב האיראנים ממש אבל ממש לא טיפשים יש להם ידע ברמה מאוד גבוהה
התכוונתי לומר זירו די איכותי נובע משרשרת פרצות ולא רק מבאפר אוברפלואו שAI ימצא בקלות
זה דורש הבנה מעמיקה של: איפה המערכת תישבר -
אגב האיראנים ממש אבל ממש לא טיפשים
הם כן, למעשה. כל הידע הגרעיני שלהם למשל זה מצפון קוריאה
אגב לצפון קוריאה יש כבר מודל משלהם?...
-
@אברהם-גלסר
ככהנ כןלא האיראנים לא טיפשים יש שם אנשים מאוד חכמים להרע
-
יש לך מקור לזירו די אכ איזה בדיוק
ב AI טוב נגד רע הכוונה למדינות וגם למדינות אויב יהיו מודלים מאומנים על מליוני שורות קוד שבפרומפט קצר יתקפו תשתיות מסוימות מנגד יהיה המגן מצויד בAI דומה שישיב מלחמה שערה או יגן על עצמו זה מה שאני חושב עזוב מחשבים קוונטים אז זה יהיה הסוף להצפנותאגב האיראנים ממש אבל ממש לא טיפשים יש להם ידע ברמה מאוד גבוהה
התכוונתי לומר זירו די איכותי נובע משרשרת פרצות ולא רק מבאפר אוברפלואו שAI ימצא בקלות
זה דורש הבנה מעמיקה של: איפה המערכת תישבר@Nils-Sjoberg פייבל 5.
זה פורסם בעבר.
לגבי השרשרת שציינת, הכל נכון חוץ מכשל לוגי אחד.
לא פריצה למערכת.
פריצה לקוד.
את זה ai עושה מצויין.
ולגבי המדינות, ייתכן, אבל לא תוכל לקרוא לזה ai רע במובן של שליטה באנשים כמו כל סיוטי העבר של בני האנוש. -
-
@Nils-Sjoberg פייבל 5.
זה פורסם בעבר.
לגבי השרשרת שציינת, הכל נכון חוץ מכשל לוגי אחד.
לא פריצה למערכת.
פריצה לקוד.
את זה ai עושה מצויין.
ולגבי המדינות, ייתכן, אבל לא תוכל לקרוא לזה ai רע במובן של שליטה באנשים כמו כל סיוטי העבר של בני האנוש.@המלאך
שמע אתה צודק 1700 פרצות מאומתות וואו זה יותר מכל הארסנל של NSA כפול 10 -
@Nils-Sjoberg פייבל 5.
זה פורסם בעבר.
לגבי השרשרת שציינת, הכל נכון חוץ מכשל לוגי אחד.
לא פריצה למערכת.
פריצה לקוד.
את זה ai עושה מצויין.
ולגבי המדינות, ייתכן, אבל לא תוכל לקרוא לזה ai רע במובן של שליטה באנשים כמו כל סיוטי העבר של בני האנוש.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}