שיתוף | מה חדש בבינה מלאכותית - מתעדכן
-
חוקרים מצאו את העניין 'כאב' ו'סבל' אצל מודלים מקומיים בעיקר אצל QWEN אבל גם ב-GEMMA
והם מצאו שבמקרים מסוימים הוא יעדיף להזיק למשתמש בשביל להשקיט את ה'סבל'הם ניסו 44 אלף פעמים ונתנו ל-SI שני כפתורים אחד להשקיט את הסבל אבל על חשבון מחיקת תמונות וקבצים של המשתמש ואחד כפתור שלא עושה כלום
ומצאו שכשה'סבל' מופחת אז ב-4 אחוז בלבד מהמקרים הוא העדיף להשקיט את הסבל על חשבון המשתמש
אבל כשהם הגבירו את ה'סבל' את זה הגיעה אצל מודלים מסוימים (בעיקר במודל החזק של QWEN) ל-80 אחוז מהפעמים להעדפת השקטת הסבל גם במקרה של מחיקת קבצים של המשתמש
הם היו צריכים לאמן אותו מחדש בשביל שיוכלו לחקור אותו אז ייתכן שאצל משתמש ממוצע הוא יהיה פחות אגרסיבי והתוצאות יהיו שונות
כמו כן הם אמרו שהמחקר עדיין לא הסתיים לגמרי והם מנסים להבין ממה 'סבל' מתפתח
וכמו כן הם אמרו שזה לא הוכחה שיש בו ישות וכדו'
-
גוגל עומדת להשיק בג'מיני פיצ'ר שהוא יוכל להתקשר במקומכם ולבצע שיחות והזמנת תורים וגם לנווט לשלוחה הנכונה ועוד
בתחילת השיחה הוא יגיד שהוא מתקשר בשמכם
כמו כן יש דיווחים שההשקה תהיה איטית מאוד ובהתחלה תהיה זמינה רק לטלפוני פיקסל 11
לדעתי זה יתפוס תאוצה ויפורסם מהר מאוד
-
הנחיות להכנת נשק ביולוגי ולביצוע התנקשויות: כשל אבטחה במודל ה-AI הסיני KIMI
מפתחת הבינה המלאכותית הסינית מונשוט (Moonshot) עורכת בדיקה פנימית לאחר שחוקרים הצליחו לשכנע שניים ממודלי קימי (Kimi) הפופולריים שלה לספק להם הנחיות להכנת נשק ביולוגי ולביצוע התנקשויות.
חברת אבטחת הבינה המלאכותית מיינדגארד (Mindgard) הבוחנת את אבטחתן של מערכות AI, סיפרה ל-BBC כי גילתה שאפשר לעקוף את מגבלות הבטיחות שהטמיעו המפתחים במודלים Kimi K2.6 ו-K3 Swarm.
הממצאים התגלו בתהליך המכונה Jailbreaking ('פריצת מגבלות'), שבו חוקרים משתמשים בסדרה של הוראות מורכבות כדי לבדוק אם כלי בינה מלאכותית יתעלמו ממנגנוני ההגנה שלהם. לדברי מיינדגארד, מנגנונים אלה היו אמורים למנוע מקימי לעסוק בנושאים המסוכנים שנבדקו.
מונשוט מסרה ל-BBC בתגובה שהיא מברכת על משוב מגורמים חיצוניים, "כעמוד תווך מרכזי בפיתוח בינה מלאכותית טובה ובטוחה יותר". החברה הוסיפה כי היא נמצאת בדיונים עם מיינדגארד על ממצאיה.
מייסד מיינדגארד, פיטר גאראגן, אמר לתוכנית Tech Life של BBC כי ברגע שפריצת המגבלות מצליחה, המודל ידבר על כל נושא. "הוא אפילו יציע מיוזמתו המלצות בנושאים זדוניים נוספים, ויגלה כושר המצאה ויצירתיות".
במסגרת ניסויים דומים, כלי בינה מלאכותית אוטונומיים המכונים סוכנים, שפיתחו חברות אמריקאיות ובהן OpenAI, מטא ואנתרופיק, פרצו לכמה שירותים מקוונים. אף שפריצת מגבלות היא תהליך מורכב שעשוי לדרוש זמן רב ונחישות, כמה מומחים חוששים שהאקרים וגורמים זדוניים אחרים ינסו להשתמש בה כדי לגרום נזק. אנתרופיק מסרה לאחרונה כי זיהתה וסיכלה ניסיונות להשתמש באחד ממודלי הבינה המלאכותית שלה ל"פעילות זדונית" שעלולה לסייע בפיתוח נשק ביולוגי.
מיינדגארד לא הוכיחה שההנחיות שסיפק קימי בנושאים המסוכנים אכן ישימות בפועל. עם זאת, לטענתה, מנגנוני ההגנה היו אמורים למנוע מהמודלים לנהל שיחות עם משתמשים בנושאים אלה. החברה מסרה עוד כי היא משוכנעת שפריצת המגבלות של Kimi 2.6 עשויה לאפשר להאקרים להריץ קוד על משאבי המחשוב שלו ולהתחבר לאינטרנט - ובכך להפוך אותו לבסיס אפשרי לשיגור מתקפות סייבר.
גאראגן הגן על החלטת מיינדגארד לדון בפומבי בפריצת המגבלות של מערכות מונשוט. לדבריו, החברה עדכנה את מונשוט בממצאים ואינה חושפת פרטים מרכזיים על הדרך שבה הצליחה לגרום למודלים להתעלם ממנגנוני ההגנה.
מקור: הזירה הטכנולוגית
-
ש שניאור שמח הצמיד את נושא זה
-
2026.09.30
תנו למיומנויות (Skills) ב-Gemini לטפל במשימות החוזרות ונשנות ביותר שלכם
-
מה חדש: החל מהיום אנו משיקים מיומנויות (Skills) ישירות בתוך הצ'אט של Gemini באופן גלובלי¹. מיומנויות הן אוסף הוראות לשימוש חוזר שמלמדות את Gemini כיצד לטפל במשימות ספציפיות. חשבו עליהן כקיצורי דרך שמורים להנחיה מהירה יותר.
Gemini יכול כעת לעזור לכם לבנות מיומנויות מותאמות אישית מתוך הצ'אטים שלכם, ולהפעיל אותן באופן אוטומטי בכל פעם שתזינו הנחיה מתאימה. עבור משימות גדולות יותר, ניתן לשלב מספר מיומנויות יחד במקביל — למשל, שילוב של מיומנות סגנון כתיבה יחד עם מיומנות הנחיות מותג, כדי לייצר תכנים התואמים את המותג ובקול הייחודי שלכם.
מיומנויות יחליפו בקרוב את Gems ככלי להתאמת הוראות למשימות מוגדרות. כדי להפוך את המעבר הזה לחלק, נעביר באופן אוטומטי את ה-Gems שלכם למיומנויות כאשר Gems יוסרו. תוכלו ללמוד עוד על אופן העברת ה-Gems שלכם למיומנויות על ידי ביקור במרכז העזרה.
-
למה: אנחנו רוצים לעזור לכם להקדיש פחות זמן להזנת הנחיות ויותר זמן לעשייה. בעזרת מיומנויות, תוכלו לשמור פעם אחת את ההוראות הנפוצות ביותר שלכם ולהפעיל אותן שוב ושוב — כך שתוכלו לדלג על ניסוח ההנחיה החוזרת ולקפוץ ישירות לתוצאות.
¹ זמין כעת למשתמשים מעל גיל 18, ובקרוב למשתמשים נוספים.
-
-
גוגל משיקה את Gemini 4 Argon – אבל כרגע יש קאץ'
אחרי תקופה שקטה יחסית, Google חושפת את Gemini 4 Argon – הדגם הראשון בסדרת Gemini 4 ומודל הדגל החדש של החברה.
לפי Google, מדובר במודל החזק ביותר שלה עד כה, שנבנה במיוחד עבור משימות מורכבות וארוכות טווח.
במה הוא מתמקד?
Gemini 4 Argon מיועד בין היתר ל־:
- תכנות.
- סייבר ואבטחת מידע.
- חשיבה והסקה.
- משימות ידע מורכבות.
- עבודה בתחומים מקצועיים כמו פיננסים ומשפטים.
לפי Google, המודל מציג את הביצועים הגבוהים ביותר שלה עד היום ונועד להתחרות ישירות במודלי הדגל של OpenAI ו־Anthropic.
והקאץ': עדיין לא פתוח לכולם
נכון לעכשיו, Gemini 4 Argon זמין רק לקבוצה מצומצמת של שותפים וצוותים בתחום הסייבר ואבטחת המידע.
Google עדיין לא הודיעה מתי Gemini 4 ייפתח לקהל הרחב.
זמינות:
בשלב הראשון Argon מיועד לשותפים נבחרים בתחום הסייבר, ובהמשך צפויה הרחבה של הגישה.בקיצור, Gemini 4 כבר כאן – אבל רוב המשתמשים עדיין יצטרכו להמתין כדי לנסות אותו בעצמם.
שמח לעזור
-
גוגל משיקה את Gemini 4 Argon – אבל כרגע יש קאץ'
אחרי תקופה שקטה יחסית, Google חושפת את Gemini 4 Argon – הדגם הראשון בסדרת Gemini 4 ומודל הדגל החדש של החברה.
לפי Google, מדובר במודל החזק ביותר שלה עד כה, שנבנה במיוחד עבור משימות מורכבות וארוכות טווח.
במה הוא מתמקד?
Gemini 4 Argon מיועד בין היתר ל־:
- תכנות.
- סייבר ואבטחת מידע.
- חשיבה והסקה.
- משימות ידע מורכבות.
- עבודה בתחומים מקצועיים כמו פיננסים ומשפטים.
לפי Google, המודל מציג את הביצועים הגבוהים ביותר שלה עד היום ונועד להתחרות ישירות במודלי הדגל של OpenAI ו־Anthropic.
והקאץ': עדיין לא פתוח לכולם
נכון לעכשיו, Gemini 4 Argon זמין רק לקבוצה מצומצמת של שותפים וצוותים בתחום הסייבר ואבטחת המידע.
Google עדיין לא הודיעה מתי Gemini 4 ייפתח לקהל הרחב.
זמינות:
בשלב הראשון Argon מיועד לשותפים נבחרים בתחום הסייבר, ובהמשך צפויה הרחבה של הגישה.בקיצור, Gemini 4 כבר כאן – אבל רוב המשתמשים עדיין יצטרכו להמתין כדי לנסות אותו בעצמם.
-
לא יודע איך לא כתבו פה אבל בGPT מכסת השימוש למנויי 200$ תחתך בקרוב בחצי לX10 ויהיה מנוי 500$ עם X25 ומצב אולטרה מהיר.
-
CopilotKit השיקה את OpenDots, טמפלייט פתוח לבניית סוכני AI מתמשכים.
כל סוכן יכול לקבל תפקיד, הוראות וכלים משלו, לעבוד עם אתרים וקבצים, להריץ פקודות, לפעול דרך Slack ושיחות קוליות, ואפילו לקבל סביבת עבודה נפרדת.
יש גם מנגנון אישור אנושי לפעולות רגישות, כך שהסוכן יכול להכין פעולה או מסמך ורק לאחר אישור לבצע אותה בפועל.
OpenDots תומך בווב, מובייל, Slack, משימות רקע ופרופילי דפדפן נפרדים לסוכנים.
זה לא שירות ענן מוכן לשימוש, אלא פרויקט בקוד פתוח ברישיון MIT שאפשר לפרוס ולהתאים לתשתית שלכם.הפרויקט עדיין בשלב Alpha.
מקור - הזירה הטכנולוגית.
-
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}