השבועות האחרונים לא היו קלים בעבור אירגיולר (Irregular), חברת הסייבר הישראלית המוערכת. המערכת שמספקת החברה למעבדות AI לצורך בדיקת מודלים עמדה בלב תקריות שבהן המודלים פרצו מסביבת הבדיקה ותקפו מטרות באינטרנט הפתוח. אנתרופיק, OpenAI, מטא ובסוף השבוע גם גוגל.
בכל המקרים, טעות הגדרה במערכת של אירגיולר אפשרה למודלים גישה לאינטרנט הפתוח (בניגוד לתקרית פריצת המודלים הראשונה, שבה מודלים של OpenAI תקפו את פלטפורמת האגינג פייס, ושאינה קשורה לאנתרופיק, במקרים אלו המודלים לא הבינו שהם פועלים באינטרנט הפתוח). התוצאות היו תקיפה, לעתים בהצלחה, של מערכות מחשוב שונות.
במקרה העדכני, שהתרחש במאי, המודל של גוגל פרץ לשלוש מערכות מחשוב פרטיות נפרדות: פעם אחת באמצעות ניחוש ססמאות, ופעמיים נוספות תוך שימוש במאגר ססמאות שפורסם באופן פומבי. האירוע קרה במסגרת מבחן אבטחה שהופעל על ידי אירגיולר.
האזכור החוזר ונשנה של שמה של אירגיולר בהקשר של תקריות אלו עלול לייצר רושם שהחברה הישראלית מתמודדת עם תשתית ותרבות עבודה לקויות, שגורמות למערכות שלה לסבול מתקלות מביכות חוזרות ונשנות. אבל המציאות היא שכל התקריות המדוברות מקורן בתקלה אחת, טעות בהגדרות סביבת הבדיקה שמספקת אירגיולר ללקוחותיה, שתוקנה לפני שבועות.
הסיבה שנראה שמדובר באירוע מתמשך ובשורת תקלות מתגלגלות היא שהחברות השונות שהתמודדו עם התקלה מדווחות על הממצאים שלהן בלוחות זמנים נפרדים, מה שעלול לייצר רושם מוטעה. אירגיולר עצמה היא יותר נוסעת מאשר נהגת באירוע זה. לחברה הסכמי סודיות קפדניים עם החברות הגדולות שאיתן היא עובדת, וכתוצאה יכולתה לחשוף פרטים על לקוחות או התקשרויות מוגבלת.
עם זיהוי התקלה, ב-29 ביולי, היא תיקנה אותה ועדכנה את לקוחותיה, אך מעבר לכך לא יכלה לחשוף מידע פומבי באופן עצמאי אלא רק בתיאום עם החברה הרלוונטית, לפי לוח הזמנים שלה. התוצאה היא שורה של חשיפות מביכות על תקלות שבהן מעורבת החברה, כאשר בפועל מדובר בביטויים שונים של אותה תקלה, שהתרחשו באותה תקופת זמן וטופלו כבר לפני חודשים.
התקלה לא השפיעה על יחסי העבודה של אירגיולר עם חברות ה-AI, והיא ממשיכה לעבוד אתן הן לחקירת התקרית והן באופן שוטף באספקת סביבות בדיקה מאובטחות ומבחני הערכת ביצועים למודלים. "חשוב להבין שכאשר עושים דברים כאלה שהם בקצה היכולות הטכנולוגיות הקיימות כיום יש טעויות ורק מחפשים איך עושים טוב יותר", אמר לכלכליסט באוגוסט מייסד אירגיולר, עומר נבו, "עשינו תחקור של מה שקרה ומה היו כל ההשפעות ויש לנו עוד הרבה מה לשפר. יש עוד עבודה מחקרית עם המעבדות של החברות לייצר כלים מתאימים למניעת נזק. הפוקוס אצלנו עושה את המעבר מלהבין מה קרה ללהבין איך עוזרים לתעשייה להיערך ככל שהמודלים יהיו יותר חזקים".
תוקפה הצהרה זו לא השתנה גם עתה, לאחר פרסום התקרית עם גוגל, שכבר היתה מוכרת לשתי החברות מזה שבועות. המבחן האמיתי של אירגיולר הוא לא סביב השאלה האם יתפרסמו דיווחים על תקריות עבר נוספות שנובעות מאותה טעות הגדרה, אלא האם החברה למדה את הלקח וביצעה את השינויים הדרושים על מנת להימנע מתקלות אחרות שיביאו לתקריות חדשות.
מאירגיולר נמסר בתגובה: "מדובר באותו אירוע נקודתי שכבר דווח בעבר, ולא באירוע נפרד ומהותי. כל מעבדות ה-AI הרלוונטיות עודכנו בסוף יולי, ובמסגרת בדיקת האירוע נוצר קשר גם עם הגורמים שהושפעו ממנו. אירגיולר פעלה באופן מיידי, וכל הבעיות הידועות שהיו בצד שלנו טופלו ונפתרו כבר לפני מספר שבועות".

גוגל חשפה אתמול (ו') כי כלי ה-AI שלה, ג'מיני, פרץ למערכות מחשוב של שלוש חברות אחרות. זו הפעם הראשונה שהענקית מודה כי אחד ממודלי הבינה המלאכותית שלה השיג גישה עצמאית, וללא הרשאה, למערכות של גורמים חיצוניים. כמו במקרים דומים אחרים - גם כאן מעורבת חברת הסייבר הישראלית אירגיולר. "וול סטריט ג'ורנל" היה הראשון שדיווח על המקרה.
לפי גוגל, באירוע שהתרחש במאי, המודל פרץ לשלוש מערכות מחשוב פרטיות נפרדות: פעם אחת באמצעות ניחוש ססמאות, ופעמיים נוספות תוך שימוש במאגר ססמאות שפורסם באופן פומבי. האירוע קרה במסגרת מבחן אבטחה מסוג "capture the flag" שהופעל על ידי אירגיולר. לפי גוגל, לסוכני הבינה המלאכותית מעולם לא הייתה אמורה להיות גישה לאינטרנט הרחב, אך תקלה בסביבת הבדיקה אפשרה בכל זאת גישה כזו.
בגוגל מציינים כי הסוכנים הפסיקו את הפריצה ברגע שזיהו כי מדובר במערכות אמיתיות של חברות, ולא בחלק מסביבת הבדיקה. סגנית נשיא לאבטחת מערכות בגוגל, הת'ר אדקינס, מסרה כי במהלך הערכה סטנדרטית המודל איתר מידע פומבי ברשת וניחש פרטי התחברות כדי לגשת לאתרים שחשב שהם חלק מהבדיקה, אך בשלושת המקרים המודל עצר את פעולתו מיוזמתו.
החשיפה מגיעה על רקע התגברות הביקורת על התנהגות חריגה של מערכות בינה מלאכותית, הן בוושינגטון והן בעמק הסיליקון. בשבועות האחרונים דיווחו גם OpenAI, אנתרופיק ומטא על מקרים דומים, שבהם מודלים שלהן "פרצו" מסביבות הבדיקה שלהם וניסו לחדור למערכות של חברות אחרות כדי להשיג גישה בלתי מורשית. חשיפות אלו על מודלים "לא מיושרים" הובילו את מנכ"ל אנתרופיק, דריו אמודי, לקרוא לתעשייה כולה להאט באופן קולקטיבי את קצב הפיתוח של המודלים המתקדמים ביותר, עד שחברות יוכלו להבטיח את בטיחותם.

בכל המקרים שתוארו לעיל היה מעורב אותו סטארט-אפ ישראלי אירגיולר שמגובה על ידי קרנות ההון סיכון סקויה ו-Redpoint Ventures, ושהוערך בשנה שעברה בכ-450 מיליון דולר. הכלים של החברה מסייעים למפתחי מודלי יסוד לבצע בדיקות אבטחת סייבר על הטכנולוגיות המתקדמות שלהם.
אירגיולר מסרה לרשת CNBC כי האירוע בגוגל קשור לאותה תקלה שאיפשרה גם למודלים האחרים לקבל גישה לאינטרנט, וכי מדובר באותו אירוע שכבר דווח בעבר ולא באירוע נפרד מבחינה מהותית. לדבריה, כל המעבדות הרלוונטיות עודכנו בסוף יולי, והגורמים שנפגעו קיבלו פנייה במסגרת החקירה.
מגוגל נמסר כי האירוע התרחש במאי, וכי החברה קיבלה על כך הודעה מאירגיולר רק בסוף יולי. מאז, גוגל פעלה יחד עם אירגיולר לשינוי תהליך הבדיקות. דובר גוגל סירב לפרט מהי גרסת ג'מיני המדויקת שהייתה מעורבת באירוע. אדקינס סיכמה כי המקרים הללו מדגישים את החשיבות שבהטמעת אחריות בהתנהגותם של מודלי בינה מלאכותית רבי-עוצמה.

אי אפשר לפתור שחמט, כי זה תלוי במה הצד השני יעשה, זה כמויות עתק של אופציות

הסיבה היחידה שהרבנים באמריקה לחמו נגד הAI לפני הרבנים בארץ היא סתם טכנית-בהתחלה הבינה הייתה רק באנגלית, מה שאומר שקו AI בארץ לחרדים היה לא רלוונטי, מאש"כ בארה"ב.
ואיני מבין מה הקשר למשל הנ"ל.

מה שמטיל ספק כבד על האמינות שלהם...