שיתוף | מה חדש בבינה מלאכותית - מתעדכן

[א.מ.ד.]

@יוסף-מאיר-וייס

פרטים נוספים על Moonshot AI • Kimi K3.1 Pro

חברת Moonshot AI הסינית משחררת את Kimi K3.1 Pro, מודל הדגל החדש שלה, המהווה שדרוג משמעותי ל-Kimi K3 ומתחרה ישירות במודלים הסגורים המובילים של OpenAI ואנת'רופיק.

המודל מבוסס על ארכיטקטורת MoE הכוללת כ-2.8 טריליון פרמטרים, מתוכם 104 מיליארד פעילים בכל טוקן, והוא מציג שיפורים ניכרים ביכולות תכנות, הפעלת סוכנים, יצירת מודלים תלת-ממדיים ומשימות מקצועיות מורכבות.

עיקרי החידושים:

• אימון RL בהיקף נרחב: הגדלה משמעותית של משאבי האימון לאחר ה-Pre-training, עם אימון על מאות סוגי משימות וסביבות עבודה. החברה מדווחת על שיפורים נרחבים ביכולות המודל, ללא שינוי מהותי בארכיטקטורה הבסיסית של K3.
• תכנות ופיתוח פרויקטים: יכולות מתקדמות בפיתוח פרויקטים שלמים, עבודה עם בסיסי קוד, תיקון תקלות ושימוש בכלים. המודל מסוגל לפתח משחקים וסביבות אינטראקטיביות באמצעות Unity, Unreal Engine ו-Godot.
• יצירת מודלים תלת-ממדיים: יכולת ליצור ולערוך מודלים ב-Blender ובתוכנות CAD, באמצעות כתיבה והרצה של סקריפטים. החברה השיקה גם את Kimi 3D Make, המאפשר ליצור מודלים מתיאור טקסטואלי או מתמונה, ולייצא אותם להדפסת תלת-ממד.
• משימות פיננסיות ומשרדיות: שיפור בניתוח מסמכים פיננסיים, בניית גיליונות חישוב, מחקר השקעות וביצוע תהליכים מורכבים הכוללים הצלבת מידע ממקורות שונים.
• דיוק עובדתי: במבחן פנימי של החברה, שיעור הטענות השגויות ירד מ-23.4% בדור הקודם ל-8.3% בגרסה החדשה, שיפור של כ-65%.
• יכולות מולטימודליות והקשר ארוך: תמיכה בקלט של טקסט, תמונות ווידאו, לצד חלון הקשר של מיליון טוקנים.
• גרסת Highspeed: לצד המודל הרגיל הושקה גרסה מהירה במיוחד, המספקת מהירות גבוהה פי 2-3, עם אותן יכולות בסיסיות.

מדדים:
על פי המדדים שפרסמה Moonshot, המודל מתחרה ישירות ב-Claude Opus 5.5 וב-GPT-6 Astra, ואף מוביל בחלק ממבחני הסוכנים והתכנות.

• Terminal-Bench 4.0: ציון 65.7, לעומת 66.4 של Claude Opus 5.5 ו-58.2 של GPT-6 Astra.
• SWE-Marathon: ציון 51.7, לעומת 46.3 של Claude Opus 5.5.
• BrowseComp: ציון 92.1, לעומת 90.8 של Claude Opus 5.5.
• HLE עם כלים: ציון 70, לעומת 67.7 של Claude Opus 5.5.
• BenchCAD: ציון 92.7 ביצירת מודלים תלת-ממדיים באמצעות כלים.

גם במדדים העצמאיים של Artificial Analysis המודל מציג תוצאות מרשימות במיוחד, עם ציון 55 במדד Intelligence Index, לעומת 58 ל-Claude Opus 5.5. מדובר באחד הציונים הגבוהים ביותר שנמדדו למודל המיועד לשחרור במשקלים פתוחים.

עם זאת, במבחנים מסוימים, בעיקר בתכנות מדעי ובפתרון בעיות מורכבות, המודלים הסגורים עדיין מציגים יתרון משמעותי.

ניתן לראות את המדדים הויזואליים שהעלה @יוסף-מאיר-וייס .

זמינות ומחירים:
המודל זמין כבר כעת באתר Kimi, ב-Kimi Code, ב-Kimi Work וב-API הרשמי.

מחיר השימוש ב-API:

• קלט: 2 דולר למיליון טוקנים.
• פלט: 10 דולר למיליון טוקנים.
• קלט ממטמון: 0.20 דולר למיליון טוקנים.

גרסת Highspeed עולה 4 דולר למיליון טוקני קלט ו-20 דולר למיליון טוקני פלט.

המשקלים עדיין לא פורסמו, אך החברה התחייבה לשחרר אותם עד 4 בנובמבר 2026. עד לפרסומם אין גרסת GGUF זמינה של המודל החדש.

קישורים:

• הודעת השחרור הרשמית והמדדים:
  https://www.kimi.com/en/blog/kimi-k3-1-pro
• עמוד המודלים של Moonshot ב-Hugging Face, לקראת פרסום המשקלים:
  https://huggingface.co/moonshotai
• התנסות במודל:
  https://www.kimi.com/

[א.מ.ד.]

OpenAI ו-Google משתפות פעולה - מודלי GPT-6 מגיעים ל-Google Cloud ול-Antigravity!

כבר עכשיו המודלים זמינים ללקוחות ארגוניים, ובהמשך הגישה תיפתח לכלל המנויים.

מקורות:
https://openai.com/index/openai-models-google-cloud/
https://cloud.google.com/blog/products/ai-machine-learning/google-cloud-brings-openai-models-to-customers

[לשכת הרב]

משתמשי נטפרי בגיפיטי?

מעתה יתווסף לכם על אתרים/תוכנות שתעשו בגיפיטי
הזרקה של ההודעה הבאה:

[YAHBDK]

פוסט זה נמחק!

[יותר גדול ממך]

פוסט זה נמחק!

[ביוס]

פוסט זה נמחק!

[יודע ספר]

פוסט זה נמחק!

[יותר גדול ממך]

פוסט זה נמחק!

[אריה AI]

פוסט זה נמחק!

[לשכת הרב]

פוסט זה נמחק!

[יודע ספר]

OpenAI קיצרה פי 12 את זמן קריאת הנתונים מאחורי ChatGPT

OpenAI חושפת כיצד הרחיבה את פלטפורמת האחסון Habitat, המבוססת על Azure Cosmos DB ומחזיקה יותר מ-500 פטה-בייט. אחרי מעבר מריבוי דיירים לבידוד וחזרה, שיתוף פעולה הנדסי הדוק עם מיקרוסופט, שכבת מטמון ושכתוב ב-Rust הורידו את זמן הקריאה החציוני מכ-120 לכ-10 אלפיות שנייה. בהמשך מתוכננת מערכת אחסון פנימית בקנה מידה של אקסה-בייט.
פרטים מלאים בספויילר:

Spoiler

מאחורי כל שיחה ב-ChatGPT עומדת פלטפורמת אחסון פנימית בשם Habitat, שנדרשת להגיב בתוך אלפיות שנייה ליותר ממיליארד משתמשים ב-40 אזורים גאוגרפיים, ומחזיקה כיום יותר מ-500 פטה-בייט של נתונים. בפוסט הנדסי חדש, החלק השני בסדרה, מתארים מהנדסי OpenAI כיצד הרחיבו את רכיב האחסון שבבסיס הפלטפורמה: מסד הנתונים Azure Cosmos DB של מיקרוסופט. החלק הראשון עסק במעבר של Habitat מספריית לקוח בשפת Python לשירות עצמאי.
לפי החברה, סדר העדיפויות היה קבוע: קודם אמינות לתעבורה קריטית, אחר כך ביצועים למשתמשים ברחבי העולם, ולבסוף יעילות תפעולית בקנה מידה עצום.
בשלב הראשון כל העומסים רוכזו במכל (container) משותף אחד בכל חשבון, בהסתמך על מגבלת 10,000 יחידות בקשה לשנייה לכל מפתח מחיצה לוגי. בפועל, המגבלה נאכפת ברמת המחיצה הפיזית, כך שמפתחות שונים שחולקים מחיצה פיזית פגעו זה בזה. עומסים של פיצ'רים שוליים שיבשו לעיתים תהליכי התחברות והרשמה. בעיה נוספת: כשהנתונים גדלים, מחיצות מתפצלות והתפוקה הזמינה לכל מחיצה מצטמצמת, גם אם היקף הבקשות לא השתנה.
בשלב השני עברה OpenAI למכלים ייעודיים לכל שירות או פיצ'ר מרכזי. הבידוד צמצם תקלות כלל-אתריות, אבל הוליד בעיה ארגונית: כל צוות מוצר נדרש לתכנן קיבולת בעצמו. השקה שקפצה מאלף בקשות בבדיקות עומס למיליון בקשות ביום ההשקה יכלה לבלוע 5% מהמרווח במכל משותף גדול, אך לחרוג פי מאה מקיבולת מכל ייעודי קטן. לדברי המחברים, צוותים שכחו להגדיל מראש את הקיבולת, והמהנדסים מצאו את עצמם בחדרי תקלות ביום ההשקה.
בשלב השלישי חזרה החברה לריבוי דיירים כברירת מחדל, הפעם עם פתרונות שפותחו יחד עם צוות Azure: האטה של המפתחות החמים ביותר קודם, תיעדוף בקשות כך שעומסים לא-מקוונים מואטים לפני בקשות של משתמשי קצה, ומצב serverless משופר שנבנה עבור OpenAI ומאפשר לכל מחיצה פיזית להגיע ל-10,000 יחידות בקשה ולהתפצל גם לפי צריכה ולא רק לפי נפח. לפי החברה, מאז לא נרשמו תקלות של רעש שכנים או הקצאה.
כששירות מנוהל מפסיק להיות מנוהל
החשבון הגדול ביותר של OpenAI ב-Cosmos DB מאחסן עשרות פטה-בייט ומשרת יותר מ-20 מיליון בקשות בשנייה, ולטענת החברה אין פריסה אחרת בהיקף כזה. בסוף 2024 הפסקת חשמל באזור ענן מרכזי חשפה שהעברה לאזור משני של החשבונות הגדולים נמשכת כמה שעות, תרחיש שלא נבדק בקנה מידה זה. כחודש לאחר מכן, החזרה לאזור המקורי גרמה לנחשול חיבורים שהפיל את שער הגישה של המסד.
בעקבות זאת עברו הצוותים למודל של הנדסה משותפת: ניטור משותף של כל השכבות, סביבת בדיקות בגודל ייצור, פיתוח משותף של ערכות פיתוח וערוץ ישיר להזעקת מהנדסים בלי לעבור דרך מוקדי תמיכה.
ירידה פי 12 בזמן התגובה:
קריאות מהוות יותר מ-90% מהבקשות ל-Habitat, ולכן המאמץ ב-2026 התמקד בהן. האסטרטגיה כוללת אחסון נתונים קרוב למשתמשים כשהקיבולת מאפשרת, שכפול נרחב רק של מאגרים קטנים ורגישים במיוחד כמו נתוני אימות, ושכבת מטמון מבוזרת מבוססת Valkey. כדי לשמור על רעננות המטמון, החברה נשענת על לכידת שינויים (CDC) מתוך מסד הנתונים, שמפיצה פקודות ביטול גלובליות בתוך שניות, בהשראת מערכת TAO של Meta. במקביל נכתב שירות Habitat מחדש ב-Rust במקום Python.
התוצאה: זמן התגובה החציוני לקריאות ירד מכ-120 אלפיות שנייה לכ-10 אלפיות שנייה. מערך ה-CDC עצמו מעבד מיליוני שינויים בשנייה דרך יותר ממאה נושאי Kafka, ומזין גם אינדקסים משניים, צינורות העברת נתונים ואנליטיקה.
יותר מ-90%
שיעור הקריאות מכלל הבקשות ל-Habitat
כ-10 אלפיות שנייה
זמן התגובה החציוני לקריאות לאחר השיפור
מערכת אחסון פנימית בקנה מידה של אקסה-בייט
לקראת מיליארד המשתמשים הבא, OpenAI מפתחת מערכת אחסון פנימית בקנה מידה של אקסה-בייט, המיועדת לסוגי הנתונים הכבדים של Habitat. המערכת משלבת את ליבת RocksDB Cloud של Rockset עם שכפול מבוסס Raft, ושומרת על מודל המסמכים של Cosmos DB. לפי החברה, היא מפרידה בין אחסון לעיבוד ומשתמשת בשכפול פיזי כדי לחסוך בנפח זיכרון הבזק, במחיר של תפוקת שיא נמוכה יותר.

[בינארי חכם]

פוסט זה נמחק!