שיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים 💬
-
עדכון רלוונטי מאוד:
מחקר מעניין: כותבים ל-AI בעברית? זה עולה לכם עד פי 3 טוקנים
מחקר חושף כיצד האופן שבו מודלי שפה מעבדים טקסט מייקר משמעותית את השימוש בהם. אמ;לק: תעברו לאנגלית.
כשאנחנו משתמשים במודלי שפה גדולים, בין אם דרך הצ'אט או באמצעות API, אתם בטח כבר יודעים שהמנוע מאחורי הקלעים לא קורא מילים כמו בני אדם. במקום זאת, הוא מפרק את הטקסט ליחידות מידע קטנות שנקראות טוקנים, שמשמשות את מעבדות ה-AI גם לצורך תמחור השירותים שלהן.
דוח של קבוצת המחקר CLEAR שופך אור על תופעה, שזכתה לכינוי "מס טוקנים". צוות החוקרים גילה כי מנגנוני הטוקניזציה אומנו בעיקר על אנגלית ושפות בעלות כתב לטיני, ולכן הם מתקשים להתמודד עם שפות אחרות. התוצאה היא שמשפט פשוט יעלה למשתמש בשפות זרות הרבה יותר מאשר למשתמש באנגלית, למרות שהמשמעות או התשובה זהה לחלוטין. כך למשל טקסט באמהרית עלול לדרוש עד פי שישה יותר טוקנים מאשר באנגלית במודל כמו GPT-5.
החוקרים בדקו את יעילות הטוקניזציה של המודלים המובילים בשוק ב-200 שפות שונות. בעוד שב-20 השפות הנפוצות ביותר ברשת הפערים יחסית נסבלים, בשאר השפות הפער יכול לזנק לעד פי 17.
המשמעות עבור המפתחים היא לא רק חשבון ענן מנופח יותר, אלא גם זמני תגובה איטיים יותר ופגיעה בחלון הקונטקסט של המודל – שיכול להכיל פחות מידע לפני שהוא מתחיל לאבד נתונים ולהזות.
נקודה מעניינת בשבילנו, דוברי העברית, שעולה מהמחקר היא המיקום של העברית. למרות הנוכחות הדיגיטלית שלה (מקום 32 בדירוג), במודל Llama 3.3 של מטא, למשל, עלות הטוקנים בעברית תהיה גבוהה פי 3 לעומת טוקנים בעיבוד טקסטים באנגלית – שהיא השפה הזולה ביותר. כלומר, למרות שהעברית פופולרית יחסית, הפעולה של חלק מהטוקנייזרים והמודלים לא יעילה. הנתונים האלו רלוונטיים גם למשתמשים פרטיים, וגם למפתחים בשוק המקומי שלנו.
מבחינת ציונים כוללים, רוב המודלים הגדולים לא מככבים. מודלים של גוגל כמו Gemini 3.8 Flash ו-Gemma 4 זכו לציון סביר יחסית, אך מודלים פופולריים אחרים כמו GPT-5 של חברת OpenAI ו-Command A+ של Cohere קיבלו ציון נכשל עם פערים של כמעט פי 14 בעלויות. מודל התרגום הייעודי NLLB של מטא הוא היחיד שזכה בציון המקסימלי.
החוקרים מסכמים וטוענים שבסופו של דבר מדובר בבחירה הנדסית שניתן לפתור. עד שמעבדות הפיתוח ישנו את הארכיטקטורה שלהן, הפתרון המהיר ביותר לדבריהם הוא מעבר למודל תמחור לפי תווים במקום טוקנים. צעד כזה יבטל את האפליה הכלכלית באופן מיידי, ויאפשר תחרות הוגנת יותר בכלכלה החדשה. -
@חובבן-מקצועי אתה יכול לנסות להשתמש במכסות של אנטי דרך פלטפורמות כמו t3 code או 9router
הן הופכות את אנטי גרוויטי למעין api ואז אפשר להשתמש בו באמצעות כול הרנס כגון אופן קוד וכדו'.
הן עובדות על ידי התחברות לחשבון הגוגל שלך ולא מצריכות את אנטי מותקן.רק שים לב זה נוגד את תנאי השימוש של גוגל אז תבדוק את זה קודם על חשבון שלא אכפת לך ממנו.
אגב רנט קצר כמה שהמודלים של גוגל טובים,
הרתמה של גוגל אחת הגרועות ביותר לעומת המתחרות (כגון קודקס וקלוד והסיניות) אנטי גרוויטי מאוד גרוע לעומתן,
וניתן להרגיש שיפורים ניכרים בג'ימיני כאשר משתמשים בו בכול רתמה אחרת.מאיך שהמוצר מרגיש זה די ברור שמדובר בכמה חברה בלי הרבה הבנה שיושבים ועושים את הפרויקט בוייבים עם מקבוקים
(כמה מהבאגים קוד שקורים רק בווינדוס ולינוקס מה שמסביר למה המפתחים הוציאו את זה ככה לפרודקשן
).זה מאוד מורגש מכל סוגי הבאגים שיש ברתמה מבאגים שפוגעים בתפעול של הסוכן (כגון הפעלת סקילים שפוגעים באיכות התוצר או הוראות שמכריחות את המודל לההשתמש בספריות מסוימות בלי סיבה)
שלא לדבר על סאב אייג'נטים שעבדו לשליש מחצה ורביע (וגם זה רק במודלים מסוימים) עד לאחרונה.
לבאגים תפעוליים כגון האפליקצייה לא עובדת או התוסף קורס.
ועוד ועד...לא השתמשתי באנטי גרביטי כבר די הרבה זמן אז יכול להיות שהתשתפר מאז אבל לא נראה ככה ממה ששמעתי
ופשוט הזוי שנטפרי לא משחררים את זה..
יש להם סיבה מאוד טובה ממה שאני מכיר.
@חובבן-מקצועי אתה יכול לנסות להשתמש במכסות של אנטי דרך פלטפורמות כמו t3 code או 9router
הן הופכות את אנטי גרוויטי למעין api ואז אפשר להשתמש בו באמצעות כול הרנס כגון אופן קוד וכדו'.
הן עובדות על ידי התחברות לחשבון הגוגל שלך ולא מצריכות את אנטי מותקן.רק שים לב זה נוגד את תנאי השימוש של גוגל אז תבדוק את זה קודם על חשבון שלא אכפת לך ממנו.
בגרסה הבאה של סמארטי כבר הוספתי תמיכה באנטיגרוויטי כספק. מקווה שזה כן יעבוד דרך נטפרי.
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
@חובבן-מקצועי אתה יכול לנסות להשתמש במכסות של אנטי דרך פלטפורמות כמו t3 code או 9router
הן הופכות את אנטי גרוויטי למעין api ואז אפשר להשתמש בו באמצעות כול הרנס כגון אופן קוד וכדו'.
הן עובדות על ידי התחברות לחשבון הגוגל שלך ולא מצריכות את אנטי מותקן.רק שים לב זה נוגד את תנאי השימוש של גוגל אז תבדוק את זה קודם על חשבון שלא אכפת לך ממנו.
בגרסה הבאה של סמארטי כבר הוספתי תמיכה באנטיגרוויטי כספק. מקווה שזה כן יעבוד דרך נטפרי.
-
@חובבן-מקצועי אתה יכול לנסות להשתמש במכסות של אנטי דרך פלטפורמות כמו t3 code או 9router
הן הופכות את אנטי גרוויטי למעין api ואז אפשר להשתמש בו באמצעות כול הרנס כגון אופן קוד וכדו'.
הן עובדות על ידי התחברות לחשבון הגוגל שלך ולא מצריכות את אנטי מותקן.רק שים לב זה נוגד את תנאי השימוש של גוגל אז תבדוק את זה קודם על חשבון שלא אכפת לך ממנו.
בגרסה הבאה של סמארטי כבר הוספתי תמיכה באנטיגרוויטי כספק. מקווה שזה כן יעבוד דרך נטפרי.
-
@ztcebuck תלוי במספר האיפוסים שיהיה בקודקס
@פלמנמוני כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים
:נשמח מאוד לשמוע שכן
גם אני
-
מישהו יודע על הבאג הזה באנטיגרוויטי?
הוא מבקש ממני לפתוח צאט חדש וכל הודעה שאני שולח בצאט הזה הוא נותן את השגיאה
כבר קרה לי פעמים באמצע עבודה שהייתי צריך להתחיל הכל מהתחלה! -
מישהו יודע על הבאג הזה באנטיגרוויטי?
הוא מבקש ממני לפתוח צאט חדש וכל הודעה שאני שולח בצאט הזה הוא נותן את השגיאה
כבר קרה לי פעמים באמצע עבודה שהייתי צריך להתחיל הכל מהתחלה!@מה-זה-משנה-אה אתה בנטפרי?
-
@מה-זה-משנה-אה אתה בנטפרי?
@ztcebuck
לא, אתרוג -
@ztcebuck
לא, אתרוג@מה-זה-משנה-אה
נסה להפעיל מחדש את התוכנה -
@מה-זה-משנה-אה
נסה להפעיל מחדש את התוכנה@working.cohen
ניסיתי וגם התנתקתי מהחשבון גוגל והתחברתי מחדש
עדין לא עזר -
@working.cohen
ניסיתי וגם התנתקתי מהחשבון גוגל והתחברתי מחדש
עדין לא עזר@מה-זה-משנה-אה התוכנה מעודכנת?
-
@מה-זה-משנה-אה התוכנה מעודכנת?
@יוסף-מאיר-וייס ברור
-
יש מישהו שבדק את זה פעם?
תעשה ככה: תבקש מ-GPT או קלוד סקריפט שמבצע כמה שאילתות עם אותו תוכן, פעם אחת בעברית ופעם אחת באנגלית, למודל חינמי של ג'מיני עם מפתח API שלך, והסקריפט יחשב כמה טוקנים זה צורך לפי הנתונים שבתשובה.
עריכה: אני עושה את זה עכשיו.
-
מישהו יודע על הבאג הזה באנטיגרוויטי?
הוא מבקש ממני לפתוח צאט חדש וכל הודעה שאני שולח בצאט הזה הוא נותן את השגיאה
כבר קרה לי פעמים באמצע עבודה שהייתי צריך להתחיל הכל מהתחלה!@מה-זה-משנה-אה
זה מופיע כשנגמר המכסה
או אם יש אינטרנט חלש
ועוד
בשביל לדעת את הסיבה המדויקת תלחץ על 'העתק בעיה' ותקרא את זה (או תיתן לAI)והפיתרון זה לא ללחוץ על 'נסה שוב' אלא לשלוח עוד הודעה עם המילה 'תמשיך'...
-
מישהו יודע על הבאג הזה באנטיגרוויטי?
הוא מבקש ממני לפתוח צאט חדש וכל הודעה שאני שולח בצאט הזה הוא נותן את השגיאה
כבר קרה לי פעמים באמצע עבודה שהייתי צריך להתחיל הכל מהתחלה!@מה-זה-משנה-אה זה שגיאת אינטרנט שקשורה לצד שלך ולא לצד שרת.
זה מופיע כשנגמר המכסה
לא.
כשנגמר המכסה מופיע משהו אחר. -
יש מישהו שבדק את זה פעם?
תעשה ככה: תבקש מ-GPT או קלוד סקריפט שמבצע כמה שאילתות עם אותו תוכן, פעם אחת בעברית ופעם אחת באנגלית, למודל חינמי של ג'מיני עם מפתח API שלך, והסקריפט יחשב כמה טוקנים זה צורך לפי הנתונים שבתשובה.
עריכה: אני עושה את זה עכשיו.
-
@א.מ.ד. לדעתי זה דווקא עדיין נכון, אבל הם די הגזימו, הכמות לדעתי די זניחה.
רוב ככל הטוקנים שהמודל משתמש בהם זה רזורינג ותהליכי חשיבה פנימיים שבכל מקרה מתבצעים באנגלית.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}