המלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...
-
@א.מ.ד. אגב, יש לי בעיה-
כשאני מוחק מודל-המקום לא מתפנה לי בדיסק. ניסיתי לחפש אותו ידנית בתיקית C:\Users\משתמש.lmstudio\models
ולא מצאתי@בנימין-מחשבים כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
@א.מ.ד. אגב, יש לי בעיה-
כשאני מוחק מודל-המקום לא מתפנה לי בדיסק. ניסיתי לחפש אותו ידנית בתיקית C:\Users\משתמש.lmstudio\models
ולא מצאתיתבדוק בסל המחזור
-
@בנימין-מחשבים כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
@א.מ.ד. אם יש טרנסלייט אז למה לא ג'יימיני?
כי טרנסלייט יש גם באופליין
@א.מ.ד. ניסיתי כמה פעמים טרנסלייט אופליין על ווינדוס באימולטורים שונים, עד היום לא הצלחתי.
(כנראה האימולטור לא מצליח לשמור את קבצי השפה)כיום מה שאני לא מבין אני מתרגם ב-Hebrew-MT v0.1.1...
תבדוק בסל המחזור
כמובן שבדקתי במקומות רגילים כמו סל המחזור של ווינדוס, אלא אם כן יש סל מחזור ייעודי לLM Studio ולא ידעתי
-
@בנימין-מחשבים יש דוגמאות?
ספוילר: אני מדיקטה
@ש.צ.ש כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
@בנימין-מחשבים יש דוגמאות?
ספוילר: אני מדיקטה
אנא, צור עמי קשר. מדובר בעניין הפרה חמורה של רישיון הספרים, לא הצלחתי להשיג את קופל בשום צורה...
-
@בנימין-מחשבים כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
@ש.צ.ש כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
אפשר בתוך האופציה הזאת לבחור דיוק של Q4_0
לא עדיף את הברירת מחדל? -
unsloth : DictaLM 3.0 24B Thinking GGUF Q4_K_Sזה פחות טוב
@א.מ.ד. כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
זה פחות טוב
ככלל עדיף Q4_0 מאשר Q4_K_S?
-
@א.מ.ד. כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
זה פחות טוב
ככלל עדיף Q4_0 מאשר Q4_K_S?
@בנימין-מחשבים כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
@א.מ.ד. כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
זה פחות טוב
ככלל עדיף Q4_0 מאשר Q4_K_S?
כן
-
@א.מ.ד. ניסיתי כמה פעמים טרנסלייט אופליין על ווינדוס באימולטורים שונים, עד היום לא הצלחתי.
(כנראה האימולטור לא מצליח לשמור את קבצי השפה)כיום מה שאני לא מבין אני מתרגם ב-Hebrew-MT v0.1.1...
תבדוק בסל המחזור
כמובן שבדקתי במקומות רגילים כמו סל המחזור של ווינדוס, אלא אם כן יש סל מחזור ייעודי לLM Studio ולא ידעתי
-
חברת דיקטה הישראלית השיקה היום את משפחת מודלי DictaLM 3.0, המאומנת מראש על מערכי נתונים עצומים בעברית, וכוללת בתוכה מודלים בשלושה גדלים - 24b, 12b ו-1.7b פרמטרים, כשבכל רמת גודל קיימים מודל בסיס (השלמת טקסט), מודל צ'אט פשוט מודל חשיבה.
מודל ה-24b מבוסס על ארכיטקטורת mistral small 3.1 24b, מודל ה-12b על ארכיטקטורת nemotron של Nvidia ומודל ה-1.7b מבוסס על ארכיטקטורת qwen3.
בשונה המודלים הקודמים של דיקטה ושל שאר חברות ה-ai המובילות, שבהם המודלים אומנו על אנגלית ורק אחר כך כווננו לשפות אחרות שבהן עברית, המודל החדש אומן מראש על קורפוס נתונים נרחב בעברית, מה שמקנה לו יכולות בשפה העברית ברמה גבוהה בהרבה ממודלים בטווח הגודל הזה ואף יותר גדולים כמו Gemma 3 27b.
כמובן שהמודל לא מתקרב ליכולות של gpt 5 או gemini 3.0, אבל מדובר בפריצת דרך משמעותית, ודאי ביחס לגדלי המודל.אפשר להתנסות במודל ה-24b כאן:
https://chat.dicta.org.ilאו להוריד את כלל המודלים מכאן:
https://huggingface.co/collections/dicta-il/dictalm-30-collectionמקור: גיקטיים
-
חברת דיקטה הישראלית השיקה היום את משפחת מודלי DictaLM 3.0, המאומנת מראש על מערכי נתונים עצומים בעברית, וכוללת בתוכה מודלים בשלושה גדלים - 24b, 12b ו-1.7b פרמטרים, כשבכל רמת גודל קיימים מודל בסיס (השלמת טקסט), מודל צ'אט פשוט מודל חשיבה.
מודל ה-24b מבוסס על ארכיטקטורת mistral small 3.1 24b, מודל ה-12b על ארכיטקטורת nemotron של Nvidia ומודל ה-1.7b מבוסס על ארכיטקטורת qwen3.
בשונה המודלים הקודמים של דיקטה ושל שאר חברות ה-ai המובילות, שבהם המודלים אומנו על אנגלית ורק אחר כך כווננו לשפות אחרות שבהן עברית, המודל החדש אומן מראש על קורפוס נתונים נרחב בעברית, מה שמקנה לו יכולות בשפה העברית ברמה גבוהה בהרבה ממודלים בטווח הגודל הזה ואף יותר גדולים כמו Gemma 3 27b.
כמובן שהמודל לא מתקרב ליכולות של gpt 5 או gemini 3.0, אבל מדובר בפריצת דרך משמעותית, ודאי ביחס לגדלי המודל.אפשר להתנסות במודל ה-24b כאן:
https://chat.dicta.org.ilאו להוריד את כלל המודלים מכאן:
https://huggingface.co/collections/dicta-il/dictalm-30-collectionמקור: גיקטיים
@א.מ.ד.
תודה
תכלס' לא הבנתי, לי יש אנדרואיד 8 ראם איזה מודל כדאי לי להוריד? -
@א.מ.ד.
תודה
תכלס' לא הבנתי, לי יש אנדרואיד 8 ראם איזה מודל כדאי לי להוריד?@קראנץ-ונילה כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
@א.מ.ד.
תודה
תכלס' לא הבנתי, לי יש אנדרואיד 8 ראם איזה מודל כדאי לי להוריד?את גרסת ה-1.7B חשיבה BF16 (ללא קוונטיזציה),
אבל האמת שגם היא מאוד גרועה לפי מה שבדקתי. היא לא הצליחה לענות תשובה אחת הגיונית, אם כי יכולות השפה שלה בעברית מפתיעות.אבל צריך לזכור שבעיקרון מודלים מתחת ל-4B לא באמת נועדו לצ'אטים, אלא בעיקר לדברים כמו המרה לנתונים מובנים, יצירת תגיות, חיפוש סמנטי ודברים קטנים כאלה שדורשים בעיקר יכולות שפה ולא דורשים ידע נרחב, אז לא בניתי הרבה על המודל הזה. גם המודל מקורי (QWEN3 1.7B) לא נועד במקור לצ'אטים.
כמובן שלאט לאט מתפתחים עוד ועוד מודלים זעירים עם יכולות מרשימות, כמו LFM2 במבחר גדלים, GRANITE 4.0 NANO בכמה גדלים ועוד שמפתיעים בצ'אט, אבל QWEN3 1.7B הוא מודל יחסית מיושן (מעל חצי שנה). -
@קראנץ-ונילה כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
@א.מ.ד.
תודה
תכלס' לא הבנתי, לי יש אנדרואיד 8 ראם איזה מודל כדאי לי להוריד?את גרסת ה-1.7B חשיבה BF16 (ללא קוונטיזציה),
אבל האמת שגם היא מאוד גרועה לפי מה שבדקתי. היא לא הצליחה לענות תשובה אחת הגיונית, אם כי יכולות השפה שלה בעברית מפתיעות.אבל צריך לזכור שבעיקרון מודלים מתחת ל-4B לא באמת נועדו לצ'אטים, אלא בעיקר לדברים כמו המרה לנתונים מובנים, יצירת תגיות, חיפוש סמנטי ודברים קטנים כאלה שדורשים בעיקר יכולות שפה ולא דורשים ידע נרחב, אז לא בניתי הרבה על המודל הזה. גם המודל מקורי (QWEN3 1.7B) לא נועד במקור לצ'אטים.
כמובן שלאט לאט מתפתחים עוד ועוד מודלים זעירים עם יכולות מרשימות, כמו LFM2 במבחר גדלים, GRANITE 4.0 NANO בכמה גדלים ועוד שמפתיעים בצ'אט, אבל QWEN3 1.7B הוא מודל יחסית מיושן (מעל חצי שנה).@א.מ.ד.
אם כן לצורך שלי עדיף לי להישאר עם
dictalm2.0-instruct.Q4_K_M.gguf
או עם
aya-expanse-8b-Q4_K_M.gguf
ששניהם תומכים בעברית ועונים תשובות נחמדות ושוקלים כל אחד כ5 גיגה
אני צודק? -
@א.מ.ד.
אם כן לצורך שלי עדיף לי להישאר עם
dictalm2.0-instruct.Q4_K_M.gguf
או עם
aya-expanse-8b-Q4_K_M.gguf
ששניהם תומכים בעברית ועונים תשובות נחמדות ושוקלים כל אחד כ5 גיגה
אני צודק?@קראנץ-ונילה כתב בהמלצה | דיקטה משחררת את DictaLM 3.0, והפעם כבר מדובר במשפחת מודלים...:
@א.מ.ד.
אם כן לצורך שלי עדיף לי להישאר עם
dictalm2.0-instruct.Q4_K_M.gguf
או עם
aya-expanse-8b-Q4_K_M.gguf
ששניהם תומכים בעברית ועונים תשובות נחמדות ושוקלים כל אחד כ5 גיגה
אני צודק?לכאורה כן
תנסה מה תפסיד -
@בנימין-מחשבים @א.מ.ד. עלו גרסאות GGUF למודל הגדול ולמודל הקטן. שימו לב: רק להשתמש בגרסה מהארגון הרשמי "dicta-il" ולא "VRDate"
[כרגע יש גם בעייה עם הגרסאות מ-"Unsloth", יתוקן בקרוב]
@ש.צ.ש אשמח לקישורים להורדה ישירה..
-
אחרי כמה ימים של התנסות במודל 1.7B חשיבה, אני חוזר בי ממה שכתבתי למעלה. המודל מצוין יחסית לגודלו (למעט כמה פעמים שהוא השיב תשובות לא הגיוניות בכלל, עד שטענתי את המודל מחדש), בעיקר למשימות עיבוד טקסט כי הידע שלו די מוגבל. העברית שלו מצוינת ולא נתקלתי בשגיאות שפה כלל. יש לו את היכולות שיש למודלים בגודל שלו ואף יותר, רק בעברית שאת זה אין באף מודל דומה.
אז למעשה, בשביל סיכומי טקסט, שכתוב תוכן וכדומה - הביצועים מעולים, ואם מחברים אותו לגלישה באינטרנט אז הוא יתאים גם לצ'אטים.