המלצה | תוכנת MSTY להרצת מודלי AI לוקאלית על המחשב

[REFAEL 2]

משום מה כל המודלים בתוכנה הזו עונים לא לענין, בעיקר בעברית

[REFAEL 2]

המחשב שלי הוא עם מעבד I5 וזיכרון ראם 16GB

[ארץ הצבי]

@REFAEL-2 כתב בהמלצה | תוכנת MSTY להרצת מודלי AI לוקאלית על המחשב:

משום מה כל המודלים בתוכנה הזו עונים לא לענין, בעיקר בעברית

בתוכנה הזאת דוקא?
תנסה את אותם מודלים בתוכנות אחרות .
מסתבר יותר שזה קשור למודל , כשהפעלתי את התוכנה הוא ישר הוריד לי את דיפסיק שבאמת לא יכול לענות בעברית

[איש שלו']

האם יש אפשרות להוריד אל התוכנה הזאת את מודל דיקטה המאומן על ספרות רבנית

https://huggingface.co/dicta-il/dictalm-7b-instruct

בחלונית בחירת מודלים - דרך huggingface - הוא לא זיהה אלא את דיקטה הרגיל

[REFAEL 2]

@ארץ-הצבי
התשובה היא כן,
ניסיתי הרבה מודלים כולל את GEMMA 2 שבLM STUDYO היא ענתה לענין

[ארץ הצבי]

@REFAEL-2
בדקת בjan?
היא מהירה יותר מLM stodyo ועונה בעברית די טובה

https://mitmachim.top/post/911928

Spoiler

שים לב לתמונות מהספוילר זה גם gemma 2

[אריאלל]

@איש-שלו הכי קל פשוט להוריד מHuggingface למחשב ולהוסיף ידנית.

[אריאלל]

@REFAEL-2 אין משמעות לתוכנה בזה, היא רק מריצה מודל קיים שחלקם תומכים בעברית. תנסה את דיקטה או GEMMA של גוגל שעובדים מצוין בעברית.

[איש שלו']

@אריאלל
א. לא מצאתי איפה מורידים את המודל שאומן על עברית רבנית.
ב. לא בדיוק הבנתי איפה לשים אותו כדי שהתוכנה תעבוד איתו.

אם תוכל - אנא ציין לי קישורים מדוייקים וישירים.

[אריאלל]

@איש-שלו לא מכיר את הדגם המסויים הזה בדיקטה, אבל בקישור שהבאת זה מודל מלא ולא GGUF שזה מה שהתוכנה תומכת.