המלצה | אינדקס כלי AI אופליין (מתעדכן)

[א.מ.ד.]

@Racheliii כתב בהמלצה | אינדקס כלי AI אופליין (מתעדכן):

@ארץ-הצבי הוא כותב את זה פשוט כמו טקסט רגיל, אבל הוא נותן

בשביל תכנות עדיף לך להשתמש ב-LMSTUDIO, במה הסתבכת שם? (פשוט אין לי כוח לקרוא את כל הפוסטים למעלה)
אני אישית משתמש בזה כל הזמן עם הרבה מודלים וזה עובד פיקס

[Racheliii]

@א-מ-ד כתב בהמלצה | אינדקס כלי AI אופליין (מתעדכן):

@Racheliii כתב בהמלצה | אינדקס כלי AI אופליין (מתעדכן):

@ארץ-הצבי הוא כותב את זה פשוט כמו טקסט רגיל, אבל הוא נותן

בשביל תכנות עדיף לך להשתמש ב-LMSTUDIO, במה הסתבכת שם? (פשוט אין לי כוח לקרוא את כל הפוסטים למעלה)
אני אישית משתמש בזה כל הזמן עם הרבה מודלים וזה עובד פיקס

כתבתי פה מה הבעיה בדיוק
זה פשוט לא נותן לי לכתוב בשורה הזו כלום!

[דאנציג]

@Racheliii כתב בהמלצה | אינדקס כלי AI אופליין (מתעדכן):

זה לא נותן לי לכתוב כלום...

https://mitmachim.top/post/787417

[א.מ.ד.]

@Racheliii את צריכה להוריד מודלים עם סיומת gguf (שימי לב שכתוב עליהם instrument - כלומר מודל שנועד לעניית תשובות לשאלות בצ'אט). כמובן יש מודלים באיכויות גבוהות בהרבה (כמו llama 3.2 החדש בגרסה הגדולה שלו שמשתווה ל-gpt) אבל צריך כמובן שיתאימו לזיכרון ה-ram של המחשב...
אחרי שהורדת תעבירי את המודל לנתיב הזה: מחשב זה/users/שם המשתמש שלך/. cache/lmstudio/models, ושם ליצור תיקייה בשם של סוג המודל שמופיע בתחילת שם הקובץ, בתוכה ליצור תיקייה בשם של הקובץ (למעט הסיומת כמובן), ולתוכה להכניס את הקובץ.
עכשיו רק תיכנסי לתוכנה ותבחרי במודל שהורדת, ואת יכולה להתחיל לשאול אותו שאלות... כמובן שאם אין לך מעבד שנועד להרצת מודלים כאלו אז ייקח קצת זמן לתשובות ארוכות...
אני ממליץ אח"כ לעדכן את התוכנה - כל הזמן נוספות בה תכונות חדשות.
מקווה שעזרתי.

[ניתאי בן שושן]

מה עם AI של פוטושופ יש חדש

[ארץ הצבי]

עדכנתי את הפוסט באפשרות קלה יותר להפעלת מודל שפה
היתרון שבהפעלת התוכנה שהיא צורכת פחות משאבים כי היא נפתחת בתוכנה ולא בדפדפן
כמו כן הגירסא של הllama עודכנה לחדשה יותר

[אהרן]

@ארץ-הצבי כתב בהמלצה | אינדקס כלי AI אופליין (מתעדכן):

עדכנתי את הפוסט באפשרות קלה יותר להפעלת מודל שפה
היתרון שבהפעלת התוכנה שהיא צורכת פחות משאבים כי היא נפתחת בתוכנה ולא בדפדפן
כמו כן הגירסא של הllama עודכנה לחדשה יותר

לאיזה מהאפשרויות אתה מתכוון?

[ארץ הצבי]

@ארץ-הצבי כתב בהמלצה | אינדקס כלי AI אופליין (מתעדכן):

(מודלים נוספים:aya-expanse-8b-Q4_K_M

את הקובץ הזה llamafile-0.8.14.
את התוכנה Model AI Offline.exe
להכניס את המודל,הקובץ llamafile,והתוכנה לתיקייה אחת ואז להפעיל את התוכנה.

[ארץ הצבי]

לא מבין איך פספסתי את זה תוכנה מדהימה להרצת מודלים אופליין בשם jan

• ממשק מעוצב ועדכני
• שמירת השיחה וקטעי קוד
• הצגת השימוש במעבד והזיכרון בתחתית התוכנה
• הרצה מהירה יחסית לתוכנות כמו LMSTODYO

Spoiler

להורדה

[Racheliii]

@ארץ-הצבי כתב בהמלצה | אינדקס כלי AI אופליין (מתעדכן):

לא מבין איך פספסתי את זה תוכנה מדהימה להרצת מודלים אופליין בשם jan

• ממשק מעוצב ועדכני
• שמירת השיחה וקטעי קוד
• הצגת השימוש במעבד והזיכרון בתחתית התוכנה
• הרצה מהירה יחסית לתוכנות כמו LMSTODYO

Spoiler

להורדה

למה זה מראה לי כך:

[ארץ הצבי]

@Racheliii
נראה שזה חסום לך
אפשר לבדוק בכרטיסיית ההורדות את הקישור המלא ולפתוח בדפדפן ולבדוק אם זה חסום

Spoiler

זה כמעט ג'גה לכן אין לי כח להעלות את זה..

[איש שלו']

לא מצליח לתקשר איתו. בשום מודל.
20250211-2319-25.7811675.mp4.zip

[ארץ הצבי]

@איש-שלו
בסרטון לא רואים את הסיבה
האם הבעיה היא רק דרך jan ?

[איש שלו']

@ארץ-הצבי

כן.
צ'אט GPT עצמו - אם לזה התכוונת - מתקשר יפה מאוד [רק כשהמחשב מחובר].

[ארץ הצבי]

@איש-שלו
לא.
התכוונתי למודל שנסית להריץ (מודל מקומי לא ברשת)
תנסה להריץ אותו באפשרויות אחרות כדי להבין במה הבעיה.
אולי המחשב שלך חלש מדי בשביל זה אם כי לא מסתבר כי המודל שבחרת קטן ממש

[איש שלו']

@ארץ-הצבי
לא.
באפשרויות אחרות גם מודלים גדולים יותר עבדו היטב
[המחשב עובד על 16 ג"ב]

[בעל שם טוב]

כתבו כאן על דיקטה
האם ואיך אפשר להריץ אותו?.

[עם ישראל חיי]

@ארץ-הצבי כתב בהמלצה | אינדקס כלי AI אופליין (מתעדכן):

הורידו את קובץ ההתקנה הזה jan.
אפשר להוריד מודלים דרך התוכנה ואפשר להוסיף מודלים דרך המחשב

אפשר לקבל הסבר בשפת העמכה?
תודה,
מה להוריד למשל?
אני מדבר על אופליין

[ארץ הצבי]

@עם-ישראל-חיי
דוקא זה היה נראה לי מאד פשוט לשימוש בכל אופן אונליין .

אתה פשוט בוחר מודל איזה שמתחשק לך רק שהוא צריך להיות מתאים למחשב
ואת הבדיקה התוכנה עושה בשבילך מודל לא מתאים מסומן באדום ומתאים אך לא מומלץ בכתום כל השאר עובדים
כדאי לבחור את המודל הגדול ביותר או את המומלצים שבפוסט הראשון בשרשור רוב המודלים הקטנים לא תומכים בעברית כך שכדאי לבחור באלו שציינתי למעלה.

להוספת מודלים אופליין יש להכנס להגדרות למטה ואז בכפתור עם חץ למעלה להוסיף מודל מהמחשב
אם זה לא עובד צריך להעתיק את הקובץ ידנית אל תיקיית המודלים C:\Users\user\AppData\Roaming\Jan\data\models
ואז לבחור מחדש.
@בעל-שם-טוב פשוט תקרא את הפוסט הראשי המודל הראשון זה דיקטה.

[מענין לשמוע]

@ארץ-הצבי כתב בהמלצה | אינדקס כלי AI אופליין (מתעדכן):

תוסף לפוטושופ
תוסף בינה מלאכותית לפוטושופ בלי אינטרנט.

אין שם את הקבצים להורדה אלא רק בקישורים שחסומים בנטפרי.
אם מישהו יכול להעלות את הקבצים, נודה לו מאוד.