בקשת מידע | להפוך מחשב לשרת - איך מתחילים?
-
@א.מ.ד. אין לי שמץ - אתה אולי יודע מה זה אומר?
לצערי מדובר במחשב מאוד חלש גם במושגי מחשבים חלשים - 8 RAM וללא GPU.
@א.מ.ד. מה כן אפשר להריץ עליו?
-
@א.מ.ד. ואם אני יריץ מודל רגיל עם התוכנה שלך - יכול להיות שהוא יענה לי יותר מהר?
@א.מ.ד. ואם אני יריץ מודל רגיל עם התוכנה שלך - יכול להיות שהוא יענה לי יותר מהר?
בתור מתחיל בתחום הייתי ממליץ לך להישאר עם LM Studio ולא להתעסק עם תוכנות אחרות, אבל כעיקרון הייתי ממליץ לך להשתמש ב-llama.cpp המקורי שעליו מבוססות כל התוכנות האחרות כולל LMS, בלי להפעיל ממשקים גרפיים שצורכים זיכרון.
-
@א.מ.ד. ואם אני יריץ מודל רגיל עם התוכנה שלך - יכול להיות שהוא יענה לי יותר מהר?
בתור מתחיל בתחום הייתי ממליץ לך להישאר עם LM Studio ולא להתעסק עם תוכנות אחרות, אבל כעיקרון הייתי ממליץ לך להשתמש ב-llama.cpp המקורי שעליו מבוססות כל התוכנות האחרות כולל LMS, בלי להפעיל ממשקים גרפיים שצורכים זיכרון.
@א.מ.ד. אוקי - אני מתחיל לעבוד (או לפחות לנסות לעבוד)
-
@א.מ.ד. מה כן אפשר להריץ עליו?
-
@א.מ.ד. מה כן אפשר להריץ עליו?
תתחיל עם Gemma 4 E4B.
-
@מייבין-במקצת
-
@מייבין-במקצת
@המתעניין1 'מבוסס'? זה אותו מודל.
רק עם פרומופט סיסטם. -
-
המודל שאברהם העברי משתמש בו - טוב?
אין לי מושג מה הוא עשה לו, תוריד את המקורי מהמקור ותתמקר.
-
@המתעניין1 'מבוסס'? זה אותו מודל.
רק עם פרומופט סיסטם. -
@א.מ.ד. נראה לי הוא השאיר אותו כמו במקור (רצה להתמקר?) השינויים זה דרך התוכנה...
-
@א.מ.ד. אין לי שמץ - אתה אולי יודע מה זה אומר?

-
@מייבין-במקצת המחשב הזה לא בדיו3 יריץ מודל מקומי בצורה טובה...
@מישהו12 מה לעשות שאין לי מחשב אחר

-
@א.מ.ד. נראה לי הוא השאיר אותו כמו במקור (רצה להתמקר?) השינויים זה דרך התוכנה...
@מייבין-במקצת מנסיון זה כך
-
@א.מ.ד. ואם אני יריץ מודל רגיל עם התוכנה שלך - יכול להיות שהוא יענה לי יותר מהר?
בתור מתחיל בתחום הייתי ממליץ לך להישאר עם LM Studio ולא להתעסק עם תוכנות אחרות, אבל כעיקרון הייתי ממליץ לך להשתמש ב-llama.cpp המקורי שעליו מבוססות כל התוכנות האחרות כולל LMS, בלי להפעיל ממשקים גרפיים שצורכים זיכרון.
-
-
@מישהו12 מה לעשות שאין לי מחשב אחר

-
@מייבין-במקצת לא = מחפשים איך לסנן את האתר הזה
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות