שיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!
-
@CSS-0 כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
המודל עצמו 1.7B אבל בעברית עוקף מודלי ענק! הוא פשוט פצצה! המודל מבוסס על המודל DictaLM-3.0-1.7B
למי שמכיר יודע את הרמה בעבריתמודל ממש גרוע ולא שמיש. איך בדיוק הוא עוקף מודלי ענק? תעבור ל-GEMMA 4 E4B.
@CSS-0 כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
אז התשובה כבר נאמרה בעבר בפורום ואני יחזור עליה, שאלתי את נטפרי והם אמרו שעם ה AI יהיה כפוף להנחיות נטפרי ויהיה לו הנחיות שיחסמו אותו באופן מספיק חזק, הם מאשרים אותו
תוכל לכתוב לי בפרטי מה ההנחיות שלהם? אם כן אולי אשחרר את המודל המסונן שלי. אולי גם תוכל להכניס אותו לתוכנה שלך...
@CSS-0 כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
אז ה 'אברהם העברי' קיבל את ההנחיות של נטפרי (כמובן בקצרה אל תשכחו שזה אופליין)
יש לציין שמודלים קטנים מתקשים במעקב אחר הוראות מערכת...
-
@א.מ.ד. כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
תעבור ל-GEMMA 4 E4B.
איזה חומרה צריך בשבילו?
-
יש לך מושג למה על 16 RAM ו 6 VRAM אני לא מצליח לטעון את GEMMA 4 E4B? צריך עוד קובץ או הגדרה ספציפית אולי?
-
@א.מ.ד. כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
יותר מדוייק: ב-llama.cpp שגם Ollama מבוססת עליה.
אכן.
@CSS-0 כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
@המלאך אני אז מהמיעוט
בנית מנוע הרצה?
למה לא מערכת הפעלה?
מציע לך לראות פה רק כדי שתקבל קצת פרופורציות.@המלאך כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
מציע לך לראות פה רק כדי שתקבל קצת פרופורציות.
הקוד של מנוע ההסקה עצמו יושב בתיקיה src ושם אין כל כך הרבה קוד באופן יחסי (בתיקיה models יש תמיכה בארכיטקטורות נפרדות - למודל ספציפי לא צריך את כל זה)
זה כמובן עדיין המון אבל בכל אופן להרצה בסיסית לא צריך כל כך הרבה קוד -
@המלאך כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
מציע לך לראות פה רק כדי שתקבל קצת פרופורציות.
הקוד של מנוע ההסקה עצמו יושב בתיקיה src ושם אין כל כך הרבה קוד באופן יחסי (בתיקיה models יש תמיכה בארכיטקטורות נפרדות - למודל ספציפי לא צריך את כל זה)
זה כמובן עדיין המון אבל בכל אופן להרצה בסיסית לא צריך כל כך הרבה קוד@מתכנת-חובב א' הוא לא דיבר על ההרצה בסיסית. הוא טען שקשה להשיג את התוכנות הרצה בנטפרי ולכן רצה לבנות אחד חדש. כל שזה צריך לכלול מזהה.
ב' נכון שהsrc יחסית [מאוד יחסי..] קצת.
אבל המורכבות שלו היא הרבה יותר מכתיבת תוכנת צאט אברהם העברי.
זה אומר כתיבה בשפה נמוכה [שאני אישית לא יןדע.]
ניהול זיכרון, טעינה של הפורמטים בינאריים, כל הנושא של הgpu ועוד הרבה דברים שקשה לי לחשוב עליהם אפילו. אני מניח שאתה יודע יותר.
אבל זה ללא ספק אמור להיות פרוייקט קשה ומורכב מאוד. -
ס"ה ביקשתי בדיחה!

הוא כבר בפקיד ה120 ולא חושב לסיים
-
@מתכנת-חובב א' הוא לא דיבר על ההרצה בסיסית. הוא טען שקשה להשיג את התוכנות הרצה בנטפרי ולכן רצה לבנות אחד חדש. כל שזה צריך לכלול מזהה.
ב' נכון שהsrc יחסית [מאוד יחסי..] קצת.
אבל המורכבות שלו היא הרבה יותר מכתיבת תוכנת צאט אברהם העברי.
זה אומר כתיבה בשפה נמוכה [שאני אישית לא יןדע.]
ניהול זיכרון, טעינה של הפורמטים בינאריים, כל הנושא של הgpu ועוד הרבה דברים שקשה לי לחשוב עליהם אפילו. אני מניח שאתה יודע יותר.
אבל זה ללא ספק אמור להיות פרוייקט קשה ומורכב מאוד.@המלאך כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
@מתכנת-חובב א' הוא לא דיבר על ההרצה בסיסית. הוא טען שקשה להשיג את התוכנות הרצה בנטפרי ולכן רצה לבנות אחד חדש. כל שזה צריך לכלול מזהה.
יותר מהגיוני מאוד שהוא לא מבין מה זה דורש ולכן הוא חשב שהוא בנה משהו חלופי
@המלאך כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
ב' נכון שהsrc יחסית [מאוד יחסי..] קצת.
אבל המורכבות שלו היא הרבה יותר מכתיבת תוכנת צאט אברהם העברי.
זה אומר כתיבה בשפה נמוכה [שאני אישית לא יןדע.]
ניהול זיכרון, טעינה של הפורמטים בינאריים, כל הנושא של הgpu ועוד הרבה דברים שקשה לי לחשוב עליהם אפילו. אני מניח שאתה יודע יותר.למה מאוד יחסי? תראה פרוייקטים אחרים ואפילו אתרים שנבנו עם בינה הם מכילים לא פחות קוד
בכל אופן אם זה נבנה עם בינה מלאכותית אפשר לחתוך את כל המורכבות הזאת (מה גם שאתה רובה הוא לא מימש כנראה)
רק הערה - כתבתי הכל על סמך ההצהרה שלו - לא בדקתי מה הוא באמת מימש בקוד שלו -
ס"ה ביקשתי בדיחה!

הוא כבר בפקיד ה120 ולא חושב לסיים
@הסיפור-האחרון כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
הוא כבר בפקיד ה120 ולא חושב לסיים
זה כנראה משרד ממשלתי
המון עובדים ואף אחד מהם לא יעיל
רק מוזר שבשעה כזאת הם עדיין במשרד -
@המלאך כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
@מתכנת-חובב א' הוא לא דיבר על ההרצה בסיסית. הוא טען שקשה להשיג את התוכנות הרצה בנטפרי ולכן רצה לבנות אחד חדש. כל שזה צריך לכלול מזהה.
יותר מהגיוני מאוד שהוא לא מבין מה זה דורש ולכן הוא חשב שהוא בנה משהו חלופי
@המלאך כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
ב' נכון שהsrc יחסית [מאוד יחסי..] קצת.
אבל המורכבות שלו היא הרבה יותר מכתיבת תוכנת צאט אברהם העברי.
זה אומר כתיבה בשפה נמוכה [שאני אישית לא יןדע.]
ניהול זיכרון, טעינה של הפורמטים בינאריים, כל הנושא של הgpu ועוד הרבה דברים שקשה לי לחשוב עליהם אפילו. אני מניח שאתה יודע יותר.למה מאוד יחסי? תראה פרוייקטים אחרים ואפילו אתרים שנבנו עם בינה הם מכילים לא פחות קוד
בכל אופן אם זה נבנה עם בינה מלאכותית אפשר לחתוך את כל המורכבות הזאת (מה גם שאתה רובה הוא לא מימש כנראה)
רק הערה - כתבתי הכל על סמך ההצהרה שלו - לא בדקתי מה הוא באמת מימש בקוד שלו@מתכנת-חובב בחלק של מנוע ההסקה הוא יכל לקמפל את llama.cpp רק עם תמיכה בארכיטקטורת qwen 3 שעליה מבוסס המודל של דיקטה.
-
@מתכנת-חובב בחלק של מנוע ההסקה הוא יכל לקמפל את llama.cpp רק עם תמיכה בארכיטקטורת qwen 3 שעליה מבוסס המודל של דיקטה.
-
ס"ה ביקשתי בדיחה!

הוא כבר בפקיד ה120 ולא חושב לסיים
-
לא מסונן בכלל
-
הורדתי וכבר כמב דקות ארוכות הוא כותב 'טוען את המודל' יש צפי לסיום ?
ועוד שאלה אם עובד על מחשב במצב אופליין ? -
הורדתי וכבר כמב דקות ארוכות הוא כותב 'טוען את המודל' יש צפי לסיום ?
ועוד שאלה אם עובד על מחשב במצב אופליין ?@העניו-הגאה כתב בשיתוף | אברהם העברי V1 - תוכנת צ'אט AI אופליין מתקדמת שעובדת על כל מחשב! עם פונקציות מתקדמות!:
ועוד שאלה אם עובד על מחשב במצב אופליין ?
הכותרת של הנושא:
תוכנת צ'אט AI אופליין -
הוא רושם לי ''לא ניתן לטעון את המודל. בדוק שהקובץ קיים בתיקיית aaa''
מה זה אומר ? -
באמת בלי להעליב.
דרך זה אני מקבל מושגים למה א"א לסמוך בכלל על AI... -
הוא רושם לי ''לא ניתן לטעון את המודל. בדוק שהקובץ קיים בתיקיית aaa''
מה זה אומר ?@העניו-הגאה יש תיקייה שקוראים ל AAA תיכנס אליה ותבדוק עם יש שם קובץ אם אין תוריד את זה מחדש
-
@העניו-הגאה יש תיקייה שקוראים ל AAA תיכנס אליה ותבדוק עם יש שם קובץ אם אין תוריד את זה מחדש
@טופ-שבמתמחים יש קובץ
