בירור | יש תוכנת בינה מלאכותית?

[צדיק תמים]

@רוצה כתב בבירור | יש תוכנת בינה מלאכותית?:

הקטע ששם זה אופליין, לי לא איכפת גם אונליין

אז למה אתה קורא "תוכנה"?
שזה נפתח בחלון נפרד?
אתה יכול לעשות את זה גם בכרום/אדג' החדש:

ואח"כ לסמן את "פתיחה כחלון"

[רוצה]

@לא-מתייאש תודה רבה עזרת לי מאוד!

@צדיק-תמים תודה. רציתי כאילו בתוכנה אבל הביא לי.

תודה לכולם!!
נפתר

[לא-מתייאש]

@רוצה

[משה משה 1]

פוסט זה נמחק!

[משה משה 1]

@לא-מתייאש אם מישהו עדיין מחפש יש את זה https://beebom.com/how-run-chatgpt-like-language-model-pc-offline/ זה "רק" 31 ג'גה

[ע.1195]

@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.

[משה משה 1]

@ע-1195 לא מסובך במיוחד תסתכל פה https://www.prog.co.il/articles/הדרכה-מאפס-לסטייבל-דפיוזן-בינה-מלאכותית-ביתית-לציור-בחינם.3315/ אמנם זה תוכנה אחרת אבל עיקרון ההתקנה דומה ולהשלמה תסתכל בקישור למדריך ששלחתי

[NH.LOCAL]

@ע-1195 כתב בבירור | יש תוכנת בינה מלאכותית?:

@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.

לי עבד עם מודל שפה בשם ויקונה שמשולב במודל למה, שמבוסס על המודל של מטא.
הוא עובד אופליין לגמרי, ושוקל רק 7 ג'יגה, אבל דורש משאבים עצומים, ובמחשב שלי (I3 דור 10) הוא הספיק בערך 2-3 מילים בדקה...

https://huggingface.co/lmsys/vicuna-13b-delta-v1.1

https://github.com/lm-sys/FastChat#vicuna-weights

אם זה מעניין מישהו אפרט יותר על איך מפעילים אותו (זה ממש קל)

[משה משה 1]

@NH-LOCAL למען האמת גם הקישור שהאתי הוא רק בסביבות 4.5-6 גיגה תלוי איזה סוג רק בהפעלת התוכנה זה נפתח ל 30 גיגה בערך

[צללית]

@NH-LOCAL אשמח אם תפרט איך מפעילים את זה.

[NH.LOCAL]

@צללית די פשוט בעקרון. זה מה שאני עשיתי. הקבצים המצורפים כעת מעודכנים יותר.

• תוריד את הקובץ שבקישור הזה (כ-8 ג'יגה):
  https://huggingface.co/vicuna/ggml-vicuna-13b-1.1/blob/main/ggml-vic13b-q4_1.bin

• לאחר מכן הורד את קבצי המודל "llama.cpp", שמפעיל את מודל השפה. זהו קובץ קטן למדי. מהקישור כאן - (מתוך המאגר הזה)

• לאחר מכן הורד את קובץ ההפעלה הבא:
  Start vicuna.bat

• חלץ את קובץ הזיפ לתיקיה והעתק לתוכו את שאר הקבצים שהורדת.

• כעת, הפעל את קובץ הבאט המצורף - המודל יתחיל לפעול, כל שעליך לעשות זה להקליד תוכן כרצונך ולהקיש אנטר. (הוא עובד בעיקר באנגלית, בעברית הוא גרוע למדי)

Spoiler

אציין שבמחשב חזק שמכיל כמות ראם של 16 ג'יגה ומעלה זה יהיה נחמד. פחות מזה זה יהיה סיוטי למדי

נ.ב. פרסמתי פוסט מעודכן בנושא בקישור הבא:
https://mitmachim.top/post/671984

[צללית]

@NH-LOCAL מוזר, אצלי זה נשאר תקוע על המסך הזה
אגב, יש לך מושג לגבי GPT4ALL?

[רוצה]

@צללית GPT4ALL אצלי לא עובד

[NH.LOCAL]

@צללית כתב בבירור | יש תוכנת בינה מלאכותית?:

אגב, יש לך מושג לגבי GPT4ALL?

תוכנה חמודה למדי, אבל לא עובדת טוב בנטפרי

@צללית כתב בבירור | יש תוכנת בינה מלאכותית?:

@NH-LOCAL מוזר, אצלי זה נשאר תקוע על המסך הזה

זה תוכנה כבדה מאוד. יכול להיות שלוקח לזה זמן לטעון