בירור | יש תוכנת בינה מלאכותית?

[לא-מתייאש]

@רוצה כתב בבירור | יש תוכנת בינה מלאכותית?:

ידוע למישהו?

לא הבנתי כל כך את השאלה שלך, אתה רוצה לבנות בינה מלאכותית או להוריד תוכנה שמשתמש בבינה מלאכותית ?
בגדול, אם אתה מחפס לבנות בינה מלאכותית, אתה צריך ללמוד את פייטון בעיקר, ואח"כ תוכל להשתמש במודל כבר קיים, יש כמה, זה מאוד תלוי בינה מלאכותית בשביל מה, כאילו אתה יכול לעשות בינה מלאכותית שמזהה תמונה של כלב או שיודעת לשחק שחמט. צריך להבין גם מה זה בינה מלאכותית בדיוק וכדי להבין מה זה בינה מלאכותית, צריך להבין מה זה תוכנה רגילה.
קודם כל מה זה תוכנה רגילה? תוכנה רגילה, בגדול זה רק משהו שפועל לפי הכללים שקבעת לו לפני. למשל נגיד אני רוצה לבנות תוכנה מאוד פשוטה שסופרת גמטריה של מילה, אני צריך להגיד לו, אם יש "א" אז זה " 1", אם זה "ב" אז זה שווה ל-"2" ובסוף אתה מחשב את כל האותיות ביחד.
אוקיי, תוכנה רגילה עובדת רק לפי כללים שקבעתי לו לפני.
עכשיו נגיד שאני רוצה תוכנה שמזהה מה זה כלב, איזה תנאיים אני יכול לתת למחשב ?? הוא לא יודע מה זה בכלל תמונה, זה רק בשבילו אפסים ואחדים שהוא מציג לנו כתמונה.
לכן בנינו שיטה חדשה של תכנון, נתנו למחשב אלפים של אליפים של תמונות, ועל כל אחת רשמנו אם זה כלב או לא, ובגדול ממש, אומרים לו תסתדר עם זה ותבנה אלגוריטם שיזהה מה זה כלב, לכן אומרים שאנחנו לא תמיד יודעים מה קורה בתוך הבינה מלאכותית. המחשב ינסה את כל האפשרויות שהוא יכול עד שהוא מגיע למשהו, לכן גם צריך מחשב מאוד חזק כדי לבנות דבר כזה, ובעיקר כרטיס מסך מאוד חזקה.
דוגמא השנייה, שחמט, אני "רק" קובע לו מה הכללים ואני אתן לו לשחק עם עצמו עד שהוא יבין מה הטכניקות ההכי טובות.

לגבי תוכונות, היום יש בהרבה הרבה תוכמות בינה מלאכותית, למשל באפליקצייות של מצלמה יש המון, אבל עוד פעם זה גם תלוי מה אתה מחפס.

[רוצה]

@לא-מתייאש אני רוצה להוריד תוכנה שיהיה בה כמו באתר של GPT נניח. לא לבנות לבד, אם יש בתוכנה

[לא-מתייאש]

@רוצה כתב בבירור | יש תוכנת בינה מלאכותית?:

@לא-מתייאש אני רוצה להוריד תוכנה שיהיה בה כמו באתר של GPT נניח. לא לבנות לבד, אם יש בתוכנה

אתה רוצה כאילו CHAT GPT מקוון ? אין דבר כזה לפי מה שאני יודע. CHAT GPT זה דבר ממש עצום. אוליי יש אנשים שעשו משהו כזה מבוסס על המודל שלו שניתן להוריד אותו אבל נראה לי שזה לא יתקרב ל-CHAT GPT שאתה מכיר.
מצאתי את זה בכל זאת https://github.com/nomic-ai/gpt4all , אין לי מושג מה זה שווה

[צדיק תמים]

@רוצה כתב בבירור | יש תוכנת בינה מלאכותית?:

הקטע ששם זה אופליין, לי לא איכפת גם אונליין

אז למה אתה קורא "תוכנה"?
שזה נפתח בחלון נפרד?
אתה יכול לעשות את זה גם בכרום/אדג' החדש:

ואח"כ לסמן את "פתיחה כחלון"

[רוצה]

@לא-מתייאש תודה רבה עזרת לי מאוד!

@צדיק-תמים תודה. רציתי כאילו בתוכנה אבל הביא לי.

תודה לכולם!!
נפתר

[לא-מתייאש]

@רוצה

[משה משה 1]

פוסט זה נמחק!

[משה משה 1]

@לא-מתייאש אם מישהו עדיין מחפש יש את זה https://beebom.com/how-run-chatgpt-like-language-model-pc-offline/ זה "רק" 31 ג'גה

[ע.1195]

@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.

[משה משה 1]

@ע-1195 לא מסובך במיוחד תסתכל פה https://www.prog.co.il/articles/הדרכה-מאפס-לסטייבל-דפיוזן-בינה-מלאכותית-ביתית-לציור-בחינם.3315/ אמנם זה תוכנה אחרת אבל עיקרון ההתקנה דומה ולהשלמה תסתכל בקישור למדריך ששלחתי

[NH.LOCAL]

@ע-1195 כתב בבירור | יש תוכנת בינה מלאכותית?:

@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.

לי עבד עם מודל שפה בשם ויקונה שמשולב במודל למה, שמבוסס על המודל של מטא.
הוא עובד אופליין לגמרי, ושוקל רק 7 ג'יגה, אבל דורש משאבים עצומים, ובמחשב שלי (I3 דור 10) הוא הספיק בערך 2-3 מילים בדקה...

https://huggingface.co/lmsys/vicuna-13b-delta-v1.1

https://github.com/lm-sys/FastChat#vicuna-weights

אם זה מעניין מישהו אפרט יותר על איך מפעילים אותו (זה ממש קל)

[משה משה 1]

@NH-LOCAL למען האמת גם הקישור שהאתי הוא רק בסביבות 4.5-6 גיגה תלוי איזה סוג רק בהפעלת התוכנה זה נפתח ל 30 גיגה בערך

[צללית]

@NH-LOCAL אשמח אם תפרט איך מפעילים את זה.

[NH.LOCAL]

@צללית די פשוט בעקרון. זה מה שאני עשיתי. הקבצים המצורפים כעת מעודכנים יותר.

• תוריד את הקובץ שבקישור הזה (כ-8 ג'יגה):
  https://huggingface.co/vicuna/ggml-vicuna-13b-1.1/blob/main/ggml-vic13b-q4_1.bin

• לאחר מכן הורד את קבצי המודל "llama.cpp", שמפעיל את מודל השפה. זהו קובץ קטן למדי. מהקישור כאן - (מתוך המאגר הזה)

• לאחר מכן הורד את קובץ ההפעלה הבא:
  Start vicuna.bat

• חלץ את קובץ הזיפ לתיקיה והעתק לתוכו את שאר הקבצים שהורדת.

• כעת, הפעל את קובץ הבאט המצורף - המודל יתחיל לפעול, כל שעליך לעשות זה להקליד תוכן כרצונך ולהקיש אנטר. (הוא עובד בעיקר באנגלית, בעברית הוא גרוע למדי)

Spoiler

אציין שבמחשב חזק שמכיל כמות ראם של 16 ג'יגה ומעלה זה יהיה נחמד. פחות מזה זה יהיה סיוטי למדי

נ.ב. פרסמתי פוסט מעודכן בנושא בקישור הבא:
https://mitmachim.top/post/671984

[צללית]

@NH-LOCAL מוזר, אצלי זה נשאר תקוע על המסך הזה
אגב, יש לך מושג לגבי GPT4ALL?

[רוצה]

@צללית GPT4ALL אצלי לא עובד

[NH.LOCAL]

@צללית כתב בבירור | יש תוכנת בינה מלאכותית?:

אגב, יש לך מושג לגבי GPT4ALL?

תוכנה חמודה למדי, אבל לא עובדת טוב בנטפרי

@צללית כתב בבירור | יש תוכנת בינה מלאכותית?:

@NH-LOCAL מוזר, אצלי זה נשאר תקוע על המסך הזה

זה תוכנה כבדה מאוד. יכול להיות שלוקח לזה זמן לטעון