הצעת ייעול | חיפוש ושדרוג מערכת ל-AI

[הלי]

@דוד-משה-1 כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

אני חושב שיצירת כזה דבר תיקח הרבה משאבים מהשרת

לא בטוח יכול להיות אולי שלהפך זה אפילו יחסוך כי במקום כל פעם עשרות חיפושים ופוסטים בלי סוף על אותם נושאים אז הצא'ט יהיה קצר וענייני אמנם זה לא מחייב כי כאן בכל זאת חושבים פעמיים לפני פרסום פוסט מה שאין כן ...

[חטח]

@לאצי כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

וסתם כך חשבתי שאפשר ליצור צ'אט מסונן כזה (בכללי, לא רק לפה) שפשוט מבוסס רק על אתרים חרדיים ו/או כשרים. (בתקווה שהתבססות על אתרים אלה בלבד תניב מספיק מידע.)

זה יהיה לי חסום...

[לאצי]

@חטח למה? מה הקשר?

[חטח]

@לאצי כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

@חטח למה? מה הקשר?

? כתבתי שאם יעשו סתם אתר/פורום חדש זה יהיה חסום כי אני לא יכול לבקש אתרים...

[NH.LOCAL]

@לאצי כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

וסתם כך חשבתי שאפשר ליצור צ'אט מסונן כזה (בכללי, לא רק לפה) שפשוט מבוסס רק על אתרים חרדיים ו/או כשרים. (בתקווה שהתבססות על אתרים אלה בלבד תניב מספיק מידע.)

לא אפשרי כלל. למעשה, אפילו שימוש בכל התכנים הקיימים בעברית לא מספיק בשביל אימון מודל כזה

@חטח כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

אבל אולי אם זה יהיה chat gpt שהפורום רק ישלח אליו נתונים ויקח ממנו או משהו כזה יכול להיות שזה יהיה לו פחות כבד.(אני לא כ"כ מבין בזה אבל ככה נראה לי...)

שימוש ב-API כזה הוא דבר שעולה לא מעט כסף.

[sivan22]

@NH-LOCAL אפשר לעשות מה שנקרא RAG, ויש גם API חינמיים כמו של hugging face.
https://github.com/Soulter/hugging-chat-api

[NH.LOCAL]

@sivan22 כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

ויש גם API חינמיים כמו של hugging face

טוב לדעת. אם כי אני מניח שהתמיכה בעברית מפוקפקת למדי

@sivan22 כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

@NH-LOCAL אפשר לעשות מה שנקרא RAG

כמובן. ואיך אתה מתקדם משם הלאה?

[הלי]

@NH-LOCAL כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

אפילו שימוש בכל התכנים הקיימים בעברית לא מספיק בשביל אימון מודל כזה

למה לא ? הוא אמנם יהיה מוגבל ואפילו אולי מוגבל מאוד בתוכן אבל בדיוק את זה מחפשים לא? שפשוט לא יהיה לו תוכן אחר

[NH.LOCAL]

@הלי מודל בגודל כזה יהיה חכם פחות מחבילת מסמרים. כיום, בשביל לאמן מודל שפה ברמה גבוהה צריך כמות נתונים עצומה. פי כמה מיליון מהחומר הקיים בתוך המסגרת של "תוכן חרדי".

להבהרת העניין: מודל שפה הוא לא מערכת חיפוש משוכללת. זהו מודל שמחקה חשיבה אנושית

[צדיק תמים]

@NH-LOCAL כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

@sivan22 כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

@NH-LOCAL אפשר לעשות מה שנקרא RAG

כמובן. ואיך אתה מתקדם משם הלאה?

מה השאלה?
ותמיכה בעברית - תלוי איזה מודל תשתמש

[א.מ.ד.]

@NH-LOCAL כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

לא אפשרי כלל. למעשה, אפילו שימוש בכל התכנים הקיימים בעברית לא מספיק בשביל אימון מודל כזה

שלא לדבר על המשאבים הדרושים לאימון המודל...

@sivan22 כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

ויש גם API חינמיים כמו של hugging face.

לדעתך זה יכול להחזיק על הגב שלו את כל השאלות שישאלו אותו בפורום הפעיל הזה? מהניסיון שלי מדובר ב-API איטי להחריד...

@הלי כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

לא בטוח יכול להיות אולי שלהפך זה אפילו יחסוך כי במקום כל פעם עשרות חיפושים ופוסטים בלי סוף על אותם נושאים אז הצא'ט יהיה קצר וענייני

אין קשר... החיפושים והפוסטים המיותרים לוקחים אולי כמה KB של זיכרון אחסון כל אחד, לא דומה למשאבים של החזקת מודל פרטי שדורש שרתים עם מעבדים חזקים ומהירים, זיכרון ram ענק ורוחב פס גדול לכל השאילתות (כי אז ישאלו אותו הרבה יותר שאלות ממה שהיו שואלים בפורום...)

ובלי קשר, לא הוגן שאנשים יעבדו ליצור דברים - תוכנות, אפליקציות, מדריכים, אתרים וכו' רק כדי שאיזה צ'אט יקח מהם את הקישור להורדה או את תוכן המדריך ויציג אותו...

בנוסף, המודל לא ממש ידע להבדיל בין פוסטים שמתחילים כתבו לפוסטים של מומחים (לא תמיד זה משתקף במוניטין...)

[א.מ.ד.]

@הלי כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

@NH-LOCAL כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

אפילו שימוש בכל התכנים הקיימים בעברית לא מספיק בשביל אימון מודל כזה

למה לא ? הוא אמנם יהיה מוגבל ואפילו אולי מוגבל מאוד בתוכן אבל בדיוק את זה מחפשים לא? שפשוט לא יהיה לו תוכן אחר

מודל שפה זה לא מוח קיים או תוכנת מחשב שלומדים ידע ותכנים מנתונים כמו אדם אנושי ופולטים אותם בצ'אט, אלא עצם השכל שלו והיכולת לחשוב נוצר מאותם תכנים. המודל רק יודע איך ללמוד את הנתונים שמזינים לו. אם יהיה לו רק את התוכן שכתבת אז פשוט לא יהיה לו שכל... מה שקורה במודלים הגדולים הקיימים זה שאחרי שהם יודעים איך לחשוב כתוצאה מכל הנתונים בכל השפות, הם פשוט פולטים לך את הידע שהם קראו בעברית, או לחילופין "מתרגמים" את הידע משפה זרה לעברית (מקווה שהתנסחתי נכון). אבל ללמוד מכמה אתרים ספציפיים זה לא יהפוך אותם לבינה מלאכותית.

[א.מ.ד.]

בכל אופן, אפשר חלקית להשתמש ב-gpt כבר עכשיו לחיפוש בפורום... הנה דוגמא:
https://chatgpt.com/share/df7ce3e6-416c-4866-957f-d17779663e7e
אמנם יש לו קצת שגיאות - לדוגמא הוא הכתיר את @מתושלח-הבבלי כמפתח קיידרואיד... אבל עדיין עדיף מכלום... (או שמא עדיף כלום? וצ"ע)

[לאצי]

@א-מ-ד כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

ובלי קשר, לא הוגן שאנשים יעבדו ליצור דברים - תוכנות, אפליקציות, מדריכים, אתרים וכו' רק כדי שאיזה צ'אט יקח מהם את הקישור להורדה או את תוכן המדריך ויציג אותו...

א"כ אתה בא להפריך את כל עניין ה- GPT.

בנוסף, המודל לא ממש ידע להבדיל בין פוסטים שמתחילים כתבו לפוסטים של מומחים (לא תמיד זה משתקף במוניטין...)

למאי נ"מ? העיקר שהוא יתן תשובות הולמות לשאלות שהוא נשאל, לא?

[חטח]

@א-מ-ד כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

בכל אופן, אפשר חלקית להשתמש ב-gpt כבר עכשיו לחיפוש בפורום... הנה דוגמא:
https://chatgpt.com/share/df7ce3e6-416c-4866-957f-d17779663e7e
אמנם יש לו קצת שגיאות - לדוגמא הוא הכתיר את @מתושלח-הבבלי כמפתח קיידרואיד... אבל עדיין עדיף מכלום... (או שמא עדיף כלום? וצ"ע)

כן, אבל לי זה חסום...

@חטח כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

אם המנהלים יעשו דבר כזה אשמח שיעשו את זה באותו כתובת של הפורום כי החיפוש גוגל בפורום חסום לי...

[מתושלח הבבלי]

@א-מ-ד כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

בכל אופן, אפשר חלקית להשתמש ב-gpt כבר עכשיו לחיפוש בפורום... הנה דוגמא:
https://chatgpt.com/share/df7ce3e6-416c-4866-957f-d17779663e7e
אמנם יש לו קצת שגיאות - לדוגמא הוא הכתיר את @מתושלח-הבבלי כמפתח קיידרואיד... אבל עדיין עדיף מכלום... (או שמא עדיף כלום? וצ"ע)

[הלי]

@א-מ-ד כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

המודל לא ממש ידע להבדיל בין פוסטים שמתחילים כתבו לפוסטים של מומחים

צודק וגם לא לכאורה בין פוסטים שנכתבו יותר מאוחר או יותר מוקדם (אולי בעצם כן אפשר ללמד אותו את זה) שזה מאוד חשוב לפי התקדמות טכנולוגית שכך מתקדם גם הפורום...

@לאצי כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

א"כ אתה בא להפריך את כל עניין ה- GPT.

אני חושב שיש הבדל גדול בין להפריך את כל עניין הGPT שלוקח מידע מכל הרשת והופך אותו לתשובה מעשית לשאלה הברורה מה שאין כן כשהוא מוגבל וכפי שהסבירו המומחים ויוצא שבסך הכל נקבל את התשובות שהתקבלו בפורום ובעצם אפשר במקום זה להגיע לפוסט הזה בחיפוש גוגל בפורום וכן לראות את מי שכתב

[לאצי]

@הלי אתה קצת מערבב את מה שאמרתי. אני הצעתי לעשות שני דברים נפרדים;

1. חיפוש חכם שהבינה שואלת אותך מה אתה מחפש ואת זה היא מביאה לך רק מתוך הפורום עצמו.
2. צ'אט gpt שמבוסס מידע על כל הרשת אך הוא מביא מידע אך ורק על עניינים הקשורים לטכנולוגיה בלבד. מה שאנחנו מרויחים זה צ'אט מסונן ללא חומר מיותר (ואסור), וגם זה כמו עזרה הדדית חכמה שאפשר לשאול אותה גם על נושאים שעדיין לא נדונו בפורום.
   מקווה שהייתי מספיק ברור, ואם עדיין יש לך מה 'להשיג' עלי, אשמח לשמוע.

[צבי דורש ציון]

@לאצי כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

צ'אט gpt שמבוסס מידע על כל הרשת אך הוא מביא מידע אך ורק על עניינים הקשורים לטכנולוגיה בלבד. מה שאנחנו מרויחים זה צ'אט מסונן ללא חומר מיותר (ואסור), וגם זה כמו עזרה הדדית חכמה שאפשר לשאול אותה גם על נושאים שעדיין לא נדונו בפורום.

אולי @es0583292679 יכול להוסיף לרשימת הרובוטים שלו בתחומים שונים,
אבל עדיין, צריך לחשוב אם בתחום הטכנולוגיה, יש קצת הרבה יותר מכשולות שקשה יותר לחסום בהם את הרובוט...

[es0583292679]

@צבי-דורש-ציון כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

@לאצי כתב בהצעת ייעול | חיפוש ושדרוג מערכת ל-AI:

צ'אט gpt שמבוסס מידע על כל הרשת אך הוא מביא מידע אך ורק על עניינים הקשורים לטכנולוגיה בלבד. מה שאנחנו מרויחים זה צ'אט מסונן ללא חומר מיותר (ואסור), וגם זה כמו עזרה הדדית חכמה שאפשר לשאול אותה גם על נושאים שעדיין לא נדונו בפורום.

אולי @es0583292679 יכול להוסיף לרשימת הרובוטים שלו בתחומים שונים,
אבל עדיין, צריך לחשובאם בתחום הטכנולוגיה, יש קצת הרבה יותר מכשולות שקשה יותר לחסום בהם את הרובוט...

תודה על הציטוט.

א. זה אפשרי, אבל המון משאבי פיתוח, כאתר שנותן אירוח למפתחים ולא ממש נותן שירות פיתוח בעצמו - זה לא כל כך פוטנציאלי, אבל יש הפעות! לפעמים הצוות כן נותן משהו יוצא דופן לטובת האתר, ולפעמים יש מתנדבים, הרבה עשו מתנדבים, אני חושב שאפילו את החוקים...

ב. להתבסס על GPT זה אפשרי לגמרי! יש כמה שיטות, מי שרוצה להתבסס או מודל או מסד/מאגר מידע מקומי, אז זה לא יהיה בזמן אמת, יצטרכו לעדכן אותו לעיתים תכופות שלא יהיה מיושן מהר מאד! ואם לבצע חיפוש בזמן אמת שזה אחד הדברים הכי טובים, עם הנחייה לאגור את כל המידע הרלוונטי בחיפוש להמשך השיחה, אבל אני מסופק אם זה מעשי לחינמי המכונה GPT 3.5.

ג. תכלס, אני מאמין שכמה שזה אפשרי היום - בתקופות הקרבות זה עלול להיות יותר ויותר נגיש, אם לעבוד עכשיו סתם? לא בטוח שזה כדאי, אלא אם כן לכיף וכדו', או אם ממש קל אבל רלוונטי בעיקר למי שמשלם... כמו ליצור רובוט כזה לGPT-4.

ד. יש שירותים בתשלום סמלי כאלה, שעובדים למחצה לשיל ולבעי או פחות או יותר... ששואלים אותך: "מה שמך?" אתה עונה: "רגע, אני צריך לשאול משהו", אז הם עונים: "הי רגע אני צריך לשאול משהו! שם יפה! איך אוכל לעזור?"... זה יהיה יותר מעשי ופשוט לשים באתר אחת ושתים, רק אני מסופק - לא רק לגבי התועלת - אלא כמה נתונים הוא יכול להחזיק... מן הסתם הוא לא יוכל עד כדי כך לשוחח על האתר, וגם אם כן זה כמו לשוחח עם תוכי מדבר שחוזר על דברים ללא הקשר תועלתי ורק עושה עגמת נפש, אבל מכפר על העוונות.