המלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך
-
@ivrפון כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 האם אני יכול להתקן את המודול על השרת שלי ולשים לו נניח קבצי מידע על האתר
כמובן שיש לי KEY [של openai]
ושיהיה לי צאט מידע על אתר האינטרנט?בהחלט אפשר וכדאי לעשות צ'אט על בסיס RAG על קבצי מידע של האתר. רק אני לא בטוח אם הכלי הזה ספציפית הוא הכי נח להטמיע בשרת. כלומר הממשק שלו לא יתאים לאתר, אבל יש גם API וצריך לבדוק כמה זה נח.
@sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@ivrפון כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 האם אני יכול להתקן את המודול על השרת שלי ולשים לו נניח קבצי מידע על האתר
כמובן שיש לי KEY [של openai]
ושיהיה לי צאט מידע על אתר האינטרנט?בהחלט אפשר וכדאי לעשות צ'אט על בסיס RAG על קבצי מידע של האתר. רק אני לא בטוח אם הכלי הזה ספציפית הוא הכי נח להטמיע בשרת. כלומר הממשק שלו לא יתאים לאתר, אבל יש גם API וצריך לבדוק כמה זה נח.
זה קוד פתוח, לא? אתה לא יכול לעצב את הממשק בצורה אחרת?
-
שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.
@sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
שמתי לב שהבינה מלאכותית מתירה כלי שני במלח ללא חומרא כלל, בעוד בספר הפתוח בבינה שם כתוב שהמחמיר גם על כלי שני תבוא עליו ברכה ואין חילוק בין כלי ראשון לשני...
כלומר... רובוט חמוד אבל עדיין לא מספיק חכם. -
@sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
שמתי לב שהבינה מלאכותית מתירה כלי שני במלח ללא חומרא כלל, בעוד בספר הפתוח בבינה שם כתוב שהמחמיר גם על כלי שני תבוא עליו ברכה ואין חילוק בין כלי ראשון לשני...
כלומר... רובוט חמוד אבל עדיין לא מספיק חכם.חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
@sivan22 אבל סוגי הקבצים שהוא קורא מוגבלים.
-
@sivan22 אבל סוגי הקבצים שהוא קורא מוגבלים.
@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 אבל סוגי הקבצים שהוא קורא מוגבלים.
לא נכון, הוא קורא את כל סוגי המסמכים, רק שצריך להעלות אותם לדרייב (גוגל דוקס). באופן כזה הוא קורא אפילו מצגות שקופיות!
בנוסף, אפשר לתת לו גם קישורים לדפי אינטרנט! -
@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 אבל סוגי הקבצים שהוא קורא מוגבלים.
לא נכון, הוא קורא את כל סוגי המסמכים, רק שצריך להעלות אותם לדרייב (גוגל דוקס). באופן כזה הוא קורא אפילו מצגות שקופיות!
בנוסף, אפשר לתת לו גם קישורים לדפי אינטרנט!@א-מ-ד
-
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
@sivan22 עם השיטה הזאת אין לאינטרנט גישה לקבצים שלי?
כי אם יש להם גישה אז פשוט הם יכולים להעלות את תוכן כל הקבצים אליהם... -
מדהים!!!!!!!!!!
ימות המשיח!!
איפה היית עד היום?......
תוך כמה שניות הוא אינדקס לי חוברת עמוקה בהלכות המורכבות ביותר של סוכות!
-
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
@א-מ-ד
-
@aiib איך העלת?
PDF בעברית? כי ראיתי שהוא לא מצליח לקרוא אותו טוב (כנראה בגלל ימין שמאל וכד') -
@aiib איך העלת?
PDF בעברית? כי ראיתי שהוא לא מצליח לקרוא אותו טוב (כנראה בגלל ימין שמאל וכד')@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@aiib איך העלת?
PDF בעברית? כי ראיתי שהוא לא מצליח לקרוא אותו טוב (כנראה בגלל ימין שמאל וכד')כן, PDF בעברית ואני רואה שמשום מה הוא ג'יברש את הכל. מה יכול להיות?
-
@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@aiib איך העלת?
PDF בעברית? כי ראיתי שהוא לא מצליח לקרוא אותו טוב (כנראה בגלל ימין שמאל וכד')כן, PDF בעברית ואני רואה שמשום מה הוא ג'יברש את הכל. מה יכול להיות?
@aiib הוא מתקשה בלקרוא PDF בעברית
או בגלל הפונטים, או בגלל ה ימין שמאל, או לא יודע למה.
דווקא היה קובץ אחד שהוא קרא בצורה יפה. -
@א-מ-ד ראיתי.
זה דורש ממך להמיר מוורד לדוקס -
@א-מ-ד ראיתי.
זה דורש ממך להמיר מוורד לדוקס@צדיק-וטוב-לו-0 צודק! איך ממירים?
-
@aiib הוא מתקשה בלקרוא PDF בעברית
או בגלל הפונטים, או בגלל ה ימין שמאל, או לא יודע למה.
דווקא היה קובץ אחד שהוא קרא בצורה יפה.@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@aiib הוא מתקשה בלקרוא PDF בעברית
או בגלל הפונטים, או בגלל ה ימין שמאל, או לא יודע למה.
דווקא היה קובץ אחד שהוא קרא בצורה יפה.זה עובד לי מצויין ב-PDF בעברית, ומציג את המקורות מעולה...
-
@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@aiib הוא מתקשה בלקרוא PDF בעברית
או בגלל הפונטים, או בגלל ה ימין שמאל, או לא יודע למה.
דווקא היה קובץ אחד שהוא קרא בצורה יפה.זה עובד לי מצויין ב-PDF בעברית, ומציג את המקורות מעולה...
@א-מ-ד כנראה תלוי בפונטים, בצורת הסגירה לPDF ועוד.
-
@איש-שלו כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת.אם יש לך 10 מליארד דולר מיותרים, אתה מוזמן להרים את הכפפה
@NH-LOCAL כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@איש-שלו כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת.אם יש לך 10 מליארד דולר מיותרים, אתה מוזמן להרים את הכפפה
דווקא אוצר החכמה אמרו לי לפני כחצי שנה/שנה שהם עובדים על מודל עבור ה'אוצר'.
עם מאגר מידע ענק כמו אוצה"ח זה לא רחוק מכוונותיו.