המלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך
-
שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.
@sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
שמתי לב שהבינה מלאכותית מתירה כלי שני במלח ללא חומרא כלל, בעוד בספר הפתוח בבינה שם כתוב שהמחמיר גם על כלי שני תבוא עליו ברכה ואין חילוק בין כלי ראשון לשני...
כלומר... רובוט חמוד אבל עדיין לא מספיק חכם. -
@sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
שמתי לב שהבינה מלאכותית מתירה כלי שני במלח ללא חומרא כלל, בעוד בספר הפתוח בבינה שם כתוב שהמחמיר גם על כלי שני תבוא עליו ברכה ואין חילוק בין כלי ראשון לשני...
כלומר... רובוט חמוד אבל עדיין לא מספיק חכם.חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
@sivan22 אבל סוגי הקבצים שהוא קורא מוגבלים.
@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 אבל סוגי הקבצים שהוא קורא מוגבלים.
לא נכון, הוא קורא את כל סוגי המסמכים, רק שצריך להעלות אותם לדרייב (גוגל דוקס). באופן כזה הוא קורא אפילו מצגות שקופיות!
בנוסף, אפשר לתת לו גם קישורים לדפי אינטרנט! -
@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 אבל סוגי הקבצים שהוא קורא מוגבלים.
לא נכון, הוא קורא את כל סוגי המסמכים, רק שצריך להעלות אותם לדרייב (גוגל דוקס). באופן כזה הוא קורא אפילו מצגות שקופיות!
בנוסף, אפשר לתת לו גם קישורים לדפי אינטרנט! -
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
@sivan22 עם השיטה הזאת אין לאינטרנט גישה לקבצים שלי?
כי אם יש להם גישה אז פשוט הם יכולים להעלות את תוכן כל הקבצים אליהם... -
מדהים!!!!!!!!!!
ימות המשיח!!
איפה היית עד היום?......
תוך כמה שניות הוא אינדקס לי חוברת עמוקה בהלכות המורכבות ביותר של סוכות!
-
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
@א-מ-ד
-
@aiib איך העלת?
PDF בעברית? כי ראיתי שהוא לא מצליח לקרוא אותו טוב (כנראה בגלל ימין שמאל וכד') -
@aiib איך העלת?
PDF בעברית? כי ראיתי שהוא לא מצליח לקרוא אותו טוב (כנראה בגלל ימין שמאל וכד')@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@aiib איך העלת?
PDF בעברית? כי ראיתי שהוא לא מצליח לקרוא אותו טוב (כנראה בגלל ימין שמאל וכד')כן, PDF בעברית ואני רואה שמשום מה הוא ג'יברש את הכל. מה יכול להיות?
-
@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@aiib איך העלת?
PDF בעברית? כי ראיתי שהוא לא מצליח לקרוא אותו טוב (כנראה בגלל ימין שמאל וכד')כן, PDF בעברית ואני רואה שמשום מה הוא ג'יברש את הכל. מה יכול להיות?
-
-
@א-מ-ד ראיתי.
זה דורש ממך להמיר מוורד לדוקס@צדיק-וטוב-לו-0 צודק! איך ממירים?
-
@aiib הוא מתקשה בלקרוא PDF בעברית
או בגלל הפונטים, או בגלל ה ימין שמאל, או לא יודע למה.
דווקא היה קובץ אחד שהוא קרא בצורה יפה.@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@aiib הוא מתקשה בלקרוא PDF בעברית
או בגלל הפונטים, או בגלל ה ימין שמאל, או לא יודע למה.
דווקא היה קובץ אחד שהוא קרא בצורה יפה.זה עובד לי מצויין ב-PDF בעברית, ומציג את המקורות מעולה...
-
@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@aiib הוא מתקשה בלקרוא PDF בעברית
או בגלל הפונטים, או בגלל ה ימין שמאל, או לא יודע למה.
דווקא היה קובץ אחד שהוא קרא בצורה יפה.זה עובד לי מצויין ב-PDF בעברית, ומציג את המקורות מעולה...
@א-מ-ד כנראה תלוי בפונטים, בצורת הסגירה לPDF ועוד.
-
@איש-שלו כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת.אם יש לך 10 מליארד דולר מיותרים, אתה מוזמן להרים את הכפפה
@NH-LOCAL כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@איש-שלו כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת.אם יש לך 10 מליארד דולר מיותרים, אתה מוזמן להרים את הכפפה
דווקא אוצר החכמה אמרו לי לפני כחצי שנה/שנה שהם עובדים על מודל עבור ה'אוצר'.
עם מאגר מידע ענק כמו אוצה"ח זה לא רחוק מכוונותיו.
-
@NH-LOCAL כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@איש-שלו כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת.אם יש לך 10 מליארד דולר מיותרים, אתה מוזמן להרים את הכפפה
דווקא אוצר החכמה אמרו לי לפני כחצי שנה/שנה שהם עובדים על מודל עבור ה'אוצר'.
עם מאגר מידע ענק כמו אוצה"ח זה לא רחוק מכוונותיו.
@תצמנ כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@NH-LOCAL כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@איש-שלו כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת.אם יש לך 10 מליארד דולר מיותרים, אתה מוזמן להרים את הכפפה
דווקא אוצר החכמה אמרו לי לפני כחצי שנה/שנה שהם עובדים על מודל עבור ה'אוצר'.
עם מאגר מידע ענק במו אוצה"ח זה לא רחוק מכוונותיו.
אפילו מאגר המידע שלהם לא מתקרב למה שצריך בשביל לאמן מודל על רמה... אפילו מודל שיאומן על כל הטקסטים הקיימים בעברית לא יהיה מספיק יעיל. מה שצריך זה קודם שיתאמן מספיק על טקסטים בכל השפות ורק אז הוא יוכל להבין ולענות תשובות כראוי על טקסטים בעברית.
גם אל תשכח שקבצים של ספרי קודש בלבד (או בעיקר) ייצרו מודל שלא כ"כ יכול לתקשר בעברית של ימינו...
מה שהם מן הסתם יעשו (ואגב זה מתבקש מאוד) זה לקחת מודל מוכן כמו של דיקטה ולאמן אותו על כל המאגר שלהם, אבל כמובן שזה עדיין דורש משאבים ממש יקרים...
 { const baseUrl = 'https://www.google.co.il/search?q=site:mitmachim.top'; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; function search(path = '') { const query = document.getElementById('bb-inp').value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, '_blank'); } }; let buttons = {}; buttons.searchAll = { label: `חיפוש ${type ? 'בכל הפורום' : ''}`, className: type ? 'btn-secondary' : 'btn-primary', callback: () => search() }; if (type === 'topic') { buttons.searchTopic = { label: 'חיפוש בנושא זה', className: 'btn-primary', callback: () => search(`/topic/${id}`) }; } else if (type === 'category') { buttons.searchCat = { label: 'חיפוש בקטגוריה זו', className: 'btn-primary', callback: () => search(`/category/${id}`) }; } buttons.cancel = { label: 'ביטול', className: 'btn-default' }; bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true }); })(); void (0);){kind=link}