המלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך
-
שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.
-
@אלף-שין אולי מתי שהוא אני אצור docker שיכלול הכל. בינתיים אני עדיין בודק את הכלי.
לגבי אוצריא ברור שזה הכיוון, אבל אני עדיין לא שם.@sivan22
אם בבינה מלאכותית עסקינן, ובאופן הרצתה על כתבים תורניים.
אשאלה נא:א. לגבי דיון עם בינה מלאכותית על עצם התוכן התורני - מעיקרא אינני מאמין כ"כ ביכולת של המחשב לדייק ולהעלות מסקנות אמינות ומדוייקות. כך שבלא"ה יצטרכו לעמול בתורה עצמה וכו' [תקן אותי אם לדעתך אני טועה].
ב. לגבי מציאת מקורות ומראי מקומות - ראיתי את העבודה שלך ב'חיפוש תורני', ונראה שעדיין הונחה לך בקעה רחבה לגדור... [כוונתי שעשית כמובן עבודה גדולה, אבל כדי שיהיה בכלי הזה תועלת יותר מאשר חיפוש בבר אילן - צריך שהוא יהיה מאוד מדוייק וממוקד].
ג. דוקא במישור אחר היה נראה לי שיכולה להיות תועלת עצומה ונפלאה בבינה מלאכותית, אם יהיה אפשר לשאול שאלות ניתוח רוחביות. כגון:
(א) האם ניתן למצוא מקומות בהם חכם פלוני [למשל הרמח"ל, שברוב ספריו מצטט מקראות ודברי חז"ל] מביא מדברי ראשונים / אחרונים ?
[ב] האם יש מן החכמים הקדמונים שהעמידו עיקר האמונה וידיעת הנהגת ה' על גילוי הייחוד [כמו הרמח"ל]?
[ג] מי מחכמי ישראל [בתקופה מסויימת / באיזור מסויים] עסק בענין זה וזה...
[ד] היכן אפשר למצוא תשובות סדורות על השאלה בדבר כו'וכמו כן - ניתוח טקסטים ברמה פרטנית:
[ה] באילו פסוקים /פרשות מצאנו מושג החוזר על עצמו כמה פעמים?
[ו] היכן בתורה נביאים וכתובים מתבאר ענין מסויים?
[ז] היכן מצינו פסוקים או נבואות מקבילות בכמה ספרים?
[ח] האם נזכר במקרא ענין מסויים לפני דור מסויים?
[ט] ואפילו - היכן מצינו בכתובים ביטוי לשוני או שורש דקדוקי המשמש לדבר והיפוכו?
[י] אלו פרקים בתנ"ך מסודרים לפי א"ב, ובאילו נמצא חריגות מן הסדר [נ' החסרה באשרי, חילוף פ' וע' באיכה וכיו"ב]?או שאלות כמו:
[יא] האם ישנן סוגיות בהן הגמ' נשארת בקושיה, ובסוגיה מקבילה בה הקושיה מתורצת?
[יב] מה הם כל המקומות בהם חכם הורה הלכה מסויימת ולאחר מכן חזר בו מכח קושיה או מכח התבררות המציאות?
[יג] היכן מצינו שלמדים הלכה ממקרה שאירע קודם למתן תורה?
[יד] סיכום שמות צאצאי יעקב והשוואתם בין המקומות השונים.
[טו] סיכום גבולות הארץ בג' וד' מקומות ההבטחה, מציאת ההקבלה וההבדלה בין שמות המקומות הנזכרים בגבולות הארץ לבין מקומות הנזכרים בפרשות אחרות.וכמובן עוד ועוד ועוד כפי יד' ה' הטובה על כל לומד ולומד...
כמדומה שזה יהיה כלי אדיר לעיון ומחקר תורני אמיתי ויסודי.
האם זה חזון רחוק ?
-
@sivan22
אם בבינה מלאכותית עסקינן, ובאופן הרצתה על כתבים תורניים.
אשאלה נא:א. לגבי דיון עם בינה מלאכותית על עצם התוכן התורני - מעיקרא אינני מאמין כ"כ ביכולת של המחשב לדייק ולהעלות מסקנות אמינות ומדוייקות. כך שבלא"ה יצטרכו לעמול בתורה עצמה וכו' [תקן אותי אם לדעתך אני טועה].
ב. לגבי מציאת מקורות ומראי מקומות - ראיתי את העבודה שלך ב'חיפוש תורני', ונראה שעדיין הונחה לך בקעה רחבה לגדור... [כוונתי שעשית כמובן עבודה גדולה, אבל כדי שיהיה בכלי הזה תועלת יותר מאשר חיפוש בבר אילן - צריך שהוא יהיה מאוד מדוייק וממוקד].
ג. דוקא במישור אחר היה נראה לי שיכולה להיות תועלת עצומה ונפלאה בבינה מלאכותית, אם יהיה אפשר לשאול שאלות ניתוח רוחביות. כגון:
(א) האם ניתן למצוא מקומות בהם חכם פלוני [למשל הרמח"ל, שברוב ספריו מצטט מקראות ודברי חז"ל] מביא מדברי ראשונים / אחרונים ?
[ב] האם יש מן החכמים הקדמונים שהעמידו עיקר האמונה וידיעת הנהגת ה' על גילוי הייחוד [כמו הרמח"ל]?
[ג] מי מחכמי ישראל [בתקופה מסויימת / באיזור מסויים] עסק בענין זה וזה...
[ד] היכן אפשר למצוא תשובות סדורות על השאלה בדבר כו'וכמו כן - ניתוח טקסטים ברמה פרטנית:
[ה] באילו פסוקים /פרשות מצאנו מושג החוזר על עצמו כמה פעמים?
[ו] היכן בתורה נביאים וכתובים מתבאר ענין מסויים?
[ז] היכן מצינו פסוקים או נבואות מקבילות בכמה ספרים?
[ח] האם נזכר במקרא ענין מסויים לפני דור מסויים?
[ט] ואפילו - היכן מצינו בכתובים ביטוי לשוני או שורש דקדוקי המשמש לדבר והיפוכו?
[י] אלו פרקים בתנ"ך מסודרים לפי א"ב, ובאילו נמצא חריגות מן הסדר [נ' החסרה באשרי, חילוף פ' וע' באיכה וכיו"ב]?או שאלות כמו:
[יא] האם ישנן סוגיות בהן הגמ' נשארת בקושיה, ובסוגיה מקבילה בה הקושיה מתורצת?
[יב] מה הם כל המקומות בהם חכם הורה הלכה מסויימת ולאחר מכן חזר בו מכח קושיה או מכח התבררות המציאות?
[יג] היכן מצינו שלמדים הלכה ממקרה שאירע קודם למתן תורה?
[יד] סיכום שמות צאצאי יעקב והשוואתם בין המקומות השונים.
[טו] סיכום גבולות הארץ בג' וד' מקומות ההבטחה, מציאת ההקבלה וההבדלה בין שמות המקומות הנזכרים בגבולות הארץ לבין מקומות הנזכרים בפרשות אחרות.וכמובן עוד ועוד ועוד כפי יד' ה' הטובה על כל לומד ולומד...
כמדומה שזה יהיה כלי אדיר לעיון ומחקר תורני אמיתי ויסודי.
האם זה חזון רחוק ?
@איש-שלו סעיף ג' כבר זמין תקופה ארוכה דרך צ'אט gpt. זה כמובן לא מושלם כלל, ולא מדויק במאה אחוז, אבל הוא בהחלט יכול לענות על חלק ניכר מהשאלות שהצגת.
לתוכנה ספרים תורנית זה פחות נצרך, בהתחשב בעובדה שלמודל המקורי יש הרבה יותר מידע ממה שנמצא בתוכנה. אם יאמנו או יחברו מודל שכזה לכל המידע באוצר החכמה זו אכן תהיה בשורה
-
@איש-שלו סעיף ג' כבר זמין תקופה ארוכה דרך צ'אט gpt. זה כמובן לא מושלם כלל, ולא מדויק במאה אחוז, אבל הוא בהחלט יכול לענות על חלק ניכר מהשאלות שהצגת.
לתוכנה ספרים תורנית זה פחות נצרך, בהתחשב בעובדה שלמודל המקורי יש הרבה יותר מידע ממה שנמצא בתוכנה. אם יאמנו או יחברו מודל שכזה לכל המידע באוצר החכמה זו אכן תהיה בשורה
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת. -
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת.@איש-שלו כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת.אם יש לך 10 מליארד דולר מיותרים, אתה מוזמן להרים את הכפפה
-
@איש-שלו כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת.אם יש לך 10 מליארד דולר מיותרים, אתה מוזמן להרים את הכפפה
@NH-LOCAL כנראה בגלל השאלה של @איש-שלו שהייתה באותה שניה איתי לא שמת לב לשאלה שלי
@ivrפון כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
האם אני יכול להתקן את המודול על השרת שלי ולשים לו נניח קבצי מידע על האתר
כמובן שיש לי KEY [של openai]
ושיהיה לי צאט מידע על אתר האינטרנט? -
@איש-שלו כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@NH-LOCAL למודל רגיל - גדול ככל שיהי - יש מידע רב, אבל לא תורני וודאי שלא מדוייק. [ובכל אופן ודאי שלא מידע מבורר ומסולת המושפע רק ממקורות תורניים מוסמכים...].
הכוונה שלי היא למודל שיהיה מאומן על שאלות ומחקרים תורניים וידע להתמודד עם נוסח הכתבים של תורה שבכתב ושבע"פ, להבין את המושגים ולנתח ברמה גבוהה ומהודקת.אם יש לך 10 מליארד דולר מיותרים, אתה מוזמן להרים את הכפפה
-
@NH-LOCAL
בסכומים כאלה הייתי מעדיף להחזיק צוות של לומדים ברמה ולקדם את עולם התורה בהכי.
לא בעל מאה אנכי ולא בעל דעה. רק ביקשתי להציב יעד וחזון.
בכל אופן תודה על השיתוף. -
@sivan22 האם אני יכול להתקן את המודול על השרת שלי ולשים לו נניח קבצי מידע על האתר
כמובן שיש לי KEY [של openai]
ושיהיה לי צאט מידע על אתר האינטרנט?@ivrפון כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 האם אני יכול להתקן את המודול על השרת שלי ולשים לו נניח קבצי מידע על האתר
כמובן שיש לי KEY [של openai]
ושיהיה לי צאט מידע על אתר האינטרנט?בהחלט אפשר וכדאי לעשות צ'אט על בסיס RAG על קבצי מידע של האתר. רק אני לא בטוח אם הכלי הזה ספציפית הוא הכי נח להטמיע בשרת. כלומר הממשק שלו לא יתאים לאתר, אבל יש גם API וצריך לבדוק כמה זה נח.
-
@ivrפון כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 האם אני יכול להתקן את המודול על השרת שלי ולשים לו נניח קבצי מידע על האתר
כמובן שיש לי KEY [של openai]
ושיהיה לי צאט מידע על אתר האינטרנט?בהחלט אפשר וכדאי לעשות צ'אט על בסיס RAG על קבצי מידע של האתר. רק אני לא בטוח אם הכלי הזה ספציפית הוא הכי נח להטמיע בשרת. כלומר הממשק שלו לא יתאים לאתר, אבל יש גם API וצריך לבדוק כמה זה נח.
@sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@ivrפון כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 האם אני יכול להתקן את המודול על השרת שלי ולשים לו נניח קבצי מידע על האתר
כמובן שיש לי KEY [של openai]
ושיהיה לי צאט מידע על אתר האינטרנט?בהחלט אפשר וכדאי לעשות צ'אט על בסיס RAG על קבצי מידע של האתר. רק אני לא בטוח אם הכלי הזה ספציפית הוא הכי נח להטמיע בשרת. כלומר הממשק שלו לא יתאים לאתר, אבל יש גם API וצריך לבדוק כמה זה נח.
זה קוד פתוח, לא? אתה לא יכול לעצב את הממשק בצורה אחרת?
-
שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.
@sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
שמתי לב שהבינה מלאכותית מתירה כלי שני במלח ללא חומרא כלל, בעוד בספר הפתוח בבינה שם כתוב שהמחמיר גם על כלי שני תבוא עליו ברכה ואין חילוק בין כלי ראשון לשני...
כלומר... רובוט חמוד אבל עדיין לא מספיק חכם. -
@sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
שמתי לב שהבינה מלאכותית מתירה כלי שני במלח ללא חומרא כלל, בעוד בספר הפתוח בבינה שם כתוב שהמחמיר גם על כלי שני תבוא עליו ברכה ואין חילוק בין כלי ראשון לשני...
כלומר... רובוט חמוד אבל עדיין לא מספיק חכם.חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
@sivan22 אבל סוגי הקבצים שהוא קורא מוגבלים.
@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 אבל סוגי הקבצים שהוא קורא מוגבלים.
לא נכון, הוא קורא את כל סוגי המסמכים, רק שצריך להעלות אותם לדרייב (גוגל דוקס). באופן כזה הוא קורא אפילו מצגות שקופיות!
בנוסף, אפשר לתת לו גם קישורים לדפי אינטרנט! -
@צדיק-וטוב-לו-0 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@sivan22 אבל סוגי הקבצים שהוא קורא מוגבלים.
לא נכון, הוא קורא את כל סוגי המסמכים, רק שצריך להעלות אותם לדרייב (גוגל דוקס). באופן כזה הוא קורא אפילו מצגות שקופיות!
בנוסף, אפשר לתת לו גם קישורים לדפי אינטרנט! -
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
@sivan22 עם השיטה הזאת אין לאינטרנט גישה לקבצים שלי?
כי אם יש להם גישה אז פשוט הם יכולים להעלות את תוכן כל הקבצים אליהם... -
מדהים!!!!!!!!!!
ימות המשיח!!
איפה היית עד היום?......
תוך כמה שניות הוא אינדקס לי חוברת עמוקה בהלכות המורכבות ביותר של סוכות!
-
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
-
חדש חדש!! יש כלי חדש של גוגל שאמור לעשות את אותה עבודה הרבה יותר טוב: https://notebooklm.google.com/
![חיפוש גוגל בפורום](javascript:{bootbox.prompt({title:'<div style="text-align: center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400"></div>',placeholder:'כתוב מילים לחיפוש ב Google',buttons:{confirm:{label:'חיפוש'},cancel:{label:'ביטול'}},backdrop:true,callback:function(result){if(result!=null&&result!=''){var a=document.createElement('a');a.href='https://www.google.co.il/search?q=site:mitmachim.top '+encodeURIComponent(result.trim());a.target='_blank';a.click();}}})();};){kind=link}