דילוג לתוכן
  • חוקי הפורום
  • פופולרי
  • לא נפתר
  • משתמשים
  • חיפוש גוגל בפורום
  • צור קשר
עיצובים
  • Light
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • Dark
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • ברירת מחדל (ללא עיצוב (ברירת מחדל))
  • ללא עיצוב (ברירת מחדל)
כיווץ
לוגו מותג
  1. דף הבית
  2. כללי - עזרה הדדית
  3. המלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך

המלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך

מתוזמן נעוץ נעול הועבר כללי - עזרה הדדית
118 פוסטים 31 כותבים 6.9k צפיות 30 עוקבים
  • מהישן לחדש
  • מהחדש לישן
  • הכי הרבה הצבעות
תגובה
  • תגובה כנושא
התחברו כדי לפרסם תגובה
נושא זה נמחק. רק משתמשים עם הרשאות מתאימות יוכלו לצפות בו.
  • sivan22S מנותק
    sivan22S מנותק
    sivan22
    כתב נערך לאחרונה על ידי sivan22
    #1

    שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
    זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
    אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
    ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
    אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.

    היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
    adee6360-e235-495c-a111-8d595b53ccc9-image.png

    הוראות התקנה ושימוש בסיסיים

    אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.

    צ א D A M 9 תגובות תגובה אחרונה
    24
    • sivan22S sivan22

      שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
      זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
      אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
      ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
      אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.

      היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
      adee6360-e235-495c-a111-8d595b53ccc9-image.png

      הוראות התקנה ושימוש בסיסיים

      אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.

      צ מנותק
      צ מנותק
      צדיק וטוב לו 0
      כתב נערך לאחרונה על ידי
      #2

      @sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

      שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
      זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
      אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
      ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
      אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.

      היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
      adee6360-e235-495c-a111-8d595b53ccc9-image.png

      הוראות התקנה ושימוש בסיסיים

      אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.

      בהנחה שזה יכול לעבוד על המחשב מקומי, למה זה צריך לעבור דרך המרשתת?
      זה בעצם שימוש כפול בגלישה.

      sivan22S תגובה 1 תגובה אחרונה
      0
      • צ צדיק וטוב לו 0

        @sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

        שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
        זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
        אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
        ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
        אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.

        היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
        adee6360-e235-495c-a111-8d595b53ccc9-image.png

        הוראות התקנה ושימוש בסיסיים

        אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.

        בהנחה שזה יכול לעבוד על המחשב מקומי, למה זה צריך לעבור דרך המרשתת?
        זה בעצם שימוש כפול בגלישה.

        sivan22S מנותק
        sivan22S מנותק
        sivan22
        כתב נערך לאחרונה על ידי sivan22
        #3

        @צדיק-וטוב-לו-0 אפשר או כך או כך, בענן זה כמובן מהיר יותר בהרבה. וגם הרבה יותר מדוייק.

        ש תגובה 1 תגובה אחרונה
        2
        • sivan22S sivan22

          @צדיק-וטוב-לו-0 אפשר או כך או כך, בענן זה כמובן מהיר יותר בהרבה. וגם הרבה יותר מדוייק.

          ש מנותק
          ש מנותק
          שליו
          כתב נערך לאחרונה על ידי
          #4

          @sivan22
          נשמע מרתק
          אשמח להדרכה לחיבור למודל מקומי על המחשב

          sivan22S תגובה 1 תגובה אחרונה
          1
          • sivan22S sivan22

            שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
            זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
            אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
            ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
            אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.

            היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
            adee6360-e235-495c-a111-8d595b53ccc9-image.png

            הוראות התקנה ושימוש בסיסיים

            אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.

            א מנותק
            א מנותק
            אהרן
            כתב נערך לאחרונה על ידי אהרן
            #5

            @sivan22 אשמח גם להדרכה על מחשב מקומי. האם ביצירת האינדקס צריך להעביר את הקבצים לרשת? פשוט יש לי קבצים עם מידע חסוי, השאלה אם ניתן לעשות את זה על המחשב בבית, או במקום שלא כתוב 'נבדק ע"י בודקים אנושיים, לא להכניס מידע חסוי'.

            תגובה 1 תגובה אחרונה
            0
            • sivan22S sivan22

              שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
              זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
              אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
              ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
              אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.

              היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
              adee6360-e235-495c-a111-8d595b53ccc9-image.png

              הוראות התקנה ושימוש בסיסיים

              אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.

              D מנותק
              D מנותק
              DANIEL 4
              כתב נערך לאחרונה על ידי
              #6

              @sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

              שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
              זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
              אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
              ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
              אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.

              היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
              adee6360-e235-495c-a111-8d595b53ccc9-image.png

              הוראות התקנה ושימוש בסיסיים

              אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.

              אשמח מאוד להדרכה מפורטת בעניין!

              תגובה 1 תגובה אחרונה
              1
              • ש שליו

                @sivan22
                נשמע מרתק
                אשמח להדרכה לחיבור למודל מקומי על המחשב

                sivan22S מנותק
                sivan22S מנותק
                sivan22
                כתב נערך לאחרונה על ידי sivan22
                #7

                @שליו

                שלב 1: התקנת הכלי Kotaemon

                נוריד את קובץ הזיפ מהגרסה האחרונה כאן: https://github.com/Cinnamon/kotaemon/releases/latest/

                נחלץ את התוכן, ונריץ את הקובץ scripts/run_windows.bat כאשר המחשב מחובר לרשת.

                ייפתח חלון שחור שבו רצות שורות של ההתקנה. לאחר שהיא מסתיימת ייפתח דפדפן שמבקש סיסמה. נכניס את המילה admin בשני השדות, ייפתח החלון הבא:
                50f6af30-f217-4428-a49e-ac18a88914c2-image.png

                שלב 2 (אפשרות א): הגדרת API בתשלום

                יש להרשם כאן ולאחר מכן ליצור API KEY abd51670-c3c1-4d24-b081-5b240999937b-image.png
                וכמובן נשמור אותו.

                בתוכנה שלנו ניכנס לכרטיסייה resourced ותחת LLMS נבחר באפשרות ADD ונמלא את הפרטים הבאים:4c6966d1-d0f7-4eda-b440-a321086b540f-image.png

                נלך לכרטיסייה הסמוכה embeddings ונמלא את הפרטים הבאים:
                b5fd13e7-34e1-4e17-a9f4-2bae4dd022c3-image.png

                שלב 2 (אפשרות ב): הגדרת מודל מקומי

                נתקין את המוצר ollama
                נוריד מודל בשביל הייצוג המספרי: קישור
                נוריד מודל שפה (DictaLM)

                כעת צריך להוסיף את המודלים הללו לollama :

                ניצור קובץ בשם Modelfile ונכתוב בו את השורה הבאה:

                FROM "C:\Users\sivan22\Downloads\dictalm2.0-instruct.Q4_K_M.gguf"
                

                כמובן שנחליף את הנתיב בנתיב המדוייק לקובץ שהורדנו מקודם.

                נריץ בשורת פקודה את השורה הבאה:

                ollama create dictaLM -f Modelfile
                

                כמובן שצריך לספק את המיקום המדוייק של הקובץ בשם Modelfile שיצרנו לעיל. (כלומר במקום Modelfile אפשר לכתוב "C:\Users\sivna22\Downloads\Modelfile")

                נעשה אותו הדבר למודל השני:

                FROM "C:\Users\sivan22\Downloads\multilingual-e5-large-instruct-q4_k.gguf"
                
                ollama create e5 -f Modelfile
                

                בתוכנה שלנו, נוסיף את המודלים הללו לפי הדוגמאות שלפנינו:
                77ca66bd-da32-4b5e-9575-226585a633f3-image.png
                8bc1c3a4-be05-45a8-bd6b-3c763b45b44e-image.png

                שלב 3 : העלאת קבצים

                בכרטיסייה files נעלה את הקבצים וניצור להם אינדקס. (ייקח זמן עד שהם יופיעו בטבלה, כלומר שהעבודה הסתיימה):
                adfe168d-63ed-4a59-a2b9-c223dc9b68c1-image.png
                3efcbb56-61d8-4eb9-86b9-8a7d9816a50c-image.png

                שלב 4: צ'אט עם הקבצים שלנו

                בכרטיסייה chat נסמן בצד באיזה קבצים אנו רוצים לחפש, ולאחר מכן פשוט נתחיל לשוחח עם הצ'אט אודות הקבצים:
                de3de31a-00cc-4d16-976f-07de406c52e9-image.png

                א.מ.ד.א שמואל ש.ש דוד משה 1ד י. פל.י א 7 תגובות תגובה אחרונה
                17
                • sivan22S sivan22

                  @שליו

                  שלב 1: התקנת הכלי Kotaemon

                  נוריד את קובץ הזיפ מהגרסה האחרונה כאן: https://github.com/Cinnamon/kotaemon/releases/latest/

                  נחלץ את התוכן, ונריץ את הקובץ scripts/run_windows.bat כאשר המחשב מחובר לרשת.

                  ייפתח חלון שחור שבו רצות שורות של ההתקנה. לאחר שהיא מסתיימת ייפתח דפדפן שמבקש סיסמה. נכניס את המילה admin בשני השדות, ייפתח החלון הבא:
                  50f6af30-f217-4428-a49e-ac18a88914c2-image.png

                  שלב 2 (אפשרות א): הגדרת API בתשלום

                  יש להרשם כאן ולאחר מכן ליצור API KEY abd51670-c3c1-4d24-b081-5b240999937b-image.png
                  וכמובן נשמור אותו.

                  בתוכנה שלנו ניכנס לכרטיסייה resourced ותחת LLMS נבחר באפשרות ADD ונמלא את הפרטים הבאים:4c6966d1-d0f7-4eda-b440-a321086b540f-image.png

                  נלך לכרטיסייה הסמוכה embeddings ונמלא את הפרטים הבאים:
                  b5fd13e7-34e1-4e17-a9f4-2bae4dd022c3-image.png

                  שלב 2 (אפשרות ב): הגדרת מודל מקומי

                  נתקין את המוצר ollama
                  נוריד מודל בשביל הייצוג המספרי: קישור
                  נוריד מודל שפה (DictaLM)

                  כעת צריך להוסיף את המודלים הללו לollama :

                  ניצור קובץ בשם Modelfile ונכתוב בו את השורה הבאה:

                  FROM "C:\Users\sivan22\Downloads\dictalm2.0-instruct.Q4_K_M.gguf"
                  

                  כמובן שנחליף את הנתיב בנתיב המדוייק לקובץ שהורדנו מקודם.

                  נריץ בשורת פקודה את השורה הבאה:

                  ollama create dictaLM -f Modelfile
                  

                  כמובן שצריך לספק את המיקום המדוייק של הקובץ בשם Modelfile שיצרנו לעיל. (כלומר במקום Modelfile אפשר לכתוב "C:\Users\sivna22\Downloads\Modelfile")

                  נעשה אותו הדבר למודל השני:

                  FROM "C:\Users\sivan22\Downloads\multilingual-e5-large-instruct-q4_k.gguf"
                  
                  ollama create e5 -f Modelfile
                  

                  בתוכנה שלנו, נוסיף את המודלים הללו לפי הדוגמאות שלפנינו:
                  77ca66bd-da32-4b5e-9575-226585a633f3-image.png
                  8bc1c3a4-be05-45a8-bd6b-3c763b45b44e-image.png

                  שלב 3 : העלאת קבצים

                  בכרטיסייה files נעלה את הקבצים וניצור להם אינדקס. (ייקח זמן עד שהם יופיעו בטבלה, כלומר שהעבודה הסתיימה):
                  adfe168d-63ed-4a59-a2b9-c223dc9b68c1-image.png
                  3efcbb56-61d8-4eb9-86b9-8a7d9816a50c-image.png

                  שלב 4: צ'אט עם הקבצים שלנו

                  בכרטיסייה chat נסמן בצד באיזה קבצים אנו רוצים לחפש, ולאחר מכן פשוט נתחיל לשוחח עם הצ'אט אודות הקבצים:
                  de3de31a-00cc-4d16-976f-07de406c52e9-image.png

                  א.מ.ד.א מנותק
                  א.מ.ד.א מנותק
                  א.מ.ד.
                  כתב נערך לאחרונה על ידי א.מ.ד.
                  #8

                  @sivan22 כשאני מריץ את קובץ ה-BAT הוא כותב "The current workdir has whitespace which can lead to unintended behaviour. Please modify your path and continue later." בשורת הפקודה
                  מה יש לעשות?

                  כמו כן, יש אפשרות להשתמש במודל מקומי דרך LMSTUDIO בהגדרת שרת מקומי (במקום להסתבך עם כל ההגדרות שם)?

                  ג sivan22S 2 תגובות תגובה אחרונה
                  1
                  • א.מ.ד.א א.מ.ד.

                    @sivan22 כשאני מריץ את קובץ ה-BAT הוא כותב "The current workdir has whitespace which can lead to unintended behaviour. Please modify your path and continue later." בשורת הפקודה
                    מה יש לעשות?

                    כמו כן, יש אפשרות להשתמש במודל מקומי דרך LMSTUDIO בהגדרת שרת מקומי (במקום להסתבך עם כל ההגדרות שם)?

                    ג מנותק
                    ג מנותק
                    ג'נרטיבי
                    כתב נערך לאחרונה על ידי ג'נרטיבי
                    #9

                    @א-מ-ד גם לי מה עושים?

                    1a297ceb-f56e-409d-9fec-24d020121c9f-image.png ספויילר

                    sivan22S תגובה 1 תגובה אחרונה
                    1
                    • ג ג'נרטיבי

                      @א-מ-ד גם לי מה עושים?

                      1a297ceb-f56e-409d-9fec-24d020121c9f-image.png ספויילר

                      sivan22S מנותק
                      sivan22S מנותק
                      sivan22
                      כתב נערך לאחרונה על ידי
                      #10

                      @ג-נרטיבי הפתרון הוא ליצור תיקייה ב:C בשם DEV ושם לעבוד.

                      א.מ.ד.א תגובה 1 תגובה אחרונה
                      2
                      • א.מ.ד.א א.מ.ד.

                        @sivan22 כשאני מריץ את קובץ ה-BAT הוא כותב "The current workdir has whitespace which can lead to unintended behaviour. Please modify your path and continue later." בשורת הפקודה
                        מה יש לעשות?

                        כמו כן, יש אפשרות להשתמש במודל מקומי דרך LMSTUDIO בהגדרת שרת מקומי (במקום להסתבך עם כל ההגדרות שם)?

                        sivan22S מנותק
                        sivan22S מנותק
                        sivan22
                        כתב נערך לאחרונה על ידי
                        #11

                        @א-מ-ד כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

                        כמו כן, יש אפשרות להשתמש במודל מקומי דרך LMSTUDIO בהגדרת שרת מקומי (במקום להסתבך עם כל ההגדרות שם)?

                        לכאורה כן, צריך רק להריץ שרת API תואם לOPENAI ויש כזו אפשרות בSTUDIOLM אבל אני לא יודע בדיוק את הפרטים, זה נחסם בנטפרי משום מה. צריך להריץ את השרת, ולהגדיר בתוכנה שלנו על איזה כתובת בדיוק הוא רץ, בדומה להגדרות שעשינו עם OLLAMA.

                        י תגובה 1 תגובה אחרונה
                        1
                        • sivan22S sivan22

                          @א-מ-ד כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

                          כמו כן, יש אפשרות להשתמש במודל מקומי דרך LMSTUDIO בהגדרת שרת מקומי (במקום להסתבך עם כל ההגדרות שם)?

                          לכאורה כן, צריך רק להריץ שרת API תואם לOPENAI ויש כזו אפשרות בSTUDIOLM אבל אני לא יודע בדיוק את הפרטים, זה נחסם בנטפרי משום מה. צריך להריץ את השרת, ולהגדיר בתוכנה שלנו על איזה כתובת בדיוק הוא רץ, בדומה להגדרות שעשינו עם OLLAMA.

                          י מנותק
                          י מנותק
                          יצחק קוזניץ
                          כתב נערך לאחרונה על ידי
                          #12

                          @sivan22
                          ייש"כ רב, זה מעניין ומרתק,
                          אך נשמח לשמוע על התקנה מקומית,
                          מכיון שאנחנו משתדלים לא להפקיר את המסמכים שלנו...

                          כ תגובה 1 תגובה אחרונה
                          0
                          • י יצחק קוזניץ

                            @sivan22
                            ייש"כ רב, זה מעניין ומרתק,
                            אך נשמח לשמוע על התקנה מקומית,
                            מכיון שאנחנו משתדלים לא להפקיר את המסמכים שלנו...

                            כ מנותק
                            כ מנותק
                            כבוד הרב
                            כתב נערך לאחרונה על ידי
                            #13

                            @יצחק-קוזניץ הרב @sivan22 הסביר כבר איך לעשות את זה תראה כאן

                            תגובה 1 תגובה אחרונה
                            1
                            • דוד משה 1ד מחובר
                              דוד משה 1ד מחובר
                              דוד משה 1
                              כתב נערך לאחרונה על ידי דוד משה 1
                              #14

                              הcmd מחזיר שגיעה @sivan22

                              Will exit now...
                              Deactivate conda environment at C:\not\kotaemon-app\install_dir\env
                              Script completed successfully.
                              Press any key to continue . . .```
                              א.מ.ד.א תגובה 1 תגובה אחרונה
                              0
                              • דוד משה 1ד דוד משה 1

                                הcmd מחזיר שגיעה @sivan22

                                Will exit now...
                                Deactivate conda environment at C:\not\kotaemon-app\install_dir\env
                                Script completed successfully.
                                Press any key to continue . . .```
                                א.מ.ד.א מנותק
                                א.מ.ד.א מנותק
                                א.מ.ד.
                                כתב נערך לאחרונה על ידי
                                #15

                                @דוד-משה-1 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

                                הcmd מחזיר שגיעה @sivan22

                                Will exit now...
                                Deactivate conda environment at C:\not\kotaemon-app\install_dir\env
                                Script completed successfully.
                                Press any key to continue . . .```
                                

                                @sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

                                @ג-נרטיבי הפתרון הוא ליצור תיקייה ב:C בשם DEV ושם לעבוד.

                                דוד משה 1ד תגובה 1 תגובה אחרונה
                                0
                                • sivan22S sivan22

                                  שיחקתי קצת עם כלי מעניין, שמפשט עבורנו את העבודה של מה שנקרא היום RAG - Retrieval-Augmented Generation.
                                  זה אולי שם מפוצץ אבל זה די פשוט, משתמשים בבינה מלאכותית כדי לענות על שאלות בנוגע לתוכן מסויים שאנו נותנים לו מראש. הדרך לעשות זאת היא באמצעות שני שלבים: ראשית לוקחים את המסמכים שאנו רוצים לחפש בהם ויוצרים להם אינדקס באמצעות בינה מלאכותית (חיפוש סמנטי. הסברים נוספים כאן.) לאחר מכן קולטים שאלה מהמשתמש, ומחפשים את המסמכים הכי דומים. אז המערכת לוקחת את המסמכים הללו ושולחת אותם יחד עם השאלה למודל שפה (כמו ChatGPT) ומתקבלת תשובה על סמך המסמכים הללו.
                                  אז יש כלי שעושה בשבילנו את כל העבודה, מה שאנו צריכים זה רק להעלות לו מסמכים, לדוגמה PDF, קבצי וורד, וכו'. לחכות קצת בשביל האינדקס, ולאחר מכן לשאול שאלות בשפה חופשית.
                                  ומה עם המנוע מאחורה? אז אם אנחנו מוכנים לשלם אז הדרך הקלה והקצרה ביותר היא להשתמש בו עם מפתח API של אחד המודלים בתשלום.
                                  אבל אם אנחנו לא רוצים לשלם, אז אפשר בהחלט לעשות הכל על המחשב שלנו. וזה בהחלט יכול לעבוד גם בלי GPU אבל באיטיות.

                                  היופי של הכלי שהוא מציג בצד את המקורות של התשובה, וניתן מיד לבדוק את הדברים במקורם:
                                  adee6360-e235-495c-a111-8d595b53ccc9-image.png

                                  הוראות התקנה ושימוש בסיסיים

                                  אם יש מי שמתעניין בזה, אני יכול לפרט יותר כיצד לחבר את המערכת למודל בתשלום, וכן כיצד ניתן לחבר אותה למודל מקומי על המחשב שלנו.

                                  A מנותק
                                  A מנותק
                                  aiib
                                  כתב נערך לאחרונה על ידי
                                  #16

                                  @sivan22 אחרי האינדוקס הוא יעבוד מהר גם על מחשב ללא כרטיס גרפי או מחשב לא חזק?

                                  ח תגובה 1 תגובה אחרונה
                                  1
                                  • A aiib

                                    @sivan22 אחרי האינדוקס הוא יעבוד מהר גם על מחשב ללא כרטיס גרפי או מחשב לא חזק?

                                    ח מחובר
                                    ח מחובר
                                    חיים שנקר
                                    כתב נערך לאחרונה על ידי
                                    #17

                                    @משה-מזרחי @sivan22
                                    אולי מישהו מתנדב להעלות את התוכנה המלאה עם כל המודלים הנדרשים - ככה שתעבוד בכל מחשב גם ללא אינטרנט

                                    א תגובה 1 תגובה אחרונה
                                    0
                                    • ח חיים שנקר

                                      @משה-מזרחי @sivan22
                                      אולי מישהו מתנדב להעלות את התוכנה המלאה עם כל המודלים הנדרשים - ככה שתעבוד בכל מחשב גם ללא אינטרנט

                                      א מנותק
                                      א מנותק
                                      אלף שין
                                      כתב נערך לאחרונה על ידי
                                      #18

                                      @חיים-שנקר
                                      אני מוסיף על הבקשה,
                                      מחכים למישהוא שיקמפל את הכל יחד,
                                      מי לא רוצה לחפש דברים לפי הראש שלו בהתבסס על דברים שכתב בעבר והביע בהם את דעתו....

                                      צ תגובה 1 תגובה אחרונה
                                      2
                                      • א.מ.ד.א א.מ.ד.

                                        @דוד-משה-1 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

                                        הcmd מחזיר שגיעה @sivan22

                                        Will exit now...
                                        Deactivate conda environment at C:\not\kotaemon-app\install_dir\env
                                        Script completed successfully.
                                        Press any key to continue . . .```
                                        

                                        @sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

                                        @ג-נרטיבי הפתרון הוא ליצור תיקייה ב:C בשם DEV ושם לעבוד.

                                        דוד משה 1ד מחובר
                                        דוד משה 1ד מחובר
                                        דוד משה 1
                                        כתב נערך לאחרונה על ידי דוד משה 1
                                        #19

                                        @א-מ-ד כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

                                        @דוד-משה-1 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

                                        הcmd מחזיר שגיעה @sivan22

                                        Will exit now...
                                        Deactivate conda environment at C:\not\kotaemon-app\install_dir\env
                                        Script completed successfully.
                                        Press any key to continue . . 
                                        

                                        @sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:

                                        @ג-נרטיבי הפתרון הוא ליצור תיקייה ב:C בשם DEV ושם לעבוד.

                                        זה לא אותה שגיעה שהייתה מקודם תכלס לא עוזר @sivan22

                                        עם הצלחתי להבין נכון אז הבעייה היא במשתני סביבה ולא הבנתי עם אני צריך להסיר את המשתני סביבה של פיתון שמותקן לי מהתקייה הזו (ואם כן איך עושים את זה או סתם להוסיף את התקייה למשתני סביבה)

                                        י. פל.י תגובה 1 תגובה אחרונה
                                        1
                                        • א מנותק
                                          א מנותק
                                          אהרן
                                          כתב נערך לאחרונה על ידי
                                          #20

                                          מי מרים את הכפפה ומחבר את זה עם החומר באוצריא?

                                          צ A 2 תגובות תגובה אחרונה
                                          3

                                          • התחברות

                                          • אין לך חשבון עדיין? הרשמה

                                          • התחברו או הירשמו כדי לחפש.
                                          • פוסט ראשון
                                            פוסט אחרון
                                          0
                                          • חוקי הפורום
                                          • פופולרי
                                          • לא נפתר
                                          • משתמשים
                                          • חיפוש גוגל בפורום
                                          • צור קשר