המלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI

[י. פל.]

@איש-שלו כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@NH-LOCAL

תוכל להזכיר לנו בדיוק מה לעשות? או לציין הפניה למקום שמוסבר בבהירות?
תודה וסליחה על ההטרחה.

תחפש שרשור של סיון, לגבי חיפוש AI במחשב. שם יש הסבר מפורט.
עריכה: הנה
https://mitmachim.top/topic/74755/המלצה-חיפוש-בינה-מלאכותית-בקבצים-שלך-על-המחשב-שלך/7#:~:text=הגדרת מודל מקומי-,נתקין,-את המוצר ollama

[sivan22]

@עניו-כמשה כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

נשאל אחרת אם אני שואל בג'מיני את השאלות שאני אשאל אותו אני אקבל אותם תשובות? או שהפיתוח שלך בעצם יודע להתמקד יותר טוב בתורני?

ג'מיני הרגיל לא מחובר לכלום, יש לו רק את הידע עליו הוא התאמן, מה שעשיתי זה שום דבר מיוחד, פשוט חיברתי לו גישה למאגר תורני. זה הכל.

[sivan22]

@חנוך-הכהן כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@aiib למעשה זו אחת הבעיות הכי קשות לפתירה בבינה מלאכותית וקשה לי להאמין שהתוכנה הזאת תצליח לפתור את זה

אכן זו בעיה ידועה שהמודל לא מבחין בין אמת לשקר, אבל כאן אנו מצמצמים מאד את התופעה בגלל שבפרומפט כתוב שהתשובה תהיה על פי המקורות שעלו בחיפוש בלבד.

[aiib]

@sivan22 כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@חנוך-הכהן כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@aiib למעשה זו אחת הבעיות הכי קשות לפתירה בבינה מלאכותית וקשה לי להאמין שהתוכנה הזאת תצליח לפתור את זה

אכן זו בעיה ידועה שהמודל לא מבחין בין אמת לשקר, אבל כאן אנו מצמצמים מאד את התופעה בגלל שבפרומפט כתוב שהתשובה תהיה על פי המקורות שעלו בחיפוש בלבד.

מדבריו של @ppp נשמע שזה לא עזר...

@ppp כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@sivan22 ייש"כ על פועלך
נראה שהאחרון ממציא, לפי הקשרים מסויימים, מה שהוא רוצה

כל מה שהוא מביא לא מופיע שם
אם כי הגמרא מדברת על ברכת התורה וכן הסימן בשו"ע

[ppp]

@aiib הראשון עובד מצויין , הרעיון להגביל אותו למקורות הוא גאוני
רק המודל האחרון לא עובד טוב

[aiib]

@ppp כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@aiib הראשון עובד מצויין , הרעיון להגביל אותו למקורות הוא גאוני
רק המודל האחרון לא עובד טוב

אני שמח לשמוע!
אבל לא בטוח שהבנתי. מה זה הראשון ומה לא עובד?

[ppp]

@aiib היו כאן כמה קישורים לכמה מודלים אם הבנתי נכון
האחרון ממציא
והשאר עובדים מצויין

[aiib]

@ppp כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

היו כאן כמה קישורים לכמה מודלים אם הבנתי נכון

אונליין?
אשמח לקישור שלא המציא

[sivan22]

@aiib יש את זה, שלא ממציא, אבל לא ניתן לשוחח איתו, וגם המהלך שלו מראש די מוגבל וצפוי (הוא לא יכול לפתוח מקורות נוספים, לחפש מפרשים וכדומה).

ויש את זה שעדיין בפיתוח, ואמור להיות הרבה יותר משוכלל, אבל ההתנהגות שלו לפעמים לא צפוייה, וכבר תפסנו אותו כמה פעמים שוכח את ההוראות ומתחיל להמציא. מקווה שעם השיפורים בפרומפט ובכלים הוא יפסיק להמציא.
אגב בשימוש במודלים חכמים יותר כמו קלוד או GPT (בתשלום) הרמה שלו הרבה יותר טובה והוא לא ממציא.

[aiib]

@sivan22 כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@aiib יש את זה, שלא ממציא, אבל לא ניתן לשוחח איתו, וגם המהלך שלו מראש די מוגבל וצפוי (הוא לא יכול לפתוח מקורות נוספים, לחפש מפרשים וכדומה).

ויש את זה שעדיין בפיתוח, ואמור להיות הרבה יותר משוכלל, אבל ההתנהגות שלו לפעמים לא צפוייה, וכבר תפסנו אותו כמה פעמים שוכח את ההוראות ומתחיל להמציא. מקווה שעם השיפורים בפרומפט ובכלים הוא יפסיק להמציא.
אגב בשימוש במודלים חכמים יותר כמו קלוד או GPT (בתשלום) הרמה שלו הרבה יותר טובה והוא לא ממציא.

טוב, אז הראשון הביא תשובות לא קשורות (השאלה הייתה האם יש עדיפות להדליק נרות חנוכה בתוך חלל הפתח מאשר בטפח הסמוך לפתח? והתשובות שהוא נתן אמנם כולם היו קשורות לנרות חנוכה ולהנחה עושה מצווה וכדו')
השני הביא תשובות שעוסקות ספציפית במיקום ההנחה אבל לדעתי התשובה לא מספקת (הוא טען שעדיף בטפח הסמוך ולא בתוך חלל הפתח. המשנ"ב אומר לא כך לכאורה אבל ייתכן וזה לא לגמרי ברור)

[הבל הבלים]

@NH-LOCAL כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

הבחירה המקובלת היא זה:

מה מיוחד בזה?

[הבל הבלים]

@י-פל ואחרי שאני מתקין את המודל על המחשב כמו בהוראות שם האיתוריא יכול לעבוד אופליין ללא הגדרות נוספות?

[אהרן]

@sivan22 כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@aiib יש את זה, שלא ממציא, אבל לא ניתן לשוחח איתו, וגם המהלך שלו מראש די מוגבל וצפוי (הוא לא יכול לפתוח מקורות נוספים, לחפש מפרשים וכדומה).

ויש את זה שעדיין בפיתוח, ואמור להיות הרבה יותר משוכלל, אבל ההתנהגות שלו לפעמים לא צפוייה, וכבר תפסנו אותו כמה פעמים שוכח את ההוראות ומתחיל להמציא. מקווה שעם השיפורים בפרומפט ובכלים הוא יפסיק להמציא.
אגב בשימוש במודלים חכמים יותר כמו קלוד או GPT (בתשלום) הרמה שלו הרבה יותר טובה והוא לא ממציא.

מה המקור של הטקסטים שאתה נותן לו? יש קישור לתת לו API להורדת הטקסטים? אני רוצה לנסות בGPTS, או שניסית ולא עבד?

[sivan22]

@אהרן אז החיפוש זה משהו שאני בניתי, אבל לגשת לטקסטים אפשר דרך הapi של ספריא.

[הבל הבלים]

@sivan22 הורדתי מגיטהב את איתוריא ואני מנסה להפעיל אותו עם מודל מקומי.
מה אני צריך לעשות בשביל זה?

[sivan22]

@הבל-הבלים כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@sivan22 הורדתי מגיטהב את איתוריא ואני מנסה להפעיל אותו עם מודל מקומי.
מה אני צריך לעשות בשביל זה?

להתקין ollama ולהתקין מודל שאתה רוצה, באמצעות ollama pull <שם המודל>

[אהרן]

@sivan22 כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@הבל-הבלים כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@sivan22 הורדתי מגיטהב את איתוריא ואני מנסה להפעיל אותו עם מודל מקומי.
מה אני צריך לעשות בשביל זה?

להתקין ollama ולהתקין מודל שאתה רוצה, באמצעות ollama pull <שם המודל>

בפוסט כאן כתבת לכתוב משהו בסגנון ollama create dictaLM -f Modelfile אחרי יצירת קובץ מתאים, כאן צריך לעשות משהו שונה?

[NH.LOCAL]

@אהרן זה אם אתה כבר הורדת את המודל למחשב ועכשיו אתה רוצה לייבא אותו ל-ollama.

[הבל הבלים]

@NH-LOCAL כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

@אהרן זה אם אתה כבר הורדת את המודל למחשב ועכשיו אתה רוצה לייבא אותו ל-ollama.

וזה הורדה של המודל ע"י הפקודה עצמה?

בכל אופן אני התקנתי את ollama וגם ייבאתי את המודל ש@sivan22 הביא בפוסט ההוא וגם את המודל ש@י-פל הביא בשרשור הזה אבל כשאני פותח את איתוריא הוא כותב לי שגיאה.

לא צריך לערוך את הקובץ ENV?

[שליו]

@הבל-הבלים
אתה צריך לערוך את קובץ ENV כמו שסיון כתב:

@sivan22 כתב בהמלצה | איתוריא - חיפוש תורני רב שלבי באמצעות AI:

תכתוב כמה אותיות בשדה ANTHROPIC_API_KEY ואל תשתמש במודל קלוד.