המלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך
-
@ארץ-הצבי ואח"כ עשית את זה?
https://mitmachim.top/post/851872 -
@דיס
התקנתי תעודה והרצתי CMD עם הפקודות המתאימות לפי המדריך הקובץ BAT רץ עד שבסוף הוא נתקע ללא הודעת שגיאה. -
@דיס כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@ארץ-הצבי אני נתקעתי ג"כ שם עשיתי לפי המדריך שם 1 ו2 ועבד לי אין לי מושג יותר מזה
אולי תפרט בדיוק מה כתבת ואיפה, איפה אני כותב את זה:
pip config set global.cert "C:\ProgramData\NetFree\CA\netfree-ca-bundle-curl.crt"
בשורת הפקודה? להפעיל פייתון ולכתוב? -
@דיס כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@ארץ-הצבי אני נתקעתי ג"כ שם עשיתי לפי המדריך שם 1 ו2 ועבד לי אין לי מושג יותר מזה
אולי תפרט בדיוק מה כתבת ואיפה, איפה אני כותב את זה:
pip config set global.cert "C:\ProgramData\NetFree\CA\netfree-ca-bundle-curl.crt"
בשורת הפקודה? להפעיל פייתון ולכתוב? -
@צבי-דורש-ציון כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
ובלי שום דרגה? זה נכנס לאתר רק לא מעלה קבצים.
-
@צבי-דורש-ציון כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
ובלי שום דרגה? זה נכנס לאתר רק לא מעלה קבצים.
@mma זה כבר לא קשור לנטפרי כנראה...
-
שלב 1: התקנת הכלי Kotaemon
נוריד את קובץ הזיפ מהגרסה האחרונה כאן: https://github.com/Cinnamon/kotaemon/releases/latest/
נחלץ את התוכן, ונריץ את הקובץ scripts/run_windows.bat כאשר המחשב מחובר לרשת.
ייפתח חלון שחור שבו רצות שורות של ההתקנה. לאחר שהיא מסתיימת ייפתח דפדפן שמבקש סיסמה. נכניס את המילה admin בשני השדות, ייפתח החלון הבא:
שלב 2 (אפשרות א): הגדרת API בתשלום
יש להרשם כאן ולאחר מכן ליצור API KEY
וכמובן נשמור אותו.בתוכנה שלנו ניכנס לכרטיסייה resourced ותחת LLMS נבחר באפשרות ADD ונמלא את הפרטים הבאים:
נלך לכרטיסייה הסמוכה embeddings ונמלא את הפרטים הבאים:
שלב 2 (אפשרות ב): הגדרת מודל מקומי
נתקין את המוצר ollama
נוריד מודל בשביל הייצוג המספרי: קישור
נוריד מודל שפה (DictaLM)כעת צריך להוסיף את המודלים הללו לollama :
ניצור קובץ בשם Modelfile ונכתוב בו את השורה הבאה:
FROM "C:\Users\sivan22\Downloads\dictalm2.0-instruct.Q4_K_M.gguf"כמובן שנחליף את הנתיב בנתיב המדוייק לקובץ שהורדנו מקודם.
נריץ בשורת פקודה את השורה הבאה:
ollama create dictaLM -f Modelfileכמובן שצריך לספק את המיקום המדוייק של הקובץ בשם Modelfile שיצרנו לעיל. (כלומר במקום Modelfile אפשר לכתוב "C:\Users\sivna22\Downloads\Modelfile")
נעשה אותו הדבר למודל השני:
FROM "C:\Users\sivan22\Downloads\multilingual-e5-large-instruct-q4_k.gguf"ollama create e5 -f Modelfileבתוכנה שלנו, נוסיף את המודלים הללו לפי הדוגמאות שלפנינו:
שלב 3 : העלאת קבצים
בכרטיסייה files נעלה את הקבצים וניצור להם אינדקס. (ייקח זמן עד שהם יופיעו בטבלה, כלומר שהעבודה הסתיימה):
שלב 4: צ'אט עם הקבצים שלנו
בכרטיסייה chat נסמן בצד באיזה קבצים אנו רוצים לחפש, ולאחר מכן פשוט נתחיל לשוחח עם הצ'אט אודות הקבצים:
@sivan22 סוף סוף הצלחתי להעלות את התוכנה למחשב [במחשב הזה משום מה זה כן עובד, במחשב שרציתי עדיין לא הצלחתי], וכל קובץ שאני מעלה הוא לא מצליח לאנדקס. לצורך הדוגמא הכנתי קובץ TXT בשם ניסוי וכתוב בו 'בדיקה אם התוכנה פועלת' עכ"ל, ועדיין הוא נתקע.
השתדלתי כמובן לפעול לפי ההוראות, לא נראה לי שדילגתי משהו. -
@sivan22 סוף סוף הצלחתי להעלות את התוכנה למחשב [במחשב הזה משום מה זה כן עובד, במחשב שרציתי עדיין לא הצלחתי], וכל קובץ שאני מעלה הוא לא מצליח לאנדקס. לצורך הדוגמא הכנתי קובץ TXT בשם ניסוי וכתוב בו 'בדיקה אם התוכנה פועלת' עכ"ל, ועדיין הוא נתקע.
השתדלתי כמובן לפעול לפי ההוראות, לא נראה לי שדילגתי משהו. -
@sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@אהרן תנסה קבצי pdf.
תנסה בהגדרות לעשות טסט למודל e5.הדפסתי את זה לPDF [עם זיהוי אותיות] ולא עזר
ובאמת עשיתי טסט ויש בעיה:
בדקתי וראיתי שכתבתי ALLAMA במקום OLLAMA, הסרתי את הדגם והכנסתי אותו מחדש וכתבתי כך ועדיין לא עובד, כרגע הכיתוב בסדר? [אולי בפוסט שהסברת מה להכניס בנוסף לצילום מסך תכתוב את הטקסט שיוכלו לעשות העתק הדבק]
-
שלב 1: התקנת הכלי Kotaemon
נוריד את קובץ הזיפ מהגרסה האחרונה כאן: https://github.com/Cinnamon/kotaemon/releases/latest/
נחלץ את התוכן, ונריץ את הקובץ scripts/run_windows.bat כאשר המחשב מחובר לרשת.
ייפתח חלון שחור שבו רצות שורות של ההתקנה. לאחר שהיא מסתיימת ייפתח דפדפן שמבקש סיסמה. נכניס את המילה admin בשני השדות, ייפתח החלון הבא:
שלב 2 (אפשרות א): הגדרת API בתשלום
יש להרשם כאן ולאחר מכן ליצור API KEY
וכמובן נשמור אותו.בתוכנה שלנו ניכנס לכרטיסייה resourced ותחת LLMS נבחר באפשרות ADD ונמלא את הפרטים הבאים:
נלך לכרטיסייה הסמוכה embeddings ונמלא את הפרטים הבאים:
שלב 2 (אפשרות ב): הגדרת מודל מקומי
נתקין את המוצר ollama
נוריד מודל בשביל הייצוג המספרי: קישור
נוריד מודל שפה (DictaLM)כעת צריך להוסיף את המודלים הללו לollama :
ניצור קובץ בשם Modelfile ונכתוב בו את השורה הבאה:
FROM "C:\Users\sivan22\Downloads\dictalm2.0-instruct.Q4_K_M.gguf"כמובן שנחליף את הנתיב בנתיב המדוייק לקובץ שהורדנו מקודם.
נריץ בשורת פקודה את השורה הבאה:
ollama create dictaLM -f Modelfileכמובן שצריך לספק את המיקום המדוייק של הקובץ בשם Modelfile שיצרנו לעיל. (כלומר במקום Modelfile אפשר לכתוב "C:\Users\sivna22\Downloads\Modelfile")
נעשה אותו הדבר למודל השני:
FROM "C:\Users\sivan22\Downloads\multilingual-e5-large-instruct-q4_k.gguf"ollama create e5 -f Modelfileבתוכנה שלנו, נוסיף את המודלים הללו לפי הדוגמאות שלפנינו:
שלב 3 : העלאת קבצים
בכרטיסייה files נעלה את הקבצים וניצור להם אינדקס. (ייקח זמן עד שהם יופיעו בטבלה, כלומר שהעבודה הסתיימה):
שלב 4: צ'אט עם הקבצים שלנו
בכרטיסייה chat נסמן בצד באיזה קבצים אנו רוצים לחפש, ולאחר מכן פשוט נתחיל לשוחח עם הצ'אט אודות הקבצים:
-
@sivan22 כתב בהמלצה | חיפוש בינה מלאכותית בקבצים שלך - על המחשב שלך:
@אהרן תנסה קבצי pdf.
תנסה בהגדרות לעשות טסט למודל e5.הדפסתי את זה לPDF [עם זיהוי אותיות] ולא עזר
ובאמת עשיתי טסט ויש בעיה:
בדקתי וראיתי שכתבתי ALLAMA במקום OLLAMA, הסרתי את הדגם והכנסתי אותו מחדש וכתבתי כך ועדיין לא עובד, כרגע הכיתוב בסדר? [אולי בפוסט שהסברת מה להכניס בנוסף לצילום מסך תכתוב את הטקסט שיוכלו לעשות העתק הדבק]
@sivan22 נתקלתי בבעיה:
Error code: 400 - {'error': {'message': 'dictalm2 does not support tools', 'type': 'api_error', 'param': None, 'code': None}}עשיתי טסט לשני המודלים ועובדים מצוין.
גם כשאני מריץ ollama run dictalm2 זה עובד מצוין
מה שמעניין עוד זה שברקע עובד ollama_llama_server.exe בכל המרץ [ותופס את כל הCPU].
זה נראה שהבעיה היא בתקשורת שבין kotaemon לollama כאילו משהו בקריאה לapi של ollama לא תקיןעריכה: עכשיו ראיתי שמדברים על בעיה דומה כאן https://github.com/ollama/ollama/issues/5793
וכנראה שהמודל שהעליתי dictalm2 לא מתאים
הענין הוא שהמודל ש @sivan22 העלה לא עובד לי, אז העליתי מודל דומה.
יש מישהו שזה עובד לו? -
@sivan22 סוף סוף הצלחתי להעלות את התוכנה למחשב [במחשב הזה משום מה זה כן עובד, במחשב שרציתי עדיין לא הצלחתי], וכל קובץ שאני מעלה הוא לא מצליח לאנדקס. לצורך הדוגמא הכנתי קובץ TXT בשם ניסוי וכתוב בו 'בדיקה אם התוכנה פועלת' עכ"ל, ועדיין הוא נתקע.
השתדלתי כמובן לפעול לפי ההוראות, לא נראה לי שדילגתי משהו. -
@REFAEL-2 זה עדיין אמור לעבוד, אמנם הוא לא יצליח לדרג מחדש בגלל הבעיה הזו, אבל תמתין והוא יענה לך.
-
 { const baseUrl = 'https://www.google.co.il/search?q=site:mitmachim.top'; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; function search(path = '') { const query = document.getElementById('bb-inp').value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, '_blank'); } }; let buttons = {}; buttons.searchAll = { label: `חיפוש ${type ? 'בכל הפורום' : ''}`, className: type ? 'btn-secondary' : 'btn-primary', callback: () => search() }; if (type === 'topic') { buttons.searchTopic = { label: 'חיפוש בנושא זה', className: 'btn-primary', callback: () => search(`/topic/${id}`) }; } else if (type === 'category') { buttons.searchCat = { label: 'חיפוש בקטגוריה זו', className: 'btn-primary', callback: () => search(`/category/${id}`) }; } buttons.cancel = { label: 'ביטול', className: 'btn-default' }; bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true }); })(); void (0);){kind=link}