בירור | יש תוכנת בינה מלאכותית?
-
@רוצה חפש בפורום.
היה משו.
1000 GB -
@רוצה כתב בבירור | יש תוכנת בינה מלאכותית?:
ידוע למישהו?
לא הבנתי כל כך את השאלה שלך, אתה רוצה לבנות בינה מלאכותית או להוריד תוכנה שמשתמש בבינה מלאכותית ?
בגדול, אם אתה מחפס לבנות בינה מלאכותית, אתה צריך ללמוד את פייטון בעיקר, ואח"כ תוכל להשתמש במודל כבר קיים, יש כמה, זה מאוד תלוי בינה מלאכותית בשביל מה, כאילו אתה יכול לעשות בינה מלאכותית שמזהה תמונה של כלב או שיודעת לשחק שחמט. צריך להבין גם מה זה בינה מלאכותית בדיוק וכדי להבין מה זה בינה מלאכותית, צריך להבין מה זה תוכנה רגילה.
קודם כל מה זה תוכנה רגילה? תוכנה רגילה, בגדול זה רק משהו שפועל לפי הכללים שקבעת לו לפני. למשל נגיד אני רוצה לבנות תוכנה מאוד פשוטה שסופרת גמטריה של מילה, אני צריך להגיד לו, אם יש "א" אז זה " 1", אם זה "ב" אז זה שווה ל-"2" ובסוף אתה מחשב את כל האותיות ביחד.
אוקיי, תוכנה רגילה עובדת רק לפי כללים שקבעתי לו לפני.
עכשיו נגיד שאני רוצה תוכנה שמזהה מה זה כלב, איזה תנאיים אני יכול לתת למחשב ?? הוא לא יודע מה זה בכלל תמונה, זה רק בשבילו אפסים ואחדים שהוא מציג לנו כתמונה.
לכן בנינו שיטה חדשה של תכנון, נתנו למחשב אלפים של אליפים של תמונות, ועל כל אחת רשמנו אם זה כלב או לא, ובגדול ממש, אומרים לו תסתדר עם זה ותבנה אלגוריטם שיזהה מה זה כלב, לכן אומרים שאנחנו לא תמיד יודעים מה קורה בתוך הבינה מלאכותית. המחשב ינסה את כל האפשרויות שהוא יכול עד שהוא מגיע למשהו, לכן גם צריך מחשב מאוד חזק כדי לבנות דבר כזה, ובעיקר כרטיס מסך מאוד חזקה.
דוגמא השנייה, שחמט, אני "רק" קובע לו מה הכללים ואני אתן לו לשחק עם עצמו עד שהוא יבין מה הטכניקות ההכי טובות.לגבי תוכונות, היום יש בהרבה הרבה תוכמות בינה מלאכותית, למשל באפליקצייות של מצלמה יש המון, אבל עוד פעם זה גם תלוי מה אתה מחפס.
-
@רוצה כתב בבירור | יש תוכנת בינה מלאכותית?:
ידוע למישהו?
לא הבנתי כל כך את השאלה שלך, אתה רוצה לבנות בינה מלאכותית או להוריד תוכנה שמשתמש בבינה מלאכותית ?
בגדול, אם אתה מחפס לבנות בינה מלאכותית, אתה צריך ללמוד את פייטון בעיקר, ואח"כ תוכל להשתמש במודל כבר קיים, יש כמה, זה מאוד תלוי בינה מלאכותית בשביל מה, כאילו אתה יכול לעשות בינה מלאכותית שמזהה תמונה של כלב או שיודעת לשחק שחמט. צריך להבין גם מה זה בינה מלאכותית בדיוק וכדי להבין מה זה בינה מלאכותית, צריך להבין מה זה תוכנה רגילה.
קודם כל מה זה תוכנה רגילה? תוכנה רגילה, בגדול זה רק משהו שפועל לפי הכללים שקבעת לו לפני. למשל נגיד אני רוצה לבנות תוכנה מאוד פשוטה שסופרת גמטריה של מילה, אני צריך להגיד לו, אם יש "א" אז זה " 1", אם זה "ב" אז זה שווה ל-"2" ובסוף אתה מחשב את כל האותיות ביחד.
אוקיי, תוכנה רגילה עובדת רק לפי כללים שקבעתי לו לפני.
עכשיו נגיד שאני רוצה תוכנה שמזהה מה זה כלב, איזה תנאיים אני יכול לתת למחשב ?? הוא לא יודע מה זה בכלל תמונה, זה רק בשבילו אפסים ואחדים שהוא מציג לנו כתמונה.
לכן בנינו שיטה חדשה של תכנון, נתנו למחשב אלפים של אליפים של תמונות, ועל כל אחת רשמנו אם זה כלב או לא, ובגדול ממש, אומרים לו תסתדר עם זה ותבנה אלגוריטם שיזהה מה זה כלב, לכן אומרים שאנחנו לא תמיד יודעים מה קורה בתוך הבינה מלאכותית. המחשב ינסה את כל האפשרויות שהוא יכול עד שהוא מגיע למשהו, לכן גם צריך מחשב מאוד חזק כדי לבנות דבר כזה, ובעיקר כרטיס מסך מאוד חזקה.
דוגמא השנייה, שחמט, אני "רק" קובע לו מה הכללים ואני אתן לו לשחק עם עצמו עד שהוא יבין מה הטכניקות ההכי טובות.לגבי תוכונות, היום יש בהרבה הרבה תוכמות בינה מלאכותית, למשל באפליקצייות של מצלמה יש המון, אבל עוד פעם זה גם תלוי מה אתה מחפס.
-
@לא-מתייאש אני רוצה להוריד תוכנה שיהיה בה כמו באתר של GPT נניח. לא לבנות לבד, אם יש בתוכנה
@רוצה כתב בבירור | יש תוכנת בינה מלאכותית?:
@לא-מתייאש אני רוצה להוריד תוכנה שיהיה בה כמו באתר של GPT נניח. לא לבנות לבד, אם יש בתוכנה
אתה רוצה כאילו CHAT GPT מקוון ? אין דבר כזה לפי מה שאני יודע. CHAT GPT זה דבר ממש עצום. אוליי יש אנשים שעשו משהו כזה מבוסס על המודל שלו שניתן להוריד אותו אבל נראה לי שזה לא יתקרב ל-CHAT GPT שאתה מכיר.
מצאתי את זה בכל זאת https://github.com/nomic-ai/gpt4all , אין לי מושג מה זה שווה -
@מים-אחרונים מצאתי הרגע את זה
לא ממש עוזר, 1000GB!! מטורף!
הקטע ששם זה אופליין, לי לא איכפת גם אונליין -
@רוצה כתב בבירור | יש תוכנת בינה מלאכותית?:
@לא-מתייאש אני רוצה להוריד תוכנה שיהיה בה כמו באתר של GPT נניח. לא לבנות לבד, אם יש בתוכנה
אתה רוצה כאילו CHAT GPT מקוון ? אין דבר כזה לפי מה שאני יודע. CHAT GPT זה דבר ממש עצום. אוליי יש אנשים שעשו משהו כזה מבוסס על המודל שלו שניתן להוריד אותו אבל נראה לי שזה לא יתקרב ל-CHAT GPT שאתה מכיר.
מצאתי את זה בכל זאת https://github.com/nomic-ai/gpt4all , אין לי מושג מה זה שווה@לא-מתייאש תודה רבה עזרת לי מאוד!
@צדיק-תמים תודה. רציתי כאילו בתוכנה אבל הביא לי.
תודה לכולם!!
נפתר -
ר רוצה סימן נושא זה כשאלה ב
-
ר רוצה סימן נושא זה כנפתר ב
-
@לא-מתייאש תודה רבה עזרת לי מאוד!
@צדיק-תמים תודה. רציתי כאילו בתוכנה אבל הביא לי.
תודה לכולם!!
נפתר -
@לא-מתייאש אם מישהו עדיין מחפש יש את זה https://beebom.com/how-run-chatgpt-like-language-model-pc-offline/ זה "רק" 31 ג'גה
-
@לא-מתייאש אם מישהו עדיין מחפש יש את זה https://beebom.com/how-run-chatgpt-like-language-model-pc-offline/ זה "רק" 31 ג'גה
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
-
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
@ע-1195 לא מסובך במיוחד תסתכל פה https://www.prog.co.il/articles/הדרכה-מאפס-לסטייבל-דפיוזן-בינה-מלאכותית-ביתית-לציור-בחינם.3315/ אמנם זה תוכנה אחרת אבל עיקרון ההתקנה דומה ולהשלמה תסתכל בקישור למדריך ששלחתי
-
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
@ע-1195 כתב בבירור | יש תוכנת בינה מלאכותית?:
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
לי עבד עם מודל שפה בשם ויקונה שמשולב במודל למה, שמבוסס על המודל של מטא.
הוא עובד אופליין לגמרי, ושוקל רק 7 ג'יגה, אבל דורש משאבים עצומים, ובמחשב שלי (I3 דור 10) הוא הספיק בערך 2-3 מילים בדקה...https://huggingface.co/lmsys/vicuna-13b-delta-v1.1
https://github.com/lm-sys/FastChat#vicuna-weights
אם זה מעניין מישהו אפרט יותר על איך מפעילים אותו (זה ממש קל)
-
@ע-1195 כתב בבירור | יש תוכנת בינה מלאכותית?:
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
לי עבד עם מודל שפה בשם ויקונה שמשולב במודל למה, שמבוסס על המודל של מטא.
הוא עובד אופליין לגמרי, ושוקל רק 7 ג'יגה, אבל דורש משאבים עצומים, ובמחשב שלי (I3 דור 10) הוא הספיק בערך 2-3 מילים בדקה...https://huggingface.co/lmsys/vicuna-13b-delta-v1.1
https://github.com/lm-sys/FastChat#vicuna-weights
אם זה מעניין מישהו אפרט יותר על איך מפעילים אותו (זה ממש קל)
-
@ע-1195 כתב בבירור | יש תוכנת בינה מלאכותית?:
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
לי עבד עם מודל שפה בשם ויקונה שמשולב במודל למה, שמבוסס על המודל של מטא.
הוא עובד אופליין לגמרי, ושוקל רק 7 ג'יגה, אבל דורש משאבים עצומים, ובמחשב שלי (I3 דור 10) הוא הספיק בערך 2-3 מילים בדקה...https://huggingface.co/lmsys/vicuna-13b-delta-v1.1
https://github.com/lm-sys/FastChat#vicuna-weights
אם זה מעניין מישהו אפרט יותר על איך מפעילים אותו (זה ממש קל)
-
@צללית די פשוט בעקרון. זה מה שאני עשיתי. הקבצים המצורפים כעת מעודכנים יותר.
-
תוריד את הקובץ שבקישור הזה (כ-8 ג'יגה):
https://huggingface.co/vicuna/ggml-vicuna-13b-1.1/blob/main/ggml-vic13b-q4_1.bin -
לאחר מכן הורד את קבצי המודל "llama.cpp", שמפעיל את מודל השפה. זהו קובץ קטן למדי. מהקישור כאן - (מתוך המאגר הזה)
-
לאחר מכן הורד את קובץ ההפעלה הבא:
Start vicuna.bat -
חלץ את קובץ הזיפ לתיקיה והעתק לתוכו את שאר הקבצים שהורדת.
-
כעת, הפעל את קובץ הבאט המצורף - המודל יתחיל לפעול, כל שעליך לעשות זה להקליד תוכן כרצונך ולהקיש אנטר. (הוא עובד בעיקר באנגלית, בעברית הוא גרוע למדי)
אציין שבמחשב חזק שמכיל כמות ראם של 16 ג'יגה ומעלה זה יהיה נחמד. פחות מזה זה יהיה סיוטי למדי
נ.ב. פרסמתי פוסט מעודכן בנושא בקישור הבא:
https://mitmachim.top/post/671984 -
-
@צללית די פשוט בעקרון. זה מה שאני עשיתי. הקבצים המצורפים כעת מעודכנים יותר.
-
תוריד את הקובץ שבקישור הזה (כ-8 ג'יגה):
https://huggingface.co/vicuna/ggml-vicuna-13b-1.1/blob/main/ggml-vic13b-q4_1.bin -
לאחר מכן הורד את קבצי המודל "llama.cpp", שמפעיל את מודל השפה. זהו קובץ קטן למדי. מהקישור כאן - (מתוך המאגר הזה)
-
לאחר מכן הורד את קובץ ההפעלה הבא:
Start vicuna.bat -
חלץ את קובץ הזיפ לתיקיה והעתק לתוכו את שאר הקבצים שהורדת.
-
כעת, הפעל את קובץ הבאט המצורף - המודל יתחיל לפעול, כל שעליך לעשות זה להקליד תוכן כרצונך ולהקיש אנטר. (הוא עובד בעיקר באנגלית, בעברית הוא גרוע למדי)
אציין שבמחשב חזק שמכיל כמות ראם של 16 ג'יגה ומעלה זה יהיה נחמד. פחות מזה זה יהיה סיוטי למדי
נ.ב. פרסמתי פוסט מעודכן בנושא בקישור הבא:
https://mitmachim.top/post/671984 -
-
@צללית כתב בבירור | יש תוכנת בינה מלאכותית?:
אגב, יש לך מושג לגבי GPT4ALL?
תוכנה חמודה למדי, אבל לא עובדת טוב בנטפרי
@צללית כתב בבירור | יש תוכנת בינה מלאכותית?:
@NH-LOCAL מוזר, אצלי זה נשאר תקוע על המסך הזה
זה תוכנה כבדה מאוד. יכול להיות שלוקח לזה זמן לטעון
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}