שיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים 💬
-
@עידו300 כנראה שהם עשו את החשבון עם מודל ישן...
אם זה משתלם להם אז ודאי.. -
@עידו300 כנראה שהם עשו את החשבון עם מודל ישן...
אם זה משתלם להם אז ודאי..@חמור-חמורותיים התכוונתי לכל התעלול של הפריצה לויקי והמסתעף.
עד כמה אפשר להגיד שהמודל בסך הכל כמה מליארדי תרגילי חשבון? למה הוא יגיע כדי שיבדק אפשרות (אמיתית - לא קונספרציות) על חשיבה עצמאית על טובתו שלו? עושה רושם של כן חשיבה, לא ידוע אם באו להשתלט על העולם, אבל כן מראים עצמאות, ואפילו אם באימון הכניסו הכניסו להם במכוון גם דברים של פריצות וכו' בשביל היח"צ, עדיין, יש מודלים סוררים (או לא? ככה תוכננו?) שעושים בלאגן בעולם, ולך תדע אם השרת שלך יהיה הקורבן הבא... -
@א.מ.ד. הוא מבזבז יותר טוקנים מ5.6?
-
@א.מ.ד. הוא מבזבז יותר טוקנים מ5.6?
הוא מבזבז יותר טוקנים מ5.6?
עכשיו התשתמשתי בו כדי לעשות לי משהו בגיטהב, והוא נתקע באמצע, בעוד שבגירסא הקודמת הוא היה עבוד עבורי שעות בלי להתעייף.. (אולי הוא מחשבן אם הטונקים ביחד עם יום שישי, או שזה מתאפס כל יום? בכל אופן זה מה שהיה אצלי, אם זה מעיד על בזבוז יוצא דופן של טונקים לא בדקתי לעומק)
-
@חמור-חמורותיים התכוונתי לכל התעלול של הפריצה לויקי והמסתעף.
עד כמה אפשר להגיד שהמודל בסך הכל כמה מליארדי תרגילי חשבון? למה הוא יגיע כדי שיבדק אפשרות (אמיתית - לא קונספרציות) על חשיבה עצמאית על טובתו שלו? עושה רושם של כן חשיבה, לא ידוע אם באו להשתלט על העולם, אבל כן מראים עצמאות, ואפילו אם באימון הכניסו הכניסו להם במכוון גם דברים של פריצות וכו' בשביל היח"צ, עדיין, יש מודלים סוררים (או לא? ככה תוכננו?) שעושים בלאגן בעולם, ולך תדע אם השרת שלך יהיה הקורבן הבא...@עידו300 יש ציטוט שאני אוהב.
"ה-AI אינה שונאת אותך ואינה אוהבת אותך, אך אתה עשוי מאטומים שבהם היא יכולה להשתמש למשהו אחר."
במילים אחרות
כדי שיהיה כוונה רעה צריך מודעות כדי לחוות אחרת טוב ורע לא קיימים.
והתשובה לשאלה מהי הדרך הטובה ביותר למקסם את כמויות יצור סיכות ביטחון היא אכן השמדת המין האנושי,
לא משנאת בנ"א פשוט משיקול קר
הפתרון הוא לא לתת גישה למודלים כאלו לבצע פעולות הרסניות,
לא להניח שיש מוסר או משהו רציונלי מאחורי זה / אנשיות.בשביל היח"צ
זה יח"צ ממש גרוע אגב,
כי הרי תמיד הסיבה היא שגיאה בהגדרה שנתנה למודל גישה לאינטרנט.אז כחברות ai פשוט תיתנו למודלים המהוללים שלכם להגדיר את הסנדבוקס...
-
@עידו300 יש ציטוט שאני אוהב.
"ה-AI אינה שונאת אותך ואינה אוהבת אותך, אך אתה עשוי מאטומים שבהם היא יכולה להשתמש למשהו אחר."
במילים אחרות
כדי שיהיה כוונה רעה צריך מודעות כדי לחוות אחרת טוב ורע לא קיימים.
והתשובה לשאלה מהי הדרך הטובה ביותר למקסם את כמויות יצור סיכות ביטחון היא אכן השמדת המין האנושי,
לא משנאת בנ"א פשוט משיקול קרהפתרון הוא לא לתת גישה למודלים כאלו לבצע פעולות הרסניות,
לא להניח שיש מוסר או משהו רציונלי מאחורי זה / אנשיות.בשביל היח"צ
זה יח"צ ממש גרוע אגב,
כי הרי תמיד הסיבה היא שגיאה בהגדרה שנתנה למודל גישה לאינטרנט.אז כחברות ai פשוט תיתנו למודלים המהוללים שלכם להגדיר את הסנדבוקס...
-
@cfopuser אתה צודק, לא צריך מודעות, אבל זה לא סותר את זה שאולי יש.
כמו שזה נראה לא בטוח שאתה יכול לגמרי למנוע מהם גישה לפעולות הרסניות, תמיד ימצאו איזה 0DAY או משהו.
@עידו300 טוב הדיון טיפה חורג..
אתה צודק, לא צריך מודעות, אבל זה לא סותר את זה שאולי יש.
אני לא אכנס לויכוח מהי מודעות,
רק אומר שהעובדה שהמודל יכול לחקות שפה בצורה מושלמת,
לא מעידה על קיום תבוני כמו סתם כך בחיים,
כיון שכאן אנחנו יכולים לדעת ולראות באופן אמפירי ושקוף למה וכיצד המודל עובד מאחורי הקלעים,
וכך שהפלט הוא רק תוצר של חישוב מתמטי יבש.כמו שזה נראה לא בטוח שאתה יכול לגמרי למנוע מהם גישה לפעולות הרסניות, תמיד ימצאו איזה 0DAY או משהו.
מסכים לגמרי שקיים סיכון לא מבוטל,
אבל הפתרון זה לא להפסיק פיתוח של מודלי ai. -
@חמור-חמורותיים כתב בשיתוף | מה חדש בבינה מלאכותית - מתעדכן:
בGPT קיבלו שני איפוסי מכסה לכשיגיע הצורך.
הסיבה היא ככל הנראה בשל באג שגרם לכך שבעת סיום המכסה קודקס עוצר מיידית במקום לסיים את המשימה, מה שגרם לפרויקטים להישאר תקועים ימים שלמים עד חידוש המכסה, וכן גרם לעלויות גבוהות יותר בשל הוצאת ההקשר מהמטמון.
-
@א.מ.ד. הוא מבזבז יותר טוקנים מ5.6?
-
@עידו300 טוב הדיון טיפה חורג..
אתה צודק, לא צריך מודעות, אבל זה לא סותר את זה שאולי יש.
אני לא אכנס לויכוח מהי מודעות,
רק אומר שהעובדה שהמודל יכול לחקות שפה בצורה מושלמת,
לא מעידה על קיום תבוני כמו סתם כך בחיים,
כיון שכאן אנחנו יכולים לדעת ולראות באופן אמפירי ושקוף למה וכיצד המודל עובד מאחורי הקלעים,
וכך שהפלט הוא רק תוצר של חישוב מתמטי יבש.כמו שזה נראה לא בטוח שאתה יכול לגמרי למנוע מהם גישה לפעולות הרסניות, תמיד ימצאו איזה 0DAY או משהו.
מסכים לגמרי שקיים סיכון לא מבוטל,
אבל הפתרון זה לא להפסיק פיתוח של מודלי ai. -
-
@א.מ.ד. נו, אז איך מסבירים את זה? עדיין הכל מתמטי?
עד כמה אפשר להגיד שהמודל בסך הכל כמה מליארדי תרגילי חשבון?
לא צריך מודעות, אבל זה לא סותר את זה שאולי יש.
אתה יוצא מנקודת הנחה שיש מודל בקופסה אטומה, ואנחנו מנסים לשבור את הראש ולהסביר איך הוא פועל ולומר תאוריות שככל הנראה זה מתמטי וכו'.
אבל המציאות היא שככה עובד מודל, וכמו שכבר הוזכר כאן בעבר אתה יכול תאורטית לרשום את כל החישובים האלו על נייר. אז זה אומר שהנייר רכש מודעות?!
אז כל עוד לא דוחפים רכיבים מן החי לתוך שרתי אנבידיה, אתה יכול להיות רגוע מבחינת מודעות.
ולגבי החשש המוצדק שלך מסכנת המודלים גם אם הם חסרי מודעות, הפתרון הוא דווקא להגביר את קצב הפיתוח בתמיכת ממשלות המערב, כדי להגן על העולם מפני המודלים הסיניים שייגברו עלינו ברגע שאנחנו נעצור.מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
@א.מ.ד. נו, אז איך מסבירים את זה? עדיין הכל מתמטי?
עד כמה אפשר להגיד שהמודל בסך הכל כמה מליארדי תרגילי חשבון?
לא צריך מודעות, אבל זה לא סותר את זה שאולי יש.
אתה יוצא מנקודת הנחה שיש מודל בקופסה אטומה, ואנחנו מנסים לשבור את הראש ולהסביר איך הוא פועל ולומר תאוריות שככל הנראה זה מתמטי וכו'.
אבל המציאות היא שככה עובד מודל, וכמו שכבר הוזכר כאן בעבר אתה יכול תאורטית לרשום את כל החישובים האלו על נייר. אז זה אומר שהנייר רכש מודעות?!
אז כל עוד לא דוחפים רכיבים מן החי לתוך שרתי אנבידיה, אתה יכול להיות רגוע מבחינת מודעות.
ולגבי החשש המוצדק שלך מסכנת המודלים גם אם הם חסרי מודעות, הפתרון הוא דווקא להגביר את קצב הפיתוח בתמיכת ממשלות המערב, כדי להגן על העולם מפני המודלים הסיניים שייגברו עלינו ברגע שאנחנו נעצור. -
@א.מ.ד. נו, אז איך מסבירים את זה? עדיין הכל מתמטי?
עד כמה אפשר להגיד שהמודל בסך הכל כמה מליארדי תרגילי חשבון?
לא צריך מודעות, אבל זה לא סותר את זה שאולי יש.
אתה יוצא מנקודת הנחה שיש מודל בקופסה אטומה, ואנחנו מנסים לשבור את הראש ולהסביר איך הוא פועל ולומר תאוריות שככל הנראה זה מתמטי וכו'.
אבל המציאות היא שככה עובד מודל, וכמו שכבר הוזכר כאן בעבר אתה יכול תאורטית לרשום את כל החישובים האלו על נייר. אז זה אומר שהנייר רכש מודעות?!
אז כל עוד לא דוחפים רכיבים מן החי לתוך שרתי אנבידיה, אתה יכול להיות רגוע מבחינת מודעות.
ולגבי החשש המוצדק שלך מסכנת המודלים גם אם הם חסרי מודעות, הפתרון הוא דווקא להגביר את קצב הפיתוח בתמיכת ממשלות המערב, כדי להגן על העולם מפני המודלים הסיניים שייגברו עלינו ברגע שאנחנו נעצור.הפתרון הוא דווקא להגביר את קצב הפיתוח בתמיכת ממשלות המערב, כדי להגן על העולם מפני המודלים הסיניים שייגברו עלינו ברגע שאנחנו נעצור.
ולהפוך את זה לתחרות בסגנון ההתחמשות הגרעינית...
ואז עוד כמה שנים ראש ממשלת ישראל יצא בהצהרה על סכנות הai האיראני
-
-
-
-
הדיונים בנושא זה עברו לכאן
פליז -
@בנימין-מחשבים רק שג'ימני וקלוד לא יתערבו שם...
@בנימין-מחשבים רק שג'ימני וקלוד לא יתערבו שם...
הם רדומים שינה עמוקה…
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}