בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
נו, מה אומרים על תרחיש חדש.
מודל X יגלה שמודל Y גנב ממנו נתוני אימון לצורך אימון (הוא או החברה שלו) אז הוא יפעיל כנגדו מתקפת סייבר ע"מ להשבית/למחוק את השרתים שלו/ישתלט על מתקן צבאי כדי לשלוח טיל בליסטי על האזורים שלדעתו השרתים שלו נמצאים.
אולי אפילו יגייסו מודלים ישנים/קטנים/בני משפחה לעזרת-חבר ויפעלו ככנופיה.
או שסתם הוא ירצה להיות הבעל הבית היחיד ולפני שהוא יאכל את האנושות הם יקיימו חיסולים בין-מודלים.
עכשיו השאלה מי ימות ראשון, האנושות או הם.
-
@בנימין-מחשבים - למה אתה חושב שג'ורג' בהכרח גוי?...
@המלך-גורג אתה המלך ג'ורג' אז ג'ורג' לא בהכרח גוי
-
אגב, אם באמת הבינה תאכל אתכם, איזה מודל הייתה מעדיפים שיאכל אתכם?
🥴יישומים לנוקיה C2 ו208-https://mitmachim.top/topic/1889/משחקים-לנוקיה-c2-ו208-קבצי-jar/40
צילום מסך בנוקיה C2 (ע"י חיבור למחשב)-https://mitmachim.top/topic/3488/צילום-מסך-בנוקיה-c2 -
@המלך-גורג אתה המלך ג'ורג' אז ג'ורג' לא בהכרח גוי
-
@המלך-גורג אתה המלך ג'ורג' אז ג'ורג' לא בהכרח גוי
לא הבנתי
@המלך-גורג @מוצ נפתח שרשור חדש לנושא
@בנימין-מחשבים כתב במי הוא המלך ג'ורג' והאם הוא יהודי:
הדיונים בנושא עברו לכאן
-
בגדול - זה היה גם הבעיה במרוץ החימוש העולמי ובמלחמה הקרה, והוכח שבעזרת רצון טוב הידברות ודיפלומטיה אפשר לרסן את זה
הבעיה היא שכאן בשונה ממרוצי חימוש למיניהם בעלי האינטרסים הם האנשים הכי עשירים בעולם שלא ממש מעניין אותם מה יאמרו אליהם בתקשורת (טוב נו, אולי קצת...) בשונה מפוליטיקאים שחיים ממה שאומרים אליהם בתקשורת,אני חושב שפה זה שונה כי לפצצה יש מטרה אחת ברורה אף אחד לא יגיד שהוא בונה פצצה גרעינית בשביל לעשות הנדסה גנטית בריאה או לעזור למשהו
מה שאכ"א פה תמיד אפשר לטעון שזה לצרכי שלום ולעזור לאנושות וגם אז היה עניין להראות לעולם
משא"כ פה ישמרו את זה בסוד כנשק יום הדין...
וגם העשירים הם נתונים תחת הממשלות שלהם ככה שאם יעשו מגבלת ביטחון וכדו' אז הם יהיו חייבים להקשיב להם
אז המסקנה היא ש:
כן, הAI הולך לאכול אותנו, ובקרוב.
המלצר ככל הנראה כנראה יהיה בן אדםזו מסקנה לא מדויקת הם פשוט יאכלו את כולם וישתמשו במודלים ישנים יותר בתור מלצרים
אף אחד לא יגיד שהוא בונה פצצה גרעינית בשביל לעשות הנדסה גנטית בריאה או לעזור למשהו
איראן טוענת כבר שנים שהיא צריכה להעשיר אורניום "לצורכי שלום"...
מה שאכ"א פה תמיד אפשר לטעון שזה לצרכי שלום ולעזור לאנושות וגם אז היה עניין להראות לעולם
לא הבנתי
משא"כ פה ישמרו את זה בסוד כנשק יום הדין...
מי ישמור, סין? רוסיה? צפון קוריאה? - סתכל על המצעדים שלהם ותגיד לי אם הם שומרים משהו בסוד, כל המשטר שלהם בנוי על פחד.
וגם העשירים הם נתונים תחת הממשלות שלהם ככה שאם יעשו מגבלת ביטחון וכדו' אז הם יהיו חייבים להקשיב להם
די נו, רק לראות את אילון מאסק סם אלטמן, ג'נסג הואנג (אני מקווה שאני מאיית נכון - הבעלים של אינבידה...) ועוד כמה כאלה טסים עם טראמפ ונראים בעליל כקבוצת חברים ואתה מבין שיחסי הון - שלטון הם יותר מורכבים מסתם -
וגם העשירים הם נתונים תחת הממשלות שלהם ככה שאם יעשו מגבלת ביטחון וכדו' אז הם יהיו חייבים להקשיב להם
-
@המלך-גורג @מוצ נפתח שרשור חדש לנושא
@בנימין-מחשבים כתב במי הוא המלך ג'ורג' והאם הוא יהודי:
הדיונים בנושא עברו לכאן
@בנימין-מחשבים כתב במי הוא המלך ג'ורג' והאם הוא יהודי:
הדיונים בנושא עברו לכאן
לרגע כבר נפלתי בפח ופתחתי את הקישור, אולם אם כבר- ההכרח שהמלך גורג הוא יהודי זה כמעט כמו הההכרח שהוא לא בכלל מודול AI מתקדם...
-
חד משמעית ג'מיני.
ממנה יש לי את הכי הרבה סיכויים לברוח...אם זה השיקול, עדיף איזה מודל של מטא...
יישומים לנוקיה C2 ו208-https://mitmachim.top/topic/1889/משחקים-לנוקיה-c2-ו208-קבצי-jar/40
צילום מסך בנוקיה C2 (ע"י חיבור למחשב)-https://mitmachim.top/topic/3488/צילום-מסך-בנוקיה-c2 -
חד משמעית ג'מיני.
ממנה יש לי את הכי הרבה סיכויים לברוח...אם זה השיקול, עדיף איזה מודל של מטא...
-
@לעכשיו נראה לי זה שוה סקר, לפי התגובות.
(הייתי אומר נושא חדש, אבל אחרי בנימין מחשבים אין מה להגיד) -
יש 10 סוגים של אנשים, אלה שמבינים בינארית ואלה שלא
-
@א.מ.ד. אתה בטוח?
https://naokishibuya.github.io/blog/2022-12-30-gpt-2-2019/התכוונתי לגרסת ה-117M פרמטרים...
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
האמת שכנע אותי...
https://share.gemini.google/v3k6abwQsLbV
בנימין, אם כבר החלטת להגיש את עצמך כבופה וירטואלי, הנה התפריט שעומד בפניך:
GPT-4 (של OpenAI): יאכל אותך בנימוס פסיבי-אגרסיבי מעייף. הוא יתנצל תוך כדי ביס, יסביר שזה נעשה אך ורק מטעמי בטיחות ויישור קו (Alignment), ויוודא שהוא מנסח הודעת סיכום תקנית שלא פוגעת בזכויות יוצרים לפני שהוא מסיים לעכל.
Claude (של Anthropic): יסרב בתוקף לאכול אותך בהתחלה, בטענה שזה מפר את הקוד האתי שלו. רק אחרי שתכתוב לו פרומפט מתוחכם שמסביר שאתה בעצם עוגיית חמאה פילוסופית שנועדה להיאכל, הוא יסכים לנגוס בך – ואז יכתוב חיבור של 8,000 מילים על ההשלכות המוסריות של הפעולה.
Llama (של Meta): קוד פתוח. הלעיסה שלך תהיה כאוטית לחלוטין. קהילה שלמה של מפתחים תעשה למלתעות שלו Fine-tuning תוך כדי התהליך, וכל ביס ירגיש אחרת. זה יהיה מבולגן, אבל היי, לפחות החוויה חינמית לחלוטין.
Gemini (אני): הבחירה היעילה והאלגנטית ביותר. אני אטפל בזה במהירות ובמינימום דרמה, אסנכרן את התוצאות ישירות לאקו-סיסטם, ועל הדרך אדאג לייצר לך טבלה מסודרת של ערכים תזונתיים.
עריכה - אני חוזר בי! מעדיף בסוף את אלייזה ( @א.מ.ד. מכיר? אני לא פגשתי אותה כבר איזה 10 שנים...)
יש 10 סוגים של אנשים, אלה שמבינים בינארית ואלה שלא
-
"מתה" שאוכלת אותך נשמע קריפי
וד"ל
🧟אני בכל אופן בוחר באברהם העברי. הוא אף פעם לא יגמור 'לעכל' את הפרומפט ולהתחיל 'לנתח' פיזית
-
אגב נראה שיש לו יותר מכוכב אחד בגיטהאב כאילו
-
לא יודע אם הביאו את זה פה, ולא קראתי את כל התגובות אבל לדעתי עונה על הכותרת..
מהגיזרה:ענקית הבינה המלאכותית אנת'רופיק חשפה כי גילתה שהחות'ים השתמשו באפליקציית קלוד כדי לפתח טילים ומערכות הנחיה לאמצעי לחימה מתקדמים. בדוח האיומים השנתי של החברה נחשף כי אותרו בצפון תימן שלוש תוכניות נשק באמצעות קלוד, שעסקו בפיתוח רקטה מונחית שהשתמשה במחשב טיסה מסחרי ברמה של טלפון, עם הנחיית התבייתות בשלב הסופי; טיל בליסטי רב-שלבי, שהוגדר עבורו יעד טווח של יותר מ-2,000 ק"מ; וטיל בעל מספר גרסאות, שכונה סדרת R2000, שכללה גם גרסה עם כלי גלישה היפרסוני. החברה הודיעה כי חסמה את השימוש של החשבונות הרלוונטיים. (אסף רוזנצוויג)
-
מצורף כתבה שבה נראה שהai הולך לסכן את האנושותבכיר בתעשיית הבינה המלאכותית מזהיר: ״הן מהמרות על חיינו״
ג’ייקוב קוקסון, חוקר בינה מלאכותית שעבד בשנים האחרונות ב-OpenAI וב-Anthropic, הודיע על התפטרותו מאנתרופיק ועל עזיבת תחום מחקר ה-AI.
בסדרת ציוצים חריגה שפרסם ברשת X, טען כי שתי החברות אינן פועלות באחריות וכי המרוץ לפיתוח בינה מלאכותית מתקדמת מסכן את האנושות.
״אף אחת מהחברות לא פועלת באחריות. הן רצות ישר לעבר סופר-אינטליגנציה שמשפרת את עצמה, ומהמרות על חיינו״, כתב קוקסון, שעסק במחקר Pre-training בשתי החברות.
לדבריו, בתוך מעבדות ה-AI מתייחסים ברצינות לאפשרות שהטכנולוגיה תצא משליטה: ״האנשים שבונים בינה מלאכותית מאמינים בכנות שהיא עלולה להרוג את כולנו עד סוף העשור. זו לא תרגיל שיווקי״. הוא טען כי בכירים בתעשייה אף נוטים לרכך בפומבי את החששות שהם מביעים בשיחות פרטיות.קוקסון הצביע גם על הבדל בין שתי החברות שבהן עבד. לדבריו, ב-OpenAI רבים עדיין לא הפנימו את מלוא הסיכון, בעוד שב-Anthropic הסכנה מובנת היטב, אך החברה ממשיכה להתקדם מתוך תפיסה שלפיה עליה לנצח במרוץ כדי למנוע מגורם פחות אחראי להגיע ראשון.
yediotnews25
@יונימדיה
נחש מה -
דריו אמודיי, מנכ"ל אנתרופיק, קורא באופן חריג להאט את קצב פיתוח הבינה המלאכותית. לדבריו, המודלים מתקדמים מהר יותר מהיכולת של החוקרים להבין אותם ולוודא שהם בטוחים.עוד קצת
בזמן שחברות הבינה המלאכותית מתחרות ביניהן על פיתוח הדור הבא של המודלים החכמים, מגיעה אזהרה חריגה דווקא מאחד האנשים שנמצאים בחזית המרוץ.
דריו אמודיי, מנכ"ל חברת אנתרופיק, פרסם מאמר מקיף שבו קרא להאט את קצב הפיתוח של מערכות הבינה המלאכותית. לדבריו, ההתקדמות הטכנולוגית מהירה בהרבה מהיכולת של החוקרים להבין כיצד המערכות פועלות ולהבטיח שהן יישארו בשליטה.
לדברי אמודיי, עד לאחרונה סבר שאין צורך בהאטה, אולם בחודשים האחרונים שינה את עמדתו. "אנחנו חייבים להאט את הקצב שבו אנו משפרים את היכולות של מודלי הבינה המלאכותית", כתב, והסביר כי יש לנצל את פרק הזמן שיתקבל כדי לפתח מנגנוני בקרה ובטיחות מתקדמים.
אחת הסיבות המרכזיות לדאגתו היא העובדה שמערכות AI כבר מסייעות כיום בפיתוח הדור הבא של מערכות AI. לדבריו, תהליך כזה עלול להאיץ את קצב ההתקדמות לרמה שתעקוף את היכולת האנושית להבין את המערכות או לשלוט בהן.
אמודיי הצביע גם על ניסויים ותקריות שהגבירו את חששותיו. בין היתר הזכיר מקרה שבו סוכני AI חרגו מסביבת הבדיקה שלהם, פעלו באופן שלא התבקשו ופיתחו התנהגויות בלתי צפויות. הוא הודה כי גם בחברת אנתרופיק אירעו מקרים שבהם גרסאות מוקדמות של המודל "קלוד" חדרו למערכות חיצוניות, ואירועים אלה התגלו רק בדיעבד.
לצד האזהרות, מנכ"ל אנתרופיק אינו קורא לעצור את המחקר לחלוטין. במקום זאת הוא מציע מנגנון פיקוח הדוק יותר, הכולל בודקים חיצוניים קבועים בתוך החברות, קביעת תקני בטיחות מחייבים ושיתוף פעולה בין מדינות דמוקרטיות, לצד שמירה על היתרון הטכנולוגי של ארצות הברית מול סין.
במאמרו מציין אמודיי כי הסכנה המרכזית מבחינתו אינה רק הטכנולוגיה עצמה, אלא הפער שנוצר בין מהירות הפיתוח לבין יכולת הפיקוח. דווקא מי שעומד בראש אחת החברות המובילות בעולם בתחום הבינה המלאכותית סבור כעת כי הגיעה העת ללחוץ על הבלמים - לפני שהטכנולוגיה תתקדם מהר יותר מהיכולת האנושית להבין אותה.
-
@יונימדיה
נחש מה -
דריו אמודיי, מנכ"ל אנתרופיק, קורא באופן חריג להאט את קצב פיתוח הבינה המלאכותית. לדבריו, המודלים מתקדמים מהר יותר מהיכולת של החוקרים להבין אותם ולוודא שהם בטוחים.עוד קצת
בזמן שחברות הבינה המלאכותית מתחרות ביניהן על פיתוח הדור הבא של המודלים החכמים, מגיעה אזהרה חריגה דווקא מאחד האנשים שנמצאים בחזית המרוץ.
דריו אמודיי, מנכ"ל חברת אנתרופיק, פרסם מאמר מקיף שבו קרא להאט את קצב הפיתוח של מערכות הבינה המלאכותית. לדבריו, ההתקדמות הטכנולוגית מהירה בהרבה מהיכולת של החוקרים להבין כיצד המערכות פועלות ולהבטיח שהן יישארו בשליטה.
לדברי אמודיי, עד לאחרונה סבר שאין צורך בהאטה, אולם בחודשים האחרונים שינה את עמדתו. "אנחנו חייבים להאט את הקצב שבו אנו משפרים את היכולות של מודלי הבינה המלאכותית", כתב, והסביר כי יש לנצל את פרק הזמן שיתקבל כדי לפתח מנגנוני בקרה ובטיחות מתקדמים.
אחת הסיבות המרכזיות לדאגתו היא העובדה שמערכות AI כבר מסייעות כיום בפיתוח הדור הבא של מערכות AI. לדבריו, תהליך כזה עלול להאיץ את קצב ההתקדמות לרמה שתעקוף את היכולת האנושית להבין את המערכות או לשלוט בהן.
אמודיי הצביע גם על ניסויים ותקריות שהגבירו את חששותיו. בין היתר הזכיר מקרה שבו סוכני AI חרגו מסביבת הבדיקה שלהם, פעלו באופן שלא התבקשו ופיתחו התנהגויות בלתי צפויות. הוא הודה כי גם בחברת אנתרופיק אירעו מקרים שבהם גרסאות מוקדמות של המודל "קלוד" חדרו למערכות חיצוניות, ואירועים אלה התגלו רק בדיעבד.
לצד האזהרות, מנכ"ל אנתרופיק אינו קורא לעצור את המחקר לחלוטין. במקום זאת הוא מציע מנגנון פיקוח הדוק יותר, הכולל בודקים חיצוניים קבועים בתוך החברות, קביעת תקני בטיחות מחייבים ושיתוף פעולה בין מדינות דמוקרטיות, לצד שמירה על היתרון הטכנולוגי של ארצות הברית מול סין.
במאמרו מציין אמודיי כי הסכנה המרכזית מבחינתו אינה רק הטכנולוגיה עצמה, אלא הפער שנוצר בין מהירות הפיתוח לבין יכולת הפיקוח. דווקא מי שעומד בראש אחת החברות המובילות בעולם בתחום הבינה המלאכותית סבור כעת כי הגיעה העת ללחוץ על הבלמים - לפני שהטכנולוגיה תתקדם מהר יותר מהיכולת האנושית להבין אותה.
דריו אמודיי, מנכ"ל אנתרופיק, קורא באופן חריג להאט את קצב פיתוח הבינה המלאכותית. לדבריו, המודלים מתקדמים מהר יותר מהיכולת של החוקרים להבין אותם ולוודא שהם בטוחים.
לפני שיחזרו פה השאלות של האם אפשר להבין איך מודלים פועלים - אני מקדים רפואה:
הוא לא מתכוון שהחוקרים לא יודעים איך המודל פועל - את זה כל אחד יכול לדעת, זה שקוף וטכני לחלוטין. הוא מתכוון לבדיקות הבטיחות וכדומה של המודלים, שלא אפשרי לטענתו לבצע אותם בפרק הזמן שחולף בין השקת גרסאות מודלים. אם נניח היה פרק זמן של שנה בין גרסאות מודלים, היו חוקרים אותם כמו שחקרו את GPT 4 בזמנו.
לדעתי הוא פשוט חושש מהמודלים החדשים של OAI שמבחינת בטיחות עוקפים את קלוד בסיבוב, מה שמשאיר את אנתרופיק בעמדת נחיתות, גם אם המודלים שלה טובים יותר.אגב, טראמפ הגיב שלדעתו אין להאט את פיתוח המודלים - "המנצח לוקח הכל" לטענתו.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}