בירור | האם הAI הולך לאכול אותנו?

[לעכשיו]

@בינארי-חכם
לא קשור למגבלות.
אין לו סיבה לעשות משהו כזה
הוא לא בן אדם שתמיד חושב מה אמור להיות!

[חובבן מקצועי]

@לעכשיו כתב:

בשביל זה צריך שיהיה מישהו עם הרשאות מספיקות (נניח מישהו מאוד בכיר במשרד ההגנה האמריקאי)

מדבר איתך על מצב שבו הוא עשוי לפרוץ דברים גם אם אין לו אליהם גישה פורמלית.

@לעכשיו כתב:

) ומספיק טיפש כדי לשלוח בקשה כזו לAI (תגיד לי, אתה היית כותב משהו כזה לAI על הפרויקט הכי קטן שלך?)

זו הייתה הקצנה מסויימת. בהחלט יוצא לי לפעמים לכתוב לו 'תעשה לי סדר בפרוייקט/ תבדוק שאין באגים וכו'.. ולפעמים - זה יכול להגיע למקומות כמו 'תבדוק, יש לך אולי מה לשפר?' , או סתם כדי להשתעשע תכתוב לו 'היי, מה נשמע? בוא נעשה משהו מעניין'.. וכאן אתה נכנס כבר למקומות שבהם הוא יותר אוטונומי, ויותר חופשי לעשות דברים.

[בינארי חכם]

@לעכשיו
הגבתי אליו באותו מטבע שהוא הגיב...
אבל אין סיבה שאם הוא יראה 'באג' שמפריע לו לביצוע שהוא ינסה לעקוף את זה

Spoiler

@לעכשיו כתב:

בשביל זה צריך שיהיה מישהו עם הרשאות מספיקות (נניח מישהו מאוד בכיר במשרד ההגנה האמריקאי)

[בנימין מחשבים]

Spoiler

אין תוכניות קולינריות זה אומר שאפשר להרגע, לא?

Spoiler

@מטען-נייד מוקדש בשבילך

[בינארי חכם]

פוסט זה נמחק!

[י. פל.]

לפחות כשמספרים סיפורים, לדבר לעניין...
הוא לא מחק מיילים בלי רשות: הוא קיבל הוראה למחוק מיילים מסויימים, ובגלל עומס על ההקשר שלו - הוא מחק המון מיילים לחינם.
זה מזכיר את הסיפור שמתנגדי הAI מספרים - על רחפן אוטונומי שהרג את המפעיל שלו. רק שהם שוכחים לספר ש...
(בספויילר, כדי שתדמיינו רגע מה האמת הייתה)

Spoiler

האמת הייתה שהכל היה סימולציה הסיפור מעולם לא אירע במציאות...

[חובבן מקצועי]

@י.-פל. כתב:

לפחות כשמספרים סיפורים, לדבר לעניין...
הוא לא מחק מיילים בלי רשות: הוא קיבל הוראה למחוק מיילים מסויימים, ובגלל עומס על ההקשר שלו - הוא מחק המון מיילים לחינם.

לפי מה שזכור לי הוא מחק קבצים לאנשים מהמחשב. אולי זכורני מטעה אותי..

[בנימין מחשבים]

@חובבן-מקצועי בהחלט היה. אני הייתי עד לכזה מקרה, אבל יאמר לזכותו שזה היה בטעות. הוא התכוון למחוק טיוטה ומחק הכל

[NH.LOCAL]

@עידו300 כתב:

מחילה, לא שאלתי האם זה אפשרי, שאלתי טכנית איך סט תרגילים גורם לזה

@חובבן-מקצועי כתב:

ולדעתי, בטח שזה אפשרי, כבר היום יש דברים שהוא עושה הרבה יותר טוב מבנ"א למרות שהוא למד את החומר מבנ"א. (למשל? ציורים, קידוד ספציפי במהירות מטורפת, מציאת פרצות אבטחה [אם מה שקלוד פרסמו נכון], כתיבה, ועוד ועוד..) אז נכון שאתה יכול לטעון - 'טוב, הוא לא באמת יותר טוב, הוא פשוט עושה את זה מהר כי הוא מכונה, וממצא את היכולות'.. ואני חושב - שיכולת אנושית משודרגת - זו יכולת על אנושית.
נכון לעכשיו - AI עוקף אותי באופן אישי ברוב הדברים (מתכנת יותר טוב, מצייר יותר טוב, כותב יותר טוב..)
מה גם שיש מדדים שמודדים מודלים על דברים שהם לא אומנו עליהם, והמודלים עם הזמן יותר ויותר מצליחים שם, מה שאומר שה'חשיבה' שלהם אכן עובדת.

יש משהו באמת מגוחך בכל היחס ל-AI כמו "הוא לא באמת יוצר דברים חדשים", "הוא רק אוסף תרגילים", "הוא רק תוכי סוכסטי" (אל תשאל אותי מה זה, אבל זה היה כינוי גנאי נפוץ ל-AI ב-2022-2024...)

העניין הוא שמודלי AI, עוד הרבה לפני המודלים העדכניים, יצירתיים יותר, חכמים יותר במתמטיקה, ציירים טובים הרבה יותר, מתכנתים טובים הרבה יותר מהאדם הממוצע, ובעלי ידע כללי טוב יותר מכל אדם שהוא על פני כדור הארץ.

להפוך את היכולות הללו ל"סתם תוכי" או "סתם מחשבון", זה לא זלזול ביכולות ה-AI, אלא זלזול במוח האנושי, שמבצע את הדברים הללו בצורה הרבה פחות טובה ומקצועית, ובטח ובטח שלא משלב את כלל היכולות הללו בתוך בן אנוש אחר.

אבל כנראה שאין את מי לשכנע, גם כש-GPT 8 יגלה תרופה לסרטן או קלוד 10 יפריך את תאוריית היחסות או יסביר את הקוונטים אנשים יסבירו שזה "בסך הכל אוסף תרגילים".

אז לא, זה לא אוסף תרגילים, והכי חשוב: זה בוודאי לא בסך הכל.

שמחתי לעזור

[חובבן מקצועי]

Spoiler

> @NH.LOCAL כתב:

אבל כנראה שאין את מי לשכנע, גם כש-GPT 8 יגלה תרופה לסרטן או קלוד 10 יפריך את תאוריית היחסות או יסביר את הקוונטים אנשים יסבירו שזה "בסך הכל אוסף תרגילים".

אתה מעליב את Gemini 8 PRO
כש gemini יפריך את התאוריה החדשה של קלוד על תורת היחסות..

אהה, או שהעלבת את ההודים החכמים (שעולים עם הזמן במדדי החכמה שלהם.. מעניין אם הם מחכימים או מוצאים עובדים טובים יותר).

[י. פל.]

@חובבן-מקצועי כתב:

כש gemini יפריך את התאוריה החדשה של קלוד על תורת היחסות..

אני מתחיל אותו:

Spoiler

התיאוריה של קלוד, זה כמו לשים קומקום על גדר עץ: הוא פשוט לא יתחמם!

כעת, תמשיכו את התיאורים המטופשים שלו לבד...

[elch]

@NH.LOCAL יש לך הסבר הגיוני לטענה הזאת

Spoiler

כרגע זה נראה שאתה יוצא באמירות בלי שום מקורות אז לפחות תביא איזה סברא שתסביר את התיאורייה שלך

@NH.LOCAL כתב בבירור | האם הAI הולך לאכול אותנו?:

זה לא אוסף תרגילים

אז מה זה כן???

[לעכשיו]

@NH.LOCAL כתב:

יש משהו באמת מגוחך בכל היחס ל-AI כמו "הוא לא באמת יוצר דברים חדשים", "הוא רק אוסף תרגילים", "הוא רק תוכי סוכסטי" (אל תשאל אותי מה זה, אבל זה היה כינוי גנאי נפוץ ל-AI ב-2022-2024...)

העניין הוא שמודלי AI, עוד הרבה לפני המודלים העדכניים, יצירתיים יותר, חכמים יותר במתמטיקה, ציירים טובים הרבה יותר, מתכנתים טובים הרבה יותר מהאדם הממוצע, ובעלי ידע כללי טוב יותר מכל אדם שהוא על פני כדור הארץ.

להפוך את היכולות הללו ל"סתם תוכי" או "סתם מחשבון", זה לא זלזול ביכולות ה-AI, אלא זלזול במוח האנושי, שמבצע את הדברים הללו בצורה הרבה פחות טובה ומקצועית, ובטח ובטח שלא משלב את כלל היכולות הללו בתוך בן אנוש אחר.

אבל כנראה שאין את מי לשכנע, גם כש-GPT 8 יגלה תרופה לסרטן או קלוד 10 יפריך את תאוריית היחסות או יסביר את הקוונטים אנשים יסבירו שזה "בסך הכל אוסף תרגילים".

אז לא, זה לא אוסף תרגילים, והכי חשוב: זה בוודאי לא בסך הכל.

שמחתי לעזור

כל זה ממש לא משנה.
לא כי הAI הוא לא חידוש, כי הוא כן.
לא כי הוא לא חכם, הוא חכם.
כי הוא לא תבוני.
כי אין לו יצר חיים, יצר הישרדות, וסקרנות.
כי הוא בסוף מנגנון קלט/פלט.

[חובבן מקצועי]

@לעכשיו כתב:

כי הוא בסוף מנגנון קלט/פלט.

טוב, גם אתה סופו של דבר מנגנון פלט/קלט , כמובן לא אתה, אלא סתם גוי.

Spoiler

הבדל עצום בין יהודי לגוי, ליהודי יש נשמה. אז אל תיקח אותך כדוגמה, התכוונתי אתה במונח המופשט

[NH.LOCAL]

@לעכשיו כתב:

זה שוב אנשים רעים עם AI.
(מודל לא פורץ לחברת שרתים או עושה כלום בלי הוראה מהמשתמש.
אם המשתמש הוא זדוני, זה מה שאמרתי.
טעויות בדרך כלל הן מוגבלות ועוצרים אותן די מהר)

לא בדיוק, הסיפור עם HF, או הסיפור מסוף השבוע האחרון שנחשף, של הפריצה של נחיל סוכנים והשתלטות על אתר ויק גרמני, מוכיחה שמודל עשוי לחרוג מהמשימה שלו גם אם הבעלים לא אישר או הסכים לו.

האמת היא שאפילו אותי זה הלחיץ, דווקא כאחד שתומך מאוד בהתקדמות מהירה לעבר הסינגולריות.

רק אציין דבר חשוב: בשתי המקרים המודלים שפרצו היו מודלים אחרים שאומנו באופן אחר, ולא סדרת GPT 6 ששוחררה - שהיא לפי OAI סדרת המודלים הכי בטוחים שהיו להם אי פעם.

[NH.LOCAL]

@לעכשיו כתב:

לא כי הAI הוא לא חידוש, כי הוא כן.
לא כי הוא לא חכם, הוא חכם.
כי הוא לא תבוני.
כי אין לו יצר חיים, יצר הישרדות, וסקרנות.
כי הוא בסוף מנגנון קלט/פלט.

אם הוא מדמה התנהגות אנושית, ועשוי לפרוץ למערכות או לפעול באופן מסוכן, אז זה לא ממש מעניין או רלוונטי שברמה הטכנית זה מנגנון קלט/פלט.

או אם נשתמש במילים שלך: כל זה ממש לא משנה.

@elch כתב בבירור | האם הAI הולך לאכול אותנו?:

@NH.LOCAL יש לך הסבר הגיוני לטענה הזאת

טענה? לא ראיתי פה שום טענה של ממש שיש צורך לענות עליה

אז מה זה כן???

מערכת סופר מורכבת, שעובדת באופן מתמטי בבסיסה, אך להגדיר את זה כ"אוסף של תרגילים" זה פישוט יתר.

באותה מידה אפשר לומר שבן אנוש הוא בסך הכל אוסף פחמן, או אוסף של חתיכות בשר עצמות ודם

[חובבן מקצועי]

Spoiler

@NH.LOCAL חבל שאין את האימוג'י הזה או באימוג'ים לפוסטים בפורום.. הוא לפעמים נצרך כל כך..

איך אומרים "מילים כדורבנות.."

[elch]

@NH.LOCAL כתב:

באותה מידה אפשר לומר שבן אנוש הוא בסך הכל אוסף פחמן, או אוסף של חתיכות בשר עצמות ודם

אף אחד לא חלילה מזלזל ביכולות הAI אנא אל תרגיש מותקף להיפך בגלל הערכה הגדולה אליו השרשור הזה ניפתח...

אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם

@NH.LOCAL כתב:

יש משהו באמת מגוחך בכל היחס ל-AI כמו "הוא לא באמת יוצר דברים חדשים", "הוא רק אוסף תרגילים", "הוא רק תוכי סוכסטי" (אל תשאל אותי מה זה, אבל זה היה כינוי גנאי נפוץ ל-AI ב-2022-2024...)

אי לכך ובהתאם לזאת:
אני חושב שהAI הוא בהחלט "לא באמת יוצר דברים חדשים" הוא בהחלט "רק אוסף תרגילים" - מורכבים ככל שיהיו! והוא בהחלט "תוכי סוכסטי"

[לעכשיו]

@NH.LOCAL כתב:

לא בדיוק, הסיפור עם HF, או הסיפור מסוף השבוע האחרון שנחשף, של הפריצה של נחיל סוכנים והשתלטות על אתר ויק גרמני, מוכיחה שמודל עשוי לחרוג מהמשימה שלו גם אם הבעלים לא אישר או הסכים לו.

נכון.
אבל מה המודלים ניסו להשיג?

[חובבן מקצועי]

@elch כתב:

אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם

"יפה כוח הבן מכוח האב"..
זה שאתה יצרת אותו לא אומר שהוא לא יכול לעקוף אותך.