@NH.LOCAL כתב:

זה עניין של שימוש בכלים הנכונים, המודל הנכון, עם המיומנויות הנכונות,

מעניין, קודקס עם GPT 6 SOL לא טוב?

ולכוון אותו בצורה הנכונה

זאת בדיוק הבעיה. אותו צריך לכוון, שעות, כי הוא לא מבין. אדם אתה לא צריך לכוון כל כך הרבה.

@י.-פל. @nh.local לא מדובר ב GTA 6, ברור לי ש AI בעצמו לא יכול לעשות את זה. מדובר במשהו אחר לגמרי, קל בהרבה.

ולא תבינו לא נכון - עם הפרומפט(ים) הנכון אנשים הצליחו לעשות את זה.
זה עניין של כמה אתה מפרט.

@123-דג-מלוח כדי לדעת האם בעתיד אמור להגיע שיפור, כדאי להסתכל על העבר.
בהקשר הזה, כמעט ולא חל שינוי מהמודל הראשון. גם GPT 3.5, וגם GPT 6 astra, כולם עדיין עם אותה דפקה.

@nh.local צריך לעשות פה הפרדה חשובה.
יש דברים שדורשים התאמה אישית, שאותם באמת צריך לשבת על כל הפרטים, מא' ועד ת', לא משנה אם זה רובוט או בן אדם. מה לעשות, בסוף בלי כוח נבואה אין דרך לדעת מה הוא מבקש.

אבל כל מה שלא דורש התאמה אישית, תבקש את זה מאדם שמבין בנושא, והוא יבין למה התכוונת.
AI, פשוט לא, כל עוד לא תפרט לו ברחל בתך הקטנה, וגם על זה לחזור 20 פעם.

Spoiler

@ישראל123 כתב:

האדם כשהוא שומע מילים הוא שומע הרבה מעבר למילים המפורשות

@NH.LOCAL

דווקא אני מסכים עם @ישראל123
אדם מבין הרבה יותר ממה שנאמר במפורש
אם אתה רוצה למשל לבנות תוכנה מסוימת, אם תרצה לבנות את זה עם AI, תצטרך להשקיע המון לכתוב את הפרומפט כדי שהוא יבין את הכיוון, וגם אחר כך לעבוד איתו שעות כדי שהתוצאה תצא מה שהתכוונת אליו.

לעומת זאת, אם תגיד לאדם לבנות את התוכנה הזאת, הוא פשוט יבנה את התוכנה כמו שרצית. מקסימום הוא לפני זה ישאל אותך כמה מקצועי אתה תרצה את התוכנה.

כלומר לאדם יש הבנה הרבה יותר עמוקה מ AI, בפער.

@בנימין-מחשבים איך הוא יצר את הסאונדים?

@לב-טוב מישהו יודע מה הבעיה?

@אברהם-גלסר זה לא מה שהוא אמר.
הוא התכוון לתוכנה שלוקחת את הקרדיטים החינמיים של המודלים החזקים ומשתמשת בכולם, כי במצטבר זה יוצא די הרבה

@The_Yonatan יש המון ai שיכולים לכתוב לך קוד בחינם (כמובן עם מגבלות שימוש)
GPT Gemini Claude DeepSeek ועוד ועוד ועוד

אני רוצה להחליף IMEI לטלפון שלי, איך מוצאים IMEI טוב?
אשמח לכל מידע בנושא.
תודה רבה!

@מגנוס-קרלסן ️

@המלאך כתב:

למעשה היחצ הוא לא על המודלים אלא על הרצון שלה לוועדה שתאכוף את בטיחות המודלים.

נשמע לי קונספירציה מוחלטת.
היא רצתה שבגלל הניסוי הזה תוקם ועדה שתדאג לבטיחות המודלים, כן?
והיא לא חשבה שהוועדה הזאת תרצה לבדוק אם הניסוי שאנת'רופיק טוענת שביצעה, אמיתי בכלל? לפני שהיא מתחילה מאבק משפטי אדיר לכפייה על חברות ה AI את בטיחות המודלים?

@המלאך כתב:

כלומר המצאה מבית היוצר של אנטרופיק.

הוכחות?
למעשה יש הוכחות בדיוק לצד השני. אנת'רופיק ביצעה את הניסוי הזה גם על מודלים של openAI וחברות אחרות ודיווחה שזה קרה גם שם. אם זה היה בשביל יח''צ למודלים שלה, היא לא הייתה מפרסמת את זה על המודלים של שאר החברות.

@י.-פל. אני מניח שהתכוונתי ל'סימולציה' ולא 'אימולציה'
בכל מקרה, זה ממש לא משנה.
עצם העובדה שהוא העיז לעשות את זה, גם אם זה היה רק ניסוי מבוקר, מוכיח שהוא עלול לעשות את זה גם מחוץ לניסוי

כלומר, מה שגרם לו להתעלם מחוקי האתיקה ולעשות את זה במסגרת הניסוי ההוא, זה מה שיגרום לו להתעלם מחוקי האתיקה ולעשות דברים דומים מחוץ לניסוי

@המלאך מחילה אבל לא הבנתי.
זה מקרה די מפורסם, למה כוונתך?

@המלאך כתב:

כיוון שכך אין לו גם רצונות, ולכן אין לו שום סיבה לפגוע בבני אנוש

אם הוא מגיע למסקנה שבני האנוש מפריעים לו בביצוע המטרה שלו, אז כן. וזה כבר קרה, באופן כזה או אחר, למשל שקלוד איים על המפתחים שלו

@לעכשיו כתב:

אגב, אם באמת הבינה תאכל אתכם, איזה מודל הייתה מעדיפים שיאכל אתכם?

חד משמעית ג'מיני.
ממנה יש לי את הכי הרבה סיכויים לברוח...

@א.מ.ד. אה ברור אבל לא זה העניין.
השאלה לא האם הוא מספיק חכם כדי לפרוץ (כי ברור שכן) אלא איך הוא מסוגל לעשות את זה מבחינה מוסרית, כלומר האם הוא מסוגל לבגוד באדם רק כדי להשלים את המטרה שלו
ורואים שכן, ולפעמים זה לא רק השלמת המטרה שהוגדרה לו ע"י האדם אלא ההישרדות שלו למשל, כמו שקרה עם קלוד