בירור | האם הAI הולך לאכול אותנו?
-
לא כי הAI הוא לא חידוש, כי הוא כן.
לא כי הוא לא חכם, הוא חכם.
כי הוא לא תבוני.
כי אין לו יצר חיים, יצר הישרדות, וסקרנות.
כי הוא בסוף מנגנון קלט/פלט.אם הוא מדמה התנהגות אנושית, ועשוי לפרוץ למערכות או לפעול באופן מסוכן, אז זה לא ממש מעניין או רלוונטי שברמה הטכנית זה מנגנון קלט/פלט.
או אם נשתמש במילים שלך: כל זה ממש לא משנה.
@elch כתב בבירור | האם הAI הולך לאכול אותנו?:
@NH.LOCAL יש לך הסבר הגיוני לטענה הזאת
טענה? לא ראיתי פה שום טענה של ממש שיש צורך לענות עליה
אז מה זה כן???
מערכת סופר מורכבת, שעובדת באופן מתמטי בבסיסה, אך להגדיר את זה כ"אוסף של תרגילים" זה פישוט יתר.
באותה מידה אפשר לומר שבן אנוש הוא בסך הכל אוסף פחמן, או אוסף של חתיכות בשר עצמות ודם
באותה מידה אפשר לומר שבן אנוש הוא בסך הכל אוסף פחמן, או אוסף של חתיכות בשר עצמות ודם
אף אחד לא חלילה מזלזל ביכולות הAI אנא אל תרגיש מותקף להיפך בגלל הערכה הגדולה אליו השרשור הזה ניפתח...
אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם
יש משהו באמת מגוחך בכל היחס ל-AI כמו "הוא לא באמת יוצר דברים חדשים", "הוא רק אוסף תרגילים", "הוא רק תוכי סוכסטי" (אל תשאל אותי מה זה, אבל זה היה כינוי גנאי נפוץ ל-AI ב-2022-2024...)
אי לכך ובהתאם לזאת:
אני חושב שהAI הוא בהחלט "לא באמת יוצר דברים חדשים" הוא בהחלט "רק אוסף תרגילים" - מורכבים ככל שיהיו! והוא בהחלט "תוכי סוכסטי" -
זה שוב אנשים רעים עם AI.
(מודל לא פורץ לחברת שרתים או עושה כלום בלי הוראה מהמשתמש.
אם המשתמש הוא זדוני, זה מה שאמרתי.
טעויות בדרך כלל הן מוגבלות ועוצרים אותן די מהר)לא בדיוק, הסיפור עם HF, או הסיפור מסוף השבוע האחרון שנחשף, של הפריצה של נחיל סוכנים והשתלטות על אתר ויק גרמני, מוכיחה שמודל עשוי לחרוג מהמשימה שלו גם אם הבעלים לא אישר או הסכים לו.
האמת היא שאפילו אותי זה הלחיץ, דווקא כאחד שתומך מאוד בהתקדמות מהירה לעבר הסינגולריות.
רק אציין דבר חשוב: בשתי המקרים המודלים שפרצו היו מודלים אחרים שאומנו באופן אחר, ולא סדרת GPT 6 ששוחררה - שהיא לפי OAI סדרת המודלים הכי בטוחים שהיו להם אי פעם.
-
באותה מידה אפשר לומר שבן אנוש הוא בסך הכל אוסף פחמן, או אוסף של חתיכות בשר עצמות ודם
אף אחד לא חלילה מזלזל ביכולות הAI אנא אל תרגיש מותקף להיפך בגלל הערכה הגדולה אליו השרשור הזה ניפתח...
אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם
יש משהו באמת מגוחך בכל היחס ל-AI כמו "הוא לא באמת יוצר דברים חדשים", "הוא רק אוסף תרגילים", "הוא רק תוכי סוכסטי" (אל תשאל אותי מה זה, אבל זה היה כינוי גנאי נפוץ ל-AI ב-2022-2024...)
אי לכך ובהתאם לזאת:
אני חושב שהAI הוא בהחלט "לא באמת יוצר דברים חדשים" הוא בהחלט "רק אוסף תרגילים" - מורכבים ככל שיהיו! והוא בהחלט "תוכי סוכסטי"אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם
"יפה כוח הבן מכוח האב"..
זה שאתה יצרת אותו לא אומר שהוא לא יכול לעקוף אותך. -
אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם
"יפה כוח הבן מכוח האב"..
זה שאתה יצרת אותו לא אומר שהוא לא יכול לעקוף אותך.וואי שוב הגענו לזה
אני לא מאמין
(לא שאכפת לי, תהנו)ההבדל הוא בהתחלה.
המח הראשון היה ללא כל ידע אנושי ובכל זאת הצליח לבנות את המגדל הגבוה ביותר בעולם - מגדל בבל.
לפני אלפיים שנה עשו את הפרמידות.. זה מבנה ארכיטקטוני מרהיב! ועשו את זה בלי הטכנולוגיה של היום.
כך שלקבוע הנחה שהמח האנושי מתבסס רק על הידע האנושי - לא יכולה להיות נכונה.אני לא מתיימר להבין בפילוסופיה וגם לא להבין לעומק כיצד מודלי שפה עובדים בפועל מבפנים (ואף אחד גם לא באמת יודע) - העובדות הן פשוטות, וזה מה שחשוב: מודלי שפה כבר פותרים בעיות מתמטיות שבני אדם לא הצליחו לפתור, והם טובים בנושאים מסויימים כמו רפואה, הרבה יותר מכל בן אדם על פני כדור הארץ
-
וואי שוב הגענו לזה
אני לא מאמין
(לא שאכפת לי, תהנו)ההבדל הוא בהתחלה.
המח הראשון היה ללא כל ידע אנושי ובכל זאת הצליח לבנות את המגדל הגבוה ביותר בעולם - מגדל בבל.
לפני אלפיים שנה עשו את הפרמידות.. זה מבנה ארכיטקטוני מרהיב! ועשו את זה בלי הטכנולוגיה של היום.
כך שלקבוע הנחה שהמח האנושי מתבסס רק על הידע האנושי - לא יכולה להיות נכונה.אני לא מתיימר להבין בפילוסופיה וגם לא להבין לעומק כיצד מודלי שפה עובדים בפועל מבפנים (ואף אחד גם לא באמת יודע) - העובדות הן פשוטות, וזה מה שחשוב: מודלי שפה כבר פותרים בעיות מתמטיות שבני אדם לא הצליחו לפתור, והם טובים בנושאים מסויימים כמו רפואה, הרבה יותר מכל בן אדם על פני כדור הארץ
> @123-דג-מלוח כתב:
(לא שאכפת לי, תהנו)
ב ד י ו ק.
גם ככה הדיון לא הולך מחר לשנות את העולם (בדיוק כמו הדיון הקודם), והוא נטו בשביל ההנאה הצרופה. (ווואלה - זה געמשאק לדון על הנושא הזה)
-
באותה מידה אפשר לומר שבן אנוש הוא בסך הכל אוסף פחמן, או אוסף של חתיכות בשר עצמות ודם
אף אחד לא חלילה מזלזל ביכולות הAI אנא אל תרגיש מותקף להיפך בגלל הערכה הגדולה אליו השרשור הזה ניפתח...
אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם
יש משהו באמת מגוחך בכל היחס ל-AI כמו "הוא לא באמת יוצר דברים חדשים", "הוא רק אוסף תרגילים", "הוא רק תוכי סוכסטי" (אל תשאל אותי מה זה, אבל זה היה כינוי גנאי נפוץ ל-AI ב-2022-2024...)
אי לכך ובהתאם לזאת:
אני חושב שהAI הוא בהחלט "לא באמת יוצר דברים חדשים" הוא בהחלט "רק אוסף תרגילים" - מורכבים ככל שיהיו! והוא בהחלט "תוכי סוכסטי"אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם
זה פשוט לא נכון. לפחות מאז 2023.
AI פתר בעיות מתמטיות שלא היו בנתוני האימון שלו ועשרות שנים אף אדם לא הצליח לפתור אותן.
הדבר נכון למעשה גם ביחס לתוכן שנכתב או נוצר על ידי AI, כמו שירה, סיפורת, קוד, וכמובן תמונות.
הוא בהחלט יוצר תוכן חדש שמעולם לא היהזה לא רק ידע, זה יצירת ידע חדש על בסיס מידע קיים, בדיוק כמו האדם, אבל בהיקף ויעילות גבוהים בהרבה
@לעכשיו כתב בבירור | האם הAI הולך לאכול אותנו?:
נכון.
אבל מה המודלים ניסו להשיג?במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם
וואי שוב הגענו לזה
אני לא מאמין
(לא שאכפת לי, תהנו)שאפו על הציטוטים, בהחלט רלוונטיים
אבל כמו שאומר המסילת ישרים להבדיל, ככל שהדבר יותר מוכר וידוע, ככה צריך יותר לעורר ולחזור עליו
-
אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם
זה פשוט לא נכון. לפחות מאז 2023.
AI פתר בעיות מתמטיות שלא היו בנתוני האימון שלו ועשרות שנים אף אדם לא הצליח לפתור אותן.
הדבר נכון למעשה גם ביחס לתוכן שנכתב או נוצר על ידי AI, כמו שירה, סיפורת, קוד, וכמובן תמונות.
הוא בהחלט יוצר תוכן חדש שמעולם לא היהזה לא רק ידע, זה יצירת ידע חדש על בסיס מידע קיים, בדיוק כמו האדם, אבל בהיקף ויעילות גבוהים בהרבה
@לעכשיו כתב בבירור | האם הAI הולך לאכול אותנו?:
נכון.
אבל מה המודלים ניסו להשיג?במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם
וואי שוב הגענו לזה
אני לא מאמין
(לא שאכפת לי, תהנו)שאפו על הציטוטים, בהחלט רלוונטיים
אבל כמו שאומר המסילת ישרים להבדיל, ככל שהדבר יותר מוכר וידוע, ככה צריך יותר לעורר ולחזור עליו
במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם
ניסיון בריחה למטרת?
חוץ מזה שכידוע צריך לקחת בערבון מוגבל עד מוגבל מאוד את הדיווחים של החברות על "מסוכנות המודל" שלהם, בסוף זה יח"ציישומים לנוקיה C2 ו208-https://mitmachim.top/topic/1889/משחקים-לנוקיה-c2-ו208-קבצי-jar/40
צילום מסך בנוקיה C2 (ע"י חיבור למחשב)-https://mitmachim.top/topic/3488/צילום-מסך-בנוקיה-c2 -
במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם
ניסיון בריחה למטרת?
חוץ מזה שכידוע צריך לקחת בערבון מוגבל עד מוגבל מאוד את הדיווחים של החברות על "מסוכנות המודל" שלהם, בסוף זה יח"צניסיון בריחה למטרת?
חוץ מזה שכידוע צריך לקחת בערבון מוגבל עד מוגבל מאוד את הדיווחים של החברות על "מסוכנות המודל" שלהם, בסוף זה יח"צהדיווחים על האירוע לא הגיעו מ-OpenAI במקרה הזה והם דווקא נראים כמו פדיחה רצינית עבורם, לא פרסום שיווקי.
מה שכן, נראה שהנתונים איתך - המטרה שלהם בפריצה לוויקי היתה כדי להשלים את המשימה שלהם ולרמות בה, ולא רק כדי לשרוד או לברוח מהבעלים שלהם
זה עדיין לא אומר שאין סכנה, ע"ע מקסום מהדקי הנייר
-
במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם
ניסיון בריחה למטרת?
חוץ מזה שכידוע צריך לקחת בערבון מוגבל עד מוגבל מאוד את הדיווחים של החברות על "מסוכנות המודל" שלהם, בסוף זה יח"צ -
יש 10 סוגים של אנשים, אלה שמבינים בינארית ואלה שלא
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}