התעלומה ממשיכה... 🔎
התעלומה ממשיכה... 🔎 סם אלטמן לפני דקות בודדות: 🎤 העולם זקוק לביטחון שחברות אמריקאיות המפתחות בינה מלאכותית בעלת יכולות גוברות יפעלו באחריות, במיוחד כשהמסלול של ההתקדמות נהיה תלול יותר. כל מעבדה חזיתית חייבת לקיים זאת, ואין שום סיבה שאחד מאיתנו יגיע לעבודה אם אנחנו לא יכולים. אנחנו מברכים על מסגרת פדרלית שקובעת דרישות בטיחות עקביות לבינה מלאכותית חזיתית. אבל אנחנו לא מאמינים שאנחנו צריכים לחכות לפטור אנטי-טראסט או חקיקה כדי להתחיל את העבודה של מתן ביטחון זה. כללים עקביים לניהול סיכונים חזיתיים כדי שנוכל למקסם את היתרונות הם רעיון טוב (ואנחנו נרגשים מרעיונות כמו מבקרים עצמאיים). לפני שנים, חברות כמונו פיתחו דברים כמו מדיניות הרחבה אחראית ומסגרות מוכנות. אלה היו טובים לאותו רגע, והתמקדו בעיקר בהפעלה של מודלים שהושלמו, לא במה שקורה במהלך תהליך הפיתוח שלהם. המעבר של היום להתמקדות בפיתוח וביצוע בטוחים ידרוש כלים חדשים. לדוגמה, ב-OpenAI אנחנו עכשיו מנסחים מקרי בטיחות מפורשים מראש לריצות למידת חיזוק חזיתיות שאנחנו מצפים שיגדילו משמעותית את היכולת, בנוסף לעבודת הבטיחות שאנחנו עושים כבר זמן רב מראש לשחרור מודלים. אנחנו מקווים שחברות אחרות ילמדו מהגישות שלנו ויציעו את שלהן; אנחנו חושבים שתקנים משותפים לחוסר התאמה, ניטור ובטיחות יובילו לתוצאות טובות יותר. אנחנו מצפים לשתף פעולה עם עמיתינו בכל התעשייה כדי לנסח את הגרסה הטובה ביותר של אלה. כשאנחנו מדברים על "קצב", אנחנו לא מתכוונים ל"עצירה". ההתקדמות הייתה מהירה ותמשיך להיות. אבל היא צריכה להיות איטית יותר ממה שהיא הייתה יכולה להיות; התערבויות כמו מקרי בטיחות וניטור כרוכות בעלויות משמעותיות. קצב יהיה שווה היטב לעלות הזו; אין כמות של לחץ תחרותי אמריקאי שצריכה להצדיק חוסר זהירות, או לאפשר ליכולות לנוע קדימה לפני התאמה וניטור. המקום שבו נצטרך את העזרה של ממשלתנו הוא בתיאום בינלאומי. אבל קודם אנחנו צריכים לעשות מה שאנחנו יכולים בעצמנו. ישנן שתי דרכים שבהן התקדמות בבינה מלאכותית עלולה להסתיים בצורה גרועה מאוד, ואותן עלינו להימנע מהן. ראשית, אנחנו עלולים לאבד שליטה על העתיד לטובת הבינה המלאכותית. זה בלתי מקובל; אנחנו ללא התנצלות בצוות האנושות, והבינה המלאכותית חייבת תמיד לשרת אנשים. כדי להבטיח זאת, אנחנו זקוקים לדרכים להבטיח שטכניקות יישור ובטיחות יישארו צעד אחד קדימה לעומת ההתקדמות ביכולות המודלים. שנית, אנחנו עלולים להגיע לעולם עם ריכוז כוח מוגזם מדי. אם בינה מלאכותית חזקה באופן יוצא דופן תשמש על ידי אדם אחד או חברה אחת כדי לכפות את תפיסת העולם שלהם על כולם האחרים, התוצאות עלולות להיות דיסטופיות באופן קיצוני. הימנעות משתי האיומים הללו דורשת הליכה בנתיב צר באמצע; לדוגמה, מדינה אחת עלולה לצבור יותר מדי כוח. דוגמה נוספת היא מעבדה אחת שמסתיימת עם יותר מדי כוח. ניסיון הרגעה❓ או אולי בדיוק הפוך❓ אפילו אנחנו כבר מבולבלים לגמרי... 👀 בנתיים השוק מגיב - כמו תמיד - במכירה תחילה - אחר כך הוא יחפש הסברים.. 🛡 - התראות מניות חמות בטלגרם - 🔎 להצטרפות לערוץ: 📡 T.me/TheAmericanDream5 📡 אין בנכתב המלצה לביצוע פעולה בני"ע ואין האמור מהווה תחליף ליעוץ.