ג׳ייקוב קוקסון, החוקר שעבד ב-OpenAI ובאנתרופיק שצייץ את הציוץ ששבר את הרשת השבוע (כבר חצה את ה-145 מיליון חשיפות) עם ראיון ב-CNN.
ג׳ייקוב קוקסון, החוקר שעבד ב-OpenAI ובאנתרופיק שצייץ את הציוץ ששבר את הרשת השבוע (כבר חצה את ה-145 מיליון חשיפות) עם ראיון ב-CNN. הנה כמה מהדברים שאמר שם: 1. האיום לא מגיע מהמודלים הנוכחיים. קוקסון אומר שהסיכון להכחדת האנושות מהמערכות הקיימות נמוך. הן עדיין אינן חכמות מספיק כדי לגבור על בני האדם. 2. החשש הוא מקצב ההתקדמות. בתחומים כמו תכנות ומתמטיקה עברנו בתוך שנים ספורות ממערכות שרק מסייעות לבני אדם למערכות שמתקרבות ליכולת להחליף אותם במשימות מסוימות. 3. נקודת המפנה המסוכנת היא ״שיפור עצמי רקורסיבי״. אם AI יוכל לבצע בעצמו מחקר AI ולשפר את הדור הבא של עצמו, עלולה להתחיל ״התפוצצות אינטליגנציה״. 4. מערכת על אנושית שלא נשלטת יכולה לגרום לנזק בעולם האמיתי. הוא מציג תרחישים כמו פריצה לתשתיות קריטיות או סיוע בפיתוח נשק ביולוגי. 5. הוא טוען שגם האנשים שבונים את הטכנולוגיה מפחדים. לטענתו - החששות שנשמעים מתוך החברות הם לא תרגיל שיווקי. אבל בפומבי הם מתנסחים בזהירות. 6. הבעיה היא דינמיקת מרוץ החימוש. גם אם מנהלי החברות רוצים להאט, הם חוששים שאם יעשו זאת לבד, מתחרים אמריקאיים, סיניים או גורמים מסוכנים יגיעו ראשונים. 7. הפתרון שהוא מציע הוא פיקוח מתואם. קורא להסדרה בינלאומית שתאפשר לחברות להאט יחד, תחת כללים הניתנים לאימות. לדעתו, זו לא בעיה בלתי פתירה. ### בקיצור, קוקסון לא אומר ״ChatGPT עומד להרוג אותנו״, אבל הוא כן אומר שהמשך המרוץ, בקצב הנוכחי, יכול להביא כבר בשנים הקרובות מערכות על-אנושיות שמשפרות את עצמן - וזה לפני שנדע איך לשלוט בהן. האזהרה שלו היא שחלון ההזדמנויות לעצור, להסדיר ולתאם, הולך ומצטמצם. @TechIsrael ☄️