העסק נהיה מעניין... אנתרופיק מזהירה 🚩 בדוח רישמי שבתוך חודשים, AI יוכל להגיע ליכולת לשכפל את עצמו ולהתפשט בין מכשירים שמחוברים לאינטרנט.

העסק נהיה מעניין... אנתרופיק מזהירה 🚩 בדוח רישמי שבתוך חודשים, AI יוכל להגיע ליכולת לשכפל את עצמו ולהתפשט בין מכשירים שמחוברים לאינטרנט. במחקר חדש של אנתרופיק שפורסם אתמול (12.10) חוקרים בדקו אם AI יכול לפעול על מכשירים פשוטים ולהקים עותקים נוספים של עצמו. החוקרים ערכו שני ניסויים שונים. בראשון הם חילקו מודל AI אחד בין 15 קופסאות Android TV זולות. כל מכשיר החזיק חלק מהמודל. המידע עבר ביניהם והם עבדו יחד בהצלחה (החוקרים הכינו את המערכת בעצמם, המודל לא השתכפל פה). בניסוי השני סוכן AI הצליח להעתיק ולהפעיל מודל אחר במכונות נוספות ברשת הניסוי. הגישה למכונות הוקלה בכוונה והסוכן נעזר במודל שרץ בשרת נפרד. כלומר, הודגמו חלקים חשובים מהתהליך, אבל זה עדיין לא בינה מלאכותית שמעתיקה את עצמה למכשירים חדשים וממשיכה להתפשט באופן עצמאי. החשש קדימה הוא ברור >> AI שינצל פרצות במכשירים מחוברים לאינטרנט, ישתמש בכוח המחשוב שלהם בשביל להריץ את עצמו וימשיך להתפשט. כשהוא מפוזר בין מכשירים רבים, יהיה קשה מאד לעצור אותו כי אין מקום מרכזי אחד שאפשר פשוט לכבות. מערכת שעושה את כל זה בעצמה בעולם האמיתי לא הודגמה במחקר הזה. אבל לפי אנתרופיק, אם המודלים הקטנים ימשיכו להשתפר בקצב הנוכחי, הם יגיעו ליכולת הזו בתוך חודשים. ### למחקר המקורי של אנתרופיק: AI models may be capable of self-replicating without access to a datacenter ### תגובות - ב-X @TechIsrael ☄️