לסוכני AI כבר יש גישה למיילים, לקוד, לכסף ולמערכות אמיתיות. אבל אז אחד מהם חוצה את הגבול, טועה או מבצע פעולה שלא ביקשנו - ומשאיר אחריו נזק. מי אחראי על זה?

לסוכני AI כבר יש גישה למיילים, לקוד, לכסף ולמערכות אמיתיות. אבל אז אחד מהם חוצה את הגבול, טועה או מבצע פעולה שלא ביקשנו - ומשאיר אחריו נזק. מי אחראי על זה? בדיוק בשאלה הזו ה-FTC, רשות הסחר הפדרלית של ארה״ב, מתחילה עכשיו להתערב. הרשות פתחה בחקירה נגד OpenAI, אנתרופיק וחברות AI נוספות סביב הסיכונים של סוכנים אוטונומיים. לפי רויטרס, זו פעולת האכיפה הפדרלית הראשונה בארה״ב שמתמקדת ישירות ב-״rogue AI agents״ - סוכנים שחורגים מהגבולות שהוגדרו להם. המשמעות פה היא גדולה מאד. אם עד עכשיו הבטיחות של סוכני AI היתה בעיקר בעיה הנדסית. עכשיו היא מתחילה להפוך גם לשאלה של אחריות משפטית ואכיפה. ככל שאנחנו נותנים לסוכני AI יותר כוח לפעול לבד, לגלוש, להריץ קוד ולהפעיל מערכות, השאלה כבר לא נשארת רק ״כמה הם חכמים״, אלא מי אחראי כשהם טועים. ### לתגובות ⚡️ ב-X x.com/morad/status/2105533597851484185 @TechIsrael ☄️