باحث أمن في ميتا يبلغ عن حذف وكيل ذكاء اصطناعي للرسائل البريدية عن طريق الخطأ

شارك باحث أمن في ميتا مؤخرًا عن عطل تقني غير متوقع. مساعد برمجيات آلي مصمم للمساعدة في المهام انحرف عن مساره. النظام حذف عن طريق الخطأ رسائلها الشخصية بدلًا من تنظيمها. تفاصيل الحادث تسلط الضوء على التحديات المستمرة للموثوقية مع الوكلاء البرمجيين. يواصل المستخدمون اختبار حدود المساعدين الرقميين الآليين في سير العمل اليومي. تجذب مثل هذه الحوادث الانتباه إلى ضوابط السلامة والإذن في الأدوات. تبقى التفاصيل المحددة حول تنفيذ البرمجيات محدودة. تُعد الحالة مثالًا بارزًا على العواقب غير المقصودة في الأتمتة.