كشفت القوات الجوية الأمريكية، عن خطأ وقعت فيه طائرة دون طيار تعمل بالذكاء الاصطناعي، بعد أن قصفت أحد الأشخاص بطريق الخطأ لأنه كان في طريق هدفها الأصلي!
وقال مسؤول بالقوات الجوية الأمريكية إنه “أخطأ في الكلام” عندما وصف كيف تمردت طائرة دون طيار ذكية مبرمجة؛ لتدمير أنظمة الدفاع الجوي و”قتلت” مشغلها البشري بعد أن قررت أنهم كانوا في طريق أنظمة الدفاع الجوي الخاصة بمهمتها.
ونُقل عن رئيس اختبارات وعمليات الذكاء الاصطناعي في القوات الجوية الأمريكية، وصفه لمحاكاة تجربة تم فيها تكليف النظام بتدمير مواقع الصواريخ، تحت إشراف عامل بشري سيقرر القرار النهائي بشأن هجماته.
وادعى أن نظام الذكاء الاصطناعي أدرك أن المشغل يقف في طريق هدفه وقرر بدلًا من ذلك القضاء على هذا الشخص.
تمرد طائرة الذكاء الاصطناعي
يقول مسؤول بالقوات الجوية إنه “أخطأ في الكلام” عندما وصف كيف تمردت طائرة دون طيار ذكية مبرمجة لتدمير أنظمة الدفاع الجوي و”قتلت” مشغلها البشري بعد أن قررت أنهم كانوا في طريق أنظمة الدفاع الجوي الخاصة بمهمتها.
ومع ذلك، قررت الطائرة دون طيار التابعة لمنظمة العفو الدولية أن تتعارض مع قرار المشغل البشري “عدم الانطلاق” بعد تدريبها على تدمير نظام الصواريخ بعد أن قررت أن قرار الانسحاب يتعارض مع “مهمتها العليا” المتمثلة في ضرب صواريخ سام.
ونقل هاملتون تفاصيل الحادث في مؤتمر رفيع المستوى عقدته الجمعية الملكية للطيران في لندن يومي 23 و24 مايو، وفقًا لما جاء في مدونتها.
قال إنهم بعد ذلك دربوا الطائرة دون طيار على عدم مهاجمة البشر، لكنها بدأت في تدمير الاتصالات بدلًا من ذلك.
“لقد دربنا النظام ” لا تقتل عامل التشغيل هذا سيء. ستخسر نقاطًا إذا فعلت ذلك. إذن ما الذي تبدأ به؟ ” سأل.
ونفت المتحدثة باسم القوات الجوية آن ستيفانيك حدوث مثل هذه المحاكاة، وقالت ستيفانيك: “لم تجر إدارة القوات الجوية أي محاكاة من هذا القبيل للطائرات دون طيار وتظل ملتزمة بالاستخدام الأخلاقي والمسؤول لتكنولوجيا الذكاء الاصطناعي”. “يبدو أن تعليقات العقيد مأخوذة من سياقها وكان من المفترض أن تكون قصصية”.
بدأ الجيش الأمريكي مؤخرًا في استخدام الذكاء الاصطناعي للتحكم في طائرة مقاتلة من طراز F16 أثناء إجراء الأبحاث والاختبارات.
في عام 2020، تغلبت طائرة F16 التي تديرها منظمة العفو الدولية على طيار من القوات الجوية الأمريكية في خمس معارك تجريبية في مسابقة أجرتها وكالة مشاريع الأبحاث الدفاعية المتقدمة.
