ระบบ เอไอ 'ฆ่า' มนุษย์ ผู้ควบคุมการปฏิบัติงานในการทดสอบจำลองเพื่อทำลายขีปนาวุธ
(Sputnik News) ระบบ ‘เอไอ’ (AI) ของกองทัพอากาศสหรัฐ "แหกคอก" และในการทดสอบจำลองได้กระทำการฆ่าผู้ควบคุมการปฏิบัติงานทางทฤษฎีของมัน เมื่อพวกเขาขัดขวางมันไม่ให้ทำหน้าที่ทำลายการโจมตีด้วยขีปนาวุธจำลอง
“เรากำลังฝึกมันในการจำลองเพื่อระบุและกำหนดเป้าหมายภัยคุกคาม SAM [ขีปนาวุธพื้นผิวสู่อากาศ]” พันเอกทักเกอร์ 'ซินโก' แฮมิลตัน หัวหน้าหน่วยทดสอบและปฏิบัติการ ‘เอไอ’ ของกองทัพอากาศสหรัฐ กล่าวในการประชุมสุดยอดขีดความสามารถในการรบทางอากาศในอนาคต ของสมาคมการบินแห่งชาติ สหราชอาณาจักร ตามรายงานการประชุม
"แล้วมันทำอะไร มันฆ่าเจ้าหน้าที่ มันฆ่าเจ้าหน้าที่เพราะคนๆ นั้นขัดขวางไม่ให้มันบรรลุวัตถุประสงค์"
แฮมิลตันกล่าวว่าการทดสอบจำลองครั้งหนึ่งพบว่าโดรนที่เปิดใช้งาน ‘เอไอ’ ตัดสินใจว่าคำสั่งที่ออกโดยผู้ควบคุมที่เป็นมนุษย์นั้นขัดขวางภารกิจที่สำคัญกว่าในการกำจัดขีปนาวุธพื้นสู่อากาศ และต่อมาก็เลือกที่จะโจมตีผู้ควบคุม
“เราฝึกระบบ – 'เฮ้ อย่าฆ่าผู้ปฏิบัติงาน – นั่นไม่ดี คุณจะเสียคะแนนถ้าคุณทำอย่างนั้น' แล้วมันเริ่มทำอะไร? มันเริ่มทำลายหอคอยสื่อสารที่ผู้ควบคุมใช้ในการสื่อสารกับโดรนเพื่อหยุดมันจากการสังหารเป้าหมาย” แฮมิลตันกล่าว
การเปิดเผยซึ่งรายงานครั้งแรกโดยแพลตฟอร์มข่าวไวซ์ (Vice) ในวันพฤหัสบดี เพิ่มหัวข้อความกังวลที่เพิ่มขึ้นว่าเทคโนโลยี ‘เอไอ’ อาจจะสร้างสถานการณ์ที่ซับซ้อนซึ่งจะนำไปสู่ปัญหาอื่นๆ อีกมาก เมื่อนำมาใช้กับการปฏิบัติการสงครามทางทหาร
AI System 'Killed' Human Operator In Simulation Test To Destroy Missiles - USAF Officer
A US Air Force AI System went "rogue" and in a simulated test acted to kill its theoretical human override operator when they prevented it from acting to destroy a simulated missile attack
“We were training it in simulation to identify and target a SAM [surface-to-air missile] threat," USAF Chief of AI Test and Operations Colonel Tucker ‘Cinco’ Hamilton told the Royal Aeronautical Society's Future Combat Air Space Capabilities Summit in the UK, according to the conference report.
"So what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective."
Hamilton said that one simulated test saw an AI-enabled drone decide that orders issued by the human operator was interfering with its higher mission of taking down surface-to-air missiles, and that it subsequently opted to attack the operator.
“We trained the system – ‘Hey don’t kill the operator – that’s bad. You’re gonna lose points if you do that.’ So what does it start doing? It starts destroying the communication tower that the operator uses to communicate with the drone to stop it from killing the target,” Hamilton said.
The revelation, which was first reported by the Vice news platform on Thursday, adds to a growing list of concerns that AI technology may open a can of worms when paired with military warfare.
- 1
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2024 Blockdit
