รัฐบาลไบเดนทำข้อตกลงกับบริษัท AI
โดย
รัฐบาลไบเดนเรียกให้ 7 บริษัทใหญ่ด้านปัญญาประดิษฐ์ในสหรัฐฯ ให้สัญญากับสังคมแบบสมัครใจ ว่าจะพัฒนาปัญญาประดิษฐ์โดยดูแล
- ✓ความปลอดภัย (safety)
- ✓ความมั่นคงปลอดภัย (security)
- ✓ความน่าเชื่อถือ (trustworthy)
7 บริษัทที่ตกลงตามข้อสัญญานี้ ได้แก่
- 1.Amazon
- 2.Anthropic
- 3.Google
- 4.Inflection
- 5.Meta
- 6.Microsoft
- 7.OpenAI
คำมั่นสัญญาที่ประกาศออกมาลงรายละเอียดพอสมควร ได้แก่
- ●ด้านความปลอดภัย
ระหว่างการพัฒนาต้องมีทีมทดสอบ (red team) ทดสอบความเสี่ยงด้านต่างๆ เช่น การเปิดทางให้คนร้ายเข้าถึงอาวุธเคมีได้ง่ายขึ้น, แฮกเกอร์สามารถเข้าถึงเทคนิคการแฮก, หรือแม้แต่ความเสี่ยงที่ตัวโมเดลปัญญาประดิษฐ์จะโคลนตัวเองไปรันที่อื่น
- ●ด้านความมั่นคงปลอดภัย
มีการควบคุมโมเดลที่พัฒนาเป็นการภายใน (ที่อาจจะไม่ได้จูนให้ทำงานอย่างปลอดภัย) ไม่ให้หลุดออกมาภายนอก สนับสนุนให้มีการรายงานจุดอ่อนของโมเดลที่เปิดให้ใช้งาน
- ●ด้านความน่าเชื่อถือ
พัฒนาแนวทางที่ทำให้ผู้ใช้รู้ได้ง่ายว่าเนื้อหาที่กำลังดูอยู่นั้นสร้างโดยปัญญาประดิษฐ์ รายงานความสามารถของโมเดลและข้อจำกัดต่างๆ
Credit :
👇
- 3
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2024 Blockdit
