การปรับไฮเปอร์พารามิเตอร์ (Hyperparmeter Tuning) นั้นมักใช้เวลานาน รวมถึงใช้ทรัพยากรในการคำนวณมาก และในกรณีที่เลวร้ายที่สุด คือเมื่อปรับเสร็จแล้วอาจจะไม่ได้ผลลัพธ์ที่ดีขึ้นเลย การวิเคราะห์ความอ่อนไหว (Sensitivity Analysis) จะมาช่วยให้เราสามารถประหยัดเวลาในการเลือกปรับไฮเปอร์พารามิเตอร์ที่เหมาะสม และเพิ่มประสิทธิภาพของโมเดลให้ได้ผลลัพธ์ที่ดียิ่งขึ้น
วิธีการวิเคราะห์ความอ่อนไหวที่เป็นที่รู้จักกันดีมีอยู่ 2 วิธีคือ
1. การวิเคราะห์การเปลี่ยนแปลงทีละครั้ง (One-at-a-time)
วิธีนี้คือ การเปลี่ยนค่าของไฮเปอร์พารามิเตอร์ 1 ตัวที่เรากำหนดไปเรื่อย ๆ โดยที่ไฮเปอร์พารามิเตอร์ตัวอื่นจะไม่เปลี่ยนแปลง จุดประสงค์คือเพื่อทดสอบว่า “ไฮเปอร์พารามิเตอร์ที่เลือกเปลี่ยนแปลงค่า จะส่งผลให้ประสิทธิภาพของโมเดลเปลี่ยนแปลงไปหรือไม่” หากมีการเปลี่ยนแปลงอย่างมีนัยสำคัญจะหมายความว่า ไฮเปอร์พารามิเตอร์ตัวนั้นเหมาะกับการนำไปใช้ปรับไฮเปอร์พารามิเตอร์
2. การสุ่มตัวอย่างแบบละตินไฮเปอร์คิวบ์ (Latin Hypercube Sampling)
วิธีนี้เป็นการสุ่มตัวอย่างของไฮเปอร์พารามิเตอร์ในจุดที่แตกต่างกันในเมทริกซ์ โดยเราจะต้องกำหนดจุดตัวอย่างที่ต้องถูกสร้างขึ้นมาก่อน แล้วจึงสุ่มจุดตัวอย่างลงในแถวและคอลัมน์ในเมทริกซ์ ซึ่งจุดตัวอย่างที่ถูกสุ่มลงไปในเมทริกซ์จะไม่ซ้ำตำแหน่งเดิม เหมือนกับการหมากรุกบนกระดาน
ข้อแตกต่างของของทั้ง 2 วิธีคือ การสุ่มตัวอย่างแบบละตินไฮเปอร์คิวบ์ทำให้สามารถพิจารณาไฮเปอร์พารามิเตอร์ทั้งหมดพร้อมกันได้ แต่การเปลี่ยนแปลงทีละครั้งจะสนใจที่ไฮเปอร์พารมิเตอร์ตัวเดียวที่เปลี่ยนค่าไปเรื่อย ๆ เท่านั้น
เมื่อได้ชุดข้อมูลจากทั้ง 2 วิธีแล้ว การวิเคราะห์ความแปรปรวน (Analysis of Variance) ก็จะถูกนำมาวิเคราะห์ความแตกต่างของค่าเฉลี่ยตั้งแต่ 3 กลุ่มขึ้นไปว่ามีนัยสำคัญต่อประสิทธิภาพของแบบจำลองหรือไม่ หากระดับนัยสำคัญ (p-value) ของไฮเปอร์พารามิเตอร์น้อยกว่า 0.05 ก็มีความเป็นไปได้ว่า ไฮเปอร์พารามิเตอร์ดังกล่าวจะมีผลกระทบต่อประสิทธิภาพของแบบจำลอง
อ่านตัวอย่างการวิเคราะห์ความอ่อนไหวและบทความเพิ่มเติมได้ที่
#BigData #ดาต้า #Data #ข้อมูล #digital #ดิจิทัล #Tech #Technology #เทคโนโลยี #Sensitivity Analysis #Hyperparameter Tuning
- 2
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2024 Blockdit
