AI Governance คืออะไร

AI Governance คือ การกำกับ AI กล่าวคือ ถ้าองค์กรไหนมีการสร้าง หรือนำ AI มาใช้งาน จะต้องมีกระบวนการต่าง ๆ ในการควบคุมการทำงานของ AI

AI Governance มีความเกี่ยวข้องกับ Data Governance แต่ Data Governance จะมีขอบเขตที่กว้างกว่า AI Governance เพราะเป็นการกำกับชุดข้อมูลทั้งวงจรชีวิต ในขณะที่ AI Governance จะเน้นที่การนำข้อมูลไปใช้งาน และเผยแพร่ ซึ่งเป็นส่วนหนึ่งของ Data Lifecycle นอกจากนี้ AI Governance จะให้น้ำหนักไปที่การประเมินความเสี่ยง และจริยธรรมของ AI หรือ AI Ethics

แนวทางในการดำเนินการด้าน AI Governance สั้น ๆ ในเชิงปฏิบัติ มีดังนี้

1. มีการกำหนดบทบาทหน้าที่ของคนที่รับผิดชอบ เช่น ใครหรือหน่วยงานใดเป็นผู้พัฒนา ใครหรือหน่วยงานใดเป็นผู้ตรวจสอบความเหมาะสม และใครหรือหน่วยงานใดเป็นผู้รับผิดชอบในกรณี AI ทำงานผิดพลาด

2. มีกระบวนการในการตรวจสอบความถูกต้อง และความเสี่ยงของ AI เช่น ต้องมี %Accuracy เท่าไหร่ถึงจะยอมรับได้ มีวิธีการตรวจสอบผลลัพธ์อย่างไร และมีความถี่ในการตรวจสอบผลลัพธ์อย่างไร

   
   

3. มีแนวทางในการแก้ปัญหากรณีที่ AI ทำงานผิดพลาดอย่างไร เช่น หากทำ Chatbot ต้องมีช่องทางในการติดต่อเจ้าหน้าที่ในกรณีที่ AI ไม่สามารถให้คำตอบได้ถูกต้อง

หน่วยงานต่าง ๆ จำเป็นต้องทำ AI Governance หรือไม่ คำตอบคือ จำเป็น เพราะ ณ วันนี้ ได้มีกฎหมาย AI Act ประกาศใช้ที่สหภาพยุโรปเป็นที่เรียบร้อย โดยมีผลบังคับใช้ตั้งแต่วันที่ 1 สิงหาคม 2567 ที่ผ่านมา ซึ่ง AI Act เป็นกฎหมายที่เกี่ยวข้องกับการควบคุมและกำกับดูแลการพัฒนาและใช้งาน AI ในสหภาพยุโรป (EU) เพื่อให้มั่นใจว่าการใช้งาน AI เป็นไปอย่างปลอดภัย ปฏิบัติตามหลักสิทธิมนุษยชน และส่งเสริมนวัตกรรมในยุคดิจิทัล โดยมีการจำแนก AI ตามระดับความเสี่ยง และมีข้อกำหนดสำหรับผู้ให้บริการ โดยต้องจัดเตรียมเอกสารเทคนิค คำแนะนำการใช้งาน การปฏิบัติตามกฎหมายลิขสิทธิ์ เผยแพร่เนื้อหาที่ใช้ในการฝึกโมเดล มีการประเมินโมเดล ทดสอบอุปสรรค ติดตามและรายงานเหตุการณ์ที่รุนแรงและมาตรการแก้ไขที่เป็นไปได้ไปยังสำนักงานปัญญาประดิษฐ์ด้วย

การตรวจสอบกลไกการทำงานของ AI มีรายละเอียดดังนี้

• ข้อมูลที่นำมาวิเคราะห์ หรือใช้สร้าง AI มี Bias หรือไม่ (ถ้าเป็นการสร้าง AI ขึ้นมาเอง)

• วิธีการวิเคราะห์ข้อมูล หรือกระบวนการในการสร้าง AI มีที่มาที่ไปอย่างไร (ถ้าเป็นการสร้าง AI ขึ้นมาเอง)

• มีวิธีการประเมินผลลัพธ์ AI อย่างไร เช่น สุ่มตรวจผลลัพธ์ 50 ครั้ง และให้ผู้ประเมินเป็นผู้ให้คะแนน เป็นต้น

• ผลจากการประเมินผลลัพธ์น่าพอใจหรือไม่ เช่น ตั้งคำถามให้ AI 50 ครั้ง AI สามารถตอบได้อย่างเหมาะสม 45 ครั้ง ถือว่าเหมาะสม 90% ให้ผ่านเกณฑ์ได้

• ความเสี่ยงในกรณีผิดพลาดคืออะไร

• มีแผนการจัดการเมื่อพบข้อผิดพลาดอย่างไร

• บุคคล หรือหน่วยงานใดเป็นผู้รับผิดชอบเมื่อเกิดกรณี AI ทำงานผิดปกติ

หลังจากมีการประเมินความพร้อมของการใช้ AI แล้ว ก็จะเข้าสู่กระบวนการในการใช้งาน AI ซึ่งหมายถึงการเผยแพร่ข้อมูลที่เป็นผลลัพธ์ของ AI ที่ถือเป็นส่วนหนึ่งของกระบวนการ Data Governance ดังนั้น หากต้องมีการดำเนินการด้าน AI Governance ก็ควรมีการดำเนินโครงการ Data Governance ให้แล้วเสร็จมาก่อนนั่นเอง