Page 102 - ครบรอบ 18 ปี สำนักงาน คปภ.

100

่
่
จากการศึกษาพบว่า แนวทางก�ากับดูแล และบริหารจัดการความเสี่ยง หัวข้อที 3 ผู้มีส่วนเกียวข้องกับ AI (AI Actors/Stakeholder)
ที่เกี่ยวข้องกับ AI จะครอบคลุมในเรื่องของ การก�ากับดูแล (Governance) ในเอกสารที่ท�าการศึกษา พบการอธิบายบทบาทของผู้ที่มีส่วน
การบริหารจัดการความเสี่ยง (Risk Management) ผู้มีส่วนเกี่ยวข้องกับ เกี่ยวข้องกับ AI โดยเริ่มตั้งแต่กระบวนการพัฒนา AI จนไปถึงผู้ใช้งาน
AI (AI Actors/Stakeholder) หลักการทางจริยธรรมปัญญาประดิษฐ์ ระบบ ซ้ึ่งอยู่ในเอกสาร Model AI Governance Framework - Infocom
(AI Ethic Principle) และบทลงโทษ ซ้ึ่งส่วนใหญ่จะก�าหนดแนวทาง Media Development Authority (IMDA) : ประเทศสิงคโปร์ กล่าวถึง
สอดคล้องกัน โดยมีรายละเอียดในแต่ละหัวข้อดังนี้ บทบาทหน้าที่ผู้ที่เกี่ยวข้องกับระบบ AI ครอบคลุมไปถึงผู้ให้บริการระบบ AI
(AI Service Providers) ผู้ใช้งานระบบ AI (AI User) ผู้พัฒนาระบบ AI
่
หัวข้อที 1 การก�ากับดูแลและการบริหารจัดการ AI (AI Developer) ผู้ผลิตเทคโนโลยี (Technology Producers) และยัง
(Governance and Management) รวมถึงนักลงทุน (Investors) เจ้าของข้อมูลส่วนบุคคล (Data Subjects)
มีความส�าคัญในการรับมือกับความท้าทาย และความเสี่ยงที่เกี่ยวข้อง องค์กรก�าหนดมาตรฐาน (Standard-setting Organizations) ซ้ึ่งมี
กับเทคโนโลยีนี้ โดยมุมมองต่อการก�ากับดูแล AI จะแตกต่างกันไปในแต่ละ บทบาทส�าคัญที่จะต้องระมัดระวังในการน�าระบบปัญญาประดิษฐ์มาใช้งาน
ประเทศ ในกลุ่มสหภาพยุโรป (EU) มีการตรากฎหมายชัดแจ้งขึ้นมาเป็น ผู้ที่มีบทบาทเกี่ยวข้องควรท�าความเข้าใจบทบาท และความรับผิดชอบของ
ลายลักษณ์อักษร เพื่อก�ากับดูแล AI ซ้ึ่งรวมถึงการก�ากับดูแลข้อมูล แต่ละกลุ่มผู้มีส่วนเกี่ยวข้อง และมาตรฐานสากล ISO/IEC 42001 : 2023
ส่วนบุคคล GDPR ส�าหรับประเทศอื่น ๆ ยังไม่มีการตรากฎหมายขึ้นมาเป็น AI Management System ก็ได้มีการกล่าวถึงการบริหารจัดการ
ลายลักษณ์อักษร แต่เลือกที่จะด�าเนินการก�ากับดูแลแบบ Soft Law ความสัมพันธ์กับบุคคล หรือองค์กรภายนอกที่เกี่ยวข้องกับการใช้ หรือ
และยังมีมาตรฐานสากล ISO/IEC 42001 : 2023 AI Management พัฒนาระบบ AI
System เป็นมาตรฐานการด�าเนินงานในองค์กรเพื่อก�ากับดูแลในการใช้งาน
่
และควบคุมการใช้ปัญญาประดิษฐ์ (AI) โดยมีหัวข้อที่ครอบคลุม การก�ากับ หัวข้อที 4 หลักการทางจริยธรรมปั ญญาประดิษฐ์ (AI Ethic Principle)
ดูแลและความรับผิดชอบ (Governance & Accountability) ความแข็งแกร่ง และการน�า AI ไปประยุกต์ใช้
ความปลอดภัย และความน่าเชื่อถือของ AI (Robustness, Safety & เป็นหลักการส�าคัญที่ก�าหนดวิธีการพัฒนา และใช้งาน AI อย่างมี
Security) ความโปร่งใสและความสามารถในการอธิบาย (Transparency & ความรับผิดชอบและเป็นประโยชน์ต่อสังคม หลักการเหล่านี้มีความส�าคัญ
Explainability) ความเป็นธรรม จริยธรรม และการเยียวยา (Fairness, ในการส่งเสริมการใช้งาน AI อย่างยุติธรรมและปลอดภัย ส่งผลท�าให้
Ethics & Redress) ความซ้ับซ้้อนและความไม่โปร่งใส (Model Risk & AI เป็นเครื่องมือที่มีประโยชน์และสามารถไว้วางใจได้ โดยประเทศไทย
Explainability) รวมไปถึงการก�ากับดูแลของมนุษย์ (Human มีหลักการแนวปฏิบัติในการใช้ปัญญาประดิษฐ์ที่ไปทิศทางเดียวกัน
Oversight) การจัดการและการใช้ข้อมูลที่จ�าเป็นส�าหรับการฝึกฝน ที่ครอบคลุมหัวข้อความสามารถในการแข่งขันอย่างยั่งยืน ความสอดคล้อง
และการท�างานของระบบ AI การบริหารการด�าเนินงานในการประยุกต์ใช้ AI กับกฎหมายจริยธรรมความเป็นส่วนตัวและมาตรฐานสากล ความโปร่งใส
(Operations Management) ครอบคลุมถึงกระบวนการพัฒนา อธิบายได้ ความมั่นคงปลอดภัยรวมไปถึงความเป็นส่วนตัว ความเสมอภาค
ตรวจสอบ การรักษาความมั่นคงปลอดภัย และการน�า AI ไปใช้งาน ความยุติธรรมที่จะประยุกต์ใช้ AI ไปในทางที่เหมาะสม และรวมไปถึง
การสร้างความน่าเชื่อถือในตัวระบบ AI หลักการทางจริยธรรมเหล่านี้
่
่
หัวข้อที 2 การบริหารจัดการความเสียง (AI Risk Management) ช่วยให้องค์กรและผู้พัฒนาสามารถน�าไปปรับใช้ และพัฒนา AI ได้อย่าง
เป็นกระบวนการที่ส�าคัญในการประเมิน และจัดการกับความเสี่ยงที่ มีความรับผิดชอบและเป็นประโยชน์ต่อสังคม
เกี่ยวข้องกับการใช้งาน AI ในแต่ละประเทศ หรือ แต่ละองค์กรมีวิธีการ
่
จัดการความเสี่ยงที่แตกต่างกัน เพื่อให้เกิดการบริหารจัดการความเสี่ยง หัวข้อที 5 บทลงโทษ
AI ที่เหมาะสม ซ้ึ่งประเทศในกลุ่มสหภาพยุโรปใช้การแบ่งระดับความเสี่ยง การลงโทษจะมีก�าหนดชัดเจนเป็นลายลักษณ์อักษรอยู่ในเอกสาร AI
ของ AI เพื่อก�าหนดวิธีการก�ากับดูแลและบริหารจัดการ ตัวอย่างเช่น AI Act ซ้ึ่งก�าหนดบทลงโทษที่เข้มงวดส�าหรับการละเมิดข้อก�าหนดเกี่ยวกับ
ที่มีความเสี่ยงที่ยอมรับไม่ได้ AI ความเสี่ยงสูง และความเสี่ยงน้อย และ การพัฒนา การน�าออกสู่ตลาด และการใช้ระบบ AI โดยมีการก�าหนดค่าปรับ
ความเสี่ยงจ�ากัด ประเทศสหรัฐมุ่งเน้นไปที่กระบวนการบริหารจัดการ ตามระดับความร้ายแรงของการละเมิด ดังนี้
ความเสี่ยงแบบครบวงจรตั้งแต่การก�ากับดูแล การวางแผน การวัดผล
ไปจนถึงการจัดการทรัพยากร และในมาตรฐานสากล ISO/IEC  กรณีร้ายแรงที่สุด ฝ่าฝืนข้อห้ามเกี่ยวกับ AI (Prohibited AI
42001 : 2023 AI Management System มาตรฐานนี้ให้แนวทาง Practices) ค่าปรับสูงสุด 35 ล้านยูโร หรือ 7% ของรายได้ทั่วโลกของ
การบริหารจัดการการใช้งาน AI ในองค์กร พร้อมมาตรการควบคุม บริษัท
ในแต่ละด้าน โดยมีหัวข้อที่ส�าคัญดังนี้ การระบุความเสี่ยง และการประเมิน  กรณีฝ่าฝืนข้อก�าหนดเกี่ยวกับ AI ความเสี่ยงสูง (High-Risk
ระดับความเสี่ยงของ AI (AI Identification & Risk Assessment) AI Systems) ค่าปรับสูงสุด 15 ล้านยูโร หรือ 3% ของรายได้ทั่วโลกของ
การประเมินระดับความเสี่ยงของ AI (Risk Materiality Assessment) บริษัท
ความเสี่ยงจาก AI ของบุคคลที่สาม (Third-Party AI) หรือผู้ให้บริการ  กรณีฝ่าฝืนข้อก�าหนดด้านความโปร่งใส (Transparency
ภายนอกทางด้าน AI Requirements) และการแจ้งข้อมูลให้ผู้ใช้ ค่าปรับสูงสุด 7.5 ล้านยูโร
หรือ 1.5% ของรายได้ทั่วโลกของบริษัท

ครบรอบ 18 ปี
สำ�นักง�นคณะกรรมก�รกำ�กับและส่งเสริม ก�รประกอบธุรกิจประกันภัย (คปภ.)