บริษัทใช้ AI แล้วให้ข้อมูลผิด ใครรับผิด? ประกันธุรกิจแบบไหนช่วยได้บ้าง

หากบริษัทนำ AI มาใช้แล้วเกิดความผิดพลาด บริษัทไม่สามารถปฏิเสธความรับผิดง่าย ๆ ด้วยคำว่า “AI เป็นคนตอบ” เพราะลูกค้าทำธุรกรรมกับบริษัท ไม่ได้ทำสัญญากับโปรแกรม

ความเสียหายอาจเกิดตั้งแต่แชตบอตแจ้งราคาและเงื่อนไขผิด ระบบวิเคราะห์สินเชื่อเลือกปฏิบัติ AI เปิดเผยข้อมูลส่วนบุคคล ไปจนถึงระบบอัตโนมัติโอนเงินหรือสั่งซื้อสินค้าโดยไม่ได้รับอนุมัติอย่างถูกต้อง

ประกันที่อาจเกี่ยวข้อง ได้แก่ Professional Indemnity, Technology Errors & Omissions, Cyber Insurance, Media Liability และ Directors & Officers Liability แต่ไม่มีกรมธรรม์ใดจ่ายทุกความเสียหายจาก AI โดยอัตโนมัติ ต้องตรวจคำจำกัดความของบริการ เทคโนโลยี ข้อยกเว้น และขอบเขตกิจกรรมที่แจ้งบริษัทประกันไว้

ทำไมเรื่องความรับผิดจาก AI กำลังเป็นกระแส?

ประเทศไทยอยู่ระหว่างผลักดันร่างกฎหมายด้านปัญญาประดิษฐ์ โดยแนวทางสำคัญคือการกำกับดูแลตามระดับความเสี่ยง ไม่ได้ควบคุม AI ทุกระบบเท่ากัน

AI ที่ใช้ทั่วไปอาจอยู่ภายใต้แนวปฏิบัติพื้นฐาน ส่วนระบบที่มีความเสี่ยงสูงและส่งผลต่อสิทธิ ความปลอดภัย หรือการตัดสินใจสำคัญของประชาชน อาจต้องมีมาตรการควบคุมมากขึ้น เช่น ระบบบริหารความเสี่ยง การประเมินผลกระทบ การบันทึกข้อมูล และการกำกับดูแลโดยมนุษย์

ร่างกฎหมายยังให้ความสำคัญกับความโปร่งใส การอธิบายผลลัพธ์ การป้องกันการเลือกปฏิบัติ และการรับมือเนื้อหา Deepfake

อย่างไรก็ตาม ต้องย้ำว่าเรื่องดังกล่าวยังเป็น “ร่างกฎหมาย” และแนวทางกำกับดูแล ไม่ควรเขียนหรือสื่อสารว่าเป็นกฎหมายที่มีผลบังคับใช้ครบถ้วนแล้ว รายละเอียดอาจเปลี่ยนแปลงได้จนกว่าจะผ่านกระบวนการตามกฎหมายอย่างเป็นทางการ

สิ่งที่ผู้ประกอบการควรทำตอนนี้ไม่ใช่รอให้กฎหมายมีผล แต่ต้องรู้ก่อนว่าองค์กรกำลังใช้ AI ทำอะไร และหากระบบตัดสินใจผิด ใครเป็นผู้รับผิดชอบ

AI ผิด แต่ทำไมบริษัทอาจต้องรับผิด?

ลองนึกถึงเหตุการณ์เหล่านี้

แชตบอตแจ้งลูกค้าว่าสินค้าคืนเงินได้ แต่เงื่อนไขจริงไม่อนุญาต
AI คำนวณเบี้ย ราคา หรือดอกเบี้ยผิด
ระบบคัดเลือกพนักงานตัดผู้สมัครบางกลุ่มอย่างไม่เป็นธรรม
AI สรุปข้อมูลทางการแพทย์ กฎหมาย หรือการเงินผิด
ระบบสร้างโฆษณาที่ละเมิดลิขสิทธิ์หรือทำให้บุคคลอื่นเสียชื่อเสียง
AI ส่งข้อมูลลับของลูกค้าคนหนึ่งให้อีกคน
AI Agent สั่งซื้อสินค้า ส่งอีเมล หรือทำธุรกรรมเกินอำนาจที่ได้รับ

ในมุมของลูกค้า สิ่งเหล่านี้เกิดขึ้นผ่านระบบของบริษัท บริษัทจึงอาจต้องรับคำร้องเรียน แก้ไขความเสียหาย หรือถูกเรียกร้องให้รับผิดตามกฎหมายและสัญญา

การระบุในเว็บไซต์ว่า “ข้อมูลนี้สร้างโดย AI” ช่วยสร้างความโปร่งใส แต่ไม่ได้ลบความรับผิดทั้งหมด หากธุรกิจนำผลลัพธ์นั้นไปใช้ตัดสินใจจริงโดยไม่มีระบบตรวจสอบที่เหมาะสม

ใครอยู่ในห่วงโซ่ความรับผิด?

ระบบ AI หนึ่งระบบอาจมีผู้เกี่ยวข้องหลายฝ่าย ได้แก่

ผู้พัฒนาโมเดล AI
ผู้ให้บริการระบบหรือแพลตฟอร์ม
บริษัทที่ติดตั้งและปรับแต่งระบบ
ผู้ขายข้อมูลสำหรับฝึกหรือวิเคราะห์
บริษัทที่นำ AI ไปใช้กับลูกค้า
พนักงานที่อนุมัติหรือใช้ผลลัพธ์
ผู้บริหารที่กำหนดนโยบายและระดับอำนาจของ AI

เมื่อเกิดความเสียหาย ต้องตรวจว่าเกิดจากโมเดลพื้นฐาน ข้อมูลไม่ถูกต้อง การตั้งค่าผิด การเชื่อมต่อระบบ การขาดการตรวจสอบ หรือพนักงานนำผลลัพธ์ไปใช้เกินวัตถุประสงค์

สัญญาระหว่างผู้พัฒนา ผู้ขาย และผู้ใช้งานจึงสำคัญมาก เพราะต้องกำหนดขอบเขตบริการ ความแม่นยำที่คาดหวัง การรักษาความลับ การชดใช้ค่าเสียหาย และขั้นตอนรับมือเมื่อระบบผิดพลาด

Professional Indemnity ช่วยกรณีใด?

Professional Indemnity หรือประกันความรับผิดทางวิชาชีพ อาจช่วยคุ้มครองเมื่อผู้ให้บริการถูกกล่าวหาว่าปฏิบัติงานผิดพลาด ประมาท ละเลย หรือให้คำแนะนำจนลูกค้าเกิดความเสียหายทางการเงิน

ตัวอย่างเช่น บริษัทที่ปรึกษานำ AI มาช่วยวิเคราะห์ข้อมูลแล้วส่งรายงานผิด หรือบริษัทบัญชีใช้ระบบอัตโนมัติคำนวณผิดจนลูกค้าเสียหาย อาจเกี่ยวข้องกับกรมธรรม์ Professional Indemnity

ประกันประเภทนี้อาจช่วยเรื่องค่าต่อสู้คดี ค่าทนาย และค่าสินไหมที่ผู้เอาประกันต้องรับผิดตามกฎหมาย แต่ต้องเป็นบริการวิชาชีพที่ระบุอยู่ในกรมธรรม์

หากใบคำขอระบุว่าบริษัทให้บริการที่ปรึกษาแบบเดิม แต่ภายหลังเปลี่ยนไปพัฒนาและขายระบบ AI โดยไม่ได้แจ้งบริษัทประกัน ความเสี่ยงใหม่นี้อาจอยู่นอกขอบเขตที่รับประกันไว้

Professional Liability หรือ E&O ถูกออกแบบมารองรับข้อเรียกร้องที่กล่าวหาว่าบริการหรือคำแนะนำผิดพลาดจนลูกค้าเสียหายทางการเงิน

Technology E&O เหมาะกับใคร?

Technology Errors & Omissions เหมาะกับบริษัทซอฟต์แวร์ ผู้พัฒนาแพลตฟอร์ม ผู้ติดตั้งระบบ บริษัท IT และผู้ให้บริการเทคโนโลยี

ตัวอย่างความเสียหายที่อาจเกี่ยวข้อง ได้แก่

ซอฟต์แวร์ทำงานไม่ตรงข้อกำหนด
ระบบ AI ให้ผลลัพธ์ผิดอย่างต่อเนื่อง
ระบบส่งมอบล่าช้าจนลูกค้าเสียรายได้
การเชื่อมต่อฐานข้อมูลผิดพลาด
ระบบไม่สามารถทำงานตามระดับบริการที่ตกลงกัน
ผู้ใช้งานกล่าวหาว่าผู้พัฒนาบกพร่องในการออกแบบหรือทดสอบ

กรมธรรม์ Technology Liability บางแบบรวม Professional Indemnity, Cyber, Media Liability และ General Liability เข้าไว้ในโปรแกรมเดียว แต่แต่ละหมวดมีวงเงิน ข้อยกเว้น และความเสียหายส่วนแรกต่างกัน

คำว่า Technology E&O ไม่ได้แปลว่าคุ้มครอง “ความแม่นยำของ AI” ทุกกรณี หากไม่มีข้อกำหนดเรื่อง AI โดยชัดแจ้ง บริษัทต้องตรวจว่าโมเดล การอัปเดตระบบ ความคลาดเคลื่อนของผลลัพธ์ และการเปลี่ยนแปลงประสิทธิภาพอยู่ในขอบเขตหรือไม่

Cyber Insurance ช่วยเมื่อ AI รั่วข้อมูลหรือไม่?

หากเหตุการณ์เกี่ยวข้องกับข้อมูลส่วนบุคคล ข้อมูลลับ หรือการโจมตีระบบ ประกันไซเบอร์อาจเข้ามาเกี่ยวข้อง เช่น

AI เปิดเผยข้อมูลให้บุคคลที่ไม่มีสิทธิ
ผู้โจมตีใช้ Prompt Injection สั่งระบบให้เปิดข้อมูล
บัญชีผู้ดูแลระบบถูกยึดและนำ AI ไปทำธุรกรรม
เกิดเหตุละเมิดข้อมูลส่วนบุคคล
ระบบถูกโจมตีจนให้บริการไม่ได้

Cyber Insurance อาจคุ้มครองค่าใช้จ่ายตรวจสอบเหตุ แจ้งเจ้าของข้อมูล กู้ระบบ จ้างผู้เชี่ยวชาญด้านกฎหมาย และความรับผิดต่อบุคคลภายนอกตามเงื่อนไข

แต่ถ้า AI เพียงให้คำตอบผิดโดยไม่มีเหตุละเมิดความปลอดภัย ประกันไซเบอร์อาจไม่ใช่กรมธรรม์หลัก เหตุการณ์นั้นอาจไปอยู่ใน Technology E&O หรือ Professional Indemnity มากกว่า

ถ้า AI สร้างภาพหรือข้อความละเมิดสิทธิ ต้องใช้ประกันอะไร?

AI อาจสร้างภาพ เพลง ข้อความ หรือโฆษณาที่คล้ายผลงานของผู้อื่น หรือกล่าวถึงบุคคลในทางที่สร้างความเสียหาย

ความเสี่ยงนี้อาจเกี่ยวข้องกับ Media Liability ซึ่งรองรับข้อเรียกร้องบางประเภท เช่น การหมิ่นประมาท การละเมิดความเป็นส่วนตัว การละเมิดลิขสิทธิ์ หรือการใช้เนื้อหาโดยไม่ได้รับอนุญาต

อย่างไรก็ตาม กรมธรรม์อาจไม่คุ้มครองการกระทำโดยเจตนา การรู้ว่ามีการละเมิดแล้วยังเผยแพร่ หรือการรับประกันตามสัญญาที่เกินกว่าความรับผิดตามกฎหมาย

ทีมการตลาดจึงไม่ควรนำผลงานจาก AI ไปใช้ทันที ต้องตรวจแหล่งข้อมูล บุคคล เครื่องหมายการค้า และสิทธิในภาพก่อนเผยแพร่เชิงพาณิชย์

D&O เกี่ยวข้องกับ AI อย่างไร?

Directors & Officers Liability หรือ D&O คุ้มครองกรรมการและผู้บริหารจากข้อเรียกร้องที่เกี่ยวข้องกับการบริหารงานผิดพลาดตามเงื่อนไขกรมธรรม์

ตัวอย่างความเสี่ยงจาก AI ได้แก่ ผู้บริหารอนุมัติระบบความเสี่ยงสูงโดยไม่มีการประเมินผลกระทบ ไม่จัดระบบควบคุม ปล่อยให้ AI ตัดสินใจเรื่องสำคัญโดยไม่มีมนุษย์ตรวจสอบ หรือให้ข้อมูลผู้ลงทุนเกี่ยวกับความสามารถของ AI เกินความจริง

D&O ไม่ได้จ่ายค่าความเสียหายจากระบบทุกกรณี แต่ช่วยรองรับความรับผิดของตัวบุคคลในตำแหน่งบริหารเมื่อมีข้อกล่าวหาเรื่องการตัดสินใจหรือการกำกับดูแลที่บกพร่อง

ประกันทั่วไปจ่ายค่าปรับจากกฎหมาย AI หรือไม่?

ไม่ควรคาดหวังว่าจะจ่ายเสมอไป ค่าปรับทางอาญา ค่าปรับที่ขัดต่อความสงบเรียบร้อย หรือบทลงโทษที่กฎหมายไม่อนุญาตให้โอนความรับผิด มักไม่อยู่ในความคุ้มครอง

กรมธรรม์บางฉบับอาจใช้ข้อความว่า คุ้มครองค่าปรับทางปกครอง “เฉพาะส่วนที่สามารถเอาประกันได้ตามกฎหมาย” จึงต้องพิจารณากฎหมาย เขตอำนาจ และถ้อยคำในกรมธรรม์ประกอบกัน

การซื้อประกันไม่ใช่ทางลัดให้ธุรกิจไม่ต้องสร้าง AI Governance เพราะบริษัทประกันอาจตรวจสอบว่าธุรกิจมีมาตรการป้องกันที่เหมาะสมหรือไม่ก่อนรับประกันและก่อนจ่ายสินไหม

8 เรื่องที่องค์กรควรทำก่อนใช้ AI กับลูกค้า

ทำบัญชีว่าบริษัทใช้ AI ระบบใดและใช้ทำอะไร
แยกระบบทั่วไปออกจากระบบที่มีผลต่อสิทธิหรือการเงิน
กำหนดว่าเรื่องใด AI ตัดสินใจได้และเรื่องใดต้องมีคนอนุมัติ
บันทึกคำสั่ง ข้อมูลนำเข้า ผลลัพธ์ และผู้อนุมัติ
ทดสอบความแม่นยำ ความลำเอียง และความปลอดภัยเป็นระยะ
จัดขั้นตอนให้ลูกค้าโต้แย้งหรือขอให้มนุษย์ทบทวนผลได้
ตรวจสัญญากับผู้ให้บริการ AI และข้อตกลงชดใช้ค่าเสียหาย
แจ้งบริษัทประกันว่ามีการใช้ AI ในบริการหลักของธุรกิจ

แนวทางกำกับดูแล AI ของ คปภ. สำหรับบริษัทประกันภัยเองก็ให้ความสำคัญกับการบริหารตามระดับความเสี่ยง ความมั่นคงปลอดภัย ความโปร่งใส ความสามารถในการอธิบาย ความเป็นธรรม และการคุ้มครองผู้บริโภค

หลักคิดนี้นำไปใช้กับธุรกิจอื่นได้เช่นกัน เพราะระบบที่อธิบายไม่ได้ ควบคุมไม่ได้ และไม่มีหลักฐานย้อนหลัง ย่อมเป็นทั้งความเสี่ยงทางกฎหมายและความเสี่ยงต่อการเคลมประกัน

สรุป

AI ช่วยลดเวลาและต้นทุนได้ แต่ไม่ได้ย้ายความรับผิดออกจากองค์กร บริษัทที่เลือกใช้ AI ยังต้องรับผิดชอบต่อวิธีใช้ ข้อมูลที่ป้อน การกำหนดอำนาจ และการตรวจสอบผลลัพธ์

ประกันที่เกี่ยวข้องอาจมีหลายฉบับ ได้แก่ Professional Indemnity, Technology E&O, Cyber, Media Liability และ D&O แต่ไม่มีคำว่า “ใช้ AI แล้วคุ้มครองทันที”

ก่อนซื้อประกันต้องตอบให้ได้ว่า AI ทำหน้าที่อะไร ใครเป็นผู้พัฒนา ใครอนุมัติผลลัพธ์ ความเสียหายสูงสุดคืออะไร และสัญญาแบ่งความรับผิดไว้อย่างไร

บทความนี้ให้ข้อมูลทั่วไปจากทิศทางร่างกฎหมายและหลักประกันภัย ไม่ใช่คำยืนยันว่าร่างกฎหมายมีผลใช้บังคับแล้ว และไม่ใช่คำรับรองการจ่ายสินไหม ต้องพิจารณากฎหมายและกรมธรรม์ที่ใช้จริงเป็นรายกรณี

ตรวจความเสี่ยง AI และประกันธุรกิจ

ธุรกิจที่พัฒนาซอฟต์แวร์ ให้บริการแพลตฟอร์ม ใช้ AI วิเคราะห์ข้อมูล หรือใช้แชตบอตดูแลลูกค้า สามารถส่งรายละเอียดให้ทีม Srikrung Mentor ช่วยตรวจช่องว่างของความคุ้มครองได้

คุณบอย: 080-295-6052
คุณปูเป้: 080-295-1830
LINE: @srikrungmentor
Facebook: ศรีกรุงปทุมธานี
เว็บไซต์: www.srikrungmentor.com