Digital Ventures

Back to blog

รู้จัก AI Bias ข้อผิดพลาดของปัญญาประดิษฐ์ที่อาจพา FinTech ถึงจุดจบ

DIGITAL VENTURES May 09, 2019 12:07 AM

1,165

ปฏิเสธไม่ได้ว่า Artificial Intelligence เป็นเทคโนโลยีที่มีบทบาทไปแทบทุกอุตสาหกรรม โดยเฉพาะอุตสาหกรรมการเงินที่เรียกได้ว่า AI เป็นหนึ่งในแกนหลักที่ช่วยยกระดับบริการด้านการเงินขึ้นไปอีกขั้นหนึ่ง แต่ใช่ว่า AI จะเป็นเทคโนโลยีที่สมบูรณ์แบบเสมอไป เพราะเทคโนโลยีนี้ก็มีจุดที่นักพัฒนาและผู้ใช้ไม่อาจละเลยได้ ปัญหานี้มีชื่อว่า AI Bias หรือ อคติที่เกิดขึ้นในปัญญาประดิษฐ์ ซึ่งผลกระทบที่เกิดขึ้นนั้น กล่าวได้ว่าเป็นตัวที่ชี้เป็นชี้ตายการใช้งานเทคโนโลยี AI ไม่น้อยทีเดียว Digital Ventures จึงขอชวนทุกคนมาทำความรู้จักกับปัญหาดังกล่าว พร้อมศึกษาผลกระทบและแนวทางแก้ไขที่ช่วยให้เรายังใช้เทคโนโลยีนี้ต่อไปได้กัน

 

 

AI Bias คืออะไร

หากแปลตรงตัวแล้ว AI Bias คืออคติที่เกิดขึ้นจากขั้นตอนการพัฒนา AI ที่มีโอกาสนำไปสู่ผลลัพธ์ที่ส่งผลเสียหายต่อธุรกิจ การบริการ ไปจนถึงความผิดพลาดทางจริยธรรม

AI Bias มักเปรียบเหมือน Unconscious Bias ซึ่งหมายถึงอคติที่มาจากจิตใต้สำนักที่สั่งสมจากประสบการณ์และทัศนคติที่มนุษย์แสดงออกโดยไม่รู้ตัวทัน กล่าวคือ AI นั้นก็ไม่ได้รู้ตัวว่ามีอคติ จึงไม่อาจแก้ไขตัวเองได้ ซึ่งอาจนำไปสู่ความผิดพลาดที่อาจใหญ่ขึ้นเรื่อยๆ ในอนาคต

ตัวอย่างที่จุดประกายความสนใจในประเด็นนี้มาจาก Ted Talk ของ Joy Bualumwini เมื่อปี 2016 ที่เธอเล่าว่าในสมัยเรียนระดับมหาวิทยาลัย เธอพัฒนา AI ตัวหนึ่งที่สามารถเล่น Peek-a-boo ได้ แต่ปรากฎว่ามันไม่สามารถตรวจจับใบหน้าของเธอได้ เพราะเธอเป็นคนผิวสีเข้ม ต่อมาเมื่อเธอเป็นนักวิจัยใน MIT เธอพบว่า AI ตรวจจับใบหน้าสามารถตรวจจับใบหน้าชายตะวันตก (หรือ Caucasion) ได้ถูกต้องถึง 99 เปอร์เซ็นต์ แต่กลับตรวจจับใบหน้าหญิงผิวสีได้ถูกต้องเพียง 34 เปอร์เซ็นต์ นี่คือต้นเหตุที่ทำให้นักพัฒนาหันมาให้ความสนใจกับ Bias ที่อาจเกิดขึ้นในการพัฒนา AI ทั่วโลก

 

ต้นเหตุของ Bias ใน AI

อย่างที่กล่าวไปว่า AI ไม่ได้รู้ตัวว่าตัวเองมีอคติ จึงเป็นหน้าที่ของมนุษย์ที่ต้องสังเกตและทำความเข้าใจสาเหตุของมัน เพื่อเข้าใจว่าปัจจัยการเกิด AI Bias มาจากเหตุใดได้บ้างนั้น เราก็ต้องลงลึกไปที่ขั้นตอนการพัฒนา AI โดยแต่ละขั้นตอนมีโอกาสทำให้เกิด Bias ได้ดังนี้

  • Data Driven Bias ในหมู่นักพัฒนา AI มีสำนวนที่กล่าวถึงข้อนี้ว่า Garbage in, Garbage out กล่าวคือ หากคุณนำขยะเข้าไปให้ AI ใช้งาน สิ่งที่ AI เอาออกมาให้ก็จะนำไปใช้งานไม่ได้อยู่ดี ดังนั้น ข้อมูลที่มีความโน้มเอียง ไม่เที่ยงตรง ไม่ครอบคลุมบริบท แม้จะพัฒนา AI ให้แม่นยำแค่ไหน ก็ไม่อาจนำเสนอผลลัพธ์ที่เราอยากให้เป็นได้ ตัวอย่างคือ AI ตรวจจับใบหน้าที่ Joy Bualumwini ทำการวิจัย
  • Bias by Action อคติในขั้นนี้เกิดขึ้นระหว่างการนำไปใช้ หากเรานำ AI ไปใช้งานในสภาพแวดล้อมที่มีการเข้าข้างคนบางกลุ่ม AI ก็มีแนวโน้มจะรู้แต่ข้อมูลที่บิดเบี้ยว จนไม่สามารถนำเสนออย่างเป็นกลางได้ เช่น AI ทดลองของ Microsoft ที่ถูกปล่อยลงไปใน Twitter ซึ่งถูกสอนโดยผู้ใช้งานที่ไม่ดีจนกลายเป็น AI ที่กล่าวคำพูดเหยียดกลุ่มคนได้อย่างน่ารังเกียจ
  • Emergent Bias หมายถึง AI ที่ถูกพัฒนาให้มีข้อจำกัดในการรับรู้บางอย่างเพื่อวัตถุประสงค์เฉพาะ แต่กลายเป็นว่า AI จะมีอคติที่ไม่สามารถส่งมอบผลลัพธ์ที่ต่างออกไปอันเป็นสิ่งที่ถูกที่ควรได้ ในขั้นนี้ อาจเกิดได้จากการที่ AI ถูกพัฒนาโดยคนๆ เดียวที่ไม่อาจทำงานได้รอบคอบพอ และหลายครั้ง กว่าจะรู้ว่า AI เหล่านี้มี Bias ขนาดใหญ่ ก็เกิดเรื่องผิดพลาดที่บานปลายจนต้องปิดไป

 

 

ผลกระทบจาก AI Bias ใน FinTech

AI Bias ถือเป็นปัญหาใหญ่ในวงการ Fintech เพราะปัจจุบัน การให้บริการทางการเงินทางดิจิทัลล้วนได้รับการขับเคลื่อนด้วยเทคโนโลยีปัญญาประดิษฐ์ ดังนั้น หากเทคโนโลยีที่ผู้ให้บริการทางการเงินใช้กลับมีอคติบางอย่างซึ่งนำไปสู่ปัญหาด้านบริการหรือด้านการปฏิบัติการต่างๆ ก็อาจส่งผลรายแรงต่อธุรกิจหรือแม้แต่อุตสาหกรรมในภาพรวม

ปัญหาที่มีโอกาสเกิดขึ้นชัดเจนจาก AI Bias ใน Financial Service คือการประเมินเครดิตและความเสี่ยง บริษัทด้านการเงินรวมถึงประกันภัยมักใช้ AI ในการช่วยประเมินความเสี่ยงของผู้รับบริการ เพราะ AI สามารถช่วยประเมินผู้รับบริการจำนวนมากได้อย่างรวดเร็ว แต่ทว่า อคติใน AI ก็ทำให้การประเมินไม่ตรงความเป็นจริง เช่น ในการผู้เอาประกันรถยนต์ บางครั้งเจ้าหน้าที่ตั้งให้ชายวัย 25 ปี มีความเสี่ยงสูงกกว่ากลุ่มอื่น ทำให้เรียกเก็บค่ากรมธรรม์แพงกว่า ทั้งที่ในความเป็นจริง ผู้รับการประเมินว่ามีความเสี่ยงสูงอาจจะขับรถเรียบร้อยมาตลอด เมื่อเจอว่าค่ากรมธรรม์ของตัวเองแพงกว่าผู้ให้บริการรายอื่น ก็อาจหันไปใช้ประกันรายอื่นได้

 

มีปัญหาต้องป้องกัน แนวคิดวิธีรับมือ AI Bias

แม้ว่า AI Bias จะส่งผลกระทบต่ออุตสาหกรรมไม่น้อย แต่ก็ใช่ว่าจะไม่มีวิธีรับมือข้อผิดพลาดดังกล่าว โดยเราสามารถนำวิธีเหล่านี้มาใช้ระหว่างการพัฒนาปัญญาประดิษฐ์ได้ ดังนี้

  • ใช้ AI กับพฤติกรรมแทนคุณลักษณะ แทนที่จะสอนว่าคุณสมบัติมาประเมินความเสี่ยง เช่น คุณสมบัติของคนอย่าง อายุ การศึกษา หรือที่อยู่ เราสามารถใช้ข้อมูลด้านพฤติกรรมที่มีความยืดหยุ่นและสะท้อนความเป็นจริงได้มากกว่ามาให้ AI ประเมินได้ โดยข้อมูลจากพฤติกรรมจะมี Bias น้อยกว่าทั้งยังปรับแต่งได้ยืดหยุ่นมากกว่า เช่น ประกันรถยนต์ที่คิดราคาจากจำนวนกิโลเมตรที่ขับจริง ทั้งยังให้ส่วนลดเมื่อผู้ขับขี่ไม่ได้ขับเกินความเร็วที่กำหนดด้วย ซึ่งปัจจุบัน เทคโนโลยีอย่าง Internet of Things และ Wearable Device ช่วยให้เก็บข้อมูลเหล่านี้ได้สะดวกยิ่งกว่าเดิมมาก
  • แยกสิ่งที่ AI ต้องแม่นยำมาสอนพิเศษเฉพาะเรื่อง ในทางเทคนิคแล้ว เราสามารถแยกหัวข้อที่อยากให้ AI เรียนรู้อย่างแม่นยำมาติวเข้มเป็นพิเศษได้ เช่น หากอยากให้ AI ระบุเพศของผู้ใช้ได้ถูกต้อง เราก็นำสิ่งที่ AI เรียนรู้เกี่ยวกับการจำแนกเพศออกมาฝึกฝนเป็นการเฉพาะ แล้วค่อยใส่เข้าไปใหม่ ซึ่งจะทำให้ AI ส่งมอบผลลัพธ์ในเรื่องนี้ได้ดีขึ้น
  • ใช้เครื่องมือตรวจจับ Bias ปัจจุบันนักพัฒนาและบริษัทไอทีรายใหญ่ทั้ง IBM, Microsoft และ Facebook พัฒนาเครื่องมือช่วยตรวจสอบการทำงานของ AI เครื่องมือเหล่านี้จะบอกได้ว่า AI ตัดสินใจแบบนี้ด้วยด้วยวิธีการและเหตุผลใด การรับทราบถึงกลไกการทำงานภายในจะช่วยให้เข้าใจถึงต้นเหตุของอคติและช่วยรับมือได้รวดเร็วขึ้น
  • สอดส่อง AI สม่ำเสมอ นอกจากเครื่องมือแล้ว ผู้พัฒนายังคงสอดส่องการทำงานของ AI และปรับปรุงการทำงานให้ได้อย่างต่อเนื่อง หรืออาจใช้บริการผู้เชี่ยวชาญสาขา Algorithm Audit เพื่อให้ผลการตรวจสอบเป็นด้วยดีขึ้น
  • ตั้งทีม AI ด้วยผู้เชี่ยวชาญหลายสาขา แทนที่จะตั้งทีม AI จากผู้เชี่ยวชาญด้านคอมพิวเตอร์ ลองตั้งทีม AI ที่มาจากผู้เชี่ยวชาญหลายมุม เช่น ด้านกฎหมาย ด้านการตลาด ด้านปรัชญา ด้านมนุษยศาสตร์ หรือแม้แต่ด้านรัฐศาสตร์ การมีผู้เชี่ยวชาญจากหลายมุมจะช่วยให้ AI ถูกตรวจสอบจากมาตรฐานหลายๆ ด้านและส่งผลให้มีอคติน้อยลงได้

 

ทั้งหมดนี้คงช่วยให้ทุกท่านเห็นภาพของ AI Bias ทั้งความสำคัญของปัญหา ต้นเหตุ และแนวทางแก้ไขเบื้องต้น ซึ่งนี่ทำให้เห็นว่า AI ไม่ใช่เทคโนโลยีที่เป็นยาวิเศษสำหรับทุกปัญหาและยังต้องการให้คนที่มีความสามารถมาปรับปรุงมันต่อไป แน่นอนว่าปัญญาประดิษฐ์ยังเป็นเทคโนโลยีที่มีประเด็นให้พูดถึงกันมากมาย ซึ่ง Digital Ventures จะหยิบประเด็นที่น่าสนใจมานำเสนอให้ทุกท่านได้ติดตามกันในโอกาสต่อไป

ขอขอบคุณข้อมูลจาก xinja.com.au, paymentssource.com และ pwc.com