Digital Ventures

Back to blog

จริยธรรมของหุ่นยนต์

DIGITAL VENTURES X CHAMP TEEPAGORN ธันวาคม 27, 2018 11:47 AM

1,832

หุ่นยนต์จำเป็นต้องมีจริยธรรมไหม? บางคนอาจบอกว่า “ไม่” เพราะกระทั่งชีวิตจิตใจ - มันก็ยังไม่มีเสียด้วยซ้ำ

ลองมาดูเรื่องนี้กัน:

ในปี 1967 ฟิลิปปา ฟุต (Philippa Foot) ผู้มีฉายาว่าเป็น “เดมผู้สง่างามในวงการปรัชญา” (grand dame of philosophy) เป็นผู้คิดค้นการทดลองทางความคิดชุดรถรางขึ้นมาในตอนที่อยู่ที่มหาวิทยาลัยออกซ์ฟอร์ด เพื่อใช้เป็นเครื่องมือในการคิดวิเคราะห์ว่าการทำแท้งนั้นมีจริยธรรมหรือไม่อย่างไร

 

 

Credit : th.wikipedia.org

เดิมทีฟุตตั้งไว้หลายสถานการณ์ มีทั้งสถานการณ์นักบินที่ต้องเลือกว่าจะพาเครื่องที่บินที่กำลังตกให้ชนเมืองใหญ่หรือหมู่บ้านที่มีประชากรไม่มาก หรือสถานการณ์ผู้ก่อการร้ายที่ให้เราเลือกไว้ชีวิตคนห้าคนหรือหนึ่งคน แต่ในเวอร์ชั่นที่คุ้นเคยที่สุด อาจมีเรื่องราวทำนองนี้

คุณเดินไปตามรางรถในเช้าวันหนึ่ง, จู่ๆ คุณก็สังเกตเห็นอะไรเคลื่อนที่มาไกลๆ, จากเดิมเป็นจุดลับตาที่มองไม่ออกว่ามันคืออะไรกันแน่, แต่มันก็เข้าใกล้ขึ้นเรื่อยๆ จนคุณพอมองได้ว่า นั่นคือรถราง, รถรางกำลังพุ่งมาอย่างรวดเร็ว เร็วเกินกว่าที่ใครจะตั้งใจ, ข้างหน้ารถรางเป็นทางแยกสองทาง, รถรางกำลังวิ่งไปบนทางที่กำลังจะชนคนงานห้าคน ถ้าคุณไม่ทำอะไรเลยละก็ คนงานห้าคนนั้นจะตายอย่างแน่นอน!, เผอิญว่าคุณอยู่ใกล้สวิตช์ที่จะสับรถรางนั้นให้หันหัวไปอีกทางพอดี, แต่ปัญหามีอยู่ว่า ถ้าคุณสับสวิตซ์ รถรางจะเคลื่อนตัวไปสู่ทางแยกอีกทางที่มีคนงานอยู่หนึ่งคน, คนงานคนนั้นจะตายแน่นอน หากคุณเลือกสับสวิตซ์

คราวนี้ก็มาถึงคำถามมูลค่าพันล้านบาท: คุณจะเลือกไม่สับสวิตซ์ และปล่อยให้คนงานห้าคนตาย หรือเลือกสับสวิตซ์ เพื่อช่วยคนงานห้าคน ด้วยการ ‘สังเวย’ ชีวิตคนงานหนึ่งคนในอีกทาง

โดยทั่วไปแล้ว เมื่อถูกถามคำถามรถราง คนทั่วไป (90% จากการทดลองผ่านระบบความจริงเสมือน) มักจะเลือก “สับสวิตซ์” เพื่อช่วยคนห้าคนด้วยการสังเวยคนหนึ่งคน (โดยที่คนหนึ่งคนนั้นต้องไม่เป็นคนรู้จัก เป็นเพื่อน หรือเป็นคนรักของเรา เพราะถ้าเรารู้จักคนหนึ่งคนนั้นละก็ เราก็จะไม่ยอมสังเวยเขา) ในขณะที่นักปรัชญาจะเลือกสับสวิตซ์ 68% (ไม่สับ 8% และไม่ตอบ หรือเลือกทางอื่น 24%) (ลองถามตัวเองสิครับ ว่าจะตอบอย่างไร)

นี่คือการต่อสู้ระหว่างแนวคิดจริยธรรมสองฝ่ายใหญ่ คือแนวคิดที่กระเดียดไปทางอัตถประโยชน์นิยม (Utilitarianism) ที่บอกว่า เราควรทำทุกสิ่งเพื่อให้เกิดประโยชน์มากที่สุด (ซึ่งวัดประโยชน์ได้ต่างๆ กัน ในกรณีนี้อาจเป็น “ควรช่วยชีวิตจำนวนมากที่สุด” ซึ่งคือการเลือกสับสวิตซ์) กับแนวคิดแบบกรณียธรรม (deontological) ที่กำหนดว่าการกระทำบางอย่าง เช่นการฆ่าผู้บริสุทธิ์นั้นผิดเสมอ (ในกรณีนี้ก็คือการเลือกฆ่าคนหน่ึงคนที่อาจมองได้ว่า ‘ไม่รู้อิโหน่อิเหน่’)

หลังจากฟิลิปปา ฟุตเสนอชุดคำถามนี้ได้ไม่นาน จูดิธ ธอมสัน นักปรัชญาที่สถาบันเทคโนโลยีแมตซาชูเสทท์ ก็นำปัญหาของฟุตมาพัฒนาต่อเป็นสองสถานการณ์ คือสถานการณ์แบบสวิตซ์อย่างที่ได้เล่าไปแล้ว และสถานการณ์แบบ “สะพานข้ามราง” ซึ่งในแบบหลังนี้ รถรางก็วิ่งมาและกำลังจะชนคนงานห้าคนเหมือนกัน แต่คุณยืนอยู่บนสะพานพร้อมกับชายอ้วนคนหนึ่ง ที่ถ้าคุณผลักเขาลงไปละก็ รถรางจะหยุด (เพราะชนเขาจนตาย) อย่างแน่นอน นับเป็นการช่วยชีวิตคนงานทั้งห้าคนนั้นไว้

ธอมสันตั้งชื่อเซตปัญหานี้ว่าเป็น “Trolley Problem”

 

Credit: web.media.mit.edu

ในปัจจุบัน โปรแกรมเมอร์และนักปรัชญาร่วมมือกันเพื่อสร้างโมเดลปัญหารถรางในหลากหลายที่ เช่น นิโคลัส อีวานส์ (Nicholas Evans) ศาสตราจารย์ด้านปรัชญาที่มหาวิทยาลัยแมตซาชูเสทท์โลเวลล์ ร่วมมือกับทีมนักปรัชญาและวิศวกรเพื่อสร้างอัลกอริธึมบนพื้นฐานทฤษฎีจริยธรรมหลากหลายขึ้นมา นี่เป็นงานที่ได้รับการสนับสนุนจากมูลนิธิวิทยาศาสตร์แห่งอเมริกา งานศึกษาครั้งนี้จะไม่ตัดสินว่าทฤษฎีจริยธรรมใดทฤษฎีในถูก (เช่น จะไม่บอกว่าการคิดแบบอัตถประโยชน์นิยมถูกต้อง) แต่จะเป็นการสร้างโมเดลขึ้นมาจำลองเหตุการณ์เพื่อให้นักพัฒนาปัญญาประดิษฐ์และสาธารณชนใช้เป็นข้อมูลอ้างอิงเท่านั้น ว่าการเลือกหนทางหนึ่งๆ มีพื้นฐานอยู่บนทฤษฎีจริยธรรมอะไร

นักวิทยาศาสตร์ที่ MIT ก็พัฒนาแพลตฟอร์มออนไลน์ชื่อ Moral Machine ขึ้นมาเพื่อให้ผู้คนเลือกว่าจะชนคนกลุ่มใดในสองทางเลือก คนทั้งสองกลุ่มจะประกอบด้วยส่วนผสมต่างๆ กันเช่น กลุ่มแรกอาจมีเด็ก คุณแม่ และทหาร ในขณะที่กลุ่มที่สองอาจมีผู้ใหญ่ คนแก่ และหมอ เป็นต้น พวกเขาจะนำข้อมูลนี้ไปใช้กับงานวิจัยเพื่อพัฒนาการเรียนรู้ของจักรกลต่อไป

ในโลกแห่งความเป็นจริง ก็เริ่มมีการตระหนักถึงผลลัพธ์ของรถอัตโนมัติและปัญหารถราง เช่น รัฐบาลเยอรมนีประกาศแนวทางการผลิตรถยนต์ขับเคลื่อนอัตโนมัติ ซึ่งจะให้คุณค่าชีวิตมนุษย์มากกว่าชีวิตสัตว์เสมอ และหากเป็นมนุษย์ด้วยกันแล้ว รถยนต์ควรเลือกชนคนที่จะบาดเจ็บน้อยที่สุด โดยไม่เกี่ยงว่าคนคนนั้นจะมีอายุ เพศ หรือสีผิวอย่างไร (แต่ก็ยังไม่มีหลักการในการกำหนด ‘ระดับความบาดเจ็บ’ ออกมา ซึ่งก็อาจแปลว่า ระหว่างชนเด็กให้พิการ กับชนผู้ใหญ่ให้ตาย ต้องเลือกชนเด็ก?) ในสหรัฐอเมริกาเอง สภาคอนเกรสก็มีความคาดหวังที่จะออกแนวทางกำกับได้เร็วๆ นี้เช่นกัน

ปัญหารถรางที่ดูเหมือนไกลแสนไกลตัว ถูกหยิบมาพิจารณาอย่างถี่ถ้วนอีกครั้งด้วยการถือกำเนิดของเทคโนโลยี

นี่คือการใส่ “โมเดลแห่งจริยธรรม” ให้สิ่งที่ดูไร้ชีวิตจิตใจอย่างหุ่นยนต์

หุ่นยนต์จำเป็นต้องมีจริยธรรม เพราะมันเป็นตัวแปรที่ทวีค่าขึ้นเรื่อยๆ ในการดำรงชีวิตของพวกเรา, มนุษย์