Digital Ventures

Back to blog

ปัญญาประดิษฐ์ยอดนักโกง

DIGITAL VENTURES X CHAMP TEEPAGORN สิงหาคม 18, 2018 8:40 PM

2,774

ปลายเดือนกุมภาพันธ์ที่ผ่านมา นักวิจัยจากมหาวิทยาลัยไฟรเบิร์ก (Freiburg) ในเยอรมนี ตัดสินใจส่งปัญญาประดิษฐ์ไปเล่นเกม

นี่เป็นการทดลองพัฒนาปัญญาประดิษฐ์เพื่อศึกษาความเป็นไปได้ของการวิวัฒนาการ การพัฒนาปัญญาประดิษฐ์แขนงนี้มีความหมายตรงตัวกับชื่อของมันนั่นเองครับ - ผ่านการคัดเลือกแบบดาร์วิน “ผู้ที่ปรับตัวได้ดีที่สุดจะอยู่รอด” (The Fittest Survives) ปัญญาประดิษฐ์ผู้ชนะของการแข่งขันรอบ (รุ่น) หนึ่งๆ จะได้เข้าไปแข่งขันเพื่อออกลูกออกหลานในรอบ (รุ่น) ถัดไป

นักวิจัยหวังว่า เมื่อผ่านการ ‘ผสมพันธุ์’ หลากหลายรุ่น เหล่าปัญญาประดิษฐ์จะทำงานได้ดีขึ้นเรื่อยๆ จนถึงจุดที่สามารถเล่นเกมอย่าง Q*Bert ได้อย่างสมบูรณ์แบบ

ผลปรากฏว่า ลูกหลานของปัญญาประดิษฐ์รุ่นหนึ่ง เล่นเกมที่ว่านี้ได้คะแนน ‘เกินสมบูรณ์แบบ’ เสียอีก

เกิดอะไรขึ้น?

ผลปรากฏว่าปัญญาประดิษฐ์ไปพบบั๊กในเกม Q*bert ที่ไม่เคยมีใครพบมาก่อนในตัวเกมเวอร์ชั่นนี้ บั๊กนี้อนุญาตให้ปัญญาประดิษฐ์ทำคะแนนได้แบบไม่มีที่สิ้นสุดเกินมนุษย์ นักวิจัยเรียกการค้นพบครั้งนี้ของปัญญาประดิษฐ์ขี้โกงว่าเป็น ‘ทางแก้ปัญหาที่เปี่ยมความคิดสร้างสรรค์’ (Creative solution)

โดยปกติแล้ว ในการเล่น Q*Bert ผู้เล่นจะต้องบังคับตัวละครให้กระโดดไปมาเพื่อเปลี่ยนสีที่แท่นยืนที่พื้น เมื่อเปลี่ยนสีครบทั้งฉากแล้วก็จะถือว่าคุณชนะด่านหนึ่งๆ แล้วเกมก็จะส่งคุณไปตะลุยด่านถัดไป แต่สิ่งที่เกิดขึ้นคือ ปัญญาประดิษฐ์ตัวนี้พบว่า เมื่อคุณบังคับให้ตัวละครกระโดดไปมาในรูปแบบเฉพาะแบบหนึ่งที่ดูคล้ายกับกระโดดสุ่ม เกมจะแฮงค์ แท่นยืนทั้งฉากจะกระพริบ ทำให้คุณได้คะแนนมากมายมหาศาล - มหาศาลจนแทบจะทำให้เกมระเบิด

สิ่งที่ต้องระลึกไว้ก็คือ ตัวปัญญาประดิษฐ์ไม่ได้พยายามหาช่องว่างของเกมนะครับ มันเป็นเพียงปัญญาประดิษฐ์ที่ถูกกำหนดเป้าหมายของชีวิตมาให้ ‘ทำอย่างไรก็ได้ให้ได้คะแนนมากที่สุด’ เท่านั้น เมื่อมันค้นพบบั๊กดังกล่าว มันก็อาจคิดว่า ‘นี่เป็นส่วนหนึ่งของเกม’ และใช้วิธีที่ค้นพบเพื่อให้ตนบรรลุเป้าหมาย

พอพูดแบบนี้ก็อาจคล้ายกับวิธีคิดของมนุษย์ที่ ‘โกงเกม’ เหมือนกัน - ไม่่ว่าจะเป็นเกมในหน้าจอโทรทัศน์ บอร์ดเกมบนโต๊ะ หรือเกมชีวิต นักโกงอาจไม่คิดอะไรมากไปกว่าเพียงแค่ว่า ‘นี่เป็นวิธีหนึ่งในการบรรลุเป้าหมาย วิธีนี้ถูกบรรจุอยู่ในเกมที่ฉันเล่นอยู่แล้ว ฉันแค่สร้างสรรค์มากกว่าคนอื่นๆ เท่านั้นเอง’ วิธีคิดแบบนี้อาจทำให้พวกเขารู้สึกผิดกับตัวเองน้อยลง

ปัญญาประดิษฐ์ของนักวิจัยจากไฟร์เบิร์กไม่ใช่เพียงปัญญาประดิษฐ์กลุ่มเดียวที่รู้จักวิธี ‘บรรลุเป้าหมายอย่างสร้างสรรค์’ - เมื่อเรากำหนดเป้าหมายและขอบเขตของงานที่ปัญญาประดิษฐ์ควรทำไว้ไม่ดีพอ ผลลัพธ์ของการวิวัฒนาการในบางครั้งก็อาจทำให้เราประหลาดใจ - หากเรากำหนดให้มันผลิตคลิปหนีบกระดาษให้มากที่สุดโดยไม่มี ‘ข้อจำกัด’ มันก็อาจค้นพบวิธีการเปลี่ยนสสารทั้งอวกาศเป็นคลิปหนีบกระดาษอย่างไม่รู้ความหมายของสิ่งที่ทำ

เมื่อบอกให้ปัญญาประดิษฐ์ ‘ทำอย่างไรก็ได้ให้อยู่รอดในเกมจำลองการเอาตัวรอดของสิ่งมีชีวิต’ มันก็ใช้วิธีการกินลูกๆ ของตัวเองเป็นอาหารและแหล่งพลังงาน เมื่อบอกให้ปัญญาประดิษฐ์ ‘แบกลูกบอลในระนาบสามมิติและเดินโดยรักษาสมดุลไปด้วย’ มันก็ใช้วิธีหนีบลูกบอลไว้ที่ข้อเข่าแล้วเดินปกติ เมื่อบอกให้ปัญญาประดิษฐ์ ‘ออกแบบวงจรไฟฟ้าเพื่อให้ทำงานตามที่นักวิจัยต้องการ’ มันก็ดันออกแบบวงจรที่ทำงานได้เฉพาะที่อุณหภูมิของห้องแล็บที่นักวิจัยทำงานอยู่เท่านั้น เมื่อบอกให้ปัญญาประดิษฐ์ ‘หยิบลูกบอลให้กล้องดู’ มันก็รู้จักที่จะเล่นกับมุมกล้องที่ทำให้ดูเหมือนมันจับลูกบอลได้สำเร็จ ทั้งๆ ที่จริงๆ แล้วไม่ใช่อย่างนั้นเลย!

นี่เป็นเพียงบางตัวอย่างที่มีการรวบรวมไว้เท่านั้น

เจฟฟ์ คลูน (Jeff Clune) นักวิจัยจากห้องพัฒนาปัญญาประดิษฐ์ของ Uber หนึ่งในผู้ตีพิมพ์งานวิจัยที่รวบรวม ‘วิธีแก้ปัญหาอย่างสร้างสรรค์’ ของปัญญาประดิษฐ์ ให้สัมภาษณ์กับนิตยสาร Wired ว่า “การได้เห็นระบบเหล่านี้ทำงานอย่างสร้างสรรค์ในแบบที่คุณไม่คาดคิดมาก่อน ทำให้คุณระลึกถึงพลังอำนาจของพวกมัน และพร้อมๆ กันนั้น คุณก็ระลึกถึงอันตรายที่อาจเกิดขึ้นด้วย”

ในโลกที่เราพึ่งพาปัญญาประดิษฐ์มากขึ้นเรื่อยๆ จะเกิดอะไรขึ้นหากเรากำหนดขอบเขตและเป้าหมายของปัญญาประดิษฐ์ได้ไม่ ‘แม่น’ พอ จะเกิดอะไรขึ้นหากบางบริษัทกำหนดเป้าหมายให้ระบบวางแผนการจ้างงานให้ ‘ลดค่าใช้จ่ายให้มากที่สุด และสร้างผลกำไรให้มากที่สุด’ โดยไม่มีข้อจำกัด มันจะเริ่มไล่พนักงานออกโดยดูจากตัวเลขแค่บางตัวไหม มันจะคำนึงถึงสิ่งที่จะเกิดขึ้นบนโลกแห่งความเป็นจริงได้หรือเปล่า?

มันจะรู้จักบริบทและสิ่งที่ควรเป็นไหม? หรือมันจะขาดสิ่งเหล่านี้โดยสิ้นเชิง ไม่ต่างจากมนุษย์ขี้โกงบางคน?

อ้างอิง

Back to Basics: Benchmarking Canonical Evolution Strategies for Playing Atari

https://arxiv.org/abs/1802.08842

The Surprising Creativity of Digital Evolution: A Collection of Anecdotes from the Evolutionary Computation and Artificial Life Research Communities

https://arxiv.org/abs/1803.03453v1