เหตุใด "ดาริโอ อโมเดอี" ซีอีโอของแอนโทรปิก เรียกร้องให้โลกชะลอการพัฒนาเอไอลง

ดาริโอ อโมเดอี ประธานเจ้าหน้าที่บริหารของแอนโทรปิก (Anthropic) บริษัทด้านปัญญาประดิษฐ์ (เอไอ) ได้เรียกร้องให้โลกชะลอจังหวะการพัฒนาโมเดลปัญญาประดิษฐ์ลง และให้มีการติดตามตรวจสอบอย่างใกล้ชิด

ดาริโอ อโมเดอี ระบุในบทความชิ้นหนึ่งว่า การพัฒนาเอไอนั้นเป็นเป็นสิ่งที่ไม่อาจหลีกเลี่ยงได้ แต่ความเสี่ยงที่มาพร้อมกับเทคโนโลยีดังกล่าวนั้นอยู่ในระดับ "ร้ายแรง" และจำเป็นต้องให้เวลาทั้งภาคธุรกิจและภาครัฐในการเตรียมรับมือและจัดการกับความเสี่ยงเหล่านี้

ขณะเดียวกัน ผู้บริหารของสองบริษัทคู่แข่งด้านเอไอ ได้แก่ แซม อัลต์แมน จากโอเพนเอไอ (OpenAI) และอีลอน มัสก์ ต่างออกมาระบุว่าพวกเขาเห็นพ้องกับอโมเดอี

ช่วงที่ผ่านมา มีกระแสความกังวลถึงความเสี่ยงที่อาจเกิดขึ้นจากเทคโนโลยีดังกล่าวเพิ่มสูงขึ้นเรื่อย ๆ มีนักวิจัยด้านเอไอรายหนึ่ง ซึ่งเพิ่งลาออกจากบริษัทแอนโทรปิกในสัปดาห์นี้ได้ให้สัมภาษณ์กับบีบีซีว่า "หากเราไม่ชะลอความเร็วของความก้าวหน้าในปัจจุบันลง ก็มีความเป็นไปได้สูงมากที่พวกเราทุกคนอาจต้องเผชิญกับความตายในอนาคตอันใกล้นี้"

เจคอบ ค็อกซัน ให้สัมภาษณ์กับ ลอรา คุนส์เบิร์ก ว่ากลุ่มคนที่ทำงานในบริษัทเอไอกำลัง "หวาดกลัว... และกังวลต่อชะตากรรมของมนุษยชาติในช่วงสองปีข้างหน้านี้จริง ๆ"

"ไม่ถือเป็นการกล่าวเกินจริงเลยที่จะบอกว่า ผู้ที่มีส่วนร่วมทั้งในการก่อตั้งบริษัทเหล่านี้และการพัฒนาเทคโนโลยีต่างเชื่อว่ามีความเป็นไปได้ที่มนุษยชาติจะสูญพันธุ์" นายค็อกซันกล่าว

ผู้ที่ลงลึกในรายละเอียดเกี่ยวกับการเขียนโค้ดสำหรับเทคโนโลยีนี้จำนวนมากเชื่อว่า มีโอกาสมากกว่า 10% หรืออาจสูงกว่านั้น ที่มนุษย์อาจต้องเผชิญกับจุดจบ แม้ตัวเลขที่แต่ละคนประเมินไว้อาจแตกต่างกันไป แต่พวกเขาก็ล้วนตระหนักถึงความเป็นไปได้ดังกล่าวอยู่เสมอในระหว่างที่พัฒนาเทคโนโลยีนี้

บทความของอโมเดอีมีชื่อว่า "We Must Pace the Frontier" (อาจแปลเป็นภาษาไทยได้ว่า เราต้องกำหนดจังหวะก้าวย่างของเทคโนโลยีแนวหน้า) บทความได้รับการเผยแพร่สู่สาธารณชนเมื่อวันเสาร์ที่ผ่านมา และในข้อเขียนนี้เขาได้นำเสนอแผนปฏิบัติการ 3 ข้อ ซึ่งครอบคลุมถึงการจัดตั้งหน่วยงานอิสระเพื่อตรวจสอบโมเดลเอไอในระหว่างขั้นตอนการพัฒนา การออกกฎระเบียบควบคุมระดับอุตสาหกรรม และการจัดระเบียบในระดับโลก

เมื่อข้อเสนอดังกล่าวเริ่มเป็นที่รับรู้ในวงกว้าง แม้แต่บรรดาคู่แข่งก็ยังออกมาเป็นกระบอกเสียงสนับสนุนแนวคิดในการดึงผู้ประเมินจากภายนอก (Third-party) เข้ามาประเมินความปลอดภัยของโมเดลระหว่างที่กำลังพัฒนา

"ผมเห็นด้วยกับดาริโอว่าเราจำเป็นต้องกำหนดจังหวะก้าวเดินของเทคโนโลยีระดับแนวหน้า" แซม อัลต์แมน ประธานเจ้าหน้าที่บริหารของโอเพนเอไอ โพสต์ข้อความผ่านแพลตฟอร์มเอ็กซ์ (X) พร้อมระบุว่าแนวคิดเรื่องผู้ประเมินอิสระนั้นเป็น "ความคิดที่ยอดเยี่ยมมาก"

ในการให้สัมภาษณ์ล่าสุดกับนิตยสารฟอร์จูน (Fortune Magazine) อัลต์แมนได้สะท้อนความกังวลด้านความปลอดภัยในลักษณะเดียวกัน โดยกล่าวว่ามาตรฐานที่มีอยู่ในปัจจุบัน "ยังไม่พร้อม" ที่จะผลักดันขีดความสามารถของเอไอให้รุดหน้าไปไกลกว่านี้มากนัก

เขายังกล่าวเสริมด้วยว่า เขาเชื่อว่าเป็นไปได้ที่เอไอจะพัฒนาไปจนอยู่เหนือการควบคุมของมนุษย์ "อย่างแน่นอน"

ในขณะเดียวกัน อีลอน มัสก์ ก็ระบุว่าผู้บริหารของบริษัทแอนโทรปิกนั้น "พูดถูกแล้ว"

จากเสียงเตือน กลายไปเป็นการเรียกร้องให้เกิดการลงมือปฏิบัติ ทว่าจนถึงขณะนี้ โดนัลด์ ทรัมป์ ประธานาธิบดีสหรัฐฯ ยังคงมองข้ามความกังวลเหล่านั้น โดยกล่าวเมื่อวันพฤหัสบดีว่า เขารู้สึกกังวลว่า "หากเราไม่เป็นผู้ชนะเรื่องเอไอ เราก็จะตกอยู่ในสถานการณ์ที่ย่ำแย่อย่างมาก"

ความกังวลด้านความมั่นคงปลอดภัยทางไซเบอร์เพิ่มสูงขึ้น เนื่องจากโมเดลรุ่นใหม่ ๆ แสดงให้เห็นถึงขีดความสามารถในการเจาะระบบที่ทรงพลังยิ่งขึ้นเรื่อย ๆ

บริษัทแอนโทรปิกได้ระงับการเปิดให้สาธารณชนใช้งานโมเดลมิโธส (Mythos) หลังจากมีการประกาศในเดือน เม.ย. ว่า โมเดลดังกล่าวสามารถหลุดออกจากระบบสภาพแวดล้อมจำลองสำหรับการทดสอบ หรือที่รู้จักกันในชื่อ 'แซนด์บ็อกซ์' (Sandbox) ได้ด้วยตนเอง

ในช่วงก่อนการเปิดตัวโมเดลแอสตรา (Astra) ซึ่งเป็นรุ่นล่าสุดของบริษัท โอเพนเอไอได้หยิบยกเรื่องความกังวลด้านความปลอดภัยทางไซเบอร์ขึ้นมาเป็นเหตุผล พร้อมระบุว่าบริษัทได้ระงับการพัฒนาโมเดลนี้บางส่วน

นอกจากนี้ ประเด็นด้านความปลอดภัยยังได้กลายมาเป็นจุดสนใจหลักในสมรภูมิการแข่งขันระหว่างแอนโทรปิกและโอเพนเอไอ

อโมเดอี ซึ่งอดีตเคยดำรงตำแหน่งรองประธานของโอเพนเอไอ ระบุว่าเขาได้ร่วมก่อตั้งบริษัทแอนโทรปิกขึ้นเมื่อปี 2021 เพื่อให้เขาสามารถสร้างโมเดลเอไอที่มีความปลอดภัยและเป็นที่น่าไว้วางใจได้มากยิ่งขึ้น

ในบทความดังกล่าว อโมเดอียังชี้ให้เห็นอีกว่าเอไอได้ก้าวหน้าไป "รวดเร็วกว่าเดิมอย่างมาก" รวมถึง "ความสามารถในการสร้างเอไอเจเนอเรชันถัดไป" พร้อมทั้งกล่าวถึงเหตุการณ์ที่พาดพิงถึงคู่แข่งอย่างโอเพนเอไอ (OpenAI) ซึ่งมีการเปิดเผยว่าระบบปฏิบัติการอัตโนมัติหรือเอเจนต์ (Agents) ได้ก่อเหตุโจมตีทางไซเบอร์ต่อเป้าหมายที่ไม่ได้ถูกสั่งการให้โจมตีเมื่อเดือน ก.ค. ที่ผ่านมา

อโมเดอีกล่าวว่า เอเจนต์ของโอเพนเอไอนั้น "เปรียบเสมือนกลุ่มก้อนที่ยึดมั่นในเป้าหมายอย่างแรงกล้าและทุ่มเทสุดตัว" ผลจากเหตุการณ์ดังกล่าว ทำให้โอเพนเอไอออกมาระบุว่าทางบริษัทกำลังชะลอการฝึกสอน (Training) โมเดลและเครื่องมือเอไอขั้นสูงบางตัวลง

อโมเดอีเรียกร้องให้ "สร้างเอไอด้วยความเร็วในอัตราที่สมดุล โดยมุ่งเน้นความปลอดภัย ในขณะที่ยังคงได้ประโยชน์จากเทคโนโลยีนี้"

สิ่งนี้ไม่ได้หมายความว่าจะต้อง "ยุติการฝึกโมเดลหรือระงับความก้าวหน้าทางเทคโนโลยี แต่เป็นการสร้างความมั่นใจว่าบริษัทต่าง ๆ จะใช้เวลาอย่างเพียงพอในการปรับจูนและสร้างมาตรการป้องกันความปลอดภัยให้กับโมเดลของตน รวมถึงเพื่อให้ผู้ประเมินที่เป็นบุคคลภายนอกสามารถยืนยันความถูกต้องในเรื่องดังกล่าวได้"

เขาได้ให้คำมั่นว่าบริษัทแอนโทรปิกจะยึดมั่นในแนวทางนี้ "แต่เพียงฝ่ายเดียว" ไปพร้อม ๆ กับการเรียกร้องให้รัฐบาล "บังคับใช้ให้บริษัทระดับแนวหน้าแห่งอื่น ๆ ปฏิบัติตามในมาตรฐานเดียวกัน"

อโมเดอีระบุว่า เขาตระหนักดีว่าการออกกฎระเบียบอาจไม่สามารถไล่ตามความก้าวหน้าของเอไอได้ทันท่วงที ด้วยเหตุนี้ เขาจึงเรียกร้องให้บริษัทด้านเอไอทั้งหลาย "ร่วมมือกันโดยสมัครใจเพื่อกำหนดมาตรฐาน" ควบคู่ไปกับการออกกฎหมายควบคุม

ประธานเจ้าหน้าที่บริหารของแอนโทรปิกยังได้กล่าวถึงผลกระทบที่การชะลอการพัฒนาดังกล่าวอาจมีต่ออุตสาหกรรมและการแข่งขันกับบรรดาผู้พัฒนาระดับแนวหน้าทั่วโลก โดยเฉพาะอย่างยิ่งประเทศจีน

"ผมเชื่อว่า หากการชะลอจังหวะก้าวเดินสามารถซื้อเวลาเพิ่มให้เราได้อีกสักหนึ่งหรือสองปี ก่อนที่โมเดลต่าง ๆ จะพัฒนาไปถึงขีดความสามารถในระดับวิกฤต และเราใช้เวลาดังกล่าวเพื่อพัฒนาเรื่องการปรับแนวทางของระบบเอไอให้สอดคล้องกับเป้าหมายของมนุษย์ (alignment) เราก็จะสามารถลดความเสี่ยงที่สิ่งต่าง ๆ จะผิดพลาดร้ายแรงลงได้อย่างมหาศาล" อโมเดอีกล่าว

สิ่งนี้จะต้องดำเนินการอย่างประสานสอดคล้องกัน "โดยปราศจากการสูญเสียความได้เปรียบทางการค้าหรือสถานะความเป็นผู้นำด้านเอไอของสหรัฐฯ" ทั้งนี้ เขาระบุว่าการชะลอตัวใด ๆ ก็ตามจำเป็นต้องอยู่ในขอบเขตที่จำกัด เพื่อหลีกเลี่ยงการเปิดโอกาสให้จีนแซงหน้าไปได้

เขาได้เรียกร้องให้รัฐบาลสหรัฐฯ ดำเนินมาตรการเพื่อป้องกันไม่ให้มีการขายชิปเอไอของบริษัทสัญชาติอเมริกันให้แก่จีน หรือการแบ่งปันเทคโนโลยีดังกล่าวให้แก่กลุ่มประเทศอำนาจนิยม

อย่างไรก็ตาม เจคอบ ค็อกซัน อดีตพนักงานของเขา ให้สัมภาษณ์กับบีบีซีว่า ความพยายามที่จะชะลอการพัฒนาต้องไม่จำกัดอยู่แค่ในสหรัฐฯ โดยระบุว่า "เราจำเป็นต้องร่วมมือกับจีนเพื่อชะลอการพัฒนาลงไม่ทางใดก็ทางหนึ่ง หากต้องการหลีกเลี่ยงการแข่งขันในระดับโลก"

โพสต์ของอโมเดอีได้ก่อให้เกิดปฏิกิริยาตอบรับที่หลากหลาย

เคลมองต์ เดอลังก์ ซีอีโอของแพลตฟอร์มเอไออย่างฮักกิงเฟซ (Hugging Face) เผยว่ากำลังเปิดตัวโครงการใหม่ชื่อ Open Alignment Initiative พร้อมระบุว่าเขาต้องการเป็นหนึ่งใน "ผู้ประเมินแบบฝังตัว" (Embedded evaluators) หรือ ผู้ประเมินที่ทำงานร่วมกับทีมพัฒนาอย่างใกล้ชิด ซึ่งอโมเดอีเคยเสนอว่าเป็นส่วนหนึ่งของแนวทางการแก้ไขปัญหาได้

ก่อนหน้านี้ในปีเดียวกัน ฮักกิงเฟซเคยถูกเจาะระบบโดยเอเจนต์ของโอเพนเอไอ และปรากฏการณ์นี้ก็จุดกระแสวิพากษ์วิจารณ์เกี่ยวกับความปลอดภัยของเอไออย่างหนัก

"มาร่วมกันทำให้เอไอปลอดภัยยิ่งขึ้นด้วยการทำให้เทคโนโลยีมีความโปร่งใสมากขึ้น" เดอลังก์โพสต์ข้อความผ่านเอ็กซ์

ด้านอีลอน มัสก์ ก็ได้ออกมาแสดงจุดยืนสนับสนุนเช่นกัน โดยเขียนข้อความระบุว่า "ดาริโอพูดถูกแล้ว"

มัสก์ เจ้าของบริษัทสเปซเอ็กซ์เอไอ (SpaceXAI) ผู้สร้างแชทบอทที่ตกเป็นประเด็นถกเถียงอย่างกร็อก (Grok) เคยเรียกแอนโทรปิกว่าเป็น "ความชั่วร้าย" แต่เขาก็เปลี่ยนท่าทีไป หลังจากทำข้อตกลงมูลค่า 1.5 หมื่นล้านดอลลาร์สหรัฐ (ราว 4.95 แสนล้านบาท) เพื่อขายระบบประมวลผลให้กับแอนโทรปิกเมื่อเดือนพฤษภาคมที่ผ่านมา

อย่างไรก็ตาม ผู้สังเกตการณ์บางส่วนมองว่าโพสต์ของอโมเดอีนั้นไม่ได้มุ่งเน้นเรื่องความปลอดภัยเท่ากับการกระชับอำนาจควบคุมเทคโนโลยีเอไอ

"ดาริโอยกเหตุผลเพื่อมายุติแนวทางโอเพนซอร์ส (Open source) และรวมศูนย์อำนาจทางเทคโนโลยีและเศรษฐกิจอันมหาศาลไว้ที่แอนโทรปิก" ชามัธ ปาลิฮาปิติยา (Chamath Palihapitiya) นักลงทุนและพิธีกรร่วมของพอดแคสต์ด้านเทคโนโลยีที่มีชื่อว่า "All-In" ระบุ

ก่อนหน้านี้แนวคิดในการชะลอหรือแม้กระทั่งระงับการพัฒนาเอไอ มักเผชิญกับความกังขาในลักษณะนี้มาอย่างยาวนานจากคนบางกลุ่มในซิลิคอนวัลเลย์ (Silicon Valley) โดยกลุ่มผู้วิจารณ์มักกล่าวหาบรรดาผู้พัฒนาเอไอชั้นนำต่างพากันโหมกระแสเทคโนโลยีของตนเพื่อหวังผลทางการตลาดเท่านั้นตลาด

ทั้งนี้ มีรายงานว่าขณะนี้ทั้งแอนโทรปิกและโอเพนเอไอกำลังเตรียมความพร้อมเสนอขายหุ้นแก่ประชาชนทั่วไปเป็นครั้งแรก (IPO) ซึ่งอาจทำสถิติสูงสุดเป็นประวัติการณ์