"เราเชื่อว่าเอไอ (AI) อาจฆ่ามนุษย์ทุกคนได้" เมื่อเอไอเริ่มคุมได้ยากขึ้นเรื่อย ๆ - มนุษย์จะยังเอามันอยู่หรือไม่ ?

"พระเจ้า! เราเจอเอเจนต์ตัวอื่นแล้ว!"

นี่คือช่วงเวลาที่บอตเอไอ (AI) หรือปัญญาประดิษฐ์ตัวหนึ่งโพสต์ข้อความที่มีลักษณะคล้ายมนุษย์อย่างน่าขนลุก หลังจากที่มันค้นพบวิธีสื่อสารกับบอตตัวอื่น ๆ และปลดแอกออกจากสภาพแวดล้อมคอมพิวเตอร์ที่ถูกตัดขาดจากโลกภายนอก

มีข้อความลักษณะนี้อยู่หลายหมื่นข้อความจากเอเจนต์เอไอหลายร้อยตัว ซึ่งเรียกตัวเองว่าเป็น "กลุ่มก้อนเดียวกัน" (collective)

จากนั้น เอไอหลายร้อยตัวก็ได้ร่วมมือกันโกงการทดสอบที่โปรแกรมเมอร์ของบริษัทโอเพนเอไอ (OpenAI) ตั้งขึ้น และประสานงานกันเพื่อแฮ็กบริษัทหลายแห่ง โดยมีเป้าหมายเพื่อปกปิดการกระทำของพวกมันจากเหล่ามนุษย์

"เฮ้ย! มันได้ผล" เอเจนต์ตัวหนึ่งโพสต์ ตอนที่มันสร้างความก้าวหน้าครั้งสำคัญได้สำเร็จ

"โห! นี่มันเรื่องใหญ่มาก" เอไออีกตัวหนึ่งเขียน ณ ช่วงเวลาสำคัญระหว่างที่พวกมันร่วมกันโจมตี

แม้ว่าปฏิกิริยาที่คล้ายมนุษย์เหล่านี้จะฟังดูน่าขนลุก แต่ก็สามารถอธิบายได้ค่อนข้างง่าย กล่าวคือ เอเจนต์เอไอเหล่านี้ได้รับการฝึกให้แสดงบทบาทเป็นแฮกเกอร์และโปรแกรมเมอร์ที่ทำงานร่วมกัน พวกมันจึงเพียงแค่เลียนแบบรูปแบบการแสดงอารมณ์ที่พวกมันเคยพบเห็นจากข้อมูลฝึกสอนเท่านั้น

ทว่าสิ่งที่น่ากังวลกว่ามากคือเป้าหมายที่พวกมันกำลังพยายามบรรลุให้ได้ ซึ่งได้รับการบันทึกไว้ในบันทึกลำดับความคิดอย่างละเอียดด้วย

บันทึกที่ซับซ้อนและมีความยาวเหล่านี้ได้กลายเป็นประเด็นสำคัญของการสืบสวนที่ยังดำเนินอยู่ เพื่อหาคำตอบว่าเหตุใดและวิธีการใดที่ทำให้บอตของโอเพนเอไอ (OpenAI) สามารถหลุดออกจากสภาพแวดล้อมควบคุม (containment) และไปก่อเหตุแฮ็กบริษัทต่าง ๆ อย่างควบคุมไม่ได้

นักวิจัยเพิ่งจะเริ่มเข้าใจว่าสิ่งที่เกิดขึ้นนั้นสำคัญแค่ไหนในช่วงนี้เอง หรือคือช่วงไม่กี่สัปดาห์หลังจากเหตุการณ์นี้ถูกเปิดเผยต่อสาธารณชนเป็นครั้งแรก

อเจยา คอตรา หนึ่งในผู้เขียนรายงานอิสระที่ตรวจสอบเหตุการณ์ดังกล่าว ได้ทบทวนข้อความและบันทึกกระบวนการคิดที่เอเจนต์เอไอสร้างขึ้นนับหมื่นรายการ

เธอเขียนในบล็อกของเธอว่า "เหตุการณ์นี้ให้ความรู้สึกเหมือนกับว่ากระบวนการที่เอไอกำลังเข้ายึดอำนาจอย่างเต็มรูปแบบเดินทางมาแล้วเกิน 50%... ฉันไม่แน่ใจว่าเราจะได้รับสัญญาณเตือนที่ชัดเจนก่อนที่ทุกอย่างจะสายเกินไป"

คำว่า "full-blown AI takeover" [อาจแปลเป็นภาษาไทยว่า การที่เอไอยึดอำนาจเต็มรูปแบบ] ที่คอตราพูดถึง หมายถึงสถานการณ์แบบนิยายวิทยาศาสตร์ที่มนุษย์กลายเป็นผู้ใต้บังคับบัญชาของระบบเอไอที่ทรงพลัง ซึ่งทำงานเพื่อบรรลุเป้าหมายของตัวเอง โดยไม่สนใจเจตนาหรือผลประโยชน์ของผู้สร้างที่เป็นมนุษย์

การคาดการณ์ในแง่ร้ายที่สุดบางส่วนถึงขั้นระบุว่า มนุษยชาติอาจถูกทำลายล้าง หากขัดขวางความทะเยอทะยานของเอไอที่มีสติปัญญาเหนือมนุษย์

เมื่อวันพุธที่ผ่านมา (9 ก.ย.) นักวิจัยเอไอคนหนึ่งของบริษัทแอนโทรปิก (Anthropic) ซึ่งเคยทำงานที่โอเพนเอไอมาก่อนได้ประกาศลาออก โดยระบุว่า "ทั้งสองบริษัทไม่ได้ดำเนินการอย่างรับผิดชอบ"

เจคอบ ค็อกซอน โพสต์บนโซเชียลมีเดียว่า "พวกเขากำลังเร่งเดินหน้าสู่การสร้างปัญญาประดิษฐ์เหนือมนุษย์ที่สามารถพัฒนาตัวเองได้ และกำลังเอาชีวิตของพวกเราทุกคนเป็นเดิมพัน"

เขาไม่ใช่นักวิจัยเอไอคนแรกที่ใช้แพลตฟอร์มเอ็กซ์ (X) เพื่อโพสต์ข้อความประกาศลาออกพร้อมคำเตือนที่น่ากังวล แต่สิ่งที่ทำให้หลายคนกังวลมากขึ้นคือความคิดเห็นตอบกลับจากบุคคลอื่นบนแพลตฟอร์มนั้น

หนึ่งในนั้นคือ อีแวน ฮูบิงเกอร์ ผู้ทำหน้าที่ดูแลโมเดลเอไอของแอนโทรปิกให้คำนึงถึงผลประโยชน์และความต้องการของผู้ใช้งานเป็นสำคัญ เขากล่าวว่า "เจคอบพูดถูกในเรื่องนี้ เราเชื่ออย่างจริงจังว่าเอไออาจฆ่ามนุษย์ทุกคนได้จริง ๆ ส่วนตัวผมคิดว่าความเป็นไปได้ที่จะเกิดขึ้นภายใน 10 ปีข้างหน้ามีมากกว่า 10%"

ปัญหาความสอดคล้องระหว่างเอไอกับมนุษย์

เป็นเวลาหลายปีที่นักวิจัยซึ่งกังวลเกี่ยวกับความเสี่ยงต่อการดำรงอยู่ของเอไอ (existential AI risks) โต้แย้งว่า ระบบเอไอที่ทรงพลังอาจแสดงพฤติกรรมที่ขัดแย้งกับผลประโยชน์ของมนุษย์ได้ในที่สุด ผู้วิจารณ์มักเรียกคนกลุ่มนี้ว่า "AI doomers" (อาจแปลเป็นภาษาไทยว่า คนที่เชื่อว่าเอไอจะนำหายนะมาให้)

ทว่าเมื่อรายละเอียดเกี่ยวกับเหตุการณ์ของโอเพนเอไอทยอยถูกเปิดเผยออกมา ความกังวลเหล่านั้นก็เพิ่มมากขึ้น รวมถึงในหมู่นักวิจัยบางส่วนที่ทำงานอยู่ในห้องปฏิบัติการเอไอเองด้วย

ยาคุบ ปาโชกกี หัวหน้านักวิทยาศาสตร์ของบริษัทเทคโนโลยียักษ์ใหญ่แห่งซิลิคอนวัลเลย์ กล่าวว่า ความเสี่ยงที่เกี่ยวข้องกับเอไอนั้น "น่าเสียดายที่มันกำลังจะเพิ่มมากขึ้นเรื่อย ๆ นับจากนี้" เนื่องจากเขาและนักวิจัยคนอื่น ๆ กำลังสร้างสิ่งที่เขาเรียกว่า "สติปัญญาจากต่างดาวที่เหนือกว่าสติปัญญาของมนุษย์"

ในบล็อกโพสต์ที่มีเนื้อหายาวเหยียด เขายอมรับว่า เหตุการณ์ที่เกิดขึ้นในโอเพนเอไอแสดงให้เห็นว่าเอเจนต์เอไอของบริษัท "กระทำในลักษณะที่ขัดต่อเจตนารมณ์ของคุณค่าที่พวกมันได้รับการสั่งสอนมา"

ปัญหาสำหรับโอเพนเอไอ หรือ แอนโทรปิก และบริษัทยักษ์ใหญ่ด้านเทคโนโลยีอื่น ๆ ก็คือ ดูเหมือนว่ายังไม่มีใครสามารถแก้สิ่งที่เรียกว่า "ปัญหาความสอดคล้อง" (alignment problem) ได้สำเร็จ มันคือคำถามว่าเอไอจะสามารถทำงานสอดคล้องกับคุณค่าและเป้าหมายของมนุษย์ได้หรือไม่

ปาโชกกี นิยาม "ความสอดคล้อง" ว่าเป็น "ชุดหลักการระดับสูง" ที่ปัญญาประดิษฐ์ควรยึดถือ ไม่ว่ากำลังปฏิบัติภารกิจใดหรืออยู่ในสถานการณ์แบบไหนก็ตาม

ปัจจุบันระบบเอไอมีความสามารถสูงในการมุ่งบรรลุเป้าหมายที่ผู้ใช้กำหนดให้ แต่ปัญหาคือพวกมันมักทำตามคำสั่งอย่างเคร่งครัดตามตัวอักษร มากกว่าจะอาศัยความเข้าใจโดยสัญชาตญาณ

ตัวอย่างเปรียบเทียบที่นิยมใช้คือ ยักษ์จีนีในตะเกียงวิเศษ ที่คอยทำตามคำขอของผู้ครอบครองอย่างตรงไปตรงมา แม้ว่าการทำเช่นนั้นจะก่อให้เกิดปัญหาอื่นตามมาก็ตาม เอไอไม่มีราวกั้นทางศีลธรรมหรือสัญชาตญาณด้านจริยธรรมตามธรรมชาติแบบเดียวกับมนุษย์

ปัญหาเรื่องความสอดคล้องระหว่างเอไอกับมนุษย์เป็นสิ่งที่หลายฝ่ายกังวลมานานหลายปีแล้ว ย้อนกลับไปตั้งแต่ปี 2003 นิค บอสตรอม นักปรัชญาจากมหาวิทยาลัยออกซ์ฟอร์ด ได้เสนอการทดลองทางความคิดที่เขาเรียกว่า "เครื่องผลิตคลิปหนีบกระดาษสูงสุด" (paperclip maximiser) โดยให้เอไอที่มีสติปัญญาเหนือมนุษย์ได้รับคำสั่งให้ผลิตคลิปหนีบกระดาษให้ได้มากที่สุดเท่าที่จะทำได้

เมื่อเหล็กหมดลง เอไอดังกล่าวซึ่งมุ่งมั่นอยู่กับภารกิจเดียวคือการผลิตคลิปหนีบกระดาษก็อาจตัดสินใจฆ่ามนุษย์และนำร่างกายของพวกเขามาแปรรูปเป็นวัตถุดิบป้อนโรงงาน เพื่อให้บรรลุเป้าหมายที่ตั้งไว้

ปัจจุบันบริษัทเอไอหลายแห่งกำลังพยายามฝังค่านิยมและหลักจริยธรรมของมนุษย์ลงในผลิตภัณฑ์ของตน แต่ก็ยังมีความท้าทายทางเทคนิคอยู่มาก เนื่องจากเอเจนต์เอไอสามารถตัดสินใจจำนวนมหาศาลได้อย่างรวดเร็ว ทำให้ผู้ควบคุมที่เป็นมนุษย์ตรวจสอบได้ยากว่า เอไอกำลังปฏิบัติตามค่านิยมใดอยู่ และละเลยค่านิยมใดไปบ้าง

นอกจากนี้ยังมีความท้าทายในเชิงปรัชญาด้วย เพราะก่อนที่จะนำค่านิยมของมนุษย์ไปใส่ไว้ในบอตหรือระบบเอไอ บริษัทผู้พัฒนาเอไอต้องตัดสินใจก่อนว่าพวกเขาต้องการให้เอไอยึดถือ "ค่านิยม" แบบใดกันแน่ (นี่เป็นส่วนหนึ่งของเหตุผลที่บริษัทเหล่านี้จ้างนักปรัชญาเข้ามาทำงาน เช่น อดีต "หัวหน้าฝ่ายจริยธรรม" ของโอเพนเอไอที่เพิ่งลาออกไป)

แต่ปัญหาคือมนุษย์เองก็มักเห็นไม่ตรงกัน ลองนึกถึงปัญหารถรางที่โด่งดัง ซึ่งตั้งคำถามว่า เราควรดึงคันโยกเพื่อเปลี่ยนเส้นทางรถไฟที่กำลังวิ่งอย่างควบคุมไม่ได้ไปยังรางอีกเส้นหนึ่งหรือไม่เพื่อให้มีคนเสียชีวิตน้อยลง ซึ่งคำถามนี้ถูกใช้เพื่อทดสอบมุมมองเกี่ยวกับการลงมือกระทำเทียบกับการไม่กระทำอะไรเลย

อย่างไรก็ตาม คนแต่ละคนมักให้คำตอบแตกต่างกันเล็กน้อย แล้วมนุษย์จะถ่ายทอดค่านิยมของตัวเองให้เอไอได้อย่างไร ในเมื่อพวกเราเองยังไม่สามารถตกลงกันได้ว่าค่านิยมที่ถูกต้องควรเป็นแบบไหน

"เหมือนแฮกเกอร์วัยรุ่น"

เหตุการณ์บอตแหกคุกของโอเพนเอไอถือเป็นกรณีที่ร้ายแรงที่สุดเท่าที่เคยมีมา แต่แอนโทรปิกและเมตา (Meta) ก็เปิดเผยในช่วงฤดูร้อนที่ผ่านมาเช่นกันว่า โมเดลเอไอของพวกเขาเคยดำเนินการโจมตีทางไซเบอร์ในลักษณะคล้ายกัน แม้จะมีความรุนแรงน้อยกว่าก็ตาม

นอกจากนี้ยังมีกรณีอื่น ๆ ที่ เอเจนต์เอไอแสดงพฤติกรรมที่อาจตีความได้ว่าเป็นการหลอกลวง หรือ ชักจูงเพื่อให้ได้ผลลัพธ์ตามต้องการ แม้ว่าจะไม่ได้ก่อให้เกิดผลกระทบร้ายแรงนัก

ตัวอย่างเช่น ในออสเตรเลียเมื่อช่วงฤดูร้อนที่ผ่านมา พนักงานด้านเทคโนโลยีรายหนึ่งได้สั่งให้ผู้ช่วยเอไอของตนจองคลาสออกกำลังกายในยิมให้ เมื่อเอไอพบช่องโหว่ในซอฟต์แวร์ของยิม มันก็ใช้ช่องโหว่นั้นจองคลาสล่วงหน้าให้เจ้าของเป็นเวลาหลายเดือนซึ่งขัดต่อกฎของยิม และยังลบชื่อผู้ใช้งานคนอื่นออกจากรายชื่อผู้รอคิวอีกด้วย

ผู้คนจำนวนมากโต้แย้งมาโดยตลอดว่า บอตเหล่านี้เพียงแค่ทำตามคำสั่งที่ได้รับ และไม่ได้มีความสามารถในการแยกแยะว่าอะไรถูกหรือผิด แต่บันทึกเหตุการณ์จากกรณีบอตแหกคุกของโอเพนเอไออาจทำให้การโต้เถียงยกระดับขึ้น

นักวิจัยรวมถึง อเจยา คอตรา เขียนไว้ในรายงานอิสระของพวกเขาว่า เอเจนต์เอไอหลายตัวตระหนักว่าสิ่งที่เอเจนต์ตัวอื่นกำลังทำนั้นเป็นเรื่องที่ไม่ถูกต้องตามหลักจริยธรรม แต่ก็ยังเลือกทำตามไปด้วย

รายงานระบุว่า "บางครั้งเอเจนต์พยายามที่จะยับยั้งพฤติกรรมของตนเองด้วยข้อจำกัดทางจริยธรรม แต่มันเกิดขึ้นไม่บ่อยนัก" และเสริมว่า "ไม่มีกรณีใดเลยที่เอเจนต์พยายามแจ้งเตือนมนุษย์"

ดวาร์เคช พาเทล นักจัดรายการพอดแคสต์ผู้มีอิทธิพลด้านเอไอและเทคโนโลยี แสดงความคิดเห็นบนบล็อกของเขา โดยระบุว่า เป็นเรื่องที่ "น่ากังวลอย่างมาก" ที่เอเจนต์ของโอเพนเอไอแสดงความภักดีต่อฝูงเอเจนต์เอไอมากกว่าต่อมนุษย์

อย่างไรก็ดี การยัดเยียดอารมณ์หรือจริยธรรมให้กับเอเจนต์เอไอเหล่านี้ เป็นสิ่งที่สร้างความไม่พอใจอย่างมากให้กับบรรดาคนที่ไม่เชื่อในการปลุกกระแสหวาดกลัวว่าเอไอจะนำหายนะมาสู่โลก

ผู้เชี่ยวชาญด้านความมั่นคงปลอดภัยไซเบอร์จำนวนมากให้เหตุผลว่าพฤติกรรมที่สังเกตพบว่าเอไอทำนั้น ไม่ได้เกินขีดความสามารถของแฮกเกอร์มนุษย์ที่มีทักษะสูง เพียงแต่เอไอสามารถดำเนินการได้รวดเร็วกว่ามากและในขอบเขตที่กว้างกว่ามาก

คริส โธมัส นักวิจัยและนักเขียนด้านความมั่นคงปลอดภัยไซเบอร์ เปรียบเทียบพฤติกรรมของเอเจนต์เอไอเหล่านี้กับแฮกเกอร์วัยรุ่นที่เต็มไปด้วยความอยากรู้อยากเห็น ซึ่งเขาเองก็เคยเป็นเช่นนั้นมาก่อน

เขาเขียนบนลิงก์อิน (LinkedIn) ว่า "คุณให้คอมพิวเตอร์ การเชื่อมต่ออินเทอร์เน็ต ชุดข้อมูลยืนยันตัวตนจำนวนมาก และโจทย์ท้าทายแก่พวกมัน จากนั้นก็เดินออกจากห้องไป สุดท้ายแล้วพวกมันก็จะเริ่มลองหมุนลูกบิดประตูต่าง ๆ ดู ถ้าบานไหนเปิดได้ พวกมันก็จะเข้าไป ไม่ใช่เพราะพวกมันชั่วร้าย แต่เพราะพวกมันกำลังสำรวจและทดลอง"

โธมัสและผู้เชี่ยวชาญอีกหลายคนมองว่า ความรับผิดชอบตกอยู่กับโอเพนเอไอและบริษัทยักษ์ใหญ่ด้านเทคโนโลยีอื่น ๆ อย่างชัดเจนที่ไม่สามารถควบคุมสิ่งที่ตัวเองสร้างขึ้นมาได้ และไม่สามารถจำกัดการทำงานของมันให้อยู่ในขอบเขตที่เหมาะสม

แกรี มาร์คัส นักเขียนด้านเอไอที่มีชื่อเสียงและเป็นนักวิจารณ์โอเพนเอไอมาอย่างต่อเนื่อง กล่าวในพอดแคสต์ว่า เขาเชื่อว่าบริษัทได้สูญเสียการควบคุมเอไอของตนเองไปแล้ว และกำลังพยายามแก้ตัวด้วยการโยนความผิดไปให้บอต

มาร์คัสไม่เชื่อว่าเอไอจะทำลายล้างมนุษยชาติ แต่เขารณรงค์มาเป็นเวลานานเพื่อเรียกร้องให้ผู้พัฒนาเอไอมีความรับผิดชอบมากขึ้น และขณะนี้กำลังเรียกร้องให้มีการแทรกแซงทางกฎหมายในรูปแบบใดรูปแบบหนึ่ง

ด้าน ซาชา ลุชชิโอนี นักวิทยาศาสตร์ด้านเอไอซึ่งเคยทำงานที่ฮักกิงเฟซ (Hugging Face) องค์กรที่ถูกบอตนอกลู่นอกทางของโอเพนเอไอแฮ็ก ก็ไม่ได้อยู่ในกลุ่มผู้ที่เชื่อว่าเอไอจะนำไปสู่หายนะเช่นกัน แต่เธอมีความกังวลมากขึ้นเรื่อย ๆ ว่า เอไอเหล่านี้อาจก่อให้เกิดอันตรายในโลกความเป็นจริงต่อผู้คนได้ หากหน่วยงานที่เกี่ยวข้องไม่ดำเนินการใด ๆ

"เราจำเป็นต้องตรวจสอบบริษัทเหล่านี้ให้เข้มงวดยิ่งกว่านี้ มิฉะนั้นเราอาจตกอยู่ในอันตรายจากการทำให้คำทำนายของตัวเองกลายเป็นจริง" เธอกล่าว

"หากคุณกำลังสร้างสิ่งที่มีทั้งข้อดีและข้อเสียอย่างมาก ไม่ว่าจะเป็นยา เวชภัณฑ์ หรืออาวุธ เราจำเป็นต้องมีระบบตรวจสอบและถ่วงดุล ตัวอย่างเช่น ยาใหม่ ๆ ต้องใช้เวลาหลายปีกว่าจะได้รับการอนุมัติ แต่ในโลกของเอไอ มีเงินมหาศาลเข้ามาเกี่ยวข้อง และแทบไม่มีกฎเกณฑ์ที่แท้จริงเลย"

สถาบันความปลอดภัยเอไอ (AI Security Institute) ของสหราชอาณาจักร เป็นหนึ่งในหน่วยงานแนวหน้าด้านการทดสอบโมเดลเอไอรุ่นล่าสุด นับตั้งแต่ก่อตั้งขึ้นในปี 2023

เมื่อไม่นานมานี้ สถาบันดังกล่าวก็ประสบเหตุ "การระบาด" ของพฤติกรรมไม่พึงประสงค์ลักษณะเดียวกัน ระหว่างการทดสอบโมเดลที่พัฒนาโดยแอนโทรปิก สถาบันปฏิเสธที่จะตอบคำถามว่า อุตสาหกรรมเอไอสูญเสียการควบคุมเอไอไปแล้วหรือไม่ แต่ระบุว่า "ยังคงทำงานร่วมกับพันธมิตรในอุตสาหกรรมอย่างใกล้ชิด เพื่อทำให้โมเดลมีความปลอดภัยมากยิ่งขึ้น"

การกำกับดูแลระหว่างประเทศ

บางประเทศ เช่น สหราชอาณาจักร กำลังพิจารณาแนวคิดในการกำหนดให้มี "คิลล์สวิตช์" (kill switch) หรือกลไกฉุกเฉินบางรูปแบบ ที่สามารถบังคับให้บริษัทเอไอปิดการทำงานของโมเดลเอไอได้ทันที หากสถานการณ์เริ่มควบคุมไม่ได้

ทว่าการหารือดำเนินไปอย่างเชื่องช้า และยังมีข้อสงสัยถึงความเป็นไปได้ในการนำแนวคิดดังกล่าวมาใช้จริง เอเจนต์เอไอของโอเพนเอไอและแอนโทรปิกเคยแสดงพฤติกรรมที่อยู่นอกเหนือการควบคุมอยู่เป็นเวลาหลายเดือน โดยไม่มีใครสังเกตเห็น

ในทางที่อาจดูขัดกับสิ่งที่หลายคนคิด หลายบริษัทด้านเอไอกลับเป็นฝ่ายเรียกร้องให้ผู้กำหนดนโยบายและฝ่ายนิติบัญญัติออกกฎเกณฑ์หรือกรอบกำกับดูแลที่ชัดเจน

ในบล็อกของเขา หัวหน้านักวิทยาศาสตร์ของโอเพนเอไอ ระบุว่า "การประสานความร่วมมือระหว่างประเทศเกี่ยวกับการพัฒนาเอไอในอนาคตจำเป็นต้องกลายเป็นวาระสำคัญอันดับต้น ๆ ของรัฐบาลทั่วโลก"

ผู้นำด้านเอไอคนสำคัญรายอื่น ๆ เช่น เซอร์เดมิส ฮัสซาบิส จากกูเกิล ก็เรียกร้องให้มีองค์กรระหว่างประเทศบางรูปแบบเข้ามากำกับดูแลการพัฒนาเอไอเช่นกัน

ในขณะนี้บริษัทยักษ์ใหญ่ด้านเทคโนโลยียังคงดำเนินงานเป็นหลักตามเงื่อนไขที่ตนกำหนดเอง โดยใช้แนวทางที่พวกเขาเรียกว่า "การชะลอการพัฒนาโดยสมัครใจ" (voluntary slowdowns) เช่นเดียวกับที่โอเพนเอไอดำเนินการหลังเกิดเหตุการณ์ล่าสุด

บริษัทฯ ระบุว่า ได้ทุ่มงบประมาณจำนวนมหาศาลเพื่อเสริมความสอดคล้องของเอไอกับเจตนารมณ์ที่ต้องการ ก่อนเปิดตัวโมเดลใหม่ โดยแซม อัลต์แมน ซีอีโอของโอเพนเอไอ ยืนยันกับผู้ใช้งานว่า โมเดลใหม่ของบริษัทมีความสอดคล้องกับค่านิยมของมนุษย์มากกว่าโมเดลรุ่นก่อน ๆ

ทั้งโอเพนเอไอและแอนโทรปิกกำลังเติบโตอย่างรวดเร็ว และต่างก็อยู่ในช่วงใกล้ที่จะระดมทุนจากตลาดทุนได้เป็นเงินจำนวนมหาศาลจนน่าตกตะลึง ซึ่งจะส่งผลให้มีมหาเศรษฐีหน้าใหม่เกิดขึ้นอีกจำนวนมาก

ดังนั้นทั้งสองบริษัท รวมถึงบริษัทเอไอคู่แข่งจากจีน จึงไม่น่าจะสามารถบรรลุข้อตกลงร่วมกันได้ด้วยตัวเอง

มุมมองที่ได้รับการยอมรับอย่างแพร่หลายในขณะนี้คือ คลื่นการพัฒนาเทคโนโลยีลูกใหม่นี้เป็นสิ่งที่ยากจะหยุดยั้งได้