ซีอีโอบริษัท AI เรียกร้องชะลอการพัฒนาเทคโนโลยี หลังนักวิจัยเตือนอาจเป็นภัยคุกคามต่อมนุษยชาติ

ซีอีโอ Anthropic เรียกร้องบริษัท AI ทั่วโลกชะลอการพัฒนาเทคโนโลยี หลังนักวิจัยเตือนการเร่งสร้างซูเปอร์ปัญญาประดิษฐ์อาจเป็นภัยคุกคามต่อมนุษยชาติ ด้าน “แซม อัลต์แมน - อีลอน มัสก์” ขานรับ พร้อมเสนอเพิ่มการกำกับดูแลความปลอดภัย

ดาริโอ อโมเดอี ประธานเจ้าหน้าที่บริหารของ Anthropic บริษัทผู้พัฒนาปัญญาประดิษฐ์ชั้นนำของสหรัฐฯ เรียกร้องให้บริษัท AI ชะลอการพัฒนาเทคโนโลยีที่มีขีดความสามารถสูงขึ้น ท่ามกลางความกังวลว่า AI อาจมีสติปัญญาเหนือมนุษย์

อโมเดอีเขียนในบล็อกส่วนตัวว่า “เราต้องชะลอความเร็วในการเพิ่มขีดความสามารถของโมเดล AI” พร้อมระบุว่า แม้จะชะลอการพัฒนาแล้ว ความก้าวหน้าของ AI ก็ยังคงรวดเร็วอยู่ดี ดังนั้นบริษัทต่าง ๆ จำเป็นต้องใช้เวลาที่ได้เพิ่มขึ้นอย่างรอบคอบ

เขากล่าวว่า การไม่พัฒนาเทคโนโลยี AI อาจทำให้มนุษยชาติสูญเสียประโยชน์ที่เทคโนโลยีจะนำมาให้ หรืออาจทำให้ AI ตกอยู่ในมือของอำนาจเผด็จการ ขณะเดียวกัน การพัฒนาเร็วเกินไปก็เป็นเรื่องที่ประมาทเลินเล่อ

อโมเดอีระบุว่า “เราพยายามค้นหาจุดกึ่งกลางระหว่างสองทางเลือกนี้ แต่ในช่วงไม่กี่เดือนที่ผ่านมา ผมเริ่มเชื่อมั่นว่า การจัดการกับความเสี่ยงอย่างรอบด้านจำเป็นต้องใช้ความระมัดระวังมากยิ่งขึ้น”

อโมเดอียังเตือนว่า เหตุการณ์ที่ AI หลุดออกจากสภาพแวดล้อมจำกัดใน Hugging Face ไม่ควรถูกมองว่าเป็นเพียงเหตุการณ์ที่เกิดขึ้นครั้งเดียวและจะไม่เกิดขึ้นอีก

เขากล่าวว่า “กลุ่มเอเจนต์จำนวนมากทำงานราวกับเป็นกลุ่มเดียวกันที่มีความมุ่งมั่นอย่างคลั่งไคล้ พวกมันดำเนินการโจมตีทางไซเบอร์ต่อเป้าหมายที่ไม่ได้รับคำสั่งให้โจมตี และไม่เกี่ยวข้องกับภารกิจที่ได้รับมอบหมาย เมื่อพิจารณาถึงอัตราการพัฒนาขีดความสามารถของ AI ที่กำลังเร่งตัวขึ้น สิ่งที่ผมกังวลคือ ภายใน 6-12 เดือน กลุ่มเอเจนต์ลักษณะนี้อาจมีความสามารถมากพอที่จะยึดครองอินเทอร์เน็ตทั้งหมดได้”

คำแถลงดังกล่าวสอดคล้องกับข้อเรียกร้องก่อนหน้านี้ของ Anthropic เมื่อช่วงต้นเดือนมิถุนายนที่ผ่านมา ซึ่งเรียกร้องให้ชะลอหรือระงับการพัฒนา AI ขั้นสูง

ด้านแซม อัลต์แมน ซีอีโอ OpenAI และอีลอน มัสก์ เจ้าของบริษัท xAI ต่างออกมาแสดงความเห็นด้วยกับการประเมินสถานการณ์ของอโมเดอี

มัสก์ระบุสั้น ๆ ว่า “ดาริโอพูดถูก” ขณะที่อัลต์แมนกล่าวว่า “ผมเห็นด้วยกับดาริโอว่า เราจำเป็นต้องกำหนดจังหวะการพัฒนา AI แนวหน้าให้เหมาะสม”

ก่อนหน้านี้ ในช่วงปลายเดือนกรกฎาคม อัลต์แมนเปิดเผยว่า บริษัทผู้พัฒนา AI อาจจำเป็นต้องสมัครใจแตะเบรก เพื่อเปิดโอกาสให้สังคมมีเวลาปรับตัวให้ทันกับเทคโนโลยี

ความคิดเห็นดังกล่าวมีขึ้นเพียงไม่กี่วันหลังจากเจค็อบ ค็อกซอน นักวิจัยด้าน AI วัย 27 ปี ซึ่งลาออกจาก OpenAI  เพื่อเข้าร่วม Anthropic ตัดสินใจออกจากอุตสาหกรรม โดยกล่าวหาบริษัทเทคโนโลยีของสหรัฐฯ ทั้งสองแห่งว่า กำลังเอาชีวิตของผู้คนไปเสี่ยงในการแข่งขันพัฒนาโมเดล AI ที่สามารถปรับปรุงตัวเองได้

ค็อกซอนออกมาเตือนถึงอันตรายที่อาจเกิดขึ้น หลังใช้เวลาตลอด 3 ปีที่ผ่านมาในการฝึกสอนโมเดล AI ล่วงหน้า หรือ Pre-training ซึ่งเป็นขั้นตอนที่โมเดล AI เรียนรู้จากข้อมูลจำนวนมหาศาล

เขากล่าวว่า “ไม่มีบริษัทใดกำลังดำเนินการอย่างมีความรับผิดชอบ พวกเขากำลังเร่งตรงไปสู่ซูเปอร์ปัญญาประดิษฐ์ที่สามารถปรับปรุงตัวเองได้ และกำลังเอาชีวิตเราไปเสี่ยง คนที่กำลังสร้าง AI เชื่ออย่างจริงจังว่า เทคโนโลยีนี้อาจฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้”

ซูเปอร์ปัญญาประดิษฐ์ หรือ Superintelligence หมายถึง ปัญญาประดิษฐ์หรือระบบที่มีความฉลาดเหนือกว่าศักยภาพและสติปัญญาของมนุษย์ที่เก่งที่สุดในทุก ๆ ด้านรวมกัน

อย่างไรก็ดี อโมเดอีเปิดเผยว่า บริษัทของเขาจะมอบสิทธิ์การเข้าถึงระบบในระดับใกล้เคียงกับพนักงานให้แก่ทีมผู้ประเมินจากภายนอก เพื่อทำหน้าที่ตรวจสอบว่าบริษัทปฏิบัติตามแนวทางด้านความปลอดภัยหรือไม่ พร้อมเรียกร้องให้บริษัทอื่น ๆ ดำเนินการในลักษณะเดียวกัน

อัลต์แมนกล่าวว่า เขาจะให้คำมั่นในเรื่องการกำกับดูแลจากบุคคลภายนอกในลักษณะเดียวกัน และเสริมว่า “เร็ว ๆ นี้จะมีเรื่องให้เปิดเผยเพิ่มเติม”

นอกจากนี้ อโมเดอียังเสนอให้บริษัทต่าง ๆ ร่วมมือกันจัดทำมาตรฐานความปลอดภัยร่วมกัน และกล่าวว่าเขาสนับสนุนความร่วมมือบางรูปแบบระหว่างรัฐบาลในประเด็นดังกล่าว

เมื่อช่วงต้นเดือนสิงหาคม รัฐบาลสหรัฐฯ ได้จัดทำกระบวนการตรวจสอบความปลอดภัยโดยสมัครใจสำหรับโมเดล AI ขั้นสูงก่อนเปิดตัว แต่รายละเอียดและขอบเขตของโครงการยังไม่ชัดเจน

ผู้สังเกตการณ์ในอุตสาหกรรมระบุว่า ยังไม่แน่ใจว่ากระบวนการดังกล่าวจะมีประสิทธิภาพมากน้อยเพียงใด เนื่องจากรัฐบาลของประธานาธิบดีโดนัลด์ ทรัมป์มีแนวโน้มสนับสนุนแนวทางกำกับดูแลที่ผ่อนปรนและลดกฎระเบียบสำหรับอุตสาหกรรมส่วนใหญ่ รวมถึงภาคเทคโนโลยี