OpenAI ยุบทีมเตรียมพร้อมรับมือ AI อันตราย: สัญญาณเตือนหรือการปรับโครงสร้าง?

OpenAI ยุบทีมเตรียมพร้อมรับมือ AI อันตราย: สัญญาณเตือนหรือการปรับโครงสร้าง?ข่าวจาก Financial Times ระบุว่า OpenAI ได้ประกาศยุบทีมงานด้านการเตรียมพร้อม (preparedness team) เมื่อปลายเดือนที่ผ่านมา ซึ่งเป็นทีมที่มีหน้าที่สำคัญในการประเมินความเสี่ยงร้ายแรงที่อาจเกิดขึ้นจากโมเดล AI และหาแนวทางในการลดทอนความเสี่ยงเหล่านั้น การเปลี่ยนแปลงครั้งนี้เกิดขึ้นท่ามกลางกระแสข่าวการเตรียมตัวเข้าสู่ตลาดหลักทรัพย์ (IPO) ของ OpenAI ซึ่งส่งผลให้เกิดการปรับโครงสร้างภายในหลายครั้งบทบาทหน้าที่ของทีมเตรียมพร้อมทีมเตรียมพร้อมมีภารกิจหลักในการตรวจสอบว่าโมเดล AI ที่พัฒนาขึ้นนั้นมีศักยภาพที่จะก่อให้เกิดอันตรายร้ายแรงหรือไม่ เช่น ความเป็นไปได้ที่ AI จะทำงานนอกเหนือการควบคุมและสร้างความเสียหายให้กับบริษัทอื่น ๆ โดยการหาทางป้องกันและแก้ไขปัญหาดังกล่าวการปรับโครงสร้างหลังยุบทีมหลังจากการยุบทีมเตรียมพร้อม ความรับผิดชอบในส่วนงานดังกล่าวได้ถูกแบ่งออกเป็นส่วนย่อย ๆ ตามขอบเขตความเชี่ยวชาญเฉพาะด้าน เช่น ด้านชีวภาพ (bio) และด้านไซเบอร์ (cyber) และถูกโอนย้ายไปยังทีมงานที่มีอยู่เดิมภายในองค์กรการเปลี่ยนแปลงที่เกิดขึ้นอย่างต่อเนื่องนี่ไม่ใช่การเปลี่ยนแปลงครั้งแรกที่ OpenAI ได้ดำเนินการ เนื่องจากในช่วงหลายปีที่ผ่านมา บริษัทได้ค่อย ๆ ปรับเปลี่ยนรูปแบบการทำงาน โดยได้ยุบทีมที่เกี่ยวข้องกับการเตรียมพร้อมสำหรับ AGI (Artificial General Intelligence) และทีม Superalignment ไปก่อนหน้านี้แล้ว นอกจากนี้ บุคลากรสำคัญในตำแหน่งผู้นำด้านจริยธรรม (Ethics lead) อย่าง Chloé Bakalar, Chief Futurist อย่าง Josh Achiam และหัวหน้าฝ่ายความปลอดภัย (head of safety) อย่าง Johannes Heidecke ก็ได้ทยอยลาออกไปในช่วงไม่นานมานี้ข้อกังวลด้านความปลอดภัยการเปลี่ยนแปลงเหล่านี้ทำให้เกิดเสียงวิพากษ์วิจารณ์จากผู้ที่เคยทำงานใน OpenAI เช่น Jan Leike ซึ่งลาออกไปในปี 2024 ได้ให้ความเห็นกับ Financial Times ว่า บริษัทกำลังละเลยประเด็นด้านความปลอดภัย เพื่อมุ่งเน้นไปที่การสร้าง "ผลิตภัณฑ์ที่ดูดี" (shiny products) มากกว่าทิศทางใหม่ของหัวหน้าทีมเตรียมพร้อมDylan Scandinaro ซึ่งเคยถูกดึงตัวมาจาก Anthropic ในเดือนกุมภาพันธ์ และดำรงตำแหน่งหัวหน้าทีมเตรียมพร้อม จะหันมาให้ความสำคัญกับผลกระทบของ AI ที่สามารถ "ปรับปรุงตนเองได้แบบวนซ้ำ" (recursive self-improving) ซึ่งเป็นอีกหนึ่งประเด็นที่ต้องจับตามองอย่างใกล้ชิด#AI #OpenAI #ความปลอดภัยAIhttps://www.theverge.com/ai-artificial-intelligence/980817/openai-disbands-preparedness-team