OpenAI ประกาศรับ Head of Preparedness ตำแหน่งงานที่ ‘โหด’ ที่สุดในโลก AI! จ้างมาคุมความเสี่ยงก่อนโลกจะพัง

ถ้าบอกว่าตอนนี้โลกเรากำลังหมุนไปเร็วแบบติดเทอร์โบเพราะ AI หลายคนคงพยักหน้าเห็นด้วยแบบไม่ต้องสงสัย แต่ในขณะที่พวกเรากำลังตื่นเต้นกับฟีเจอร์ใหม่ๆ หรือความฉลาดของมันที่ช่วยงานเราได้สารพัด ฝั่งผู้พัฒนาอย่าง OpenAI เขากำลังมองไปไกลกว่านั้น และมันไม่ใช่แค่เรื่องความฉลาดด้วย แต่มันคือเรื่องของ “ความปลอดภัย” ที่ต้องคุมให้อยู่หมัดก่อนที่มันจะบานปลายเกินแก้

ล่าสุด OpenAI เลยตัดสินใจเปิดรับตำแหน่งงานใหม่ที่ฟังดูเหมือนหลุดออกมาจากหนังไซไฟ นั่นคือ Head of Preparedness หรือถ้าจะแปลให้เห็นภาพแบบไทยๆ ก็คือ “หัวหน้าหน่วยเตรียมรับมือความเสี่ยงระดับโลก” นั่นเอง งานนี้บอกเลยว่าไม่ได้มาเล่นๆ เพราะภารกิจหลักคือการเป็นด่านหน้าคอยตรวจจับว่า AI รุ่นท็อปๆ (frontier models) ที่พวกเขากำลังสร้าง มันมีเขี้ยวเล็บตรงไหนที่อาจจะย้อนกลับมาทำร้ายมนุษย์ได้บ้าง

ทำไมต้องมี Preparedness? เมื่อ AI ไม่ได้มีแค่ด้านสว่าง

คำว่า Preparedness ในพจนานุกรมของ OpenAI ไม่ใช่แค่การเตรียมตัวรับมือปัญหาจุกจิกทั่วไป แต่มันคือการสร้าง “กำแพงความปลอดภัย” ที่แข็งแรงพอจะกันไม่ให้เกิดสิ่งที่เรียกว่า severe harm หรือความเสียหายระดับหายนะ ตัวอย่างที่เขาหยิบมาพูดถึงใน Preparedness Framework v2 นั้นน่าขนลุกพอสมควร เพราะมันหมายถึงความเสียหายที่มีผลกระทบต่อชีวิตคนหลักพัน หรือสร้างความพินาศทางเศรษฐกิจในระดับหลายแสนล้านดอลลาร์

ลองนึกภาพว่าถ้า AI เก่งจนสามารถออกแบบอาวุธเคมีที่คนธรรมดาทำเองไม่ได้ หรือสามารถเจาะระบบธนาคารทั่วโลกได้ในพริบตา นั่นแหละคือสิ่งที่ทีมนี้ต้องรับผิดชอบเพื่อไม่ให้มันเกิดขึ้น

เจาะลึก 3 สมรภูมิที่ OpenAI โฟกัสเป็นพิเศษ

ในการทำงานของตำแหน่ง Head of Preparedness เขาจะไม่ได้นั่งเดาสุ่มไปเรื่อยๆ แต่เขามีสิ่งที่เรียกว่า Tracked Categories หรือกลุ่มความเสี่ยงหลักที่ต้องจับตามองแบบ 24 ชั่วโมง ซึ่งแบ่งออกเป็น 3 ด้านใหญ่ๆ ดังนี้:

1. Biological & Chemical (ความเสี่ยงด้านชีวภาพและเคมี): แน่นอนว่า AI ช่วยนักวิทยาศาสตร์คิดค้นยาใหม่ๆ ได้ แต่ในทางกลับกัน ถ้ามันตกไปอยู่ในมือคนผิด หรือ AI ดัน “ฉลาดเกินไป” จนบอกวิธีสร้างอาวุธเชื้อโรคที่แพร่กระจายเร็วแต่ต้นทุนต่ำขึ้นมาได้ โลกเราจะวุ่นวายขนาดไหน? ทีมนี้ต้องสร้าง capability evaluations เพื่อทดสอบว่า AI ของเขามีความรู้ด้านนี้ลึกซึ้งเกินเส้นที่ขีดไว้หรือยัง

2. Cybersecurity (ความปลอดภัยทางไซเบอร์): AI ที่เขียนโค้ดเก่งๆ อย่างที่เราเห็นกันในทุกวันนี้ มันคือดาบสองคมครับ มันช่วยเราหาบั๊กในโปรแกรมได้ แต่ในขณะเดียวกันมันก็สามารถช่วยแฮกเกอร์เขียนมัลแวร์ระดับสูง หรือสแกนหาช่องโหว่ของโครงสร้างพื้นฐานของประเทศได้ ตำแหน่งนี้ต้องวาง threat model เพื่อดูว่า AI จะถูกเอาไปใช้โจมตีระบบแบบสเกลใหญ่ได้ยังไงบ้าง

3. AI Self-improvement (การพัฒนาตัวเองของ AI): อันนี้คือสิ่งที่กูรูหลายคนกลัวที่สุด คือการที่ AI เริ่มรู้จัก “ปรับปรุงโค้ดตัวเอง” หรือสร้าง AI ตัวที่ฉลาดกว่าเดิมขึ้นมาเองโดยไม่ต้องรอคนเขียนโปรแกรมให้ ถ้าถึงจุดนั้น การที่มนุษย์จะเข้าไปควบคุมหรือกดปุ่มปิด (Human Control) อาจจะกลายเป็นเรื่องยาก ทีม Preparedness จึงต้องเฝ้าระวังเรื่องนี้เป็นพิเศษ

เปิด Checklist งานของ Head of Preparedness: งานแบกที่แลกด้วยเงินล้าน

ถ้าถามว่าคนที่มาทำงานนี้ต้องทำอะไรบ้าง? บอกเลยว่านี่คืองาน “คุมเกม” ตั้งแต่ต้นจนจบครับ เขาจะอยู่ภายใต้ทีม Safety Systems และต้องรับผิดชอบสิ่งเหล่านี้:

• กำหนดมาตรวัดความเสี่ยง: ไม่ใช่แค่ใช้ความรู้สึกบอกว่า “น่าจะอันตราย” แต่ต้องสร้างระบบการประเมินที่เป็นวิทยาศาสตร์ว่า AI เก่งแค่ไหนถึงจะเรียกว่าเริ่มเสี่ยง

• วาง Safeguard: ออกแบบระบบป้องกัน เช่น การจำกัดคำตอบในบางเรื่อง หรือการตั้งระบบตรวจจับพฤติกรรมแปลกๆ ของ AI

• Pipeline ของการปล่อยของ: ในวันที่ OpenAI ต้องแข่งกับเวลาและคู่แข่งอย่าง Google หรือ Anthropic คนตำแหน่งนี้ต้องเป็นคนเคาะว่า “โมเดลนี้พร้อมปล่อยหรือยัง” ถ้าความเสี่ยงยังสูงเกินไป เขามีอำนาจในการเบรกการเปิดตัวได้เลย

• Update Framework: เพราะโลก AI เปลี่ยนทุกวัน วันนี้ปลอดภัย พรุ่งนี้อาจจะมีช่องโหว่ใหม่ ตำแหน่งนี้จึงต้องปรับปรุงนโยบายให้ทันโลกเสมอ

ทำไมข่าวนี้ถึงกลายเป็นไวรัล? ก็เพราะค่าตอบแทนที่สื่ออย่าง TechCrunch ออกมารายงานว่ามันสูงถึงประมาณ 555,000 ดอลลาร์ต่อปี (หรือราวๆ 19-20 ล้านบาท) แถมยังมีหุ้น (equity) ให้อีกต่างหาก! แต่นี่ไม่ใช่เงินที่ได้มาง่ายๆ เพราะจากบทสัมภาษณ์และประกาศรับสมัคร ผู้บริหารยอมรับตรงๆ ว่านี่คืองานที่ “เครียดจัด” เพราะคุณต้องรับผิดชอบต่อความปลอดภัยของคนทั้งโลกในแง่หนึ่งเลยทีเดียว

Preparedness Framework v2: เส้นแบ่งที่ห้ามก้าวข้าม

หัวใจสำคัญที่ตำแหน่งนี้ต้องใช้คือกรอบการทำงานที่ชื่อว่า Preparedness Framework v2 ซึ่งมีการแบ่งระดับความอันตรายที่เรียกว่า Threshold ออกเป็น 2 ระดับสำคัญ:

• High threshold: เมื่อ AI เริ่มมีความสามารถที่เพิ่มความเสี่ยงเดิมให้รุนแรงขึ้น เช่น เก่งเรื่องแฮกเกอร์มากกว่าระบบเดิมที่มีอยู่ 50% แบบนี้ต้องมี safeguards ที่แน่นหนามากๆ ก่อนจะให้ใครใช้งาน

• Critical threshold: คือจุดที่อันตรายที่สุด เช่น AI เริ่มมีความสามารถใหม่ที่เราไม่เคยเห็นมาก่อนและคุมไม่อยู่ กรณีนี้ OpenAI บอกว่าต้องมีระบบป้องกันตั้งแต่ตอนที่ยังพัฒนาอยู่ในแล็บเลย (แม้จะยังไม่ปล่อยออกมาก็ตาม)

ทางทีมงานจะต้องทำสิ่งที่เรียกว่า Safeguards Report เพื่อสรุปทุกอย่างให้บอร์ดบริหารและสาธารณชน (ในบางส่วน) มั่นใจว่า “เราคุมอยู่จริงๆ”

คนใช้งานทั่วไปอย่างเรา ต้องปรับตัวยังไง?

แม้ว่าเรื่อง Head of Preparedness จะดูเป็นเรื่องระดับองค์กรยักษ์ใหญ่ แต่ผลกระทบมันส่งถึงพวกเราที่ใช้ ChatGPT ทุกวันแน่นอนครับ:

1. AI จะ “บ่น” หรือ “ปฏิเสธ” เรามากขึ้น: ในอนาคตถ้าคุณถามเรื่องที่เสี่ยงต่อความมั่นคงหรือความปลอดภัย AI อาจจะปฏิเสธการตอบบ่อยขึ้น นั่นไม่ใช่เพราะมันโง่ลงนะ แต่มันถูกคุมด้วยระบบความปลอดภัยที่เข้มข้นขึ้นนั่นเอง

2. มาตรฐานความปลอดภัยระดับโลก: ต่อไป AI จากค่ายไหนที่ไม่มีกระบวนการแบบนี้จะเริ่มถูกสังคมตั้งคำถาม และอาจจะผิดกฎหมายในบางประเทศ

3. การใช้งานต้องมีสติ: แม้จะมีคนคุมความเสี่ยงให้เรา แต่ในฐานะผู้ใช้ เรายังต้องเช็กข้อมูลซ้ำเสมอ โดยเฉพาะเรื่องที่เกี่ยวกับสุขภาพ การเงิน หรือข้อมูลส่วนบุคคล เพราะ AI ยังมีโอกาสที่ความเสี่ยงบางอย่างจะหลุดรอดไปได้

สรุปสุดท้าย: การที่ OpenAI เปิดรับ Head of Preparedness เป็นสัญญาณที่ชัดเจนว่ายุคของการ “สร้างไปก่อนแล้วค่อยแก้” กำลังจะจบลง และเข้าสู่ยุคของ “ความปลอดภัยต้องมาก่อน” (Safety by Design) ซึ่งน่าจะเป็นข่าวดีสำหรับมนุษยชาติที่อยากใช้เทคโนโลยีที่เก่งกาจไปพร้อมๆ กับความอุ่นใจครับ

FAQ (3 หัวข้อที่พบบ่อย)

1) ตำแหน่ง Head of Preparedness ต่างจากทีม Safety เดิมที่ OpenAI มีอยู่ยังไง? ทีม Safety ปกติอาจจะดูเรื่องนโยบายกว้างๆ หรือการตอบคำถามที่ไม่เหมาะสม แต่ตำแหน่ง Head of Preparedness จะเจาะลึกไปที่ “ความสามารถทางเทคนิค” ของโมเดลระดับ frontier เป็นหลัก โดยเน้นการวัดผล (evaluation) และการพยากรณ์ความเสี่ยงเชิงลึกในด้าน Cyber, Bio และการที่ AI พัฒนาตัวเองครับ

2) Preparedness Framework v2 คืออะไร และมีไว้ทำไม? มันคือ “คู่มือปฏิบัติการ” ของ OpenAI ในการประเมินความปลอดภัยครับ โดยจะมีการกำหนดระดับความเสี่ยง (Threshold) และขั้นตอนการวางระบบป้องกัน (safeguards) ที่ชัดเจน เพื่อให้การตัดสินใจปล่อยโมเดลใหม่ๆ เป็นไปอย่างมีมาตรฐาน ไม่ใช่แค่การตัดสินใจของใครคนใดคนหนึ่ง

3) การมีตำแหน่งนี้จะทำให้ AI พัฒนาช้าลงไหม? ในแง่หนึ่งอาจจะดูเหมือนเพิ่มขั้นตอน แต่ในมุมมองของ Sam Altman และทีมผู้บริหาร การทำแบบนี้คือการทำให้การพัฒนา AI “ยั่งยืน” มากกว่า เพราะถ้าเกิดอุบัติเหตุรุนแรงเพียงครั้งเดียว อาจหมายถึงจุดจบของบริษัทหรือการถูกสั่งปิดอุตสาหกรรม AI ทั้งระบบเลยก็ได้ การมีทีมนี้จึงเหมือนการตรวจสภาพรถแข่งก่อนลงสนามจริงนั่นเอง