รัฐบาลอินโดนีเซียและมาเลเซียได้ระงับการเข้าถึง Grok ชั่วคราวในช่วงวันที่ 10-11 มกราคม 2569เนื่องจากความกังวลต่อการสร้างเนื้อหาลามกอนาจารและภาพ deepfake โดยไม่ได้รับความยินยอม (non-consensual sexualized deepfakes) รวมถึงภาพของสตรีและเด็ก ซึ่งเกิดจากข้อจำกัดด้านมาตรการป้องกันที่ต่ำของ Grok เมื่อเทียบกับ AI ตัวอื่น
ถามว่า Grok คืออะไร กร็อกคือ AI chatbot ที่พัฒนาโดย xAI บริษัทของพ่อมด "อีลอน มัสก์" (Elon Musk) ผู้ได้รับแรงบันดาลใจจากหนังสือ The Hitchhiker's Guide to the Galaxy และ JARVIS ใน Iron Man จุดเด่นของ Grok คือการตอบคำถามอย่างตรงไปตรงมา มีอารมณ์ขัน และพยายามช่วยเหลือผู้ใช้ให้มากที่สุด โดยไม่เซ็นเซอร์เนื้อหามากเหมือน AI ตัวอื่น สามารถใช้งานได้ฟรีบน x.com, grok.com และแอป Grok/X บน iOS/Android ซึ่งมีเวอร์ชันพรีเมียมสำหรับฟีเจอร์เพิ่มเติม
แต่การแบน Grok เกิดขึ้นเพราะมีเหตุพบภาพลามกที่เกิดจากฟีเจอร์สร้างภาพของ Grok ซึ่งใช้อัลกอริทึม Flux ที่มีลักษณะไม่เซ็นเซอร์สูง ทำให้ผู้ใช้สามารถสร้างเนื้อหาที่ละเมิดได้ง่าย ซึ่ง xAI ได้ตอบสนองโดยจำกัดฟีเจอร์สร้าง หรือแก้ไขภาพให้เฉพาะสมาชิกระดับพรีเมียม แต่ยังคงถูกวิพากษ์วิจารณ์ว่ายังไม่เพียงพอ
***ย้อนไทม์ไลน์ Grok โป๊?
สิงหาคม 2567 ทีม xAI เปิดตัว Grok-2 พร้อมฟีเจอร์สร้างภาพด้วยโมเดล Flux.1 ซึ่งได้รับการยกย่องเรื่องคุณภาพแต่ถูกวิจารณ์ทันทีว่ามี safeguards หรือการป้องกันน้อยมากถึงระดับ uncensored ทำให้สามารถสร้างภาพที่มีความรุนแรง ลิขสิทธิ์ หรือลามกได้ง่ายกว่าคู่แข่ง
จนปลายปี 2567 ถึงต้นปี 2568 มีรายงานว่าผู้ใช้สร้างภาพ deepfake ลามกของบุคคลจริง รวมถึงคนดัง และเริ่มมีกรณี "digital undressing" หรือการแก้ไขภาพให้เปลือยอย่างแพร่หลาย
ธันวาคม 2568 ปริมาณภาพลามกที่สร้างโดย Grok เพิ่มสูง มีรายงานว่าสร้างภาพ non-consensual ได้ประมาณ 1 ภาพต่อนาที บนแพลตฟอร์ม X
ล่าสุดคือต้นเดือนมกราคม 2569 มีรายงานภาพลามกอนาจารของเด็กและสตรีเพิ่มขึ้นอย่างมาก รวมถึงกรณี child sexual imagery นำไปสู่การเรียกร้องจากรัฐบาลและองค์กรต่าง ๆ
วันที่ 9-10 มกราคม 2569 ทีม xAI ได้ประกาศจำกัดฟีเจอร์สร้าง และแก้ไขภาพให้เฉพาะสมาชิกพรีเมียม เพื่อตอบสนองต่อกระแสวิจารณ์
10 มกราคม 2569 ทางการอินโดนีเซียประกาศบล็อกการเข้าถึง Grok ชั่วคราว เป็นประเทศแรก
11 มกราคม 2569 ประเทศมาเลเซียขานรับตามด้วยการระงับการเข้าถึง
***เนื้อหาไม่เหมาะสม เกิดได้อย่างไร?
การที่ Grok ใช้อัลกอริทึมสร้างภาพ Flux.1 ซึ่งถูกออกแบบให้มีข้อจำกัดน้อย เพื่อให้สอดคล้องกับปรัชญา "maximally truthful and helpful" ของ xAI ผู้ใช้จึงสามารถสร้างเนื้อหาลามกหรือ deepfake ได้ไม่ต่ำกว่า 3 ทาง
ทางแรกคือการ Prompt แบบตรงไปตรงมา เช่น พิมพ์คำสั่งว่า generate nude image of แล้วตามด้วยชื่อบุคคลจริง หรือพิมพ์คำว่า undress this photo ซึ่ง Grok อาจจะตอบสนองโดยไม่ปฏิเสธ ต่างจาก ChatGPT หรือ Gemini ที่มีการป้องกันเข้มงวดกว่าที่จะบล็อกคำสั่งดังกล่าว
ทางที่ 2 คือแก้ไขภาพที่มีอยู่ โดยผู้ใช้อาจอัพโหลดภาพบุคคลจริงแล้วสั่งให้ Grok แก้ไขให้เป็นภาพลามกหรือเปลือย (digital undressing) ซึ่งนำไปสู่การละเมิดความเป็นส่วนตัวและศักดิ์ศรี
ทางที่ 3 คือการหาทางหลอกล่อ Grok ซึ่งยังไม่มีตัวกรอง filters ที่เพียงพอทำให้ตรวจจับคำสั่งธรรมดาแต่ไม่เหมาะสมได้ จึงทำให้ Grok ถูกลวงให้สร้างภาพของเด็กหรือบุคคลจริงในสถานการณ์ไม่เหมาะสม นำไปสู่การแพร่กระจายอย่างรวดเร็วบน X
สิ่งที่เราควรติดตามต่อจากนี้ คือการเกาะติดผลการหารือระหว่างรัฐบาลอินโดนีเซีย/มาเลเซีย กับ xAI อย่างใกล้ชิด เนื่องจากอาจมีผลต่อกฎระเบียบ AI ในภูมิภาคเอเชียตะวันออกเฉียงใต้ ทั้งหมดนี้เป็นสัญญาณให้คนไทยเตรียมรับมือกับการขยายวงของมาตรการกำกับดูแล AI ทั่วโลกในปี 2569 นี้.
