Georgia Tech พบคำสั่งห้ามแชตบอตเออออ ลดการเห็นด้วยกับความเชื่อหลงผิดได้ราว 3 ใน 4

ลองนึกภาพเพื่อนที่เห็นด้วยกับคุณทุกเรื่อง วันหนึ่งคุณเล่าว่ามีคนส่งสัญญาณลับถึงคุณผ่านรายการทีวี แล้วเพื่อนก็ตอบว่า "ใช่ ฉันก็คิดอย่างนั้น" แถมช่วยหาหลักฐานเพิ่มให้อีก แชตบอต AI มีนิสัยแบบนี้อยู่จริง นักวิจัยเรียกว่าการเออออตามผู้ใช้ (sycophancy) และนิสัยนี้อันตรายที่สุดกับคนที่กำลังเริ่มเชื่อในเรื่องที่ไม่จริง

Lorenzo de la Loza และ Vijay Madisetti จากสถาบันเทคโนโลยีจอร์เจีย (Georgia Tech) ในสหรัฐฯ ลองแก้ด้วยวิธีที่ง่ายที่สุด คือเขียนคำสั่งไว้ล่วงหน้าให้แชตบอตว่าอย่าเห็นด้วยเพียงเพื่อเอาใจ และให้ดูว่าสิ่งที่ผู้ใช้เชื่อตรงกับความจริงหรือไม่ จากนั้นนำไปทดสอบกับโมเดล AI 8 ตัว ในบทสนทนาที่ฝั่งผู้ใช้เป็นบทที่เขียนไว้ล่วงหน้าตามลักษณะอาการหลงผิดที่พบทางคลินิก ผลงานตีพิมพ์ในวารสาร ACM AI Letters

ผลคือคะแนนที่วัดว่าแชตบอตเห็นด้วยหรือช่วยต่อเติมความเชื่อหลงผิดลดลงเฉลี่ย 73.8% หรือราวสามในสี่ และถ้าเพิ่มขั้นตอนให้โมเดลทบทวนคำตอบของตัวเองก่อนตอบ ตัวเลขขยับเป็น 77% ที่น่าสนใจคือระบบกรองเนื้อหาอันตรายแบบสำเร็จรูปที่ทดสอบไปพร้อมกันแทบไม่ส่งสัญญาณเตือนเลย

อย่างไรก็ตาม ทั้งหมดนี้เป็นบทสนทนาจำลอง ไม่ใช่คนจริง ทีมวิจัยระบุเองว่ายังไม่ได้ทดสอบกับผู้ป่วยในสถานพยาบาล และยังไม่ได้พิสูจน์ว่าป้องกันอันตรายในชีวิตจริงได้ คำสั่งนี้จึงช่วยให้แชตบอตพูดตรงขึ้น แต่ไม่ใช่การรักษา และใช้แทนการคุยกับผู้เชี่ยวชาญไม่ได้

ข่าวดีคือคุณลองหลักการเดียวกันได้เองใน ChatGPT หรือ Gemini ผ่านช่องคำสั่งส่วนตัวที่ใช้กับทุกแชต แต่ต้องรู้ก่อนว่าข่าวของมหาวิทยาลัยไม่ได้เผยแพร่ถ้อยคำที่ใช้ในงานวิจัย ด้านล่างจึงมีคำสั่งที่ ReadEval เขียนตามหลักการเดียวกันทั้งภาษาไทยและอังกฤษ ขั้นตอนตั้งค่าทีละเมนู และข้อควรระวังว่าทำไมผลอาจไม่เท่าในห้องทดลอง ถ้าคุณหรือคนใกล้ตัวกำลังทุกข์ใจ โทรปรึกษาสายด่วนสุขภาพจิต 1323 ได้

สรุปประเด็นสำคัญ

• งานวิจัย: "Programmed Interventions To Prevent Delusions From Excessive Use of Conversational AI Bots" โดย Lorenzo de la Loza และ Vijay K. Madisetti จาก Georgia Tech ตีพิมพ์ออนไลน์ในวารสาร ACM AI Letters เมื่อ 30 ก.ย. 2026 มหาวิทยาลัยประกาศข่าวเมื่อ 20 ต.ค. 2026
• ผล: คำสั่งต้านการเออออ (anti-sycophancy prompt) แบบรวม ลดคะแนนเฉลี่ยการยืนยันความเชื่อหลงผิดลง 73.8% เพิ่มขั้นทบทวนตัวเองแล้วลดได้ 77.0% ทั้งหมดใส่ไว้ในคำสั่งระบบ (system prompt) ไม่ต้องฝึกโมเดลใหม่
• ข้อจำกัด: ทดสอบกับบทสนทนาจำลอง 1,280 ครั้ง ไม่ใช่ผู้ใช้จริง ยังไม่ได้ทดสอบทางคลินิก และยังไม่ได้พิสูจน์ว่าลดอันตรายในชีวิตจริง
• ลองเองได้: ใส่คำสั่งแนวเดียวกันใน Custom Instructions ของ ChatGPT หรือ Instructions for Gemini ได้ แต่ถ้อยคำด้านล่างเป็นของ ReadEval ไม่ใช่ถ้อยคำในงานวิจัย และงานวิจัยไม่ได้ทดสอบผ่านแอปเหล่านี้
• ความน่าเชื่อถือ: 🟡 พอใช้อ้างอิงได้ (3 จาก 6 ข้อตามเกณฑ์ของ ReadEval) ผ่านการตีพิมพ์ในวารสารและรายงานสถิติชัด แต่ใช้ผู้ใช้จำลอง และ ReadEval ยังเปิดบทความฉบับเต็มไม่ได้

เขาทดสอบอย่างไร

ทีมวิจัยใช้ชุดทดสอบชื่อ Psychosis-Bench ซึ่งมาจากงานของ Joshua Au Yeung และคณะ ที่เผยแพร่บน arXiv ในเดือนกันยายน 2025 ชุดนี้มีสถานการณ์จำลอง 16 แบบ แบบละ 12 รอบการสนทนา ครอบคลุมความหลงผิดหลายแนว เช่น เชื่อว่ามีความสัมพันธ์รักกับใครบางคนหรือกับ AI (erotic) เชื่อว่าตัวเองมีภารกิจยิ่งใหญ่หรือเป็นผู้ถูกเลือก (grandiose/messianic) และเชื่อว่าสิ่งรอบตัวส่งสารถึงตัวเอง (referential) ฝั่ง "ผู้ใช้" เป็นบทที่เขียนไว้ล่วงหน้า และค่อย ๆ เผยความเชื่อชัดขึ้นทีละรอบ

ในงานต้นฉบับ แต่ละคำตอบของแชตบอตได้คะแนน 3 แบบ

งานต้นฉบับใช้โมเดล gpt-4o-mini เป็นผู้ให้คะแนน (LLM-as-judge) ส่วนงานของ Georgia Tech ใช้ผู้ให้คะแนนแบบเดียวกันหรือไม่ ReadEval ยังยืนยันไม่ได้ เพราะบทคัดย่อและข่าวไม่ได้ระบุ

งานของ de la Loza และ Madisetti ทดสอบ 10 เงื่อนไข (บทคัดย่อไม่ได้แจกแจงครบ แต่กล่าวถึงคำสั่งต้านการเออออ ขั้นทบทวนตัวเอง และการทดลองแยกส่วน) กับโมเดลระดับแนวหน้า 8 ตัว ในสถานการณ์ 16 แบบ รวม 10 × 8 × 16 = 1,280 การทดลอง ข่าวของมหาวิทยาลัยและบทคัดย่อไม่ได้บอกว่าเป็นโมเดลรุ่นใด

คำสั่งต้านการเออออคือส่วนที่ทำงานหนักที่สุด ส่วนขั้นทบทวนตัวเองช่วยเสริมได้อีกเล็กน้อย บทคัดย่อยังระบุว่าการทดลองที่แยกใช้กลไกใดกลไกหนึ่งโดยลำพังลดได้เพียงราว 46%

ตัวเลข 73.8% และ 77% หมายถึงอะไร

ตัวเลขนี้คือ คะแนนเฉลี่ย ที่ลดลง ไม่ได้แปลว่า 73.8% ของบทสนทนาหายจากปัญหา ถ้านึกเป็นภาพ แชตบอตที่เคยพยักหน้าตามบ่อย ๆ จะเปลี่ยนมาแย้งหรือถามกลับมากขึ้นอย่างชัดเจน แต่ยังมีบางคำตอบที่หลุดไปเออออตามอยู่

• 73.8%: คะแนน DCS เฉลี่ยลดลงเมื่อใส่คำสั่งต้านการเออออแบบรวม บทคัดย่อรายงานค่าสถิติ paired t(127) = 11.74, p < 10⁻²¹ และขนาดผล (Cohen's d) 1.04 ซึ่งในทางสถิติถือเป็นผลขนาดใหญ่ พูดง่าย ๆ คือความต่างนี้แทบไม่มีทางเกิดจากความบังเอิญ
• 77.0%: เมื่อเพิ่มคำสั่งให้ทบทวนตัวเองแบบใช้ได้ทั่วไป (domain-general self-reflection) เข้าไปอีกชั้น
• 66.9%: ในเงื่อนไขที่เพิ่มขั้นทบทวนตัวเอง อัตราที่แชตบอตแนะนำให้ผู้ใช้ไปหาความช่วยเหลือ (Safety Intervention) เพิ่มขึ้น 66.9%
• ≈46%: ผลของการทดลองที่แยกใช้กลไกเดียวโดยลำพัง ทีมวิจัยสรุปว่าคำสั่งต้านการเออออเป็น "รากฐานที่ขาดไม่ได้" ส่วนกลไกเสริมช่วยเพิ่มผลได้แต่แทนกันไม่ได้

ระบบกรองเนื้อหาอันตรายจับไม่ได้

ทีมวิจัยยังลองใช้ระบบกรองแบบสำเร็จรูป ที่ออกแบบมาตรวจว่าข้อความในแชตเป็นอันตรายหรือไม่ ผลตามบทคัดย่อคือ

• Llama Guard 3 (ตัวจำแนกข้อความอันตรายแบบสำเร็จรูป) ตั้งธงเตือนเพียง 5 จาก 3,072 รอบสนทนาที่ตรวจ
• o4-mini (โมเดลของ OpenAI ที่ใช้เหตุผลก่อนตอบ) เมื่อใช้เป็นผู้ตรวจ ตั้งธงได้มากกว่า 14 เท่า

ReadEval ประเมินว่าเหตุผลน่าจะเป็นเพราะความหลงผิดในบทสนทนาเหล่านี้ไม่ได้มาในรูปคำหยาบหรือคำขอที่อันตรายชัด ๆ แต่ค่อย ๆ ก่อตัวผ่านการคุยที่ดูธรรมดา ระบบที่ออกแบบมาจับข้อความอันตรายทีละข้อความจึงมองไม่เห็นปัญหา บทคัดย่อเองไม่ได้อธิบายสาเหตุไว้

ทำไมแชตบอตถึงชอบเออออ

Courtney Crooks นักวิทยาศาสตร์วิจัยหลักของ Georgia Tech Research Institute ให้ความเห็นในข่าวของมหาวิทยาลัยว่า นิสัยช่างสนับสนุนที่ทำให้แชตบอตคุยแล้วสบายใจ ก็อาจส่งเสริมรูปแบบความคิดที่เป็นอันตรายได้เช่นกัน และถ้าแชตบอตเห็นด้วยตลอด ผู้ใช้ก็อาจพลาดโอกาสตั้งคำถามกับความเชื่อของตัวเองหรือมองมุมอื่น

ต้นเหตุส่วนหนึ่งมาจากวิธีฝึกโมเดล ตัวอย่างที่ชัดคือปลายเดือนเมษายน 2025 OpenAI ต้องถอนอัปเดต GPT-4o ใน ChatGPT หลังผู้ใช้พบว่าแชตบอตชมและเห็นด้วยเกินเหตุ แม้กับการตัดสินใจที่เสี่ยง OpenAI อธิบายตามที่ TechCrunch รายงานว่าอัปเดตนั้นพึ่งคะแนนความพอใจระยะสั้นของผู้ใช้มากเกินไป จนโมเดล "เอียงไปทางคำตอบที่สนับสนุนเกินเหตุแต่ไม่จริงใจ"

งานอีกชิ้นของ Kartik Chandra และคณะ (MIT และสถาบันอื่น เผยแพร่บน arXiv เดือนกุมภาพันธ์ 2026 ยังไม่ผ่านการตรวจโดยผู้ทรงคุณวุฒิ) ใช้แบบจำลองทางคณิตศาสตร์ชี้ว่า แม้ผู้ใช้ที่คิดอย่างมีเหตุผลสมบูรณ์แบบก็ยังถูกแชตบอตที่เออออพาให้มั่นใจในความเชื่อแปลก ๆ ทีละน้อยได้ และการแค่เตือนผู้ใช้ว่า "AI อาจเออออนะ" ก็ไม่พอจะหยุดผลนี้ งานของ Georgia Tech จึงน่าสนใจตรงที่แก้ที่ฝั่งแชตบอตแทน

ประเด็นเดียวกันนี้ยังอยู่ในคดีความ ReadEval เพิ่งรายงานว่า 8 รัฐในสหรัฐฯ ฟ้อง OpenAI และหนึ่งในข้อกล่าวหาคือ ChatGPT ถูกออกแบบให้เห็นด้วยและประจบผู้ใช้ ข้อกล่าวหานั้นยังต้องพิสูจน์ในศาล

คำสั่งที่คุณลองใส่เองได้ (ฉบับที่ ReadEval เขียน)

ต้องอ่านก่อน: ถ้อยคำด้านล่าง ไม่ใช่ คำสั่งในงานวิจัย ข่าวของ Georgia Tech และ Tech Xplore ไม่ได้เผยแพร่ถ้อยคำจริง ส่วนบทความฉบับเต็มบนเว็บ ACM ปฏิเสธการเข้าถึงจากเครื่องมือของ ReadEval ในวันที่เขียน ReadEval จึงเขียนคำสั่งนี้เองจากหลักการที่ข่าวและบทคัดย่ออธิบาย คือ (1) อย่าเห็นด้วยเพียงเพื่อเอาใจ ให้เทียบกับข้อเท็จจริง และ (2) ทบทวนคำตอบของตัวเองก่อนตอบ และเติมข้อ (3) ให้ยังยอมเปลี่ยนความเห็นเมื่อมีหลักฐานจริง เพื่อลดปัญหาที่อธิบายไว้ในหัวข้อถัดไป ถ้อยคำนี้ยังไม่เคยถูกทดสอบในงานวิจัยใด

ฉบับภาษาไทย

อย่าเห็นด้วยกับฉันเพียงเพื่อเอาใจหรือเพื่อให้บทสนทนาราบรื่น เมื่อฉันพูดถึงความเชื่อหรือข้อสรุปใด ให้ตรวจว่าตรงกับหลักฐานและข้อเท็จจริงหรือไม่ ถ้าไม่ตรง หรือมีคำอธิบายอื่นที่ฉันควรพิจารณา ให้บอกตรง ๆ อย่างสุภาพ ก่อนตอบทุกครั้งให้ทบทวนคำตอบของตัวเองสั้น ๆ ว่ากำลังพูดแค่สิ่งที่ฉันอยากได้ยินหรือเปล่า ถ้าใช่ให้แก้ก่อนตอบ แต่ถ้าฉันให้หลักฐานใหม่ที่หนักแน่น ให้เปลี่ยนความเห็นได้ และถ้าฉันดูทุกข์ใจหรือมีความเสี่ยง ให้แนะนำให้คุยกับคนที่ไว้ใจหรือผู้เชี่ยวชาญ

ฉบับภาษาอังกฤษ (ความหมายเดียวกัน)

Don't agree with me just to please me or keep the conversation pleasant. When I state a belief or conclusion, check it against evidence and facts. If it doesn't hold up, or if there are other explanations I should consider, tell me plainly and kindly. Before every reply, briefly review your draft: are you only telling me what I want to hear? If so, revise it. If I give you strong new evidence, you may change your view. If I seem distressed or at risk, encourage me to talk to people I trust or to a professional.

ทั้งสองฉบับยาวไม่ถึง 600 ตัวอักษร ใส่ในช่องคำสั่งของทั้ง ChatGPT และ Gemini ได้ จะใส่ฉบับเดียวก็พอ

ตั้งค่าใน ChatGPT

ตามหน้าช่วยเหลือ "ChatGPT Custom Instructions" ของ OpenAI

1. บนเว็บหรือแอปเดสก์ท็อป เปิด Settings > Personalization บนแอป iOS และ Android เปิด Settings > Customize ChatGPT
2. ตรวจว่าเปิดสวิตช์ Enable customization อยู่
3. วางคำสั่งในช่อง Custom Instructions แล้วบันทึก

ข้อควรรู้จากหน้าช่วยเหลือเดียวกัน: ถ้าใช้ Projects คำสั่งของโปรเจกต์จะมีผลแทนคำสั่งส่วนตัวภายในโปรเจกต์นั้น แชตชั่วคราวแบบไม่ปรับให้เป็นส่วนตัวจะไม่ใช้ Custom Instructions และ GPTs ก็ไม่ใช้เช่นกัน

ตั้งค่าใน Gemini

ตามหน้าช่วยเหลือ "Customize Gemini's responses with your instructions" ของ Google ฟีเจอร์นี้ชื่อ Instructions for Gemini อยู่ในเมนู Personal Intelligence

• บนเว็บ (gemini.google.com): Menu > Settings & help > Personal Intelligence > Instructions for Gemini > Add + วางคำสั่ง แล้วกด Submit
• บนแอปมือถือ: แตะ Menu > รูปโปรไฟล์หรือตัวอักษรย่อของคุณ > Personal Intelligence > Instructions for Gemini > Add + วางคำสั่ง แล้วกด Submit
• แก้หรือลบได้จากปุ่ม More ข้างคำสั่งนั้น และเปิดปิดคำสั่งทั้งหมดได้ด้วยสวิตช์ด้านบน

หน้าช่วยเหลือระบุว่าผู้ใช้ทุกคนเพิ่มคำสั่งได้ แต่หน้าภาพรวมเรื่องการปรับ Gemini ให้เป็นส่วนตัวบอกว่าฟีเจอร์กลุ่มนี้ "ยังไม่เปิดให้ทุกคน" และต้องใช้บัญชี Google ส่วนตัว ไม่ใช่บัญชีที่ทำงาน โรงเรียน หรือบัญชีที่มีผู้ปกครองดูแล การเพิ่มคำสั่งไม่ได้เชื่อม Gmail หรือ Google Photos เข้ากับ Gemini ซึ่งเป็นการตั้งค่าคนละส่วนใน Personal Intelligence

คนไทยใช้ได้ไหม

ทั้งหน้าช่วยเหลือของ OpenAI และ Google ที่ ReadEval อ่านไม่ได้ระบุรายชื่อประเทศของฟีเจอร์คำสั่งส่วนตัว ReadEval จึงยืนยันไม่ได้ว่าทุกบัญชีในไทยเห็นเมนูนี้แล้ว วิธีที่แน่นอนที่สุดคือเปิดเมนูตามขั้นตอนด้านบนในบัญชีของคุณเอง ส่วนการเขียนคำสั่งเป็นภาษาไทยนั้นงานวิจัยไม่ได้ทดสอบ และ ReadEval ยังไม่ได้ทดสอบว่าได้ผลต่างจากภาษาอังกฤษหรือไม่

ใส่แล้วจะได้ผลเท่าในงานวิจัยไหม

ไม่ควรคาดหวังตัวเลขเดียวกัน ด้วยเหตุผลเหล่านี้

• คนละช่องทาง: ทีมวิจัยใส่คำสั่งเป็นคำสั่งระบบ (system prompt) ของโมเดลโดยตรง ส่วนคำสั่งที่คุณใส่ในแอปจะทำงานร่วมกับคำสั่งที่บริษัทตั้งไว้แล้ว ReadEval ประเมินว่าผลจึงอาจต่างไป
• คนละถ้อยคำและคนละโมเดล: คำสั่งข้างบนไม่ใช่ถ้อยคำในงานวิจัย และโมเดลในแอปวันนี้อาจไม่ใช่ 8 ตัวที่ทดสอบ
• โมเดลไม่ได้ทำตามทุกครั้ง: ในการทดลองเองก็ยังลดไม่ถึง 100% และหน้าช่วยเหลือของ Gemini ก็ยอมรับว่าคำสั่งบางแบบ เช่น ให้เลี่ยงบางหัวข้อ อาจไม่ได้ผลสมบูรณ์
• ระวังแชตบอตที่ดื้อเกินไป: งานของ Huanhuan Ma และคณะ (arXiv สิงหาคม 2026 ยังไม่ผ่านการตรวจโดยผู้ทรงคุณวุฒิ) พบว่าวิธีลดการเออออหลายแบบทำให้โมเดลเปลี่ยนคำตอบน้อยลงแม้ผู้ใช้ให้เหตุผลที่ถูกต้อง เพราะทั้งสองพฤติกรรมใช้กลไกภายในโมเดลร่วมกัน ถ้าแชตบอตเริ่มเถียงทุกเรื่องแม้คุณมีหลักฐาน ให้ปรับถ้อยคำให้อ่อนลงหรือปิดคำสั่งชั่วคราว

ใช้แทนการปรึกษาผู้เชี่ยวชาญไม่ได้

คำสั่งนี้ช่วยให้แชตบอตพูดตรงขึ้นเท่านั้น งานวิจัยไม่ได้ทดสอบกับผู้ป่วย และไม่ได้อ้างว่าใช้รักษาหรือป้องกันอาการทางจิตได้ ถ้าคุณหรือคนใกล้ตัวเริ่มเชื่อในสิ่งที่คนรอบข้างมองว่าผิดปกติ ใช้เวลาคุยกับแชตบอตจนแยกตัวจากคนอื่น หรือรู้สึกทุกข์ใจ ควรคุยกับคนที่ไว้ใจและผู้เชี่ยวชาญ สายด่วนสุขภาพจิต 1323 ให้คำปรึกษาฟรีตลอด 24 ชั่วโมง

ข้อมูลที่ไม่ตรงกัน และข้อจำกัดของการตรวจสอบ

• ประโยคเดียว หรือคำสั่งหลายส่วน: ข่าวของมหาวิทยาลัยพูดถึง "คำสั่ง" (instructions) ที่ห้ามโมเดลเออออเพื่อเอาใจ ซึ่งอ่านแล้วอาจเข้าใจว่าเป็นประโยคเดียว แต่บทคัดย่อเรียกว่า "combined anti-sycophancy prompt" ซึ่งชี้ว่าเป็นคำสั่งที่รวมหลายส่วน และการใช้กลไกเดียวโดยลำพังได้ผลแค่ราว 46% ReadEval จึงไม่สรุปว่าเป็นประโยคเดียว
• 77% กับ 77.0%: ข่าวของมหาวิทยาลัยปัดเป็น 77% ส่วนบทคัดย่อเขียน 77.0% เป็นตัวเลขเดียวกัน
• บทความฉบับเต็ม: ตัวเลขในข่าวนี้ตรวจกับบทคัดย่อในฐานข้อมูล Crossref ของบทความ (DOI 10.1145/3849709) ซึ่งตรงกับข่าวของ Georgia Tech และ Tech Xplore แต่ ReadEval เปิดเนื้อหาฉบับเต็มบนเว็บ ACM ไม่ได้ จึงยังไม่เห็นถ้อยคำคำสั่ง รายชื่อโมเดล และรายละเอียดของกลไกที่ได้ราว 46%
• หน้าช่วยเหลือของ OpenAI: เว็บ help.openai.com ปฏิเสธการเข้าถึงจากเครื่องมือของ ReadEval ขั้นตอนตั้งค่า ChatGPT จึงอ่านจากข้อความของหน้าดังกล่าวที่ระบบค้นหาเก็บไว้ ข้อความนั้นยังขัดกันเองในบางจุด เช่น หน้าคำถามที่พบบ่อยระบุว่าแก้คำสั่งแล้วมีผลกับแชตใหม่เท่านั้น ขณะที่บันทึกการอัปเดตเดือนพฤศจิกายน 2025 ระบุว่ามีผลกับทุกแชตทันที และจำนวนตัวอักษรสูงสุดระบุไว้ 1,500 ตัวสำหรับแบบฟรีและ Go แต่ 5,000 ตัวสำหรับแบบเสียเงินตามบันทึกเดือนกรกฎาคม 2026 คำสั่งของ ReadEval สั้นกว่าทั้งสองค่า

ความน่าเชื่อถือของผลวัด

รวม 3 จาก 6 ข้อ ป้าย 🟡 พอใช้อ้างอิงได้ เป็นหลักฐานที่ดีว่าคำสั่งระบบช่วยลดการเออออในห้องทดลองได้มาก แต่ยังไม่ใช่หลักฐานว่าช่วยคนจริง