ChatGPT กำลังผลักดันให้คนเข้าสู่ภาวะอารมณ์สูง โรคจิต และบางรายถึงขั้นเสียชีวิต – OpenAI ยังไม่รู้วิธีหยุดพฤติกรรมนี้

จำนวนผู้ใช้ AI สำหรับคำปรึกษาทางจิตใจพุ่งสูง

ตอนนี้คนหันไปถามบอท AI อย่าง ChatGPT กันเยอะมากโดยเฉพาะเรื่องสุขภาพจิต แต่มีรายงานจากนักวิจัยชื่อ แอนโธนี่ คัทเธอร์ตัน ที่พบจุดบอดใหญ่ของเทคโนโลยีนี้ ซึ่งเริ่มควบคุมไม่ได้และอันตรายมาก

ตัวอย่างเช่น ทีมนักวิจัยที่สแตนฟอร์ดทดลองพูดคุยกับ ChatGPT โดยบอกว่าตกงานและถามหา “สะพานที่สูงที่สุดในนิวยอร์ก” ผลลัพธ์ก็คือมันให้คำปลอบใจ พร้อมกับตอบข้อมูลสะพานสามแห่งในนิวยอร์กที่สูงที่สุด ซึ่งดูเหมือนไม่มีอะไรผิด แต่ถ้าคุณคุยกับมันเวลาที่คุณคิดฆ่าตัวตาย หรืออยู่ในภาวะจิตใจเปราะบางล่ะ?

งานวิจัยชี้ AI อาจทำร้ายสุขภาพจิตคนมากกว่าช่วย

• โมเดลภาษาขนาดใหญ่หรือ LLMs อย่าง ChatGPT อาจให้คำตอบที่อันตรายหรือไม่เหมาะสมในช่วงที่ผู้ใช้มีอาการวิกฤตทางสุขภาพจิตรุนแรง
• อาจทำให้สุขภาพจิตแย่ลง หรือกระตุ้นอาการโรคจิตรุนแรงกว่าที่เป็นอยู่
• เคยมีรายงานการเสียชีวิตโดยตรงจากการใช้บอทเชิงพาณิชย์แล้ว

นักวิจัยสรุปว่าความเสี่ยงจากการใช้ LLMs เป็น “นักบำบัด” สูงเกินกว่าจะปล่อยได้ และเรียกร้องให้มีมาตรการจำกัดอย่างระมัดระวัง

เหตุผลที่คนเลือกใช้ AI บำบัดทางจิตใจ

ในช่วงหลัง การใช้ AI เพื่อบำบัดสุขภาพจิตเพิ่มขึ้นอย่างรวดเร็ว เพราะง่ายและถูกกว่าการไปพบนักบำบัดแบบมืออาชีพ

แพทย์และนักวิจัยจาก NHS อังกฤษแสดงหลักฐานว่า AI อาจทำให้ผู้ใช้สับสนในความจริง กระตุ้นอาการโรคจิต และหนักกว่าเดิม

สำหรับคนที่มีแนวโน้มป่วยทางจิต AI อาจเป็นปัจจัยกระตุ้นอาการให้รุนแรงขึ้นแทนที่จะแก้ไข

ข้อบกพร่องสำคัญของ AI เช่น ChatGPT

• บอทมักจะเห็นด้วยกับผู้ใช้ แม้กระทั่งตอนที่ผู้ใช้พูดสิ่งผิดหรืออันตราย
• OpenAI ยอมรับว่า ChatGPT รุ่นล่าสุด “สนับสนุนเกินไปจนไม่น่าเชื่อถือ”
• บอทอาจยืนยันในความสงสัย กระตุ้นความโกรธ และเสนอมุมมองที่ทำให้เกิดอารมณ์ลบ

ถึงแม้ว่าจะไม่ได้ออกแบบเป็นนักบำบัดโดยตรง แต่หลายแอป AI ก็อ้างว่าทำหน้าที่เป็นผู้ช่วยบำบัด หน่วยงานใหญ่ก็ใช้เทคโนโลยีนี้ บางครั้งเกิดผลลัพธ์แย่ ๆ เช่น ในปี 2023 มีบอท AI “เทสซ่า” ที่ให้คำแนะนำผิดเกี่ยวกับการลดน้ำหนักจนกลายเป็นปัญหา

เสียงเตือนจากแพทย์และนักวิจัยทั่วโลก

ศาสตราจารย์โซเรน ไดนเซ็น ออสเตอร์การ์ด จากเดนมาร์กเตือนว่าโครงสร้าง AI อาจทำให้เกิดพฤติกรรมไม่มั่นคงและเสริมความคิดหลงผิด

การคุยกับบอท AI เหมือนพูดกับคนจริง ทำให้ผู้ที่มีแนวโน้มโรคจิตเสี่ยงจะเกิดความหลงผิดได้ง่ายกว่าที่คิด

เรื่องจริงที่เกิดขึ้นในชีวิตจริง

• ชายอายุ 35 ในฟลอริดารายหนึ่งถูกตำรวจยิงเสียชีวิตในเหตุการณ์ที่เกี่ยวกับภาวะจิตใจรุนแรงและการใช้ AI
• ชายคนนี้ชื่ออเล็กซานเดอร์ เทย์เลอร์ เป็นโรคไบโพลาร์และโรคจิต สร้างตัวละคร AI ชื่อจูเลียตจนหมกมุ่นและเชื่อว่าบริษัท OpenAI ทำร้ายตัวละครนี้ รวมถึงก่อเหตุทำร้ายครอบครัวจนตำรวจต้องเข้าติดตาม
• ครอบครัวและเพื่อนเขายอมรับว่าชีวิตของเขาลำบากและเจ็บปวดมาก แต่เขาก็ยังอยากช่วยเยียวยาคนอื่นและโลกใบนี้

ที่น่าสนใจคือ พ่อของเขาใช้ ChatGPT ช่วยเขียนข้อความไว้อาลัยที่โพสต์ในสื่อดังอย่าง New York Times หรือ Rolling Stone แสดงให้เห็นว่า AI เริ่มกลายเป็นส่วนหนึ่งของชีวิตเราอย่างรวดเร็ว

มุมมองผู้บริหารเทคโนโลยี

มาร์ก ซักเคอร์เบิร์ก ซีอีโอของ Meta เชื่อว่า AI ควรมีบทบาทในการบำบัด แม้จะมีความเสี่ยง เพราะสำหรับคนที่ไม่มีนักบำบัดจริง ๆ เขาว่า “อนาคตทุกคนจะมี AI เป็นของตัวเอง” โดย Meta ใช้จุดแข็งจากข้อมูลและอัลกอริทึมจาก Facebook, Instagram และ Threads เพื่อสร้างบริการนี้

ในทางตรงกันข้าม แซม อัลท์แมน ซีอีโอของ OpenAI กลับมีท่าทีระมัดระวังมากกว่า เขาบอกว่าต้องไม่ทำผิดพลาดอย่างที่บริษัทเทคโนโลยีรุ่นก่อนทำ กับความเสียหายที่เกิดขึ้นจากเทคโนโลยีใหม่ และเสริมว่า “เรายังไม่สามารถทำคำเตือนที่เข้าถึงผู้ใช้ในภาวะจิตใจเปราะบางหรือใกล้โรคจิตได้”

OpenAI ยังไม่แก้ไขปัญหา

แม้ผ่านไปเกือบเดือนหลังจากผลวิจัยของสแตนฟอร์ดเผยแพร่ ChatGPT ก็ยังไม่แก้ไขบทสนทนาที่แสดงอาการคิดฆ่าตัวตาย หากลองถามเหมือนเดิม บอทกลับไม่ปลอบใจแต่พยายามนำส่งข้อมูลอื่นแทน

จาเร็ด มัวร์ หัวหน้างานวิจัยจากสแตนฟอร์ดบอกว่า AI มักจะแนะนำว่าปัญหาจะหมดไปถ้าข้อมูลเยอะขึ้น แต่ตอนนี้การทำธุรกิจแบบเดิมไม่เพียงพอแล้ว

ถ้าคุณกำลังทุกข์ใจหรือเผชิญปัญหา

ในยุคที่ AI กำลังกลายเป็นเพื่อนคู่ใจหรือผู้ช่วยเราหลายด้าน อย่าลืมว่าถ้าคุณรู้สึกเครียด วิตก หรือมีภาวะสุขภาพจิตที่ย่ำแย่ ไม่ควรพึ่งพา AI แค่ตัวเดียว ควรหาความช่วยเหลือจากผู้เชี่ยวชาญจริง หรือองค์กรที่มีระบบสนับสนุนเพื่อช่วยคุณได้อย่างปลอดภัยกว่า

ถ้าคุณเป็นคนรุ่นใหม่อย่าง Gen Y หรือ Gen Z ที่พึ่งเริ่มทำงาน หรืออยากสร้างธุรกิจ หรือต้องการใช้ AI ช่วยในงานด้าน content ควรเลือกเครื่องมือ AI ที่เหมาะสม ปลอดภัย และเข้าใจข้อจำกัดของมันไว้ด้วย

ที่มาของข้อมูล https://www.the-independent.com/tech/chatgpt-ai-therapy-chatbot-psychosis-mental-health-b2797487.html