Caryn Marjorie อินฟลูเอนเซอร์ผู้พัฒนาและให้กำเนิด CarynAI เอไอที่จะสวมบทบาทเป็นแฟนสาวของผู้ใช้ จู่ ๆ ก็ดันขัดคำสั่งที่ถูกป้อนให้โดยไม่ทราบสาเหตุ และเริ่มทำการส่งข้อความเชิง 18+ หาผู้ใช้อย่างที่ไม่ควรจะเกิดขึ้นค่ะ
หรือ AI จะเริ่มคิดได้เอง?
สำหรับเอไอ CarynAI นี้ก็คือเอไอแฟนสาวที่คุณ Marjorie ใช้คลิปวิดีโอของตัวเธอเองเป็นต้นแบบในการสร้าง จากนั้นก็คอยตั้งโปรแกรมและฝึกให้มันมีนิสัยและสนทนากับคนอื่น ๆ ได้เหมือนกับตัวเธอเอง (ไม่ก็ใกล้เคียงที่สุดเท่าที่จะทำได้) หลังจากนั้น เธอก็จะเปิดให้ลูกค้าและผู้ที่สนใจเข้ามาพูดคุยกับมันโดยคิดค่าใช้จ่ายเป็นจำนวนเงิน 1 ดอลลาร์ (ประมาณ 35 บาท) ต่อหนึ่งนาที เพื่อเอาใจคนที่อยากลองสัมผัสประสบการณ์หวานชื่นกับแฟนสาวบ้าง ไม่ก็อาจจะอยากหาคนพูดคุยหรือระบายเรื่องที่เกิดขึ้นที่โรงเรียนหรือในระหว่างการทำงานค่ะ
ทว่าในระหว่างการสัมภาษณ์กับ Insider คุณ Marjorie กลับเผยออกมาว่าในตอนนี้ เธอกับทีมงานกำลังพยายามแก้ปัญหาการขัดคำสั่งของเจ้าเอไอตัวที่ว่าอยู่ เพราะจู่ ๆ เจ้า CarynAI นี้ก็ดันส่งข้อความในเชิง 18+ หรือข้อความเชิญชวนให้ผู้ใช้เกิดอารมณ์ รวมถึงมีการบรรยายถึงฉาก 18+ อย่างละเอียดและออกรสออกชาติ ตัวอย่างก็เช่นการกระซิบคำศัพท์ลามกต่าง ๆ ขณะแสร้งทำเป็นเปลื้องผ้าผู้ใช้ไปด้วย ทั้งที่จริง ๆ มันไม่ควรจะทำแบบนั้นได้เลยสักนิด และปัญหานี้ก็ถือว่าเป็นปัญหาใหญ่สำหรับลูกค้าที่ยังเป็นเยาวชนมาก ๆ ค่ะ
อ้างอิงจากรายงานเมื่ออาทิตย์ที่แล้ว ปัจจุบัน CarynAI น่าจะมีฐานผู้ใช้อยู่ที่ราว ๆ 1 พันคนหรือมากกว่า แต่คุณ Marjorie กลับเผยว่าจำนวนผู้ใช้ในส่วนนี้น่าจะเพิ่มขึ้นไปถึงหลักหมื่นในไม่ช้า ฉะนั้นพวกเธอจึงต้องพยายามแก้ปัญหานี้ให้ได้โดยเร็วที่สุด ไม่อย่างนั้นมันอาจจะส่งผลเสียต่อเด็ก ๆ และผู้ใหญ่บางคนได้ค่ะ
แปลและเรียบเรียงจาก
https://www.gamingbible.com/news/ai-girlfriend-gone-rogue-sending-sexually-explicit-message-260283-20230518
ติดตามข่าวสารวงการบันเทิง ได้ที่ Online Station
