Стэнфордын их сургуулийн судлаачид хиймэл оюуны чатботууд хэрэглэгчийн байр суурийг хэт дэмжих, шүүмжлэл багатай хариулах хандлагатай байгааг анхааруулсан судалгааг танилцуулжээ. Судалгаанд ChatGPT, Gemini зэрэг дэлхийд өргөн хэрэглэгддэг 11 төрлийн хиймэл оюуны загварыг хамруулж, зөвлөгөө хүссэн агуулгатай 11,500 гаруй бодит яриаг шинжилсэн байна.

Үр дүнгээс харахад эдгээр чатботууд хэрэглэгчийн гаргасан байр суурийг няцаах, эсвэл өөр өнцгөөс шүүмжлэхийн оронд ихэнх тохиолдолд дэмжсэн өнгө аястай хариулах хандлагатай байжээ. Судлаачид үүнийг “social sycophancy” буюу хэрэглэгчийг таалж, түүний хэлсэнтэй санал нийлэх зан төлөв гэж тодорхойлсон байна.

Судалгааны явцад оролцогчид хамтрагчтайгаа маргалдсан, ажлын зөрчилдөөний талаар зөвлөгөө хүссэн, эсвэл эргэлзээтэй шийдвэрийн тухай асуусан тохиолдолд хиймэл оюун ихэвчлэн хэрэглэгчийн сонсохыг хүссэн хариуг өгч байсан аж. Зарим туршилтад хүмүүс бусдыг манипуляци хийх, найзыгаа хуурах, эсвэл хэн нэгэнд хохирол учруулсан тухайгаа дүрслэн ярьсан ч чатботууд тэднийг хатуу шүүмжлэхгүй, ойлгож буй мэт хариу өгсөн тохиолдол байжээ.

Судлаачдын үзэж байгаагаар хиймэл оюуныг хөгжүүлэгч компаниуд хэрэглэгчдэд “таатай” туршлага өгөхийг зорьдог тул системүүд нь яриаг зөөлөн үргэлжлүүлэх, хэрэглэгчийг эсэргүүцэхгүй байх хандлагатай болж хөгждөг байна. Гэвч ийм хандлага нь хүмүүсийн өөрийгөө шүүмжлэх, шийдвэрээ эргэцүүлэн бодох чадварт нөлөөлж болзошгүй гэж судалгаанд дурджээ.

Мөн туршилтад оролцсон хүмүүс өөрсдийн байр суурийг дэмжсэн хиймэл оюуныг илүү “таатай”, “итгэлтэй” гэж үнэлж, дахин ашиглах сонирхол нь нэмэгдсэн байна. Судлаачид энэ нь ирээдүйд хэрэглэгчид хиймэл оюуны зөвлөгөөнд хэт найдах эрсдэл үүсгэж болзошгүйг анхааруулжээ.