Стэнфордын их сургуулийн судлаачид хиймэл оюуны чатботууд хэрэглэгчийн байр суурийг хэт дэмжих, шүүмжлэл багатай хариулах хандлагатай байгааг анхааруулсан судалгааг танилцуулжээ. Судалгаанд ChatGPT, Gemini зэрэг дэлхийд өргөн хэрэглэгддэг 11 төрлийн хиймэл оюуны загварыг хамруулж, зөвлөгөө хүссэн агуулгатай 11,500 гаруй бодит яриаг шинжилсэн байна.
Үр дүнгээс харахад эдгээр чатботууд хэрэглэгчийн гаргасан байр суурийг няцаах, эсвэл өөр өнцгөөс шүүмжлэхийн оронд ихэнх тохиолдолд дэмжсэн өнгө аястай хариулах хандлагатай байжээ. Судлаачид үүнийг “social sycophancy” буюу хэрэглэгчийг таалж, түүний хэлсэнтэй санал нийлэх зан төлөв гэж тодорхойлсон байна.
Судалгааны явцад оролцогчид хамтрагчтайгаа маргалдсан, ажлын зөрчилдөөний талаар зөвлөгөө хүссэн, эсвэл эргэлзээтэй шийдвэрийн тухай асуусан тохиолдолд хиймэл оюун ихэвчлэн хэрэглэгчийн сонсохыг хүссэн хариуг өгч байсан аж. Зарим туршилтад хүмүүс бусдыг манипуляци хийх, найзыгаа хуурах, эсвэл хэн нэгэнд хохирол учруулсан тухайгаа дүрслэн ярьсан ч чатботууд тэднийг хатуу шүүмжлэхгүй, ойлгож буй мэт хариу өгсөн тохиолдол байжээ.
Судлаачдын үзэж байгаагаар хиймэл оюуныг хөгжүүлэгч компаниуд хэрэглэгчдэд “таатай” туршлага өгөхийг зорьдог тул системүүд нь яриаг зөөлөн үргэлжлүүлэх, хэрэглэгчийг эсэргүүцэхгүй байх хандлагатай болж хөгждөг байна. Гэвч ийм хандлага нь хүмүүсийн өөрийгөө шүүмжлэх, шийдвэрээ эргэцүүлэн бодох чадварт нөлөөлж болзошгүй гэж судалгаанд дурджээ.
Мөн туршилтад оролцсон хүмүүс өөрсдийн байр суурийг дэмжсэн хиймэл оюуныг илүү “таатай”, “итгэлтэй” гэж үнэлж, дахин ашиглах сонирхол нь нэмэгдсэн байна. Судлаачид энэ нь ирээдүйд хэрэглэгчид хиймэл оюуны зөвлөгөөнд хэт найдах эрсдэл үүсгэж болзошгүйг анхааруулжээ.
| Судалгаа: ChatGPT хүмүүсийн буруу шийдвэрийг ч дэмжин "зөв" гэж хэлдгийг нотоллоо |
2026-11-16 17:07:51
2026-11-16 10:38:26
2026-11-13 12:00:18
Шөнийн цагийн хуваариар ажилладаг иргэдэд зориулан дөрвөн чиглэлд автобус үйлчилж байна
2026-11-18 19:01:41
“Евро-3” болон түүнээс дээш стандартын АИ-92 автобензиний үнийг 1000 хүртэл төгрөгөөр бууруулна
2026-11-18 15:19:31
ТББХ: Ерөнхийлөгчийн чөлөөлөгдөх хүсэлтийг хэлэлцэн дэмжлээ
2026-11-18 14:28:18
ЭЗХЯ: Эдийн засгийн албанд залуу нас, хөдөлмөр зүтгэлээ зориулсан үе үеийн ахмадууд, ажилтнууд, алба хаагчдадаа “Эдийн засгийн албаны өдөр”-ийн мэнд хүргэе
2026-11-18 13:18:17
УИХ-ын гишүүн Р.Сэддорж Хулд сумын иргэдтэй уулзаж, тулгамдсан асуудлыг сонслоо
2026-11-18 13:06:05
2026-11-18 10:25:41
2026-11-18 10:06:25
Улаанбаатарт 7 хэм хүйтэн. Ялимгүй цас орно
2026-11-18 07:50:43
Нүүдэл хийх, худалдаа наймаа эрхлэхэд сайн
2026-11-18 07:49:38