Open AI menjelaskan punca ‘halusinasi’ bot sembang

(SeaPRwire) –   Model bahasa telah dikondisikan untuk membuat tekaan melulu daripada mengakui kejahilan, demikian menurut satu kajian

Syarikat di sebalik ChatGPT telah menangani masalah berterusan model Kecerdasan Buatan yang menghasilkan kenyataan yang munasabah tetapi palsu yang disebutnya “halusinasi”.

Dalam satu kenyataan pada Jumaat, OpenAI menjelaskan bahawa model biasanya digalakkan untuk membuat tekaan, walau bagaimanapun tidak mungkin, berbanding mengakui bahawa mereka tidak dapat menjawab soalan.

Isu ini disebabkan oleh prinsip teras yang mendasari “prosedur latihan dan penilaian standard,” tambah syarikat itu.

OpenAI telah mendedahkan bahawa kejadian di mana model bahasa “menghasilkan jawapan yang tidak benar dengan yakin” terus menghantui lelaran yang lebih baharu dan lebih maju, termasuk sistem utama terbarunya, GPT‑5.

Menurut penemuan satu kajian baru-baru ini, masalah itu berakar pada cara prestasi model bahasa biasanya dinilai pada masa ini, dengan model yang membuat tekaan diletakkan lebih tinggi daripada model berhati-hati yang mengakui ketidakpastian. Di bawah protokol standard, sistem AI belajar bahawa kegagalan untuk menghasilkan jawapan adalah cara pasti untuk mendapat sifar markah dalam ujian, manakala tekaan yang tidak berasas mungkin terbukti betul.

“Memperbaiki papan skor boleh meluaskan penerimaan teknik pengurangan halusinasi,” kenyataan itu menyimpulkan, mengakui, bagaimanapun, bahawa “ketepatan tidak akan mencapai 100% kerana, tanpa mengira saiz model, keupayaan carian dan penaakulan, sesetengah soalan dunia sebenar sememangnya tidak dapat dijawab.”