ChatBot har bir marta noto'g'ri ishora qiladi, aksariyat foydalanuvchilarning birinchi instinkti nima uchun xato qilganini so'rashdir. Ammo haqiqiy odamlardan farqli o'laroq, til modellari bilan bu yordam bermaydi. Ular shunchaki o'zlarining xatolarini tahlil qila olmaydilar. ARSTECHNICICAB axborot portali.
Birinchi muammo – bu tushuncha. ChatBot bilan suhbatlashganda, siz ba'zi odamlar yoki doimiy tabiat bilan aloqa qilmaysiz. Ha, Chatgpt, Claud, Klod, GROD yoki Texnik jihatdan tanbeh berishadi, lekin ular bilimli emas – bu faqat dialog interfeysi tomonidan yaratilgan xayoldir. Aslida, siz matnning statistikatsiyasini foydalanuvchi talablariga qarab, natijalarni taqdim etasiz.
Boshqacha aytganda, chat yoki grok yo'q. Bir kishi ma'lumotlar bazasida joylashgan namunalarga asoslangan to'liq audio matnni yaratadigan tizim bilan o'zaro ta'sir qiladi (odatda eskirgan). Ushbu tizim o'zining o'zini-o'zi tushunish yoki tizimga ega emas, shuningdek o'zini eslab qolish qobiliyatiga ega emas.
Til modelini o'rgangandan so'ng, ko'p vaqt va resurslar, uning dunyo haqidagi asosiy bilimlari asab tarmog'ida muhrlangan va kamdan-kam hollarda o'zgartirilgan. Har qanday tashqi ma'lumotlar ma'lumotlarni real vaqtda topish uchun Bot talablari yoki dasturiy ta'minotidan kelib chiqadi.
Masalan, agar siz GRO-ni qabul qilsangiz, javob uchun asosiy ma'lumot manbai bir-birlariga ijtimoiy tarmoqlardagi so'nggi xabarlardan farq qilishi mumkin. Hamma ishda bo'lgani kabi, bilmayman. Va agar bu ma'lumot etarli bo'lmasa, model shunchaki matnni bashorat qilish qobiliyati tufayli biror narsa beradi.
Ikkinchi raqam – ular bir qator sabablarga ko'ra o'zlarining qobiliyatlarini tushuna olmaydi. Qoida tariqasida, ularda tadqiqotlar qanday izlanishlari to'g'risida ma'lumot yo'q, atrofdagi tizim arxitekturasi ular uchun mavjud emas, ular o'zlarining ishlashining chegaralarini aniqlay olmaydilar. Agar siz ChatBotdan nima qila olishini va nima qilmaydigan narsani so'rasangiz, u oldingi til modellarining cheklovlari haqida fikr bildiradi. Aslida, u shunchaki o'zi haqida amaliy ma'lumot emas, balki taxmin bilan javob beradi.
2024 yilda tadqiqot tajriba yordamida ushbu Nuansni isbotladi. Modellar II modellari malaka oshirishlari mumkin, shuning uchun ular oddiy vazifalarda o'zlarining xatti-harakatlarini bashorat qilishlari mumkin, ular doimo murakkab vazifalarda muvaffaqiyatsizlikka uchramaydilar. Xuddi shu tarzda, Vikingni rekursiv kiritish bo'yicha tadqiqotlar shuni ko'rsatadiki, modelning unumdorligini pasayishiga olib keladigan xatolaridan boshqa hech qanday javob yo'q. Ya'ni, AIning o'zi ham yomon emas, yomon emas.
Ba'zan bu paradoksali vaziyatlarga olib keladi. Model ishonchli tarzda aytishi mumkinki, bu vazifalarni bajara olmaydi, lekin aslida elkasida va aksincha, foydalanuvchilarga imkonsiz narsani qila olishini ta'minlash. Shuni unutmasligimiz kerakki, u xato qilganini so'ramasligimiz kerak, foydalanuvchilar xatoning haqiqiy tahlili emas, balki matnning boshqa qismini olishadi.
Til modellarining salbiy tomoni shundaki, ular har doim aloqa qilishingiz mumkin bo'lgan barqaror va arzon bilimga ega emas. Ularning bilimlari faqat o'ziga xos talablarga javob berish uchun o'zlarini bildiradi; Har bir foydalanuvchi so'rovi manzil turini o'ynaydi, bu ma'lumot bazasining turli qismlariga tegishli. Bu qarama-qarshi javoblarga aynan shu narsani anglatadi.
Ammo II o'z mexanizmlari haqida ideal bilimlarga ega bo'lsa ham, «Bot» dasturlari chat chatida boshqa qatlamlar kirib bo'lmasligi mumkin. Shuning uchun zamonaviy aisros, masalan, tattpt kabi namuna emas, balki birgalikda ishlaydigan turli xil modellarni o'z ichiga olgan yirik tizimlar. Ularning har biri, aksariyati boshqalarning mavjudligi haqida bilmaydi. Shuning uchun, hech kim hech qachon aloqada bo'lmagan boshqa tomonda sodir bo'layotgan voqealar haqida katta kompaniyaning bir qismini so'rash kabi xatolar to'g'risida hech kimdan so'rash.
Va nihoyat, eng muhim jihati shundaki, foydalanuvchi deyarli har doim hech kimning javobiga ta'sir qiladi – ular bilmaydimi yoki yo'qmi yoki yo'qmi, yo'qmi. Agar siz ChatBotni dahshatga solgan bo'lsa, u dasturning yozuvlarini yoki kodini yo'q qilsa, shundan keyin u quyidagicha javob berishga moyil, chunki ushbu parametr so'rovning hissiy nuqtai nazaridan mos keladi.