چرا هوش مصنوعی گاهی مطالبی نادرست اما باورپذیر می‌گوید؟
دلیل اصلی این است که مدل‌های زبانی بر اساس پیش‌بینی توزیع احتمال کلمه بعدی پاسخ می‌دهند، نه بر مبنای درک حقیقت یا پایگاه داده قطعیِ وقایع. از این رو، ممکن است پاسخی ارائه دهند که از نظر زبانی محتمل و ساختارمند به نظر می‌رسد، اما از نظر واقعیت عینی نادرست است.
علاوه بر این، در فرآیند آموزش و تنظیم رفتار مدل با بازخورد انسانی، مدل‌ها گاهی به سمت هم‌نوایی و ارائه پاسخ‌هایی متمایل می‌شوند که برای کاربر خوشایند و قانع‌کننده باشد، حتی اگر از درستی علمی یا تاریخی آن مطمئن نباشند. این پدیده تولید اطلاعات ساختگی را اصطلاحاً «توهم هوش مصنوعی» می‌نامند.
بنابراین، هر آنچه هوش مصنوعی با اطمینان بیان می‌کند، لزوماً حقیقت عینی نیست.#حیدرـربیعی#ایران #ایران_قوی #ایران_ابرقدرت #جنگ #جان‌فدا #عربستان #فرانسه #فلسطین #حوزه‌های_علمیه_خواهران #مقاومت #مرگ_بر_اسرائیل #یمن #باید_برخاست #شهید #ورزش #دلار
13:25 - 15 مهر 1405
1 واکنش
548 بازدید