۰۹ دی ۱۴۰۴
به روز شده در: ۰۹ دی ۱۴۰۴ - ۰۲:۰۰
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
بزرگترین منابع میکروپلاستیک کدامند؟(+اینفوگرافیک) زیبا بروفه: شادمهر عقیلی گفت از من خوشش می آید قاتل سریالی زنان و امید به زندگی بسیار بالا قصه‌های نان و نمک(80)/ اوه اوه اوه! طلا 16 میلیون شد… بعدش چی؟ کم‌مصرف‌ترین خودروهای بنزینی و هیبریدی را بشناسید   چرا بازگشت همتی به بانک مرکزی و دولت، خبر خوبی است؟ بوس ۵ میلیارد تومانی مهران مدیری مردم از چه زمانی به این اعتقاد رسیدند: در تهران پول زیر دست و پا ریخته، کسی نیست جمع کند/ رد پای یک همدانی شمخانی: هر تجاوزی، پاسخ سخت و فوری خواهد داشت مدیرعامل انجمن اوتیسم : ۸۰ هزار کودک ایرانی مبتلا به اوتیسم هستند/ ۳۰ میلیون تومان هزینه ماهانه هر بیمار روسیه: حمله اوکراین به اقامتگاه پوتین، سیلی به صورت ترامپ است توصیه‌های پلیس راه به رانندگان راز درخشش ریاض محرز در جام ملت‌های آفریقا فاش شد احتمال ۶۶ درصدی تقابل استقلال و سپاهان با النصر عربستان رنو کلیو جدید؛ رویکرد جدید کمپانی فرانسوی در طراحی (+عکس)