فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
پارادوکس تجربه: دانایان هم اشتباه می کنند / پرونده های عجیب نابودی: نوکیا، کداک، چلنجر و ایرفرانس 447 رئیس پارلمان لبنان: مذاکره تحت فشار حملات اسرائیل چه سودی دارد؟ کشف جسد فرد مغروق در رود ارس با تلاش امدادگران در جلفا سی‌ان‌ان: ایران تقریبا همه سایت‌های نظامی آمریکا در خاورمیانه را هدف قرار داده رونمایی بایکار از پهپاد کی2؛ پهپاد انتحاری ترکیه با قابلیت بازگشت به آشیانه! (+فیلم و عکس) نیروی دریایی سپاه: قواعد مدیریت جدید خلیج فارس اعمال خواهد شد پرواز رفت و برگشت رشت- مشهد برقرار شد مدیر مسؤول عصر ایران در سوگ پدر دستگیری عامل تیراندازی مرگبار در عملیات ضربتی پلیس ازنا نتایج نظرسنجی جدید: ۶۱ درصد آمریکایی ها جنگ با ایران را یک اشتباه می دانند ترامپ: برای ادامه جنگ با ایران، اجازه رسمی از کنگره نخواهم گرفت نفتالی بنت: اسرائیل در حال فروپاشی است شهادت ۱۴ عضو سپاه زنجان بر اثر انفجار مهمات عمل‌نکرده رایزنی تلفنی عراقچی و لاوروف پیام رهبر انقلاب اسلامی به مناسبت روز کارگر و روز معلم