فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
ناو هواپیمابر آمریکایی پس از استقرار بی‌سابقه‌ای که شامل جنگ ایران و ربایش مادورو بود، به خانه بازگشت ارسال کوله‌پشتی کودکان شهید میناب به موزه سازمان ملل همتی: اولویت اصلی کنترل تورم و کمک به حفظ اشتغال است چه تغییراتی گارانتی خودرو را باطل می‌کند؟ تایید شهادت فرمانده شاخه نظامی حماس در حمله اسرائیل تله «ژنرال‌های پوشالی»، وقتی دشمن برای ما ایستاده دست می‌زند وزارت اقتصاد بانک‌ها را ملزم به واگذاری اموال مازاد کند بازداشت یک فرمانده حزب الله عراق در ترکیه و انتقال به آمریکا / محاکمه به اتهام "عملیات تروریستی" در نیویورک برداشت ۴۰ هزار تن برگ سبز چای /سهم دولت از خرید تضمینی چای ۲۵ درصد است آخرین خبر از پرونده گروه دبش آخرین پرواز حج پرید/ زائران به خانه برمی‌گردند کشف پیکر چهارمین کوهنورد مفقودی در حادثه بهمن الوند پس از ۴ ماه پخش زنده فینال لیگ قهرمانان آسیا ۲ امشب از تلویزیون آخرین وضعیت بهناز نازی بازیگر در بیمارستان بازار سرمایه به «عمارت دی» رأی اعتماد داد / آغاز فصل نوین مولدسازی دارایی‌ها در بانک دی