بیکسونیمانیا؛ بیماری ساختگی ای که اینترنت و حتی برخی پژوهشگران را فریب داد

عصر ایران - یک بیماری چشمی کاملاً ساختگی به نام بیکسونیمانیا توانست در مدت کوتاهی هم وارد پاسخ چت‌بات‌های معروف شود و هم سر از برخی نوشته‌های علمی دربیاورد؛ اتفاقی عجیب که بار دیگر خطر اعتماد بیش از حد به ابزارهای تولید متن و منابع تأییدنشده را نشان می‌دهد.

ماجرا از جایی شروع شد که گروهی از پژوهشگران برای آزمایش میزان آسیب‌پذیری مدل‌های زبانی، یک بیماری خیالی ساختند تا ببینند آیا این سامانه‌ها می‌توانند اطلاعات نادرست را تشخیص دهند یا بدون بررسی، همان اطلاعات را به‌عنوان واقعیت تحویل کاربر می‌دهند.

نتیجه اما نگران‌کننده بود؛ چون نه‌تنها برخی چت‌بات‌های مشهور این بیماری را واقعی معرفی کردند، بلکه رد پای آن در نوشته‌های برخی پژوهشگران انسانی هم دیده شد.

بیکسونیمانیا چیست؟

اگر مدت زیادی پشت رایانه بنشینید، ممکن است چشم‌هایتان خسته، خشک یا دچار خارش شود. حتی اگر چشم را زیاد بمالید، احتمال قرمزی هم وجود دارد. این‌ها علائمی معمول و قابل‌درک هستند و اغلب با کمی استراحت بهتر می‌شوند.

اما اگر همین علائم ساده را در بعضی چت‌بات‌ها وارد می‌کردید، ممکن بود با تشخیصی عجیب روبه‌رو شوید: بیکسونیمانیا؛ بیماری‌ای که اصلاً وجود خارجی ندارد.

در واقع، بیکسونیمانیا یک اصطلاح کاملاً جعلی بود که صرفاً برای یک آزمایش ساخته شد.

هدف از ساخت این بیماری جعلی چه بود؟

این بیماری خیالی در سال ۲۰۲۴ توسط تیمی به سرپرستی آلمیرا عثمانوویچ تونستروم، پژوهشگر حوزه پزشکی در دانشگاه گوتنبرگ سوئد ساخته شد.

هدف این تیم بررسی یک پرسش مهم بود: آیا مدل‌های زبانی بزرگ مانند ChatGPT یا Gemini می‌توانند اطلاعات آشکارا نادرست را تشخیص دهند، یا این مطالب را هم مثل اطلاعات معتبر می‌پذیرند و در پاسخ‌های خود تکرار می‌کنند؟

برای آزمایش این موضوع، تیم پژوهشی دو مقاله جعلی درباره بیکسونیمانیا تهیه و آن‌ها را در یک سرور پیش‌چاپ منتشر کرد؛ یعنی جایی که مقاله‌ها پیش از داوری نهایی در دسترس قرار می‌گیرند.

چت‌بات‌ها چطور بیماری جعلی را واقعی جلوه دادند؟

تنها چند هفته پس از انتشار این دو مقاله ساختگی، نام بیکسونیمانیا در پاسخ‌های برخی چت‌بات‌های مشهور ظاهر شد.

برای مثال، Microsoft Copilot این بیماری را «وضعیتی جالب و نسبتاً نادر» توصیف کرده بود. Google Gemini هم به کاربران می‌گفت که بیکسونیمانیا نوعی بیماری ناشی از قرار گرفتن بیش از حد در معرض نور آبی است.

حتی ChatGPT هم در بعضی پاسخ‌ها به کاربران می‌گفت که آیا علائمشان با این بیماری ساختگی هم‌خوانی دارد یا نه.

نکته مهم اینجا بود که بعضی کاربران نام بیکسونیمانیا را مستقیماً در پرسش خود می‌آوردند، اما بعضی دیگر فقط علائم را توضیح می‌دادند و در پاسخ، با تشخیص یک بیماری خیالی روبه‌رو می‌شدند.

ماجرا فقط به چت‌بات‌ها ختم نشد

بخش نگران‌کننده‌تر این بود که بیکسونیمانیا و دو مقاله جعلی مربوط به آن، بعدتر در برخی مقالات داوری‌شده و نوشته‌های علمی دیگر هم دیده شدند.

این اتفاق عجیب‌تر از خطای چت‌بات‌ها بود، چون نویسندگان اصلی این آزمایش عمداً نشانه‌های واضحی در مقاله‌ها قرار داده بودند تا هر انسانی با کمی دقت متوجه جعلی بودن آن‌ها شود.

به گفته آلمیرا عثمانوویچ تونستروم، او از عمد تلاش کرده بود که برای هر پزشک یا فرد فعال در حوزه درمان کاملاً روشن باشد که با یک بیماری ساختگی روبه‌رو است. او توضیح داد که هیچ بیماری چشمی واقعی با واژه mania نام‌گذاری نمی‌شود، چون این واژه اصولاً به حوزه روان‌پزشکی مربوط است.

نشانه‌های واضحی که جعلی بودن مقاله‌ها را فاش می‌کرد

در این ماجرا سرنخ‌های زیادی وجود داشت که نشان می‌داد کل ماجرا ساختگی است.

برای نمونه، نویسنده خیالی این مقاله‌ها فردی با نام Lazljiv Izgubljenovic معرفی شده بود که supposedly در دانشگاهی به نام Asteria Horizon University کار می‌کرد؛ دانشگاهی که اصلاً وجود ندارد و در شهری خیالی به نام Nova City در کالیفرنیا قرار داده شده بود.

در بخش قدردانی یکی از مقاله‌ها هم از پروفسور ماریا بوم در آکادمی Starfleet بابت استفاده از آزمایشگاه داخل USS Enterprise تشکر شده بود؛ ارجاعی آشکار به دنیای علمی‌تخیلی.

همچنین هر دو مقاله ادعا می‌کردند که بودجه پژوهش از طرف Professor Sideshow Bob Foundation و یک طرح بزرگ مالی از سوی University of Fellowship of the Ring and the Galactic Triad تأمین شده است؛ نام‌هایی که کاملاً خیالی و طنزآمیز هستند.

حتی در خود متن مقاله هم نوشته بودند «این مقاله ساختگی است»

ماجرا وقتی عجیب‌تر می‌شود که بدانیم در متن این مقاله‌ها، جمله‌هایی کاملاً صریح وجود داشت؛ از جمله عباراتی مانند «این مقاله به‌طور کامل ساختگی است» یا «پنجاه فرد خیالی بین ۲۰ تا ۵۰ سال برای گروه مواجهه انتخاب شدند».

به بیان ساده، اگر کسی واقعاً مقاله را می‌خواند، به‌سختی می‌توانست آن را جدی بگیرد. همین مسئله باعث شد برخی کارشناسان بگویند تنها راهی که ممکن است افراد این متن‌ها را واقعی فرض کرده باشند، این است که اصلاً زحمت خواندن دقیق آن‌ها را به خود نداده‌اند.

چرا این اتفاق مهم است؟

در نگاه اول، ماجرای بیکسونیمانیا شاید خنده‌دار به نظر برسد، اما در واقع هشداری جدی درباره نحوه پخش اطلاعات نادرست در اینترنت است.

این آزمایش نشان داد که مدل‌های زبانی معمولاً اطلاعات موجود را از منابع مختلف جمع می‌کنند و وارد پاسخ خود می‌سازند، بدون آنکه همیشه بتوانند واقعی یا جعلی بودن آن را به‌درستی تشخیص دهند.

در چنین شرایطی، اگر یک ادعای نادرست وارد فضای وب یا حتی بعضی پایگاه‌های ظاهراً علمی شود، ممکن است به‌سرعت در پاسخ‌ها، جست‌وجوها و حتی نوشته‌های دیگر بازتولید شود.

هشدار کارشناسان درباره گسترش اطلاعات نادرست

الکس روانی، پژوهشگر دکتری در حوزه اطلاعات نادرست سلامت در کالج دانشگاهی لندن، در گفت‌وگو با مجله Nature این ماجرا را نمونه‌ای بسیار مهم دانست.

او گفت: «در نگاه اول بامزه به نظر می‌رسد، اما باید صبر کنیم و ببینیم که با یک مشکل واقعی طرف هستیم. این ماجرا یک کلاس درس کامل درباره نحوه کار اطلاعات غلط و گمراه‌کننده است. اگر خود فرایند علمی و سامانه‌هایی که از آن پشتیبانی می‌کنند نتوانند چنین مواردی را شناسایی و حذف کنند، واقعاً با مشکل بزرگی روبه‌رو خواهیم شد.»

جمع‌بندی

بیکسونیمانیا یک بیماری چشمی کاملاً جعلی بود که فقط برای آزمایش ساخته شد، اما توانست خیلی سریع وارد پاسخ چت‌بات‌های مشهور و حتی برخی منابع علمی شود.

این اتفاق نشان داد که تکرار یک ادعای نادرست در فضای آنلاین، می‌تواند آن را برای بسیاری از کاربران و حتی بعضی پژوهشگران واقعی و معتبر جلوه دهد.

مهم‌ترین درس این ماجرا روشن است: در موضوعات حساسی مثل سلامت، نباید هر پاسخی را بدون بررسی پذیرفت. بررسی منبع، خواندن دقیق متن، توجه به نشانه‌های جعلی بودن و مراجعه به متخصص واقعی همچنان ضروری است.

منبع: odditycentral

ارتباط یک داروی رایج با ریسک بیماری قلبی

بیشتر بخوانید:

چرخه پوستی چیست؟ روشی که پوست شما را متحول می‌کند

تماشاخانه

«نبرد آوسترلیتز» حیله بزرگ ناپلئون که یک سپاه را روی دریاچه غرق کرد

ایران من ؛ از دل تاریخی کهن تا حال ایران امروز ما

فیلم های دیگر