فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
تراژدی در کوهرنگ چهارمحال و بختیاری؛ جان باختن ۲ کودک و یک زن در استخر کشاورزی فروش مس به جای طلا؛ کلاهبردار حرفه‌ای در البرز لو رفت استقرار سامانه موشکی ضدکشتی در رزمایش مشترک آمریکا و فیلیپین غریب‌ آبادی: ایران طرح خود را با هدف خاتمه دائمی جنگ تحمیلی به پاکستان ارائه کرده عزل ۷۵ مدیر بازنشسته وزارت نفت با ورود سازمان بازرسی بیانیه اسپانیا علیه اسرائیل برای آزادی شهروند این کشور افزایش دمای هوای مازندران؛ هوا تا دوشنبه گرم‌تر می‌شود تساوی پرگل بایرن مونیخ برابر هایدنهایم؛ تداوم ضعف دفاعی یاران کمپانی 11 توییت ترامپ در عرض 42 دقیقه/ این مرد حالش خوب نیست! بازیگر سریال آیینه بعد ۳۹ سال در یک سریال جدید تلویزیونی (عکس) افزایش شمار شهدای لبنان به ۲ هزار و ۶۵۹ شهید جهش ۷ میلیونی قیمت سکه؛ عبور سکه امامی از مرز ۲۰۰ میلیون دادستان تهران: اموال شناسایی‌شده از مدیر اینترنشنال به ۶۳ مورد افزایش یافت برگزاری آیین چهلم شهید علی لاریجانی در تالار وحدت (گزارش تصویری) ورود عضو جدید به تیم مذاکره‌ کننده آمریکا با ایران