فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
اولین مینی ون جهان با سبیل پوآرو / این خودرو 100 سال جلوتر از زمان حرکت می کند! (+تصاویر) دستور مهم محسنی اژه‌ای درباره اینترنت سفید و پرو یادداشت ضارب مهمانی ترامپ قبل از تیراندازی (+عکس) قیمت طلای جهانی امروز دوشنبه 7 اردیبهشت 1405 کلیدعبور یا رمزعبور؛ کدام یک امن‌تر است؟ تحقیق جدید: «مواد شیمیایی ابدی» می‌توانند سیستم ایمنی بدن را ضعیف کنند چرا توکیو مهم‌ترین مقصد فناوری در سال ۲۰۲۶ است؟ نگاهی به کشورهایی که ارزان‌ترین و گران‌ترین بنزین را در سال ۲۰۲۶ دارند (+ اینفوگرافیک) از تماشای انیمیشن "درون و بیرون" در این روزها غافل نشویم! محسن هاشمی: باید از دو کارت غنی سازی و تنگه هرمز استفاده کنیم/ گران شدن نفت به زیان آمریکا نیست ادعای آکسیوس: ایران پیشنهاد جدیدی ارائه کرده است آموزش زبان انگلیسی به سبک عصر ایران / درس سی و یکم زبان مسیرهای موجود و در حال ساخت انتقال نفت و گاز در خاورمیانه که تنگه هرمز را دور می‌زنند(+عکس) آموزش زبان انگلیسی به سبک عصر ایران / درس سی ام/ دوره کامل اول عباس عبدی: همه باید برای خروج کشور از وضعیت جنگ تلاش کنیم