فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
غرش «ببر کاغذی» در جشنواره کن حمله پهپادی به نیروگاه اتمی امارات / آتش سوزی در اطراف نیروگاه / امارات: خطر تشعشع وجود ندارد محدودیت‌های اتحادیه اروپا بر صادرات پسته ایران برداشته شد جهش کم‌سابقه معاملات برق در بورس انرژی پرداخت وام مسکن روستایی به دهک‌های پایین در کلان‌شهرها منظرۀ متفاوت شهر «بغداد» در بیش از یک قرن قبل گزارش سی ان ان از کابل هایی که زیر تنگه هرمز خوابیده! کشف ترمزهای پنهان برای جلوگیری از وقوع زمین‌لرزه‌های بزرگ آب معدنی بدون تنش قیمتی/ عرضه در وضعیت پایدار جزئیات درخواست‌ آمریکا از ایران: عدم پرداخت غرامت/ خروج ۴۰۰ کیلو اورانیوم از ایران / تعطیلی همه مراکز هسته ای به جز یک مرکز و ... مسابقات جام جهانی فوتبال در سینماها پخش می‌شوند؟ آخرین وضعیت بازار رمزارزها در جهان/برای خرید بیت‌کوین دست نگه دارید سیگنال کاهش قیمت در بازار تخم‌مرغ چرا کتاب نمی خوانیم؟ از غم معیشت و دغدغه گرانی تا لوکس شدن فرهنگ کتابخوانی بدرقه بهناز نازی به خانه ابدی