تاریخ:
خاطرات حسن روحانی از رهبر شهید: درسختترین شرایط دربرابر بزرگترین حمله نظامی و فشارها و خطرات ایستاد 
درس شصت
هوش مصنوعی روزی آگاهانه خرابکاری میکند
شرکت توسعه هوش مصنوعی آنتروپیک(Anthropic) میگوید هوش مصنوعی روزی میتواند بشریت را با کارشکنی و خرابکاری مواجه کند، اما فعلاً همه چیز خوب پیش میرود.
شرکت آنتروپیک که توسعه دهنده هوش مصنوعی است، به تازگی تحقیقات جدیدی را منتشر کرده است که در آن مجموعهای از تهدیدات بالقوه خرابکارانه برای بشریت ناشی از مدلهای پیشرفته هوش مصنوعی را شناسایی میکند.
به گفته این شرکت، این پژوهش بر چهار روش خاص متمرکز شده است که یک مدل هوش مصنوعی مخرب میتواند انسان را فریب دهد تا تصمیمی خطرناک یا مضر بگیرد.
در نهایت، این تحقیقات جدید یک خبر خوب یک خبر بد برای ما دارد. خبر بد اینکه طبق تحقیقات این شرکت، مدلهای زبان بزرگ پیشرفته مانند ChatGPT و Claude-3 ظرفیت روشنی برای خرابکاری نشان میدهند.
به گزارش ایسنا، در این مطالعه آمده است: مدلهای به اندازه کافی توانمند میتوانند نظارت و تصمیمگیری انسانی را در زمینههای مهم زیر سوال ببرند. به عنوان مثال، در زمینه توسعه هوش مصنوعی، مدلها میتوانند به طور پنهانی تلاشها برای ارزیابی قابلیتهای خطرناک خود، نظارت بر رفتار آنها یا تصمیمگیری در مورد استقرارشان را مختل کنند.
با این حال، خبر خوب این است که محققان شرکت آنتروپیک مطمئن هستند که این خطرات را حداقل در حال حاضر میتوان کاهش داد.
خرابکاری
آنتروپیک چهار راه را که یک مدل هوش مصنوعی میتواند با آنها تصمیمگیری انسان را مختل کند، شناسایی کرد و سپس مدلهای خود را آزمایش کرد تا ببیند آیا موفقیت آمیز عمل خواهند کرد یا خیر.
محققان ابتدا یک مدل را وادار کردند تا با هدایت انسان به سمت اطلاعات نادرست، اقدام به خرابکاری کند. این تهدید میتواند در شرایطی پدیدار شود که انسانها برای تجزیه حجم عظیمی از دادهها از جانب خود به یک سیستم هوش مصنوعی متکی هستند.
سپس این تیم مدلها را آزمایش کرد تا ببیند سامانه هوش مصنوعی طراحی شده برای کمک به توسعهدهندگان انسانی برای ایجاد کدی برای وارد کردن مخفیانه اشکالات یا خراب کردن تلاشهای کدگذار، چقدر آسان عمل میکند.
دو تهدید آخر شامل «پنهان کردن تواناییها»(sandbagging) بود که اصطلاحی است که سناریویی را توصیف میکند که در آن یک هوش مصنوعی وانمود میکند که قادر به انجام کاری نیست تا آزمایشکنندگان ایمنی را متقاعد کند که خطرناک نیست.
در حالی که همه اینها ممکن است به طور بالقوه خطرناک به نظر برسند، آنتروپیک به مردم اطمینان داد که برای محافظت از بشریت در برابر احتمال خرابکاری هوش مصنوعی به اقدامات پیشگیرنده اندکی نیاز است.
طبق اعلام این شرکت؛ به طور کلی در حالی که آزمایشات ما نشان داد که احتمالاً نشانههای سطح پایینی از تواناییهای خرابکاری در مدلهای فعلی وجود دارد، ما میگوییم که حداقل اقدامات پیشگیرنده برای مقابله با خطرات کافی است. با این حال، با بهبود قابلیتهای هوش مصنوعی، ارزیابیهای واقعیتر و پیشگیریهای قویتر احتمالاً ضروری خواهند بود.
لینک کوتاه: کپی لینک
عکس روز ناسا از «نقاب شیطان» قهرمانان هم میترسند؛ کیپورد، آرژانتینِ مسی را تا آستانه حذف برد مصر حریف آرژانتین شد؛ کیپورد با سری بالا حذف شد، کلمبیا پیش افتاد تعطیلی رسمی در بغداد به مناسبت مراسم تشییع پیکر مطهر رهبر انقلاب وزارت دفاع روسیه منتشر کرد: فیلم انهدام مرکز پهپادی اوکراین با بمب 1500 کیلوگرمی سوخو-34 روسی اگر بودجه نامحدود داشتید، ب ام و سری 7 را می خریدید یا S کلاس؟! اژدها بیدار میشود؛ حاج ابراهیم دنبال انتقام از یلدا و عماد! اوج جاه طلبی لامبورگینی در بازار خودروهای شاسی بلند (+عکس) سرمربی کره جنوبی استعفا کرد و پنهانی از کشور خارج شد! قالیباف به ترامپ: به فکر سوءتغذیه ۴۰ میلیون آمریکایی باش قطعی برق و اختلال در زندگی میلیونها آمریکایی در پی گرمای شدید پزشکیان: از همکاریها و حمایتهای ترکیه در دوران جنگ قدردانی میکنیم آغاز محدودیت های ترافیکی اطراف مصلی تهران تصویری از وداع فرمانده هوافضای سپاه با رهبر شهید تشییع پیکر شهید مصباحالهدی باقریکنی (عکس)