هوش مصنوعی گوگل ۲۰ شکاف امنیتی را کشف کرد

هدر ادکینز نائب رییس بخش امنیتی گوگل اعلام کرد «بیگ اسلیپ» (Big Sleep) مدل زبانی بزرگ شکاف امنیتی یاب این شرکت ۲۰ آسیب پذیری در نرم افزارهای منبع باز مشهور یافته و گزارش کرده است. ادکینز اعلام کرد دیپ مایند شاخه هوش مصنوعی گوگل همراه تیمی از هکرهای منتخب پروژه زیرو، «بیگ اسلیپ» را توسعه داده اند.

به گزارش مهر، این ابزار برای نخستین بار مجموعه شکاف هایی را گزارش کرده که بیشتر آنها در نرم افزارهای منبع باز مانند مخزن صوتی و ویدئویی FFmpeg و ابزار اصلاح عکس Image Magick رصد شده اند.

با توجه به آنکه شکاف های امنیتی هنوز ترمیم نشده اند، جزئیاتی درباره تاثیر یا شدت آنها در دسترس نیست. در این میان گوگل نیز نمی خواهد جزئیات را فراهم کند، حال آنکه افشای جزئیات شکاف در زمان انتظار برای ترمیم آن یک سیاست استاندارد به شمار می رود. اما این واقعیت که بیگ اسلیپ این شکاف ها را یافته اهمیت زیادی دارد زیرا نشان می دهد ابزارهای هوش مصنوعی حتی اگر انسان در فعالیت آنهادخالت کند، نتایجی واقعی دربر دارند.

سخنگوی گوگل در این باره می گوید: برای آنکه تضمین شود گزارش ها با کیفیت هستند و می توان بر اساس آنها اقداماتی انجام داد، ما از کارشناسان انسانی نیز در حلقه عملیات خود و قبل از گزارش دهی استفاده کردیم. البته هر شکاف امنیتی بدون دخالت انسان و توسط عامل هوش مصنوعی کشف و گزارش شد.

رویال هانسن نائب رئیس بخش مهندسی گوگل نیز در شبکه اجتماعی ایکس نوشت این یافته ها نشان می دهد یک جبهه جدید در حوزه اکتشاف خودکار شکاف ها به وجود آمده است.

ابزارهایی که با مدل های زبانی بزرگ فعال می شون هم اکنون می توانند شکاف در نرم افزاره را جستجو کنند و بیابند. علاوه بر بیگ اسلیپ، ابزارهای RunSybil و XBOW نیز در این زمینه فعال هستند.

پارادوکس تجربه: دانایان هم اشتباه می کنند / پرونده های عجیب نابودی: نوکیا، کداک، چلنجر و ایرفرانس 447

بیشتر بخوانید:

چطور گول تصاویر هوش مصنوعی را نخوریم؟ اضافه شدن ابزار جدید به جستجوی تصویری گوگل

تماشاخانه

ایران من ؛ از دل تاریخی کهن تا حال ایران امروز ما

آمریکا و جنگ برای «ام آی سی» ؛ نتانیاهو و اورانیوم بهانه است / «زنده باد جنگ‌های ابدی»

فیلم های دیگر