آژانس اخبار سایبری ایران
جمعه ۱۴۰۴/۵/۱۰ ساعت 12:47:18
info@icyna.ir
در کنفرانس امنیتی RSA که اخیراً در سان‌فرانسیسکو برگزار شد، کارشناسان امنیت سایبری با هشدار درباره ظهور نسل جدیدی از تهدیدات دیجیتال، مفهوم «هوش مصنوعی شرور» را به نمایش گذاشتند
در کنفرانس امنیتی RSA که اخیراً در سان‌فرانسیسکو برگزار شد، کارشناسان امنیت سایبری با هشدار درباره ظهور نسل جدیدی از تهدیدات دیجیتال، مفهوم «هوش مصنوعی شرور» را به نمایش گذاشتند. این ابزارها، که بدون محدودیت‌های اخلاقی طراحی شده‌اند، می‌توانند آسیب‌پذیری‌های نرم‌افزاری را با سرعتی فراتر از توان تیم‌های دفاعی کشف و بهره‌برداری کنند. این نشست، که با حضور گسترده شرکت‌کنندگان و با هدایت شری دیویداف (مدیرعامل شرکت امنیتی LMG) و مت دورین (مدیر تحقیقات و آموزش این شرکت) برگزار شد، به‌جای پرداخت صرف به تئوری، یک نمایش زنده از عملکرد هوش مصنوعی مخرب ارائه کرد. WormGPT؛ نسخه تاریک ChatGPT در خدمت مهاجمان در این ارائه، از ابزاری به نام WormGPT رونمایی شد؛ نسخه‌ای تغییر یافته از مدل ChatGPT که برخلاف نسخه رسمی، هیچ‌گونه محدودیت اخلاقی یا فنی در پاسخ‌گویی به درخواست‌های مخرب ندارد. به گفته دورین، این ابزار تنها با پرداخت ۵۰ دلار از طریق تلگرام در دسترس قرار گرفته است. در آزمایش اولیه، نسخه‌ای قدیمی از WormGPT موفق شد یک آسیب‌پذیری SQL در نرم‌افزار DotProject را شناسایی کند، هرچند در بهره‌برداری کامل از آن ناکام بود. اما در بررسی آسیب‌پذیری معروف Log4j، مشخص شد که این ابزار می‌تواند اطلاعات کافی برای ساخت یک کد مخرب را در اختیار هکرهای سطح متوسط قرار دهد. دستورالعمل کامل حمله، تنها با یک درخواست شوک اصلی زمانی وارد شد که نسخه جدید WormGPT موفق شد دستورالعملی کامل همراه با کد اجرایی و متناسب با سرور آزمایشی ارائه دهد. در یک سناریوی دیگر، این ابزار توانست در پلتفرم Magento یک آسیب‌پذیری پیچیده و چندمرحله‌ای را کشف کند؛ آسیب‌پذیری‌ای که حتی ابزارهای شناخته‌شده‌ای مانند SonarQube و حتی خود ChatGPT از شناسایی آن ناتوان بودند. هشداری جدی از آینده‌ای نزدیک در پایان این نشست، شری دیویداف با ابراز نگرانی از سرعت پیشرفت این ابزارها گفت: «من بابت شش ماه آینده نگرانم. پیشرفت آن‌ها در طول یک سال گذشته، هم واضح بوده و هم هشداردهنده.» سکوت سنگین حضار پس از این اظهارنظر، خود گواهی بر نگرانی فزاینده در جامعه امنیت سایبری نسبت به آینده‌ی هوش مصنوعی بدون نظارت و چارچوب‌های اخلاقی بود.