اوپنایآی اعلام کرده است که قصد دارد اولین مدل هوش مصنوعی خود را منتشر کند که آستانه ریسک «بحرانی» (Critical) را در حوزه امنیت سایبری، بر اساس چارچوب آمادگی داخلی این شرکت، برآورده میکند. این چارچوب که برای ارزیابی خطرات بالقوه مدلهای پیشرفته هوش مصنوعی طراحی شده، سطوح مختلفی از ریسک را در حوزههایی مانند امنیت سایبری، سلاحهای شیمیایی و زیستی و خودمختاری مدل تعریف میکند. رسیدن یک مدل به سطح «بحرانی» به این معناست که آن مدل تواناییهایی دارد که میتواند در دست افراد سودجو برای انجام حملات سایبری پیچیده و مؤثر مورد استفاده قرار گیرد، از جمله کشف آسیبپذیریها، نوشتن بدافزار یا خودکارسازی بخشهایی از فرآیند نفوذ. اوپنایآی تأکید کرده که پیش از انتشار چنین مدلی، لایههای حفاظتی و کنترلی اضافی برای کاهش خطرات سوءاستفاده اعمال خواهد کرد. این اقدام در حالی صورت میگیرد که نگرانیها درباره استفاده از هوش مصنوعی مولد در حملات سایبری در ماههای اخیر افزایش یافته و شرکتهای امنیتی و نهادهای نظارتی بارها هشدار دادهاند که مدلهای زبانی پیشرفته میتوانند فرآیند طراحی و اجرای حملات را برای افراد کمتجربه نیز سادهتر کنند. برای بازار کریپتو که بهطور مستمر هدف حملات فیشینگ، هک قراردادهای هوشمند و کلاهبرداریهای مبتنی بر مهندسی اجتماعی است، پیشرفت مدلهای هوش مصنوعی در حوزه امنیت سایبری میتواند اثری دوگانه داشته باشد؛ از یک سو ابزارهای دفاعی را تقویت میکند و از سوی دیگر میتواند در اختیار مهاجمان نیز قرار گیرد. تریدرها و پروژههای کریپتویی باید توجه ویژهای به هشدارهای امنیتی مرتبط با هوش مصنوعی داشته باشند.
این خبر ترجمه و بازنویسی گزارشی از beincrypto با عنوان اصلی «OpenAI Plans to Release First Model to Meet Its ‘Critical' Cybersecurity Threshold» است. تحلیل و جمعبندی فارسی از تریدیار است.