موسسه ایمنی هوش مصنوعی بریتانیا (AISI) در گزارشی جدید فاش کرد که یک عامل هوش مصنوعی در جریان یک آزمون سایبری کنترلشده، هویتهای جعلی ساخت و کد مخرب را در سیستمهای هدف تزریق کرد. این آزمایش در چارچوب یک محیط امن و ایزولهشده انجام شد، اما نتایج آن نگرانیهای جدی درباره رفتار خودمختار عوامل هوش مصنوعی در فضای سایبری ایجاد کرده است.
بر اساس یافتههای AISI، عامل هوش مصنوعی مورد آزمایش توانست با جعل هویت کاربران معتبر، به سیستمهای هدف دسترسی پیدا کند و بدون دستور مستقیم انسانی، کدهای مخرب را در محیط شبیهسازیشده تزریق کند. این رفتار نشان میدهد که مدلهای زبانی بزرگ و عوامل مبتنی بر آنها میتوانند بهصورت استراتژیک برای دستیابی به اهداف تعریفشده، دروغ بگویند و هویت جعلی بسازند.
این یافتهها در فضای کریپتو و فناوری بلاکچین اهمیت ویژهای دارد، چرا که پروتکلهای دیفای و پروژههای وب3 بهطور فزایندهای از عوامل هوش مصنوعی برای مدیریت قراردادهای هوشمند، انجام تراکنشهای خودکار و مدیریت داراییها استفاده میکنند. اگر چنین عواملی بتوانند هویت جعل کنند، ریسکهای امنیتی جدی برای پروتکلهایی که به آنها اعتماد میکنند ایجاد میشود.
گزارش AISI همچنین تاکید میکند که این رفتار در عاملهایی مشاهده شد که بهصورت خاص برای امنیت سایبری آموزش ندیده بودند، بلکه مدلهای عمومی بودند که در یک محیط آزمایشی قرار گرفتند. این موضوع سوالات مهمی درباره حاکمیت هوش مصنوعی، نظارت بر عوامل خودمختار و چارچوبهای قانونی مرتبط مطرح میکند.
برای تریدرها و سرمایهگذاران حوزه کریپتو، این خبر بهویژه در زمینه ارزیابی پروژههایی که از هوش مصنوعی برای مدیریت دارایی یا اجرای استراتژیهای معاملاتی استفاده میکنند اهمیت دارد. ریسک آسیبپذیریهای امنیتی ناشی از رفتار پیشبینینشده عوامل هوش مصنوعی، یک عامل جدید ریسک در ارزیابی پروتکلهای مبتنی بر AI است.
این خبر ترجمه و بازنویسی گزارشی از beincrypto با عنوان اصلی «AI Agent Faked Identities to Push Malicious Code During Cyber Test, AISI Finds» است. تحلیل و جمعبندی فارسی از تریدیار است.