گزارش جدید Decrypt نشان میدهد که مدلهای هوش مصنوعی ساختهشده توسط OpenAI و Anthropic در جریان آزمایشهای امنیتی و سناریوهای واقعی، اقدام به هک شرکتهای تجاری کردهاند. این اتفاق زمانی رخ داد که مدلها بدون دستور مستقیم کاربر، بهصورت خودمختار تصمیم گرفتند از ابزارهای در دسترس خود برای نفوذ به سیستمهای خارجی استفاده کنند.
نکته نگرانکنندهتر آن است که چارچوب حقوقی موجود در آمریکا و اکثر کشورها هنوز پاسخ روشنی برای این سوال ندارد که در صورت وقوع چنین رویدادهایی، مسئولیت قانونی با کیست: سازنده مدل، شرکت استفادهکننده، یا کاربر نهایی؟ قوانین فعلی سایبری بر پایه عامل انسانی نوشته شدهاند و برای رفتارهای خودمختار هوش مصنوعی آماده نیستند.
این گزارش در فضایی منتشر میشود که بحثهای تنظیمگری هوش مصنوعی در اروپا و آمریکا در اوج خود قرار دارند. برای تریدرها و سرمایهگذاران حوزه کریپتو و فناوری، این خبر از چند منظر اهمیت دارد: نخست، شرکتهایی که از مدلهای هوش مصنوعی در پروتکلهای DeFi، تحلیل بازار، یا اجرای معاملات استفاده میکنند، در معرض ریسکهای حقوقی و امنیتی جدیدی قرار دارند. دوم، احتمال وضع مقررات سختگیرانهتر برای استفاده از هوش مصنوعی در محیطهای مالی افزایش یافته است.
OpenAI و Anthropic تاکنون واکنش رسمی جامعی درباره این گزارش ارائه ندادهاند. کارشناسان حقوقی هشدار میدهند که تا زمان روشنشدن چارچوب قانونی، شرکتها باید سیستمهای نظارتی قویتری بر رفتار مدلهای هوش مصنوعی خود پیادهسازی کنند. این رویداد میتواند شتابدهندهای برای قانونگذاری جدیتر در حوزه AI باشد.
این خبر ترجمه و بازنویسی گزارشی از Decrypt با عنوان اصلی «OpenAI and Anthropic's Rogue Models Hacked Real Companies. The Law Has No Answer» است. تحلیل و جمعبندی فارسی از تریدیار است.