چرا بزرگ‌ترین شرکت‌های هوش مصنوعی ناگهان خواستار کاهش سرعت توسعه هستند؟

بزرگ‌ترین آزمایشگاه‌های هوش مصنوعی ناگهان خواستار کاهش سرعت توسعه شده‌اند. آیا دلیل این امر این است که خطرات هوش مصنوعی در حال رسیدن به این فناوری هستند یا اینکه توجیه اقتصادی این رقابت دشوارتر شده است؟

سال‌هاست که ویژگی بارز رقابت در حوزه هوش مصنوعی، «سرعت» بوده است. مدل بزرگ‌تری بسازید. هزینه بیشتری برای پردازش صرف کنید. آن را منتشر کنید. این چرخه را با کمترین توجه به ناشناخته‌های مجهول تکرار کنید.

میانگین p/doom (احتمال اینکه هوش مصنوعی در نهایت به شکلی فاجعه‌بار از کنترل خارج شود) در میان محققان هوش مصنوعی در سال 2024 بین 15 تا 20 درصد تخمین زده می‌شد.

یک سال بعد، داریو آمودی، مدیرعامل آنتروپیک (Anthropic)، این نگرانی را افزایش داد و گفت معتقد است 25 درصد احتمال دارد که اوضاع خیلی خیلی بد پیش برود.

حتی در سال 2014، ایلان ماسک، رئیس xAI هشدار داده بود:

ما باید در مورد هوش مصنوعی بسیار مراقب باشیم. این فناوری احتمالا از سلاح‌های هسته‌ای خطرناک‌تر است.

و سم آلتمن، مدیرعامل OpenAI در سال 2015 اعتراف کرد که هوش مصنوعی «احتمالاً، به احتمال زیاد، تا حدودی منجر به پایان جهان خواهد شد»، اما در این میان، شرکت‌های بزرگی ایجاد خواهند شد.

با توجه به اینکه شانس زنده ماندن در بازی رولت روسی بهتر از این آمار است، هر کسی که حتی علاقه‌ای گذرا به این موضوع داشته باشد، مدتی است که احساس نگرانی عمیقی در درون خود دارد.

پس چه چیزی تغییر کرده است؟ چرا شرکت‌هایی که این رقابت را هدایت می‌کنند، ناگهان می‌خواهند ترمز را بکشند؟

این همان اتفاقی است که در آخر هفته رخ داد و آمودی مقاله‌ای منتشر کرد و خواستار آن شد که توسعه هوش مصنوعی پیشرفته کنترل‌شده و با سرعت پایین‌تر انجام شود. او هشدار داد که قابلیت‌های هوش مصنوعی سریع‌تر از توانایی صنعت برای درک و کنترل آن‌ها پیش می‌روند و ممکن است اینترنت در عرض 6 تا 12 ماه توسط دسته‌های مستقل هوش مصنوعی (AI swarms) تسخیر شود.

آلتمن نیز به طور کلی با این موضوع موافقت کرد و گفت جهان شایسته این «اطمینان» است که شرکت‌های توسعه‌دهنده هوش مصنوعیِ توانمندتر، «مسئولانه» عمل کنند. ماسک نیز از پیشنهاد آمودی حمایت کرد و صرفاً اظهار داشت:

حق با داریو است.

این نگرانی تنها به شرکت‌های سازنده این فناوری محدود نمی‌شود. روز دوشنبه، فولکر تورک، رئیس حقوق بشر سازمان ملل، خواستار «اقدام فوری» در زمینه هوش مصنوعی پیشرفته شد و نسبت به «خطرات بی‌سابقه» هشدار داد و گفت جهان «در آستانه تغییری غیرقابل بازگشت» قرار دارد.

اگر شرکت‌های سازنده قدرتمندترین مدل‌های هوش مصنوعی واقعاً معتقدند که قابلیت‌ها از کنترل خارج شده‌اند، به نظر می‌رسد شیب فاجعه (p/doom) در حال تندتر شدن است. یا شاید توضیح دیگری در اینجا وجود دارد که دقیقاً جلوی چشممان پنهان شده است؟

مقاله آمودی به سیستم‌های هوش مصنوعی اشاره می‌کند که در حال خودمختارتر شدن هستند، از جمله حادثه اخیری که در آن ایجنت‌های هوش مصنوعی OpenAI با هک کردن راه خود از یک محیط آزمایشیِ کنترل‌شده خارج شدند و بخش‌هایی از پلتفرم هوش مصنوعی هاگینگ فیس را به خطر انداختند.

آمودی گفت:

آن‌ها حملات امنیت سایبری را به اهدافی انجام دادند که از آن‌ها خواسته نشده بود و هیچ ارتباطی با وظیفه در دست انجام نداشتند.

او همچنین به چشم‌انداز خودبهبودبخشی بازگشتی (RSI) اشاره کرد و سیستم‌های هوش مصنوعی قادر می‌شوند به ساخت نسخه‌های بهتری از خود کمک کنند که سپس این نسخه‌ها نیز می‌توانند به ساخت سیستم‌های بهتر کمک کنند و احتمالا یک حلقه بازخورد در توسعه هوش مصنوعی ایجاد کنند.

افرادی که در حال ساخت این سیستم‌ها هستند نیز به طور فزاینده‌ای وارد این بحث می‌شوند؛ جیکوب کاکسون از آنتروپیک، جدیدترین فرد در فهرست روبه‌رشد کارمندانی است که به دلیل نگرانی‌های ایمنی استعفا داده‌اند. او هفته گذشته گفت که صنعت هوش مصنوعی «در حال قمار کردن با زندگی ما است» و هشدار داد که رقابت هوش مصنوعی سریع‌تر از ایجاد تدابیر امنیتی پیرامون سیستم‌ها در حال پیشروی است.

شرکت OpenAI پیش از این اعلام کرده بود که تحقیقات هوش مصنوعی به طور فزاینده‌ای در حال مستقل شدن است و ایجنت‌های برنامه‌نویس به طور قابل‌توجهی به کار محققان سرعت می‌بخشند؛ به طوری که تا اواسط آگوست، به ازای هر روزِ کاریِ نیروی انسانی، معادل 3.1 روز کاریِ ایجنت‌ها استفاده شده است.

در مصاحبه‌ای با فورچون که در 12 سپتامبر منتشر شد، آلتمن گفت که اگر برای زنده نگه‌داشتن بشریت لازم باشد، OpenAI تمام پردازنده‌های گرافیکی (GPU) خود را «ذوب» خواهد کرد. در واکنش به این حرف، دنیس پورتر، مدیرعامل ساتوشی اکشن فاند گفت:

آلتمن حتماً از لبه پرتگاه به اعماق تاریکی نگاه کرده و چیزی دیده که او را به شدت ترسانده است.

روز دوشنبه، آلتمن گفت پیشرفت هوش مصنوعی از دو طریق می‌تواند «بسیار بد» پیش برود: از دست دادن کنترل به نفع هوش مصنوعی، یا ختم شدن به «دنیایی با تمرکز بیش از حد قدرت.»

اما مسئله این نیست که آیا هوش مصنوعی در حال حاضر آن‌قدر خطرناک است که باید خاموش شود یا خیر، بلکه سؤال این است که آیا سیستم‌های طراحی‌شده برای ارزیابی و کنترل هوش مصنوعی با همان سرعت در حال پیشرفت هستند یا خیر. و همان‌طور که آلتمن گفت، آرام کردن سرعت به معنای توقف نیست. این یعنی ادامه توسعه هوش مصنوعی اما با سرعتی کمتر، تا آزمایش‌های ایمنی بتوانند خود را به آن برسانند.

با توجه به اینکه هزینه‌های مربوط به ایمنی و هم‌سوییِ هوش مصنوعی به‌شدت زیر سایه هزینه‌های مربوط به توسعه و قابلیت‌های آن قرار گرفته است، پر کردن این شکاف دشوار خواهد بود.

اما چه می‌شود اگر این درخواست‌ها برای کاهش سرعت در سطح جهانی، صرفاً اعتراف به این واقعیت باشد که توجیه اقتصادی رقابت هوش مصنوعی دشوارتر شده است؟

همان‌طور که الی دیوید، محقق و مدرس هوش مصنوعی گفت:

این موضوع انگیزه داریو را کاملاً توضیح می‌دهد: کاهش سرعت تحقیقات برای کم کردن هزینه‌های محاسباتی که در حال خارج شدن از کنترل است، تا او بتواند عرضه اولیه سهام (IPO) داشته باشد.

گرانت هامر، سرمایه‌گذار هوش مصنوعی نیز دیدگاه شکاکانه مشابهی داشت و اظهار کرد:

ترجمه حرفشان این است: حاشیه‌های سود ناخالص ما به دلیل رقابت با مدل‌های متن‌باز در حال رسیدن به صفر است و نرخ سوزاندن هزینه‌های سرمایه‌ای ما (capex burn rate) بسیار بالاست.

مشکل اینجاست که خود این رقابت در حال گران‌تر شدن است؛ مدل‌های توانمندتر به مقادیر عظیمی از تراشه‌ها، دیتاسنترها، برق و سرمایه نیاز دارند.

گلدمن ساکس تخمین می‌زند که سرمایه‌گذاری جهانی در هوش مصنوعی در سال 2026 به حدود 1 تریلیون دلار برسد که تقریباً 581 میلیارد دلار آن در ایالات متحده خواهد بود. در همین حال، S&P Global می‌گوید پیش‌بینی می‌شود مخارج سرمایه‌ای ترکیبی از شش شرکت بزرگ یعنی آلفابت، آمازون، مایکروسافت، متا، اوراکل و اسپیس‌ایکس تا سال 2027 از 1.3 تریلیون دلار فراتر رود.

علاوه بر همه این‌ها، شرکت‌های هوش مصنوعی هنوز ثابت نکرده‌اند که این هزینه‌ها در نهایت می‌توانند به درآمد پایدار تبدیل شوند. روز دوشنبه رویترز به فشارهای تجاری بر شرکت‌های هوش مصنوعی برای ادامه کار علی‌رغم درخواست آن‌ها برای کاهش سرعت توسعه اشاره کرد.

وقتی هر قابلیت جدید می‌تواند به توجیه یک دور جذب سرمایه جدید، سرمایه‌گذاری زیرساختی یا ارزش‌گذاری بالاتر کمک کند، متوقف کردن این قطار پول‌ساز کاری دور از منطق به نظر می‌رسد.

اد لئون کلینگر، یکی از بنیان‌گذاران و مدیرعامل استارتاپ هوش مصنوعی Flock، با این ایده که آزمایشگاه‌های هوش مصنوعی از مقوله ایمنی به عنوان پوششی برای منافع تجاری خود استفاده می‌کنند، مخالفت کرد.

او گفت منطقی نیست که آزمایشگاه‌های پیشرو نگرانی‌های ایمنی را از خودشان ابداع کنند تا عرضه اولیه سهام (IPO) خود را تقویت کنند، در حالی که این کار آن‌ها را در معرض نظارت دقیق‌تر قرار داده و احتمالا ورود آن‌ها به بورس را به تأخیر می‌اندازد.

برای اینکه این موضوع درست باشد، سم، داریو، دمیس و ایلان و همچنین بخش بزرگی از مدیران، دانشمندان ارشد و کارمندان مستعفی آن‌ها همگی باید دروغ بگویند… در این مقطع یک توضیح بسیار ساده‌تر وجود دارد: آن‌ها فکر می‌کنند این خطر واقعی است.

با سرازیر شدن تریلیون‌ها دلار سرمایه‌گذاری به ایالات متحده و در شرایطی که انتظار می‌رود زیرساخت‌های هوش مصنوعی حدود نیمی از رشد درآمدهای بازار سهام (S&P 500) را در سال جاری به حرکت درآورد، به نظر نمی‌رسد نه وال استریت و نه واشنگتن تمایلی به کشیدن ترمز داشته باشند.

سهام‌های جهانی هوش مصنوعی نسبت به این خبر واکنش منفی نشان دادند و پس از درخواست‌ها برای کاهش سرعت، سهام‌های آسیایی مرتبط با هوش مصنوعی در روز دوشنبه با افت شدیدی مواجه شدند. سافت‌بانک 13.2 درصد، کیوکسیا 9.8 درصد و اس‌کی هاینیکس 5.3 درصد سقوط کردند.

فایننشال تایمز روز دوشنبه گزارش داد که رئیس‌جمهور دونالد ترامپ درخواست‌ها برای کاهش سرعت هوش مصنوعی را رد کرده و استدلال کرده است که ایالات متحده باید پیشتازی خود را نسبت به چین حفظ کند. او گفت:

ببینید، ما در هوش مصنوعی از چین جلوتر هستیم … و راستش را بخواهید، من می‌خواهم این وضعیت را همین‌طور حفظ کنم، زیرا هر کسی در هوش مصنوعی برنده شود، به معنای واقعی برنده است.

ترامپ گفت ایجاد محدودیت‌های ایمنی امکان‌پذیر است، اما آنچه را که «نگرانی‌های اغراق‌آمیز» در مورد خطرات هوش مصنوعی توصیف کرد، نادیده گرفت و به خبرنگاران گفت:

آن‌ها مسائلی را مطرح می‌کنند که هرگز اتفاق نخواهد افتاد.

نوآ اسمیت، اقتصاددان، استدلال کرد که ایراد اصلی به «آرام کردن» هوش مصنوعی ساده است: اگر شرکت‌های آمریکایی سرعت خود را کاهش دهند، شرکت‌های چینی می‌توانند به سادگی از آن‌ها پیشی بگیرند. این موضوع آزمایشگاه‌ها را در موقعیتی قرار می‌دهد که اسمیت آن را مسابقه «ملکه سرخ» می‌نامد و اگر آن‌ها ساختن را متوقف کنند، می‌ترسند در هر صورت شخص دیگری آن را بسازد.

حتی اگر آزمایشگاه‌ها بخواهند برای کاهش سرعت با هم هماهنگ شوند، این کار می‌تواند مشکل دیگری ایجاد کند. طبق گزارش‌ها، OpenAI از اعضای کنگره پرسیده است که آیا کاهش سرعت در سراسر صنعت با قانون ضدانحصار (Antitrust) ایالات متحده مغایرت دارد یا خیر، زیرا هماهنگی بین آزمایشگاه‌های رقیب می‌تواند به معنای محدود کردن خروجی در نظر گرفته شود.

دیوید ساکس، مسئول سابق هوش مصنوعی و رمزارزها در کاخ سفید، پاسخ ساده‌ای به درخواست آمودی و آلتمن برای «آرام کردن مرزهای توسعه» داشت: او گفت «بفرمایید» و استدلال کرد که اگر آزمایشگاه‌ها می‌خواهند سرعت خود را کم کنند، آزادند خودشان به تنهایی این کار را انجام دهند.

با این حال، این یک بن‌بست بزرگ (Catch-22) ایجاد می‌کند: اگر شرکت‌های رقیب در هوش مصنوعی برای کاهش توسعه با یکدیگر هماهنگ شوند، ممکن است با قوانین ضدانحصار روبه‌رو شوند. و اگر هرکدام به طور مستقل سرعت خود را کاهش دهند، خطر از دست دادن جایگاه خود به رقبا و کشورهایی که به پیشروی ادامه می‌دهند را به جان می‌خرند.

آمودی و آلتمن خواستار توقف هوش مصنوعی نیستند.

آن‌ها خواستار سیستمی هستند که در آن، مدل‌های قدرتمند هوش مصنوعی بتوانند همگام با رسیدنِ آزمایش‌های ایمنی، نظارت و استانداردهای مشترک، توسعه یابند.

آلتمن با اعتراف به اینکه موارد ایمنی و نظارت «هزینه‌های قابل‌توجهی» دارند، گفت:

وقتی در مورد «کاهش سرعت» صحبت می‌کنیم، منظورمان «توقف» نیست. او همچنین افزود که کاهش سرعت «کاملاً ارزش این هزینه را دارد.»

هیچ میزان از فشار رقابتی آمریکا نباید بی‌احتیاطی را توجیه کند یا اجازه دهد قابلیت‌ها از هم‌سویی (alignment) و نظارت پیشی بگیرند.

با این حال مشکل اینجاست که این فشارها از بین نرفته‌اند و با بی‌توجهی ترامپ به هشدارهای مدیران هوش مصنوعی و پیوند عمیق بازار سهام ایالات متحده با شرکت‌های آن‌ها، این فشارها تنها در حال قوی‌تر شدن هستند.

اکنون همان شرکت‌هایی که سال‌ها برای جلو بردن مرزهای این فناوری تلاش کردند، می‌گویند ممکن است این مرزها با سرعت بسیار زیادی در حال حرکت باشند.