Anthropic مدل‌های Fable 5 و Mythos 5 را به دستور دولت آمریکا متوقف کرد

شرکت Anthropic، یکی از پیشگامان توسعه مدل‌های زبانی بزرگ و رقیب اصلی OpenAI، در اقدامی غیرمنتظره و بحث‌برانگیز، توسعه و عرضه مدل‌های جدید خود با نام‌های Fable 5 و Mythos 5 را متوقف کرد. این تصمیم که مستقیماً در پاسخ به دستورات و فشارهای نظارتی دولت ایالات متحده اتخاذ شده است، نشان‌دهنده نقطه عطفی در رابطه میان شرکت‌های توسعه‌دهنده هوش مصنوعی و نهادهای حاکمیتی است. دولت آمریکا با اشاره به نگرانی‌های امنیتی و احتمال سوءاستفاده از قابلیت‌های پیشرفته این مدل‌ها در حوزه‌های حساس، خواستار توقف موقت یا بازنگری در معماری این مدل‌ها شده است.

برای بنیان‌گذاران استارتاپ‌ها و توسعه‌دهندگان AI، این خبر فراتر از یک خبر صنعتی ساده است؛ چرا که نشان می‌دهد عصر «رشد بدون نظارت» در دنیای مدل‌های زبانی به پایان رسیده است. توقف مدل‌هایی که انتظار می‌رفت استانداردهای جدیدی در استدلال (Reasoning) و خلاقیت ایجاد کنند، می‌تواند باعث تغییر در استراتژی‌های محصولی استارتاپ‌هایی شود که برای ادغام این مدل‌ها در زیرساخت‌های خود برنامه‌ریزی کرده بودند. در ادامه این تحلیل، ابعاد مختلف این تصمیم، دلایل امنیتی دولت آمریکا و تاثیرات بلندمدت آن بر اکوسیستم هوش مصنوعی را بررسی می‌کنیم.

تحلیل دلایل مداخله دولت آمریکا در توسعه Fable 5 و Mythos 5

دولت ایالات متحده در سال‌های اخیر رویکردی سخت‌گیرانه نسبت به مدل‌های هوش مصنوعی که پتانسیل «قابلیت‌های دوگانه» (Dual-use capabilities) دارند، اتخاذ کرده است. مدل‌های Fable 5 و Mythos 5 به دلیل معماری پیشرفته‌شان، توانایی‌های تحلیل داده‌های پیچیده و تولید کدهای بهینه را داشتند که از دید نهادهای امنیتی، می‌تواند برای حملات سایبری پیشرفته یا طراحی مواد خطرناک مورد استفاده قرار گیرد.

نکات کلیدی در مورد دلایل این توقف عبارتند از:

• نگرانی‌های مربوط به امنیت ملی: احتمال استفاده از مدل‌ها برای شبیه‌سازی حملات زیرساختی.
• عدم تطابق با استانداردهای ایمنی (AI Safety): دولت معتقد است که پروتکل‌های تست قرمز (Red Teaming) در این دو مدل به اندازه کافی جامع نبوده است.
• جلوگیری از تسرب تکنولوژی: نگرانی از دسترسی بازیگران خارجی به مدل‌هایی که توانایی استدلال سطح بالا دارند.

این مداخله نشان می‌دهد که سیاست‌های نظارتی اکنون همگام با سرعت توسعه تکنولوژی پیش می‌روند و دیگر شرکت‌ها نمی‌توانند مدل‌های خود را بدون تاییدیه امنیتی در مقیاس وسیع عرضه کنند.

تفاوت‌های احتمالی Fable 5 و Mythos 5 با نسل‌های قبلی

اگرچه جزئیات فنی این مدل‌ها به دلیل توقف پروژه به طور کامل منتشر نشده است، اما گزارش‌های داخلی حاکی از آن است که Anthropic قصد داشت در این سری، مرز بین «تولید متن» و «استدلال منطقی» را از بین ببرد. مدل Fable 5 احتمالاً بر روی روایت‌های پیچیده و درک عمیق بافتار (Context) متمرکز بود، در حالی که Mythos 5 برای حل مسائل ریاضی و منطقی پیشرفته طراحی شده بود.

تأثیر بر قابلیت‌های استدلال (Reasoning)

در مدل‌های قبلی مانند Claude 3.5، ما شاهد بهبود چشمگیری در کدنویسی بودیم. اما انتظار می‌رفت در سری 5، مدل‌ها بتوانند به صورت خودکار «زنجیره تفکر» (Chain of Thought) را بهینه‌سازی کنند و بدون نیاز به پرامپت‌های پیچیده، به نتایج دقیق‌تر برسند. توقف این مدل‌ها به این معناست که پیشرفت در زمینه استدلال خودکار ممکن است با تاخیری مواجه شود.

تغییر در رویکرد Constitutional AI

شرکت Anthropic همواره بر روی «هوش مصنوعی قانون‌مند» یا Constitutional AI تاکید داشته است. احتمالاً دستور دولت آمریکا باعث شده تا این شرکت مجبور شود قوانین سخت‌گیرانه‌تری را در لایه‌های بنیادی مدل (Base Model) جایگذاری کند، نه اینکه صرفاً در لایه فیلترینگ خروجی به آن اکتفا کند.

پیامدهای استراتژیک برای استارتاپ‌های AI و مدیران محصول

بسیاری از استارتاپ‌ها مدل کسب‌وکار خود را بر اساس «انتظار برای مدل‌های قدرتمندتر» بنا می‌کنند. وقتی غول‌هایی مانند Anthropic با موانع قانونی مواجه می‌شوند، این موضوع مستقیماً بر نقشه راه (Roadmap) محصولات استارتاپی اثر می‌گذارد.

مدیران محصول و بنیان‌گذاران باید به نکات زیر توجه کنند:

1. کاهش وابستگی به یک مدل خاص: استراتژی Multi-model یا استفاده از چندین مدل (مانند ترکیب GPT-4، Claude و Llama) برای جلوگیری از توقف ناگهانی خدمات یا تغییرات در دسترسی.
2. تمرکز بر داده‌های اختصاصی (Proprietary Data): به جای تکیه بر قدرت خام مدل‌های آینده، استارتاپ‌ها باید بر روی Fine-tuning مدل‌های متن‌باز (Open Source) با داده‌های خاص خود تمرکز کنند تا استقلال بیشتری داشته باشند.
3. پذیرش استانداردهای ایمنی: استارتاپ‌هایی که از ابتدا استانداردهای ایمنی و اخلاقی را در محصول خود پیاده کنند، در مواجهه با قوانین احتمالی آینده، کمتر دچار شوک می‌شوند.

مقایسه رویکرد Anthropic با رقبا در مواجهه با قوانین

در حالی که OpenAI با مدل‌های سری o1 سعی در معرفی استدلال مرحله‌به‌مرحله دارد، Anthropic همواره رویکردی محتاطانه‌تر داشته است. توقف Fable 5 و Mythos 5 نشان می‌دهد که Anthropic ترجیح می‌دهد با دولت‌ها همکاری کند تا اینکه با جریمه‌های سنگین یا دستورات قضایی سخت‌گیرانه مواجه شود.

این تضاد در رویکردها باعث ایجاد دو جریان در بازار می‌شود:

• جریان مدل‌های بسته و نظارت‌شده: مدل‌هایی که توسط دولت‌ها تایید شده و امنیت بالایی دارند اما ممکن است محدودتر باشند.
• جریان مدل‌های متن‌باز: مدل‌هایی مانند Llama از Meta که اجازه می‌دهند توسعه‌دهندگان بدون محدودیت‌های شرکتی، قابلیت‌ها را گسترش دهند (هرچند این‌ها نیز در معرض نظارت‌های دولتی هستند).

آینده مدل‌های زبانی پس از این توقف

آیا این توقف به معنای مرگ Fable 5 و Mythos 5 است؟ احتمالاً خیر. به احتمال زیاد این مدل‌ها پس از طی کردن مراحل سخت‌گیرانه تاییدیه امنیتی و اعمال تغییرات در معماری برای حذف قابلیت‌های خطرناک، با نام‌های جدید یا نسخه‌های تعدیل‌شده بازخواهند گشت.

برای جامعه AI، این اتفاق یک هشدار است: قدرت محاسباتی دیگر تنها معیار موفقیت نیست، بلکه «قابلیت مدیریت و کنترل» (Controllability) به مهم‌ترین معیار تبدیل شده است. شرکت‌هایی که بتوانند مدل‌هایی بسازند که هم قدرتمند باشند و هم توسط نهادهای نظارتی قابل پیش‌بینی، برنده بازی آینده خواهند بود.