دستور کنترل صادرات دولت آمریکا پس از افشای jailbreak، دو مدل مرزی Claude را از دسترس کاربران خارج کرد
شرکت Anthropic روز جمعه اعلام کرد دو مدل مرزی Claude Fable 5 و Mythos 5 را «ناگهان» غیرفعال کرده است.
این تصمیم در پاسخ به دستور محدودکننده دولت آمریکا گرفته شد.
دستور از استفاده اتباع غیرآمریکایی از این مدلها در هر نقطه جهان منع میکند.
آنتروپیک گفت این اقدام «سوءتفاهم» است و برای بازگرداندن دسترسی تلاش میکند.
دستور فوری و نگرانی امنیت ملی
دستور دولتی یک «directive کنترل صادرات» است.
مبنای آن یک نگرانی امنیت ملی نامشخص اعلام شده است.
آنتروپیک میگوید پیش از انتشار، با دولت آمریکا و بریتانیا همکاری کرده بود.
شرکت همچنین با چند سازمان خصوصی برای طراحی محافظتها همکاری داشت.
با این حال ساعاتی پس از انتشار عمومی، دستور به شرکت رسید.
Fable 5 و Mythos 5 برای همه کاربران در سراسر جهان غیرقابل دسترس شدند.
به نظر میرسد محدودیت فقط برای اتباع غیرآمریکایی بوده است.
اما آنتروپیک اجرای جزئی را عملی ندانست.
کارکنان غیرآمریکایی در خود شرکت حضور دارند.
راه سادهتر، قطع کامل دسترسی تا رفع ابهام بود.
از روایت خطر تا عرضه عمومی
در اوایل آوریل، Anthropic مدل Claude Mythos Preview را معرفی کرد.
آن زمان شرکت مدل را برای عموم منتشر نکرد.
یک system card خطرات مدلهای مرزی را تشریح کرد.
از جمله فریبکاری و شکست محدودیتهای سیستمی سخن گفت.
مدل قادر به ترکیب دانش در حوزه سلاحهای بیولوژیک فاجعهبار معرفی شد.
پروژه Project Glasswing برای آزمایش محدود مدل راه افتاد.
هدف آن بررسی تأثیر مدل بر امنیت سایبری بود.
رسانهها از «سلاحهایی که حتی نمیتوان تصور کرد» نوشتند.
دولت بریتانیا و بخش مالی آن برای واکنش برنامهریزی کرد.
طبق گزارش New York Times، سیاست غیرمداخلهگر Trump پس از Mythos تغییر کرد.
وجود این مدل به دستور اجرایی ایمنی AI کمک کرد.
Trump حدود یک هفته پیش چنین دستوری را امضا کرد.
Fable 5 و Mythos 5؛ عرضه محدود
هفته گذشته Anthropic دو مدل جدید منتشر کرد.
Fable 5 را «مدل Mythos-class امن برای استفاده عمومی» خواند.
شرکت گفت توانایی آن از هر مدل عمومی قبلی بیشتر است.
Mythos 5 فقط در چارچوب Project Glasswing عرضه شد.
Fable 5 برای طرحهای Pro، Max، Team و Enterprise رایگان بود.
قرار بود ۲۳ ژوئن از این طرحها حذف شود.
پس از آن کاربران باید pay-as-you-go میپرداختند.
Brian Merchant در Blood in the Machine این تناقض را برجسته کرد.
شرکت ابتدا مدلی «خطرناک برای تمدن» معرفی کرد.
سپس همان کلاس مدل را برای فروش آماده کرد.
ساعاتی بعد دستور صادرات مدلها را از دسترس خارج کرد.
Jailbreak؛ نقطه عطف بحران
آنتروپیک میگوید دولت از یک jailbreak Fable 5 مطلع شده است.
این روش محافظتهای مدل را دور میزند.
شرکت نمایش این تکنیک را بررسی کرد.
نتیجه: شناسایی چند آسیبپذیری جزئی و شناختهشده.
آنتروپیک میگوید این حفرهها ساده به نظر میرسند.
مدلهای عمومی دیگر هم بدون bypass میتوانند آنها را بیابند.
در زمان انتشار، Anthropic گفته بود jailbreak کامل غیرممکن است.
هدف، کند و پرهزینه کردن bypass تا کشف پیش از استفاده گسترده بود.
شرکت داده کاربران Mythos-class را بیش از معمول نگه میدارد.
اکنون خطرات مدل را «جزئی» و «قبلاً شناختهشده» میخواند.
این روایت با هشدارهای اولیه شرکت در تضاد است.
محافظتها، عذرخواهی و انتقاد
محافظتهای Fable 5 محور روایت رسانهای انتشار بود.
یک guardrail برای مجازات پنهان کاربران سوءاستفادهگر طراحی شده بود.
این رویکرد ill-conceived خوانده شد.
Anthropic بابت آن عذرخواهی کرد.
با وجود همکاری با دولت، یک jailbreak کافی برای واکنش شد.
تحلیلگران میگویند این واکنش قابل پیشبینی بود.
مدلی که قرار بود امنیت جهانی را بازتعریف کند، سوراخ داشت.
دولت نمیتوانست ریسک را نادیده بگیرد.
واکنش رسانهها و افکار عمومی
خبر غیرفعالسازی در Gizmodo با تیتر طعنهآمیز منتشر شد.
عبارت «Who could have foreseen this?» سوال اصلی مقاله بود.
رسانهها به تناقض روایت اولیه و عرضه تجاری اشاره کردند.
New York Post از پیشگویی Roman Yampolskiy درباره سلاحهای نوین نوشت.
عباراتی مانند «سلاحهایی که نمیتوان تصور کرد» بازتاب گسترده یافت.
کاربران شبکههای اجتماعی از سرعت تغییر موضع Anthropic پرسش کردند.
برخی تحلیلگران گفتند شرکت خود بستر واکنش دولت را فراهم کرد.
دیگران معتقدند کنترل صادرات ابزار مشروع حاکمیت بر فناوری دوگانه است.
بحث عمومی دوباره به مرز ایمنی و نوآوری بازگشت.
Project Glasswing و امنیت سایبری
Project Glasswing پنجره محدودی به قدرت Mythos-class بود.
شرکای منتخب میتوانستند توانایی مدل در امنیت سایبری را بسنجند.
Anthropic گفت این مدل میتواند چشمانداز cybersecurity را بازنویسی کند.
عرضه Mythos 5 فقط در همین چارچوب باقی ماند.
حالا حتی این دسترسی محدود هم قطع شده است.
محققان امنیتی میگویند شفافیت در چنین پروژههایی ضروری است.
اما انتشار همزمان با Fable 5 پیام متناقضی به بازار فرستاد.
دولتها نمیتوانند خطر سوءاستفاده از مدلهای hacker-grade را نادیده بگیرند.
پیامدهای صنعت و آینده مدلهای مرزی
Anthropic هشدار داد اگر چنین دستوراتی عادی شوند، استقرار مدلهای جدید متوقف میشود.
این پیامد برای همه ارائهدهندگان frontier model است.
صنعت AI در تقاطع تجارت، ایمنی و امنیت ملی ایستاده است.
محدودیت صادرات میتواند دسترسی جهانی به فناوری را محدود کند.
کاربران ایرانی و غیرآمریکایی از چنین سیاستهایی متأثر میشوند.
شفافیت درباره jailbreak و system card از این پس حیاتیتر است.
نهادهای نظارتی انتظار دارند مدلهای قدرتمند قبل از عرضه آزموده شوند.
تناقض بین بازاریابی خطر و کوچکنمایی آسیب، اعتماد را میشکند.
تا زمان رفع سوءتفاهم، Fable 5 و Mythos 5 offline میمانند.
شرکتهای کوچکتر نیز ممکن است از چنین محدودیتهایی آسیب ببینند.
اتحادیه اروپا و آسیا نیز در حال تدوین چارچوبهای مشابه هستند.
این پرونده نمونهای زنده از تنش میان نوآوری و حاکمیت است.
جمعبندی تحریریه
غیرفعالسازی Fable 5 و Mythos 5 نقطهای تازه در تنش AI و دولت است.
آنتروپیک مدلهایی ساخت که خودش خطرشان را برجسته کرد.
سپس با وجود محافظت، jailbreak باعث واکنش شد.
کنترل صادرات نشان میدهد امنیت ملی بر سرعت عرضه اولویت دارد.
برای خوانندگان، پرسش اصلی این است: آیا مدلهای مرزی آماده جامعهاند؟
پاسخ کوتاهمدت: نه، تا وقتی محافظت و نظارت همتراز قدرت نباشند.
