میتوس چیست و چرا تهدیدی بزرگ‌تر از تنگه هرمز دانسته می‌شود؟

«آن‌ها از چه چیزی می‌ترسند؟»

این پرسشی بود که از رئیس صندوق بین‌المللی پول، کریستالینا جورجیوا، پرسیده شد.

در نشست بهاره صندوق بین‌المللی پول و بانک جهانی در واشنگتن، وزیران دارایی کشورهای مختلف، مقامات بانک‌های مرکزی و برجسته‌ترین کارشناسان مالی جهان حضور داشتند.

جنگ آمریکا و اسرائیل علیه ایران و پیامدهای اقتصادی ناشی از بسته شدن تنگه هرمز ذهن همه را به خود مشغول کرده بود، اما به گفته فیصل اسلام، سردبیر اقتصادی بی‌بی‌سی از نگاه برخی شرکت‌کنندگان مسئله‌ای دیگر به همان اندازه یا حتی جدی‌تر وجود داشت.

همه آن‌ها از یک مدل جدید هوش مصنوعی نگران بودند. مدلی که می‌تواند نظام مالی جهان را به‌شدت متزلزل کند. این نگرانی همچنین این پرسش را مطرح کرد که اگر این فناوری به دست افراد نادرست بیفتد، آیا پیامدهای آن تنها به نظام بانکی محدود خواهد شد یا حساب‌های بانکی افراد عادی را نیز تحت تاثیر قرار خواهد داد؟ و آیا تلفن‌های همراه، تبلت‌ها و رایانه‌هایی که ما استفاده می‌کنیم نیز ناامن خواهند شد؟

پرسش مطرح‌شده از رئیس صندوق بین‌المللی پول نیز به همین موضوع مربوط بود و مقامات ارشد مالی ایالات متحده، قدرتمندترین اقتصاد جهان، نیز همین نگرانی را مطرح کردند.

وزیر دارایی و رئیس بانک مرکزی آمریکا هم در این باره با رهبران برجسته وال‌استریت در نیویورک دیدار کردند و در این نشست درباره تهدیدهای امنیت سایبری ناشی از این مدل جدید هوش مصنوعی بحث شد.

نام این مدل میتوس است که توسط شرکت آمریکایی آنتروپیک ساخته شده است.

«بله، ما نگران هستیم»

مجری شبکه خبری سی‌بی‌اس در مصاحبه با رئیس صندوق بین‌المللی پول، به نگرانی‌های مطرح‌شده درباره این مدل اشاره کرد و پرسید: «آن‌ها از چه چیزی می‌ترسند؟» همچنین از کریستالینا جورجیوا پرسید: «آیا شما هم نگران هستید؟»

در پاسخ، رئیس صندوق بین‌المللی پول گفت که تهدیدات مرتبط با امنیت سایبری به‌سرعت در حال افزایش است: «بله، ما نگران آن هستیم.»

در زمان نشست واشنگتن، بحران ناشی از جنگ ایالات متحده و اسرائیل علیه ایران در فهرست نگرانی‌های سی اس ونکاتاکریشنان، مدیرعامل بانک بارکلیز در رتبه سوم قرار داشت. به‌گفته او، بزرگ‌ترین نگرانی‌اش این است که «آیا هوش مصنوعی و فناوری بیش از حد گسترش یافته‌اند یا نه.»

در پی این جنگ، ایران تنگه هرمز را مسدود کرد که باعث اختلال در عرضه نفت و انرژی در بازارهای جهانی شد و آثار آن در سراسر جهان احساس می‌شود.

فرانسوا-فیلیپ شامپین، وزیر دارایی کانادا هم گفت نگران میتوس است.

او به فیصل اسلام گفت: «درباره تنگه هرمز می‌دانیم کجاست و چه ابعادی دارد، اما درباره خطری که از میتوس با آن روبه‌رو هستیم، درک روشنی نداریم.»

اما میتوس چیست و چه توانایی‌هایی دارد که رهبران مالی و سیاست‌گذاران جهان را تا این حد نگران کرده است؟

میتوس چیست و چرا خطرناک است؟

میتوس کلود یک مدل هوش مصنوعی است که توسط شرکت فناوری آمریکایی آنتروپیک ساخته شده است.

میتوس در چارچوب سامانه گسترده‌تر هوش مصنوعی این شرکت با نام کلود ساخته شده است. این سامانه شامل دستیار هوش مصنوعی و خانواده‌ای از مدل‌هاست که با چت‌جی‌پی‌تی شرکت اوپن‌ای‌آی و جمینای گوگل رقابت می‌کند.

پژوهشگرانی که رفتار مدل‌های هوش مصنوعی را در برابر درخواست‌ها و وظایف خاص بررسی می‌کنند، در گزارشی اعلام کردند که «میتوس در انجام وظایف مرتبط با امنیت رایانه‌ای به‌طور چشمگیری توانمند است». این پژوهشگران در قالب گروه‌های ارزیابی امنیتی، موسوم به «تیم قرمز»، فعالیت می‌کنند.

طبق گزارش آنها، میتوس توانایی شناسایی آسیب‌پذیری‌های پنهان در کدهای رایانه‌ای و یافتن راه‌هایی برای بهره‌برداری از آن‌ها را دارد. به بیان دیگر، این سامانه می‌تواند نقاط ضعف موجود در هر نرم‌افزار در حال استفاده را شناسایی کند. حتی آسیب‌پذیری‌هایی که شرکت سازنده هنوز از وجود آن‌ها آگاه نشده و آن‌ها را اصلاح نکرده است.

تیم قرمز دریافت که این ابزار می‌تواند باگ‌های خاموش و پنهان در کدهایی را که دهه‌ها پیش نوشته شده‌اند شناسایی کند و به‌راحتی از آن‌ها سوءاستفاده کند.

بنابراین، شرکت آنتروپیک به‌جای آنکه این مدل را به‌طور گسترده در اختیار کاربران کلود قرار دهد، از طریق پروژه «گلس‌وینگ» دسترسی آن را به ۱۲ شرکت فناوری محدود کرد؛ پروژه‌ای که آن را «تلاشی برای ایمن‌سازی حیاتی‌ترین نرم‌افزارهای جهان» توصیف کرده است.

این شرکت‌ها شامل خدمات وب آمازون، سازندگان دستگاه مانند اپل، مایکروسافت و گوگل، و همچنین سازندگان تراشه مانند انویدیا و برودکام هستند.

به گفته این شرکت، این دسترسی به شرکت‌‌‌های فناوری این امکان را می‌دهد تا بتوانند سیستم‌های خود را در برابر حملات سایبری تقویت کنند، «پیش از آنکه میتوس یا مدل‌های مشابه به دست هکرها برسد.»

شرکت «کراوداسترایک»، که به‌دلیل یک به‌روزرسانی معیوب نرم‌افزاری در ژوئیه ۲۰۲۴ باعث اختلال گسترده جهانی شد، در میان شرکای این پروژه قرار دارد. آنتروپیک اعلام کرده است که دسترسی به میتوس را برای بیش از ۴۰ سازمان دیگر که مسئول نرم‌افزارهای حیاتی هستند فراهم کرده است.

شرکت آنتروپیک می‌گوید میتوس توانایی‌هایی از خود نشان داده که در فرایند آموزش برای آن پیش‌بینی نشده بود. به گفته این شرکت، این قابلیت می‌تواند به شناسایی و رفع موثرتر ضعف‌های نرم‌افزاری کمک کند.

اما همین توانایی، نگرانی‌هایی جدی نیز ایجاد کرده است. اگر میتوس به دست «افراد نادرست» بیفتد، می‌تواند برای نفوذ به هر سیستم رایانه‌ای مورد استفاده قرار گیرد.

ترسی که از توانایی‌ها ناشی می‌شود

آنتروپیک می‌گوید در جریان آزمایش‌ها مشخص شد این مدل در حوزه امنیت سایبری و وظایف مرتبط با هک و نفوذ سایبری مهارت بسیار بالایی دارد و حتی از انسان‌ها عملکرد بهتری نشان داده است.

شرکت آنتروپیک پس از آزمایش میتوس گزارشی در وب‌سایت خود منتشر کرد. بر اساس این گزارش، این سامانه توانایی شناسایی و بهره‌برداری از آسیب‌پذیری‌های «روز-صفر» را دارد؛ یعنی نقص‌هایی که هنوز کشف نشده‌اند.

به گفته این شرکت، میتوس می‌تواند در «تمام سیستم‌عامل‌های اصلی و تمامی مرورگرهای مهم» آسیب‌پذیری‌ها را شناسایی و از آن‌ها بهره‌برداری کند. این ضعف‌ها آنقدر ظریف هستند که شناسایی آن‌ها بسیار دشوار است. میتوس حتی آسیب‌پذیری‌هایی را کشف کرده که «۱۰ یا ۲۰ سال قدمت داشتند.»

به بیان دیگر، نقص‌هایی که طی دهه‌ها از دید توسعه‌دهندگان و کاربران پنهان مانده بودند، اکنون توسط این مدل شناسایی شده‌اند.

سیستم‌عامل «اوپن بی‌اس‌دی» که به داشتن امنیت بالا مشهور است نیز از این موضوع در امان نمانده و میتوس نقصی ۲۷ ساله در آن کشف کرد.

گوردون ام. گلدستاین، کارشناس فناوری و امنیت بین‌الملل، در مقاله‌ای برای شورای روابط خارجی به نقل از بنیان‌گذار یک شرکت امنیت سایبری نوشت: «این مدل ابتدا یک آسیب‌پذیری روز صفر را شناسایی می‌کند، سپس آن را با دیگر آسیب‌پذیری‌ها ترکیب می‌کند و می‌تواند بدون آنکه شناسایی شود، برای مدت نامحدود در سیستم باقی بماند.»

به گفته او، «از این طریق، میتوس قادر است کنترل کامل یک سیستم را در اختیار بگیرد.»

«پیامدها می‌تواند بسیار جدی باشد»

آنتروپیک هشدار داده است که با توجه به سرعت پیشرفت هوش مصنوعی، زمان زیادی طول نخواهد کشید تا چنین توانایی‌هایی به‌طور گسترده در دسترس قرار گیرد و ممکن است به دست افرادی بیفتد که الزامی به استفاده ایمن از آن ندارند.

در چنین شرایطی، به گفته آنتروپیک، «پیامدهای آن برای اقتصاد، امنیت عمومی و امنیت ملی می‌تواند بسیار جدی باشد.»

گلدستین نیز هشدار داده است که زیرساخت‌های حیاتی جهان با تهدیدهای فزاینده‌ای روبه‌رو هستند. منظور از زیرساخت‌های حیاتی، سیستم‌ها و شبکه‌های فیزیکی یا مجازی است که در صورت آسیب دیدن یا از کار افتادن، امنیت ملی، ثبات اقتصادی و سلامت عمومی به‌شدت تحت تاثیر قرار می‌گیرد.

به گفته او، بخش‌هایی مانند سدها، راکتورهای هسته‌ای، سامانه‌های توزیع غذا و شبکه‌های برق هنوز به نرم‌افزارهای قدیمی و فرسوده متکی هستند.

او به نقل از دن هندریکس، کارشناس هوش مصنوعی، می‌نویسد: «مدل‌هایی مانند میتوس این خطرات را تشدید می‌کنند و این سیستم‌ها را بسیار آسیب‌پذیرتر می‌سازند. بزرگ‌ترین نگرانی امنیت سایبری در مورد چنین مدل‌هایی این است که کار را برای بازیگران غیردولتی در هدف قرار دادن زیرساخت‌ها بسیار آسان‌تر می‌کنند.»

زنگ خطر

این بخش از بیانیه آنتروپیک مهم‌ترین و هشداردهنده‌ترین قسمت آن است.

بر اساس این بیانیه، میتوس چهار آسیب‌پذیری در یک مرورگر وب را شناسایی کرد و توانست به‌طور خودکار از فایروال‌های سیستم‌عامل عبور کند. همچنین، با دور زدن سامانه‌های امنیتی در دیگر سیستم‌عامل‌ها و مرورگر لینکس به آن‌ها دسترسی پیدا کرد و به‌صورت خودکار روشی برای حمله به یک سرور قابل دسترسی طراحی کرد.

سیستم‌عامل اندروید، که در تلفن‌های همراه استفاده می‌شود، نیز بر پایه لینکس است.

آیا باید نگران باشیم؟

نگرانی‌ها درباره هوش مصنوعی موضوع تازه‌ای نیست.

مدل‌ها و ابزارهای جدید پیوسته عرضه می‌شوند و اغلب با وعده‌هایی همراه‌اند که از دگرگون‌کردن زندگی ما، چه به شکلی مثبت و چه منفی، سخن می‌گویند.

بهره‌بردن از این فضای آمیخته با نگرانی و هیجان درباره هوش مصنوعی و تاثیرات آینده آن، در سال‌های اخیر به یکی از ویژگی‌های شاخص این حوزه و راهبردهای بازاریابی آن تبدیل شده است.

در مورد میتوس، هنوز اطلاعات کافی در اختیار نداریم تا بتوانیم قضاوت کنیم که آیا این امیدها و نگرانی‌ها موجه‌اند یا بیشتر بازتابی از هیاهوی پیرامون این صنعت به شمار می‌روند.

بسیاری از تحلیلگران و کارشناسان مستقل امنیت سایبری هنوز نتوانسته‌اند خودشان میتوس را آزمایش کنند و برخی نیز نسبت به عملکرد آن تردید دارند.

موسسه ایمنی هوش مصنوعی بریتانیا اخیرا به این نتیجه رسید که با وجود توان بالای این مدل، بزرگ‌ترین تهدید آن متوجه سامانه‌هایی خواهد بود که به‌خوبی محافظت نشده و آسیب‌پذیرند.