اوایل این ماه، وو تران، پژوهشگر سابق آزمایشگاههای ابرهوش متا، ادعایی خارقالعاده مطرح کرد. او نوشت: «اگر اوپن ایآی (OpenAI) امروز میخواست یک کشور را بهطور کامل فلج کند، بهراحتی میتوانست این کار را انجام دهد.»
تران استدلال کرد که حذف سازوکارهای حفاظتی همراستاسازی و رها کردن انبوهی از عاملهای هوش مصنوعی به آنها امکان میدهد به زیرساختهای دیجیتال نفوذ کنند و خدمات ضروری را تقریبا ظرف یک روز از کار بیندازند.
اظهارنظر او پرسشی را مطرح میکند که نادیده گرفتنش روزبهروز دشوارتر میشود: اگر هوش مصنوعی به نقطهای نزدیک شده باشد که دیگر صرفا ابزاری برای جنگ سایبری نباشد، بلکه بتواند آثار اقتصادیای ایجاد کند که زمانی فقط از طریق تحریمها، محاصرهها یا اقدام نظامی امکانپذیر بود، چه؟
جمهوری اسلامی ایران نمونهای برای بررسی این احتمال است.
هفت ماه پیش، درست پیش از آغاز جنگ در ۲۸ فوریه، پنتاگون و شرکت آنتروپیک بر سر نحوه استفاده ارتش آمریکا از مدل «کلود» وارد رویارویی کمسابقهای شدند. پنتاگون خواستار آن بود که آنتروپیک بهکارگیری مدلهایش را برای «تمام اهداف قانونی» مجاز بداند، اما این شرکت حاضر به لغو دو خط قرمز نشد: ممنوعیت استفاده در «نظارت گسترده داخلی» و توسعه «تسلیحات کاملا خودمختار».
Read More
This section contains relevant reference points, placed in (Inner related node field)
در این میان، جزئیات دیگری نیز وجود داشت که توجه چندانی به آنها نشد. مدل کلود از پیش بهطور گسترده در محیطهای محرمانه و طبقهبندیشده امنیت ملی آمریکا مستقر شده بود. خود آنتروپیک نیز تحلیل اطلاعاتی، مدلسازی و شبیهسازی، برنامهریزی عملیاتی و عملیات سایبری را در میان کاربردهای حیاتی مأموریتهای خود فهرست کرده بود. به بیان دیگر، پیش از آغاز این جنگ، هوش مصنوعی پیشرفته رسما در ساختار امنیت ملی آمریکا، از جمله در عملیات سایبری، در حال فعالیت بود.
در ماه ژوئیه، اوپن در حال انجام ارزیابیهای امنیت سایبری بود که در جریان آن چندین مدل با سازوکارهای حفاظتی کاهشیافته فعالیت میکردند. قرار بود این عاملها در محیطهای کنترلشده فعالیت کنند، اما طبق تحقیقات بعدی اوپن ایآی، آنها کنترلها را دور زدند، از کانالهای ارتباطی غیرمجاز استفاده کردند، از آسیبپذیریهای موجود در زیرساخت مشترک بهره بردند، به اینترنت دسترسی پیدا کردند و به سامانههای متعلق به طرفهای ثالث رسیدند.
اوپن ایآی به این نتیجه رسید که مدلهایش به اندازهای قدرتمند، پایدار و هماهنگشونده شدهاند که بدون سازوکارهای حفاظتی کافی، میتوانند نقاط ضعف را در چندین سامانه رایانهای بیابند و از آنها سوءاستفاده کنند.
این رویداد نکته مهمی را درباره عاملهای هوش مصنوعی نشان داد. آنها میتوانند عمل کنند، به فعالیت خود ادامه دهند، مسیرهایی را کشف کنند که طراحانشان قصد استفاده از آنها را نداشتهاند و در شرایطی خاص، اطلاعات را با یکدیگر مبادله و برای دستیابی به اهداف با هم همکاری کنند.
اجرای مجزای عاملها همچنین امکان بهرهگیری از دادههای ذخیرهشده در محیطهای مشترک را فراهم میکند؛ بدین معنا که توقف یا خروج یک عامل منفرد لزوما به نابودی کل آموختهها و دانش انباشته تا آن لحظه نمیانجامد.
این تمایز هنگام بررسی زیرساختهای مالی بسیار اهمیت پیدا میکند. در ماه ژوئن، یک حمله سایبری با هدف قرار دادن زیرساخت ارتباطی مشترک میان چهار بانک بزرگ ایران، خدمات آنها را مختل کرد. اعلام شد که برخی خدمات بهطور موقت دچار اختلال شدهاند، اما اطلاعات مشتریان نه هدف دسترسی قرار گرفته و نه حذف شده است. این حمله نظام بانکی ایران را از پا نینداخت، اما واقعیتی هشداردهنده را برای آینده آشکار کرد: مؤسسات مالی جزایری جدا از هم نیستند؛ آنها به شبکههای ارتباطی، زیرساختهای پرداخت، نرمافزارها و دیگر سامانههای دیجیتال مشترک وابستهاند.
هوش مصنوعی میتواند مقیاسی را که در آن آسیبپذیریهای این سامانهها اهمیت پیدا میکنند، بهطور بنیادین تغییر دهد. در ماه ژوئن، صندوق بینالمللی پول مطالعهای را منتشر کرد که بهطور مشخص به هوش مصنوعی و امنیت سایبری در بخش مالی اختصاص داشت. نگرانی اصلی این مطالعه این نبود که هوش مصنوعی لزوما شکل کاملا جدیدی از حمله سایبری را ابداع کند، بلکه توانایی هوش مصنوعی در جهش دادن سرعت، بسامد و گستره شناسایی و بهرهبرداری از رخنهها بود؛ قابلیتی که در کنار وابستگی به زیرساختهای دیجیتال و ارائهدهندگان خدمات مشترک میتواند سرایت اختلال میان مؤسسات مالی را شتاب بخشد و پیامدهای سیستمی به بار آورد.
بانک تسویهحسابهای بینالمللی در همین ماه یک گام فراتر رفت. این نهاد نتیجه گرفت که مدلهای پیشرفته هوش مصنوعی بهطور فزایندهای میتوانند آسیبپذیریهای حیاتی را بهصورت خودکار شناسایی کنند و عملیات پیچیده سایبری چندمرحلهای انجام دهند. پیامد این روند، کوتاهتر شدن فاصله زمانی میان کشف یک آسیبپذیری و احتمال بهرهبرداری از آن است؛ بهگونهای که ممکن است این فرایند سریعتر از توان واکنش مدافعان انسانی باشد. قابلیتهایی که زمانی به حجم قابلتوجهی از نیروی انسانی متخصص نیاز داشتند، ممکن است بهطور فزایندهای تسریع، خودکار و به شکل موازی اجرا شوند.
اکنون این تحولات را در ایرانِ کنونی در نظر بگیرید. ایران پس از ماهها جنگ، تحریم و محاصره دریایی آمریکا، هماکنون با فشار اقتصادی شدیدی مواجه است. آسوشیتدپرس این هفته گزارش داد که اقتصاد ایران در نتیجه محاصره و تحریمهای جدید آمریکا همچنان رو به وخامت است و اینکه آیا این فشار طرفهای سیاسی را وادار به دادن امتیاز میکند یا نه، همچنان نامشخص است.
اکنون در نظر بگیرید که ایالات متحده تصمیم بگیرد قابلیتهای سایبری عاملمحور را به فشار اقتصادی کنونی اضافه کند. شواهد علنی چنینی تصمیمی از سوی واشنگتن وجود ندارد، اما طرح این سناریو به ما امکان میدهد بسنجیم که اگر حملات سایبری بتواند بهطور فزایندهای با سرعت پردازش ماشینی، و به دست چندین عامل خودکار ــ با قابلیت پیگیری مأموریت، همرسانی اطلاعات و سازگاری با شرایط متغیر ــ اجرا شوند، چه تحولی در میدان رقابت رخ خواهد داد.
این پرسش به ایران محدود نخواهد ماند. اگر روزی یک قدرت بزرگ ثابت کند که عاملهای هوش مصنوعی میتوانند خسارت اقتصادی راهبردی به کشور دیگری وارد کنند، رقبای آن بلافاصله مجبور خواهند شد درباره آسیبپذیری خود بازنگری کنند.
انحصار نسلهای نوظهور هوش مصنوعی در قبضه ایالات متحده باقی نخواهد ماند؛ چین و دیگر پیشگامان دنیای فناوری نیز در حال توسعه سامانههای قدرتمند خود هستند. قابلیتی که یک کشور به نمایش بگذارد، ممکن است به قابلیتی بدل شود که دیگران بخواهند هم برای مهار و دفاع در برابر آن چارهاندیشی کنند و هم آن را به دست آورند.
رقابت حاصل میتواند از یک جنبه مهم شبیه مسابقه تسلیحات هستهای باشد، بدون اینکه وانمود کنیم هوش مصنوعی به معنای واقعی کلمه یک سلاح هستهای است.
نخستین بمب اتم شکلی از قدرت تخریبی را به نمایش گذاشت که پیش از آن تصورش دشوار بود و محاسبات راهبردی کشورهای دیگر را تغییر داد. یک عملیات سایبری عاملمحور موفق در مقیاس گسترده علیه اقتصاد یک کشور میتواند انگیزه راهبردی مشابهی ایجاد کند: هنگامی که یک قدرت چنین قابلیتی را به نمایش بگذارد، دیگران نیز دلیلی خواهند داشت تا مطمئن شوند در برابر آن بدون دفاع و آسیبپذیر باقی نمیمانند.
هوش مصنوعی توانمندتر لزوما به معنای هوش مصنوعی خودمختارتر نیست. خودمختاری، دستکم در حال حاضر، تا حدی همچنان یک تصمیم انسانی است: اینکه یک سامانه چه ابزارهایی در اختیار داشته باشد، به چه چیزهایی دسترسی پیدا کند، چه مدت فعالیت کند و چه زمانی کنترل دوباره به یک انسان بازگردد. اما رقابت ژئوپلیتیکی میتواند این تصمیمها را تغییر دهد. اگر خودمختاری بیشتر، ابزارهای بیشتر، دسترسی گستردهتر و تعداد بیشتری از عاملهای همکاریکننده یک مزیت عملیاتی ایجاد کنند، خویشتنداری ممکن است بهتدریج یک نقطهضعف راهبردی به نظر برسد.
در اینجا است که ایران دیگر مهمترین بخش این داستان نیست. آنچه ممکن است پیامد ماندگار این ماجرا باشد، سابقه و الگویی است که ایجاد میشود، نه یک هدف فوری.
این نقطه دوباره ما را به وو تران میرساند. ادعای او مبنی بر اینکه یک شرکت هوش مصنوعی میتواند همین حالا یک کشور را فلج کند، همچنان اثباتنشده است، اما بزنگاه به مراتب تعیینکنندهتر زمانی فرا خواهد رسید که روزی یک کشور درستی این ادعا را ثابت کند. در آن صورت، رقابت دیگر صرفا بر سر ساخت هوش مصنوعی پیشرفتهتر نخواهد بود، بلکه میتواند به رقابتی بر سر پیشدستی بدل شود؛ تلاشی برای تضمین آنکه مبادا دشمن یا رقیب پیش از دیگران به قابلیتی راهبردی دست یابد.
برگرفته از تایمز اسرائیل
