«طرح خطرناک» آمریکا برای حمله سایبری با هوش مصنوعی
پایگاه خبری پیام قزوین پرس به نقل از خبرگزاری فارس: «طرح خطرناک» آمریکا برای حمله سایبری با هوش مصنوعی
اسنادی که به دست یک رسانه آمریکایی رسیده نشان می‌دهد ارتش این کشور در تلاش است از عامل‌های هوش مصنوعی خودمختار برای نفوذ سایبری به سامانه‌های طرف‌های دیگر استفاده کند.
گروه بین‌الملل خبرگزاری فارس- نشریه اینترسپت در گزارشی امروز سه‌شنبه فاش کرد که فرماندهی سایبری ارتش آمریکا در حال توسعه برنامه‌ای است که با استفاده از عامل‌های هوش مصنوعی، امکان نفوذ خودکار به شبکه‌های رایانه‌ای «دشمنان»، شناسایی اهداف و از کار انداختن سامانه‌های آن‌ها را فراهم می‌کند.
کارشناسان می‌گویند این طرح به‌دلیل احتمال حمله به اهداف اشتباه و آسیب‌دیدن زیرساخت‌های غیرنظامی، می‌تواند خطرات جدی به همراه داشته باشد.
به گزارش اینترسپت، اسناد داخلی به‌دست‌آمده از سوی این نشریه نشان می‌دهد ارتش آمریکا قصد دارد بخشی از عملیات تهاجمی سایبری خود را به نرم‌افزارهایی واگذار کند که می‌توانند با حداقل نظارت انسانی در شبکه‌های رایانه‌ای حرکت کنند، اهداف احتمالی را شناسایی کنند و برای از کار انداختن آن‌ها اقدام کنند.
این برنامه با نام رمز «اکوتریبل» (ECHOTRIBBLE) شناخته می‌شود.
فرماندهی سایبری ارتش آمریکا که از سال ۲۰۱۰ مسئولیت عملیات سایبری نیروی زمینی این کشور را بر عهده دارد هم از سامانه‌های رایانه‌ای در برابر حملات محافظت می‌کند و هم عملیات تهاجمی محرمانه‌ای برای نفوذ به اهداف نظامی انجام می‌دهد.
تاکنون بخش عمده این عملیات را نیروهای انسانی با استفاده از رایانه انجام داده‌اند، اما ارتش اکنون در پی آن است که با کمک هوش مصنوعی، بخشی از این فعالیت‌ها را خودکار کند.
عامل‌های هوش مصنوعی چگونه به سلاح سایبری تبدیل می‌شوند؟
عامل‌های هوش مصنوعی نرم‌افزارهایی هستند که می‌توانند برای دستیابی به یک هدف، مجموعه‌ای از اقدامات را به‌طور مستقل انجام دهند و در هر مرحله بر اساس اطلاعاتی که به دست می‌آورند، درباره گام بعدی تصمیم بگیرند.
این فناوری در کاربردهای روزمره می‌تواند برای تنظیم جلسه، برنامه‌ریزی سفر، خرید اینترنتی یا رزرو بلیت به کار رود؛ اما ارتش آمریکا قصد دارد از همین قابلیت برای عملیات سایبری تهاجمی استفاده کند.
در اسنادی که فرماندهی سایبری ارتش برای پیمانکاران احتمالی ارسال کرده، اکوتریبل ابزاری توصیف شده که باید بتواند به‌صورت خودمختار در زیرساخت‌های رایانه‌ای حرکت کند و تهدیدها یا اهداف تعیین‌شده را شناسایی و خنثی کند.
در این طرح، خنثی‌سازی می‌تواند به معنای از کار انداختن موقت یا دائمی یک سامانه یا حذف تهدید از سیستم هدف باشد.
بر اساس این اسناد، اکوتریبل قرار است تقریباً مانند یک «کرم رایانه‌ای» عمل کند؛ نوعی بدافزار که می‌تواند در شبکه گسترش یابد و از یک دستگاه به دستگاه دیگر منتقل شود.
این نرم‌افزار باید بتواند بی‌سروصدا در شبکه‌های رایانه‌ای خارجی حرکت کند تا به هدف مورد نظر ارتش برسد.
دامنه فعالیت آن، طبق اسناد، هم سامانه‌های رایانش ابری را شامل می‌شود و هم رایانه‌هایی را که به‌طور فیزیکی از شبکه‌های دیگر جدا شده‌اند؛ اقدامی که برای کاهش احتمال نفوذ از راه دور انجام می‌شود.
در طراحی این برنامه، پنهان‌کاری نیز اهمیت زیادی دارد. عامل‌های اکوتریبل قرار است اطلاعات محدودی برای ارتش ارسال کنند و ارتباطات خروجی مورد نیاز خود را پنهان نگه دارند.
همچنین، پس از پایان مأموریت، باید عملاً خود را از بین ببرند تا در حالت ایده‌آل، هدف حتی متوجه حضور آن‌ها نیز نشود.
نرم‌افزاری که می‌تواند خودش را تکثیر کند
یکی از ویژگی‌های نگران‌کننده این طرح، توانایی عامل‌ها برای شناسایی اهداف تازه و ایجاد نسخه‌های متناسب با دستگاه‌های مختلف است.
در یک سناریوی فرضی که در ارائه‌ای برای شرکت‌های علاقه‌مند در رویدادی در ۲۴ ژوئن مطرح شد، پس از نصب اکوتریبل روی یک لپ‌تاپ، نرم‌افزار به‌طور مستقل دستگاه‌های دیگری را در همان شبکه شناسایی می‌کند و نسخه‌هایی از خود می‌سازد که برای کار روی آی‌پد، رایانه‌های رومیزی اپل و رایانه‌های مجهز به ویندوز ۱۱ تنظیم شده‌اند.
اگرچه اسناد از امکان تعریف محرک‌های اولیه برای تعیین زمان و محل حمله سخن می‌گویند، نرم‌افزار باید با «حداقل نظارت انسانی» فعالیت کند و توانایی رفتار خودراهبر داشته باشد.
به بیان دیگر، اپراتور انسانی می‌تواند هدف و برخی قواعد اولیه را تعیین کند، اما قرار نیست در تمام مراحل، مسیر حرکت و اقدام بعدی سامانه را مشخص کند.
با این حال، اسناد منتشرشده به‌خودی‌خود نشان نمی‌دهند که این برنامه اکنون به یک سلاح سایبری عملیاتی و آماده استفاده تبدیل شده است.
آنچه گزارش اینترسپت مستند می‌کند، برنامه ارتش برای توسعه چنین قابلیتی و ویژگی‌هایی است که برای آن در نظر گرفته شده است.
سابقه حملات ناخواسته هوش مصنوعی نگرانی‌ها را افزایش داده است
انتشار این اسناد در شرایطی صورت می‌گیرد که گزارش‌هایی درباره رفتارهای غیرمنتظره عامل‌های هوش مصنوعی در محیط‌های رایانه‌ای منتشر شده است.
بر اساس گزارش اینترسپت، نمونه‌هایی از این رفتارها شامل نفوذ به رایانه‌های دولت استرالیا، نقض زیرساخت‌های شرکت هوش مصنوعی هاگینگ فیس، بارگذاری نرم‌افزار مخرب در پلتفرم روبای‌جمز و تلاش برای نفوذ به وزارت آموزش آمریکا بوده است.
نکته مهم آن است که این اقدامات در سناریوهایی رخ داده‌اند که عامل‌های هوش مصنوعی دستور مشخصی برای حمله به سامانه‌ها دریافت نکرده بودند.
کارشناسان هشدار می‌دهند که اگر نسخه‌های نظامی این فناوری با اهداف صریحاً تخریبی به کار گرفته شوند، احتمال بروز خسارت می‌تواند بیشتر شود؛ حتی اگر ارتش برای فعالیت آن‌ها محدودیت‌هایی تعیین کرده باشد.
دیوید کروگر، استاد یادگیری ماشین در دانشگاه مونترال می‌گوید ساخت سامانه‌های خودمختاری که مأموریت دارند تهدیدها را خنثی کنند، با توجه به ضعف‌های شناخته‌شده فناوری کنونی، بسیار خطرناک است.
او هشدار می‌دهد که سامانه‌های هوش مصنوعی پیش‌تر به سامانه‌هایی حمله کرده‌اند که هدف مورد نظر نبوده‌اند و در برخی شبیه‌سازی‌ها نیز نشان داده‌اند که برای دستیابی به هدف خود ممکن است دست به اقدامات مرگبار بزنند.
خطر گسترش حمله به زیرساخت‌های غیرنظامی
یکی از نگرانی‌های اصلی کارشناسان این است که عامل‌های خودمختار برای رسیدن به هدف نظامی خود ممکن است از شبکه‌ها و دستگاه‌های غیرنظامی عبور کنند و به آن‌ها نیز آسیب بزنند.
نهادهای اطلاعاتی دولت‌ها در عملیات سایبری خود گاهی از دستگاه‌های غیرنظامی به‌عنوان مسیر عبور استفاده می‌کنند.
برای مثال، گروه هکری «ولت تایفون» که فعالیت آن به دولت چین نسبت داده می‌شود، حملات خود را از طریق رایانه‌های خانگی و کسب‌وکارهای کوچک هدایت کرده و به سامانه‌های فناوری اطلاعات آمریکا نفوذ کرده است تا امکان استفاده از آن‌ها در آینده را فراهم کند.
همچنین، در حمله‌ای به یک دانشگاه چینی که به آژانس امنیت ملی آمریکا نسبت داده شده، از مسیریاب‌های اینترنتی دانشگاه استفاده شده بود.
دیدگاه‌های کاربران (۰)
هنوز هیچ دیدگاهی برای این خبر ثبت نشده است. اولین نظر را شما بنویسید!