کارشناسان هشدار می‌دهند که دولت‌ها می‌توانند بدافزار هوش مصنوعی تولید کنند که از دفاع امنیت سایبری فرار می‌کند

بدافزار تولید شده توسط هوش مصنوعی که از شناسایی جلوگیری می کند، می تواند در حال حاضر در دسترس دولت های ملی باشد انگلستان امنیت سایبری آژانس.

برای تولید چنین نرم افزار قدرتمندی، عوامل تهدید نیاز به آموزش دارند هوش مصنوعی مرکز امنیت سایبری ملی (NCSC) امروز اعلام کرد که مدلی بر روی “داده های بهره برداری با کیفیت” ارائه می دهد. سیستم حاصل کد جدیدی ایجاد می کند که از اقدامات امنیتی فعلی فرار می کند.

NCSC هشدار داد: «احتمال واقع بینانه ای وجود دارد که ایالت های بسیار توانمند مخازن بدافزارهایی داشته باشند که به اندازه کافی بزرگ هستند تا به طور مؤثر یک مدل هوش مصنوعی را برای این منظور آموزش دهند.

در مورد معنای واقعی “احتمال واقع بینانه”، “معیار احتمال” آژانس تا حدودی شفافیت را ارائه می دهد.

<3 تکنولوژی اتحادیه اروپا

آخرین اخبار از صحنه فناوری اتحادیه اروپا، داستانی از بنیانگذار پیر خردمند ما، بوریس، و برخی هنرهای مشکوک هوش مصنوعی. هر هفته در صندوق ورودی شما رایگان است. ثبت نام کن!

این هشدار بخشی از انبوهی از زنگ های هشدار بود که توسط NCSC به صدا درآمد. این آژانس انتظار دارد که هوش مصنوعی تهدید جهانی باج افزار را افزایش دهد، هدف قرار دادن قربانیان را بهبود بخشد و مانع ورود مجرمان سایبری را کاهش دهد.

هوش مصنوعی مولد نیز تهدیدها را بالا می برد. این به ویژه برای تکنیک های مهندسی اجتماعی، مانند تعامل متقاعد کننده با قربانیان و ایجاد اسناد فریب مفید است.

GenAI شناسایی درخواست های فیشینگ، جعل و ایمیل های مخرب یا بازنشانی رمز عبور را دشوارتر می کند. اما دولت های ملی قدرتمندترین سلاح ها را به دست خواهند آورد.

این آژانس گفت: «بازیگران دولتی بسیار توانمند تقریباً مطمئناً بهترین موقعیت را در بین بازیگران تهدید سایبری دارند تا از پتانسیل هوش مصنوعی در عملیات سایبری پیشرفته استفاده کنند.

با این حال، در کوتاه مدت، انتظار می رود هوش مصنوعی به جای تغییر چشم انداز خطر، تهدیدهای موجود را تقویت کند. کارشناسان به ویژه نگران هستند که این امر تهدید جهانی باج افزار را افزایش دهد.

جیمز بابیج، مدیر کل تهدیدات در آژانس ملی جنایت در بیانیه ای گفت: «باج افزار همچنان یک تهدید امنیت ملی است.

همانطور که این گزارش نشان می‌دهد، به دلیل پیشرفت‌های هوش مصنوعی و بهره‌برداری مجرمان سایبری از این فناوری، احتمال افزایش تهدید در سال‌های آینده وجود دارد.