آخرین اخبار
facebook Telegram RSS ارسال به دوستان نسخه چاپی
کد خبر : 272959
تاریخ انتشار : 5 آبان 1399 11:37
تعداد بازدید : 974

هوش مصنوعی تبدیل به سلاح سایبری می شود

اگرچه هوش مصنوعی امروزه به روند اصلی فناوری تبدیل شده و کاربردهای مختلفی را به کاربران ارائه می دهد، اما درعین حال می تواند مشکلات و خطراتی را نیز ایجاد کند.
undefined

فناوران- با ظهور هوش مصنوعی به عنوان یک روند اصلی در فناوری، می توان گفت توانایی ها و خطرات احتمالی آن به طور موازی رو به افزایش است. در حال حاضر تفکری وجود دارد که انسان ها و جوامع توسط ماشین های همه چیز دان نابود خواهند شد. از طرفی نیز بسیاری از مردم قدردان هوش مصنوعی و بهبودهایی که می تواند برای تمدن ایجاد کند هستند.فناوری یادگیری ماشین (ML) به مجموعه داده های عظیم نیاز دارد. در بسیاری از سیستم های دنیای واقعی مانند اتومبیل های خودران، ترکیبی پیچیده از سنسورهای بینایی رایانه ای، برنامه نویسی پیچیده برای تصمیم گیری آنی و روباتیک موردنیاز است. اما در مقابل مشاغلی که از هوش مصنوعی استفاده می کنند، استقرار آن ساده تر است اما نکته ای که وجود دارد این است که هوش مصنوعی می تواند به اطلاعات و کارکردهای مختلف سیستم دسترسی پیدا کرده و درنتیجه خطرات جدی ایجاد کند. بنابراین قبل از اتخاذ این فناوری باید همه جوانب در نظر گرفته شود.سوگیری تصادفی در سیستم های هوش مصنوعی چیز جدیدی نیست و برنامه نویسان یا مجموعه داده های خاص می توانند آن را محصور کنند. متأسفانه اگر این سوگیری منجر به اتخاذ تصمیمات ضعیف و حتی تبعیض آمیز شود، درنتیجه باعث ایجاد پیامدهای قانونی و خسارت به شهرت آن مجموعه می شود. برای مثال بسیاری از سیستم های تشخیص چهره و هوش مصنوعی تبعیض نژادی قائل می شوند و افراد سیاه پوست را تشخیص نمی دهند. این نوع سوگیری همچنین موجب پیش بینی اشتباه می شود و هوش مصنوعی نمی تواند تصمیمات دقیقی بگیرد.ایجاد نظارت انسانی و آزمایش دقیق سیستم های هوش مصنوعی می تواند خطرات را در مرحله طراحی کاهش دهد. این امر همچنین با رصد دقیق آن سیستم ها در هنگام کار، امکان پذیر است. توانایی های تصمیم گیری سیستم های هوش مصنوعی باید اندازه گیری و ارزیابی شود تا اطمینان حاصل شود که سوگیری نوظهور یا تصمیم گیری مشکوک به سرعت رسیدگی می شود.اگرچه این تهدیدها مبتنی بر خطاهای ناخواسته و شکست در طراحی و اجرا است، اما هنگامی که افراد قصد دارند سیستم های هوش مصنوعی را از کار بیندازند یا آنها را به عنوان سلاح به کار گیرند، مجموعه دیگری از خطرات ظاهر می شود.گمراه کردن سیستم های هوش مصنوعی می تواند به طرز نگران کننده ای آسان باشد! مهاجمان سایبری می توانند مجموعه داده ها را برای آموزش هوش مصنوعی دست کاری کنند، تغییرات نامحسوسی در پارامترهای و الگوریتم های طراحی شده دقیق انجام دهند تا هرگونه سوء ظن نادیده گرفته شود و درعین حال هوش مصنوعی را به آرامی در جهت موردنظرشان هدایت کنند.در جایی که مهاجمان موفق به دسترسی به مجموعه داده ها نمی شوند، آنها ممکن است از گریز (دست کاری در ورودی ها که منجر به اشتباهات شدید می شود) استفاده کنند. درنتیجه شناسایی سخت می شود.اگرچه ممکن است بررسی صحت داده ها و ورودی ها امکان پذیر نباشد، اما باید تلاش شود تا داده ها از منابع معتبر و قابل اطمینان جمع آوری شود. همچنین هوش مصنوعی باید طوری تقویت شود تا بتواند ورودی های مخرب را شناسایی کند. علاوه بر این سیستم های هوش مصنوعی باید به مکانیسم های پیشگیرانه مجهز شود که در صورت وقوع اشتباه یا عدم عملکرد صحیح، خاموش کردن آن به راحتی انجام گیرد.

 چگونه هوش مصنوعی تبدیل به سلاح می شود؟
مجرمان سایبری همچنین می توانند از هوش مصنوعی برای اثربخشی حملات اجتماعی خود استفاده کنند. درواقع هوش مصنوعی می تواند تشخیص الگوهای رفتاری را کشف کند و بفهمد چگونه می توان مردم را به قانونی بودن یک ویدئو، تماس تلفنی یا ایمیل متقاعد کرد. سپس می تواند مردم را ترغیب کند که با شبکه ها تعامل کنند و داده های حساس را تحویل دهند. البته تمام تکنیک های اجتماعی که مجرمان سایبری در حال حاضر به کار می گیرند با استفاده از هوش مصنوعی می توانند به میزان قابل توجهی بهبود یابند.برای مثال یکی از حملات سایبری که به کمک هوش مصنوعی اتفاق افتاد، حمله هکری به سایت تسک ربیت (TaskRabbit) در سال ۲۰۱۸ بود. طی این حمله 3.75 میلیون کاربر این وب سایت در آوریل ۲۰۱۸ تحت تأثیر قرار گرفتند و هویت و اطلاعات حساب بانکی آنها سرقت شد.

در سال ۲۰۱۹ نیز دو حمله هکری توسط برخی هکرها علیه اینستاگرام انجام شد. این حملات که به کمک هوش مصنوعی صورت گرفت، حساب برخی افراد هک شد و اطلاعات و تصویر نمایه آنها تغییر یافت. در دیگر مورد رمزعبور حساب برخی افراد در صفحه آنها به نمایش گذاشته شد.

منبع: آنا


نظر شما



نمایش غیر عمومی
تصویر امنیتی :