افزایش امنیت در سیستم‌های یادگیری ماشینی (ML)

 

سازمان تحقیقاتیMITRE با همکاری مایکروسافت و ۱۱ شرکت فناوری چارچوبی را برای مقابله با حملات متخاصم که به سیستم های هوش مصنوعی وارد می شود، فراهم کرده اند.

این چارچوب «ماتریکس تهدید یادگیری ماشینی متخاصم» (Adversarial ML Threat Matrix نام دارد و در گیت هاب فراهم است. 

درهمین راستا MITRE دربیانیه ای رسمی در وب سایت خود نوشت: باهمکاری مایکروسافت، بوش، آی بی ام، انویدیا، ایرباس، دیپ اینستینک، تو سیکس لبز، دانشگاه تورنتو، دانشگاه کاردیف، دانشگاه کارنگی ملون، پرایس واترهاوسکوپرز و انستیتو ماشین یادگیری بری ویل این چارچوب را عرضه می کند تا در شناسایی، هشدار و پاسخ به تهدیدها علیه سیستم‌های یادگیری ماشینی (ML) به تحلیلگران کمک کند.

مایکروسافت در وبلاگ خود اعلام کرد طی ۴ سال گذشته با افزایش قابل توجه حملات به سیستم هایML تجاری روبرو بوده است،و"ماتریکس تهدید ناشی از یادگیری ماشینی متخاصم" قرار است تیم‌های امنیتی را تقویت کند.

این ماتریکس مجموعه ای از رفتارهای خصمانه و آسیب پذیری‌هایی را در بردارد که شرکت مایکروسافت و MIRTE طی سال‌ها مشاهده کرده‌اند.

مایکروسافت در پستی در وبلاگ خود گفت: متوجه شده ایم مهاجمان هنگام حمله به یک سیستم یادگیری ماشینی از ترکیبی از «تکنیک‌های سنتی» مانند فیشینگ در کنار تکنیک‌های یادگیری ماشینی متخاصم استفاده می‌کنند.

منبع: خبرگزاری مهر به نقل از اینترنت آو تینگز

    نظرات

    استخراج رمز ارز در دنیا و ایران
    اقتصاد
    استخراج رمز ارز در دنیا و ایران
    سال گذشته قبل از این‌که صنعت استخراج رمز ارز در کشورمان قانونی شود، به ماینرها قاچاقچی برق می‌گفتند. اما پس از مدتی، دولت این صنعت را به رسمیت شناخت.
      2021-01-25 12:56:00
    استخراج رمزارز تاب‌آوری ما در برابر تحریم‌ها را افزایش می‌دهد
    دانش روز
    استخراج رمزارز تاب‌آوری ما در برابر تحریم‌ها را افزایش می‌دهد
    طبق آمار وزارت نیرو، حدود ۱۲ هزار مگاوات ظرفیت بلااستفاده داریم که کارایی برای نیروگاه‌ها ندارد. بنابراین مشکل خاموشی‌های اخیر کشور ربطی به ماینرها ندارد و ما به راحتی می‌توانیم از ظرفیت نیروگاه‌ها، ظرفیت ماینرها را افزایش دهیم.
      2021-01-21 10:21:00
    رشد فزاینده بازار ابر (کلود)
    رایانش ابری
    رشد فزاینده بازار ابر (کلود)
    بنا بر پیش‌بینی گارتنر، تا سال 2024 بیشتر پلتفرم‌های خدمات ابری دست‌کم برخی از سرویس‌های ابری توزیع‌شده را فراهم خواهند آورد که در نقطه مورد نیاز اجرا می‌شوند.
      2021-01-19 10:59:06
    کتاب خوان ها بخوانند
    نرم افزارها
    کتاب خوان ها بخوانند
    این پروژه ،کاری از یک وب‌سایت غیرانتفاعی به نام «اینترنت آرشیو» است که امکان دسترسی آزادانه به موسیقی، کتاب‌ها، وب‌سایت‌ها، نرم‌افزار و غیره را فراهم می‌آورد.
      2021-01-15 10:16:00
    نظام بانکی در مسیرتجدید ساختار عمیق
    اقتصاد
    نظام بانکی در مسیرتجدید ساختار عمیق
    فناوری‌های پیشرفته شرکت‌های غیربانکی نه‌تنها به بخش مربوط به پرداخت‌ها بلکه به بخش‌های مختلف دیگر خدمات مالی نیز ورود پیدا کرده‌اند. فین‌تک‌ها و بیگ‌تک‌ ها از مهمترین ارائه‌دهندگان خدمات مالی هستند.
      2021-01-09 10:29:47
    انقلاب سرعت
    فناوریهای برتر
    انقلاب سرعت
    به گفته محققان، این تجربه در انتقال اطلاعات یک رکورد جدید محسوب می‌شود،ضمن اینکه بخش عمده تجهیزات مورد استفاده برای این شیوه انتقال ، در بازار موجود است.
      2021-01-05 09:39:03
    غول‌های فناوری دنیا همچنان به رشد خود ادامه خواهند داد
    بازاریابی و بازارسازی
    غول‌های فناوری دنیا همچنان به رشد خود ادامه خواهند داد
    صنعت فناوری جزء معدود بخش‌هایی است که از بحران کرونا سود می‌برد و این کمپانی‌های بزرگ فناوری در دنیا هستند که پیروز میدان کرونا هستند و توانسته‌اند طی یک سال گذشته بازار را به تسخیر خود درآورند.
      2021-01-03 10:25:43
    روند فناوری های جهانی
    فناوریهای برتر
    روند فناوری های جهانی
    کرونا درکنار استرس‌هایی که به‌همراه آورد، رشد چشمگیروجهش بی سابقه فناوری را به‌همراه داشت که شاید در مقایسه با سال‌های گذشته بسیار فراتر از حد انتظار باشد.
      2020-12-31 09:47:51
    فرصت سازی کمپانی سونی
    بازی و سرگرمی
    فرصت سازی کمپانی سونی
    2021 سال بسیار هیجان انگیزی برای کنسول پلی استیشن 5 و دارندگان آن خواهد بود و به نظر می‌رسد که مسئولان کمپانی سونی، خود را برای روزهایی درخشان آماده می‌کنند.
      2020-12-30 09:12:38