7373

نمونە سازي تقابلي با استفاده از شبكە هاي مولد تقابلي

كارشناسي

مهندسي كامپيوتر

1400

دكتر ناصر مزيني

1400/07/11

كامپيوتر

Generating adversarial examples using Generative Adversarial Networks (GANs)

مدل‌هاي از قبل آموزش ديده (در مقياس بزرگ)، مانند يادگيري عميق، هم‌اكنون قلب و مركز اصلي پيشرفت هوش مصنوعي است. با وجود اين‌كه شبكه‌هاي مصنوعي پيشرفت و موفقيت چشم‌گيري، در بيشتر وقت‌ها فراي توانايي انسان‌ها، از خود در حل مسئله‌هاي پيچيده نشان داده است، پژوهش‌هاي اكنون نشان داده‌اند كه اين شبكه‌ها نسبت به حمله‌هاي تقابلي در حالتي كه تنها دستكاري‌هاي كوچكي اعمال شود، به طور كامل شبكه را فريب داده و در نتيجه، اين شبكه ها بسيار آسيب پذير و حساس هستند. در اين گزارش پس از بيان اهميت مسئله، يك دسته‌بندي از انواع حملات به شبكه‌هاي‌عصبي و همچنين مختصري از معمار و نحوه كار كردن شبكه مولد تقابلي بيان شده است. در ادامه به بررسي تاثير نمونه‌ تقابلي توليد شده توسط روش حمله Adv-GAN ، كه الهام گرفته از شبكه‌هاي مولد تقابلي است، در فريب شبكه هدف پرداخته شده‌است. در انتها نتايج بدست آمده در قالب انواع آمارها و نمودارها آورده شده است كه همه نشان دهنده اين هستند شبكه هدفي كه قبل از حمله دقت 99/3٪ را داشته است، پس از حمله بسيار موفق توسط بخش مولد شبكه Adv-GAN ، به دقت 0/43٪ رسيده است كه نشان از ميزان موفقيت 99/57٪ دارد.

فريب شبكه عصبي مصنوعي , روش نشانه‌ي گراديان سريع , نمونه تقابلي , حمله جعبه نيمه‌سفيد , يادگيري عميق , شبكه مولد تقابلي , مدل دسته‌بند , دستكاري تقابلي , آموزش تقابلي , حمله هدفمند , حمله بدون هدف