6943

حملات تقابلي به شبكه عصبي و مقابله با آن به كمك آموزش تقابلي

كارشناسي

مهندسي كامپيوتر

1399

دكتر ناصر مزيني

دكتر ناصر مزيني

1399/08/15

مهتدسي كامپيوتر

Adversarial Attacks and Adverarial Training in Neural network

با توجه به اهميت زيادي كه شبكه‌هاي عصبي به ويژه بينايي ماشين امروزه در زندگي انسان‌ها دارند، اين شبكه‌ها بايد امنيت داشته باشند و قابل اعتماد باشند. با اين حال در سال‌هاي اخير دانشمندان اين حوزه نشان داده‌اند كه تصورمان از قدرت فرا انساني اين شبكه‌ها اشتباه بوده. اين تحقيقات نشان دادند كه دركنار تمركز كردن روي درستي شبكه‌ها بايد روي انعطاف پذيري آنها نيز كار كرد. در اين پروژه‌پاياني دو حمله‌ي معروف به شبكه هاي عصبي به نام هاي FGSM و PGD از نظر تئوري بررسي شده است. همچنين روش توليد مثال هايي كه قادر اند شبكه را گمراه كنند به طور كلي بيان شده است. سپس به بهترين روش كه تا كنون ارائه شده به انعطاف پذير كردن شبكه عصبي در مقابل حملات تقابلي يعني آموزش تقابلي پرداخته شده است. در انتها به بررسي نتايج حاصل از پياده سازي حمله‌ي PGD در حالات مختلف و دفاع در مقابل آن پرداخته شده است.

هوش مصنوعي , يادگيري ماشين , يادگيري عميق , شبكه عصبي , حمله به شبكه عصبي , گمراه كردن شبكه عصبي