24038

مقاوم سازي شبكه هاي عصبي عميق در برابر حملات مخرب

كارشناسي ارشد

مهندسي برق - سيستم هاي الكترونيك ديجيتال

1399-1400

1400/4/16

دكتر عبدالله اميرخاني

مهندسي خودرو

يادگيري عميق حل كننده بسياري از مسائل است كه حوزه هاي ديگر هوش مصنوعي در حل آن ها ناكام بوده اند. شبكه هاي عصبي عميق علي رغم تمام مزايا و ويژگي هاي مثبت خود، در برابر حملات مخرب شديداً آسيب پذير هستند. اين آسيب پذيري موجب كاهش چشم گير دقت خصمانه شناساينده هاي اشيا شده است. با وجود تلاش ها و پژوهش هاي فراوان در اين موضوع كماكان دقت خصمانه شبكه هاي عصبي عميق در برابر حملات مخرب مختلف پايين بوده و به عدد قابل قبولي دست نيافته است. علاوه بر اين با ظهور و پيدايش حملات جديد تر و پيچيده تر، مقاوم سازي شبكه ها در برابر حملات مخرب بسيار پيچيده تر از قبل شده است. در اين پايان نامه، ما يك متد جديد مبتني بر فيلتر هاي گبور براي مقاوم سازي شناساينده هاي اشيا در برابر حملات مخرب ارائه كرده ايم. سپس متد معرفي شده را بر روي YOLOv3 با ستون هاي متفاوت، SSD با اندازه هاي ورودي و مختلف و FRCNN اعمال كرده ايم و به اين صورت 6 شناساينده اشيا مقاوم معرفي كرده ايم. جهت ارزيابي كارايي مدل هاي معرفي شده، آن ها را با استفاده از 3 حمله هدفمند TOG-fabrication، TOG-vanishing، TOG-mislabeling و 3 حمله رندوم بي هدف DAG، RAP و UEA آموزش خصمانه داده ايم. عملكرد مدل هاي به دست آمده در اين پايان نامه بر روي دو پايگاه داده مشهور PASCAL VOC و MSCOCO مورد بررسي قرار گرفته كه از پركاربرد ترين پايگاه هاي داده در حوزه شناسايي اشيا هستند. نتايج آزمايشگاهي متعدد نشان مي دهد كه اين روش علي رغم بهبود دقت خصمانه مدل هاي شناسايي اشيا، عملكرد مدل ها بر روي داده هاي تميز را نيز تحت تأثير قرار نمي دهد. همچنين جهت ارزيابي بهتر مدل، مدل هاي معرفي شده را يكبار با استفاده حمله جديد EBG نيز مورد ارزيابي قرار مي دهيم. اين حمله داراي قدرت بالايي است و مي تواند عملكرد دفاع ما در برابر حملات جعبه سياه تركيبي را نيز به خوبي مورد بررسي قرار دهد. نتايح اين پايان نامه نشان مي دهد كه اين دفاع علاوه بر نتايج قابل قبول در برابر حملات قديمي تر و نيز حملات هدفمند TOG، در برابر حملات تركيبي جعبه سياه جديد نيز عملكرد قابل قبولي دارد و مي توان به اعتبار مقاومت اين دفاع در شرايط متفاوت در حملات مخرب مختلف اميدوار بود. بهترين دقت خصمانه به دست آمده براي اين روش در بهترين مدل 54.2 درصد بوده است كه در مقايسه با كار هاي موجود در ادبيات موضوع بهبود قابل توجهي داشته است.

1400/04/23

Robustifying deep neural networks against adversarial attacks

7/7/2022 12:00:00 AM

Deep learning is the solver of many situations, in which other domains of artificial intelligence are unable to solve. Despite their advantages and positive benefits, deep neural networks are vulnerable to destructive attacks. This vulnerability has caused a significant reduction in the hostile accuracy of object detectors. Despite many efforts and studies in this subject, still, the hostile accuracy of deep neural networks versus several destructive attacks is low and has not reached an acceptable number yet. In addition, with the emersion of newer and more adversarial attacks, the robustness of networks to adversarial attacks has become much more complex than before. In this thesis, we present a new method based on Gabor filters to make object detectors robust to adversarial attacks. Then we applied the presented method on YOLOv3 with different backbones, SSD with different input sizes, and FRCNN and thus introduced 6 robust object detectors. To evaluate the performance of the presented models, we have trained them adversarial using 3 targeted attacks of TOG fabrication, TOG-vanishing, TOG-mislabeling, and 3 random attacks of DAG, RAP, and UEA. The performance of the models obtained in this thesis is examined on two famous databases PASCAL VOC and MS COCO, which are among the most widely used databases in the field of object identification. Numerous experiments show that this method, despite improving the adversarial accuracy of object detection models, does not affect the performance of models on clean data. Also, to evaluate the model better, we evaluate the presented models once by using the new EBG attack. This attack has high power and can also examine the performance of our defense against combined black-box attacks. The results of this thesis present that this defense, in addition to acceptable results against older attacks and also TOG targeted attacks, also has acceptable performance against new black box combined attacks and we can hope on the credibility of this defense in different situations against different destructive attacks. The best adversarial accuracy achieved by this method in the best model was 54.2%, which was a good improvement compared to the works in the literature.

بينايي ماشين , شبكه هاي عصبي عميق , شناسايي اشيا مقاوم , حملات مخرب , يادگيري عميق

machine vision , deep neural network , robust object detection , adversarial attacks , deep learning