26271

شناسايي و جلوگيري از حملات در خودروهاي خودران هوشمند

كارشناسي ارشد

مهندسي برق- الكترونيك ـ ديجيتال

1397

1400/12/18

شهريار برادران شكوهي

مهندسي برق

يادگيري عميق حل‌كننده بسياري از مسائل است كه حوزه‌هاي ديگر هوش مصنوعي در حل آن‌ها ناكام بوده‌اند. شبكه‌هاي عصبي عميق علي‌رغم تمام مزايا و ويژگي‌هاي مثبت خود، در برابر حملات مخرب شديداً آسيب‌پذير هستند. اين آسيب‌پذيري موجب كاهش چشم‌گير دقت خصمانه طبقه‌بندي كننده‌هاي اشيا شده است. باوجود تلاش‌ها و پژوهش‌هاي فراوان در اين موضوع كماكان دقت خصمانه شبكه‌هاي عصبي عميق در برابر حملات مخرب مختلف پايين بوده و به عدد قابل‌قبولي دست نيافته است. علاوه بر اين با ظهور و پيدايش حملات جديد‌تر و پيچيده‌تر، مقاوم‌سازي شبكه‌ها در برابر حملات مخرب بسيار پيچيده‌تر از قبل شده است. در اين پايان‌نامه، ما يك متد جديد مبتني بر شبكه‌هاي ترنسفورمر قبلي را توسط لايه‌هاي كانولوشني عميق و داده افزايي جانبي مقاوم‌سازي كرده‌ايم. و اين مدل را در دو اندازه با پيچيدگي‌هاي متفاوت ارائه كرده‌ايم. جهت ارزيابي كار اين مدل را با 5 مدل مشهور ديگر از شبكه‌هاي ترنسفورمر مورد مقايسه قرار داده‌ايم. براي ارزيابي دقت خصمانه از 2 حمله جعبه سفيد FGSM و PGD استفاده كرده‌ايم. همچنين جهت ارزيابي بهتر مدل، مدل معرفي‌شده را با استفاده از دو حمله جعبه سياه جديد Texture PatchAttack و Sparse-RS نيز موردبررسي قرار داده‌ايم. اين حملات داراي قدرت بالايي هستند مي‌تواند عملكرد مدل پيشنهادي ما را به‌خوبي مورد ارزيابي قرار دهند. عملكرد مدل ارائه‌شده در اين پايان‌نامه بر روي دو پايگاه داده GTSRB و cifar 100 موردبررسي قرارگرفته است. كه از پركاربردترين پايگاه‌هاي داده در حوزه طبقه‌بندي اشيا هستند. ما توانسته‌ايم با استفاده از مدل پيشنهادي به‌دقت تميز 99.1% برسيم كه بيشتر از تمامي كارهاي قبلي است. همچنين دقت خصمانه را از 59.4% در بهترين كار پيشين به 77.8% براي پايگاه داده علائم راهنمايي رانندگي آلمان افزايش دهيم. نتايج نشان مي‌دهند كه روش پيشنهادي علاوه بر نتايج قابل‌قبول در بخش حملات جعبه سفيد در برابر حملات جعبه سياه جديد نيز عملكرد قابل‌قبولي دارد و مي‌توان به اعتبار مقاومت اين روش در استفاده از طبقه‌بندي‌هاي خودرو خودران اميدوار بود.

1401/01/08

Attack detecting and preventing of intelligent self-driving cars

3/9/2023 12:00:00 AM

Deep learning solves many problems that other areas of artificial intelligence have failed to solve. Despite all their advantages and positive features, deep neural networks are highly vulnerable to adversarial attacks. This vulnerability has significantly reduced the adversarial accuracy of object classifiers. Despite many efforts and research in this field, the wicked accuracy of deep neural networks against various destructive attacks is still low and has not reached a sufficient number. In addition, with the advent of newer and more adversarial attacks, the robustness of networks to malicious attacks has become much more complex than before. In this thesis, we have reinforced a new method based on previous Transformer networks with deep convolution layers and implicit data augmentation. And we have presented this model in two sizes with different complexities. To evaluate the work, we have compared this model with 5 other famous models of Transformer networks. We used FGSM and PGD white box attacks to assess robust accuracy. Also, to better evaluate the model, we have examined the introduced model using two new black box attacks, Texture PatchAttack and Sparse-RS. These attacks are highly powerful and can evaluate our proposed model's performance. The model's performance presented in this thesis is examined on two databases, GTSRB and Cifar100, which are the most widely used in the field of object classification. We have been able to achieve 99.1% clean accuracy using the proposed model, which is more than all previous work. Also, increase the robust accuracy from 59.4% in the previous best work to 77.8% for the German traffic sign dataset. The results show that the proposed method, in addition to acceptable results in the field of white-box attacks against the new black-box attacks, has acceptable performance. We can hope for the validity of the robustness of this method for the traffic sign classification task.

Omid Nejati

Dr. Shokoohi