چکيده
يادگيري ماشين ، مطالعه ي چگونگي شبيه سازي رايانه يا شناخت رفتار يادگيري انسان است. هدف آن، به دست آوردن اطلاعات و مهارت جديد يا سازمان دهي ساختار اطلاعات است. اين دانش به عنوان هسته ي هوش مصنوعي به حساب مي آيد و روشي اساسي است كه رايانه ها را قادر به داشتن هوش مي كند. يادگيري ماشين در تمام شاخه هاي مختلف هوش مصنوعي از جمله سيستم هاي متخصص ، درك زبان طبيعي ، شناسايي الگو ، بينايي ماشين ، ربات هاي هوشمند و زمينه هاي ديگر كاربرد بسياري دارد. يادگيري عميق ، نوعي از روش هاي يادگيري ماشين است كه منجر به يادگيري تجربه ها و اطلاعات توسط رايانه ها بدون برنامه ريزي صريح و همچنين استخراج الگوهاي مفيد از داده هاي خام مي شود. بررسي هاي اخير نشان مي دهد كه شبكه هاي عصبي عميق نسبت به حملات تهاجمي آسيب پذير هستند. اين حملات، به شكل اختلالات نامحسوس در ورودي ها خود را نشان مي دهند كه منجر به مدلي مي شود كه شبكه، خروجي هاي نادرست را پيش بيني مي كند و مدل هاي يادگيري عميق را كاملا فريب مي دهند. حملات تهاجمي در عمل به عنوان تهديدي جدي در عملكرد موفق يادگيري عميق تلقي مي شوند. اين گزارش سمينار شامل پنج فصل است. در فصل اول، مقدمه اي درباره ي حملات تهاجمي و روش هاي دفاعي در برابر اين حملات ارائه مي شود. در فصل دوم، به بررسي مفاهيمي مثل يادگيري عميق و شبكه هاي عصبي عميق پرداخته شده است. در فصل سوم انواع حملات تهاجمي، روش هاي ايجاد آن ها و همچنين كاربرد هاي نمونه هاي تهاجمي را بررسي خواهيم كرد. در فصل چهارم، انواع روش هاي دفاعي در برابر حملات تهاجمي ارائه شده است. در فصل آخر، ضمن جمع بندي، چالش ها و فرصت هاي تحقيقاتي آينده بررسي شده و پيشنهاداتي براي ادامه ي كار نيز ارائه خواهد شد.
