14209

بررسي روش هاي توضيح پذيري شبكه هاي عصبي عميق براي آشكارسازي و رديابي اشياي كوچك

1402

دكتر سعيد شمقدري

مسئله تشخيص و رديابي اهداف متحرك يكي از مهمترين مسائل موجود در حوزه كنترل و بسياري از حوزه هاي مرتبط ديگر است. اين موضوع خصوصا در زمينه ناوبري و حوزه هاي امنيتي از اهميت دو چندان برخوردار است. براي پاسخ دادن به نياز موجود در اين حوزه، روش هاي متعددي ارائه شده كه مي توان به استفاده از رادار، استفاده از برچسب هاي رديابي، استفاده از LiDAR ها و روشهاي اپتيكي مي باشد. در سال هاي اخير با پيشرفت هاي به وجود آمده در حوزه هوش مصنوعي و يادگيري عميق، روش هاي تشخيص و رديابي مبتني بر شبكه هاي عصبي عميق توجه زيادي را به خود جلب نموده و توانسته اند موفقيت هاي قابل توجهي را نيز به دست آورند. با وجود موفقيت هاي به دست آمده در اين حوزه، استفاده از روش هاي مبتني بر يادگيري عميق با چالش مهمي روبرو است و آن هم مسئله عدم توضيح پذيري خروجي اين روشهاست؛ به اين معني كه توضيحي براي علت انتخاب يك قسمت از تصوير به عنوان خروجي مدنظر ارائه نمي دهند. همين مسئله باعث مي شود كه روش هاي تشخيص و رديابي مبتني بر يادگيري عميق از اطمينان پذيري كمي برخوردار بوده و استفاده از آنها مخصوصا در موارد داراي اهميت بالا مانند كاربردهاي پزشكي و امنيتي با ترديد همراه باشد. همچنين عدم اطلاع از نحوه عملكرد مدل هاي عميق باعث مي شود كه در صورت شكست مدل در انجام عمل مورد نظر، تحليل علت آن و تلاش براي رفع مشكل بسيار سخت و يا حتي ناممكن باشد. به همين منظور ارائه روشهايي براي به دست آوردن توضيح از علت تصميمات شبكه هاي عميق و نحوه عملكرد شبكه از اهميت بالايي برخوردار خواهد بود. در اين نوشتار به بررسي مقالات و روش هاي معرفي شده در ادبيات براي توضيح پذيري شبكه هاي عميق پرداخته شده و سعي مي شود نقاط قوت و ضعف آنها بررسي شده و استفاده هاي مختلف اين روش ها در حوزه هاي نيازمند توضيح پذيري مدل هاي عميق تشريح شود.

11/13/2024 12:00:00 AM

85064

1403/09/04

A Review of Explainability Methods of Deep Neural Networks Used for Detection and Tracking of Small Objects

هوش مصنوعي توضيح‌پذير , توضيح‌پذيري , يادگيري عميق

xAI