11967

بررسي روش هاي تفسير و تفسير پذيري و كاربرد آن در الگوريتم‌هاي بينايي ماشين

1400

محمد رضا محمدي

محسن سرياني

هوش مصنوعي تفسير پذير زير مجموعه‌اي از حوزه گسترده‌تر هوش مصنوعي توضيح پذير است كه به طور خاص بر روي توسعه سيستم‌هاي هوش مصنوعي متمركز شده است كه مي‌تواند به راحتي توسط انسان قابل درك باشد. هدف هوش مصنوعي تفسير پذير پر كردن شكاف بين پيچيدگي ذاتي سيستم‌هاي هوش مصنوعي و نياز به شفافيت و مسئوليت پذيري در تصميم گيري آنها است در حالي كه هدف هوش مصنوعي توضيح پذير ارائه توضيحاتي در مورد نحوه رسيدن سيستمهاي هوش مصنوعي به خروجي خود است. هوش مصنوعي تفسير پذير با اطمينان از اينكه خود توضيح براي انسان به راحتي قابل درك است فراتر ميرود. با پيچيده شدن و فراگير شدن سيستم‌هاي هوش مصنوعي نياز روزافزوني به هوش مصنوعي تفسير پذير وجود دارد. در بسياري از برنامه‌هاي كاربردي حياتي مانند مراقبت‌هاي بهداشتي مالي و امنيت، سيستم‌هاي هوش مصنوعي بايد بتوانند تصميمات خود را توجيه كنند و در قبال اقدامات خود پاسخگو باشد. با اين حال پيچيدگي اين سيستم‌ها اغلب درك چگونگي رسيدن به تصميمات خود را براي انسان دشوار‌تر مي‌كند. تكنيك‌هاي هوش مصنوعي تفسير پذير اين چالش را با ارائه مدل‌هاي قابل تفسيري كه مي‌تواند توسط انسان درك و تاييد شوند، برطرف مي‌كند و تصميم گيري موثرتر و قابل اعتمادتري را ممكن مي سازد. يكي از چالشهاي كليدي در توسعه سيستم‌هاي هوش مصنوعي تفسير پذير ايجاد تعادل بين قابليت تفسير و دقت است. در حالي كه مدل‌هاي ساده‌تر اغلب قابل تفسير هستند ممكن است دقت را قرباني سهولت درك كنند. از سوي ديگر مدلهاي پيچيده‌تر ممكن است دقيق‌تر باشند اما تفسير آن براي انسان دشوار است. بنابراين محققان در زمينه هوش مصنوعي تفسير پذير بايد تعادلي بين اين دو هدف ايجاد كنند تا اطمينان حاصل شود كه سيستم‌هاي به دست آمده هم دقيق و هم قابل تفسير هستند. در اين سمينار به بررسي تكنيك‌هاي مختلف هوش مصنوعي تفسير پذير و كاربردهاي آنها در زمينه بينايي كامپيوتر مي‌پردازيم. ما همچنين چالش‌هاي توسعه سيستم‌هاي هوش مصنوعي تفسير پذير در بينايي كامپيوتري، مانند برخورد با داده‌هاي با ابعاد بالا و توسعه تكنيك‌هاي تجسم مؤثر را بررسي خواهيم كرد.

5/10/2023 12:00:00 AM

78820

1402/03/06

A survey of the methods of interpretation and interpretability and applications in computer vision

هوش مصنوعي تفسير پذير , هوش مصنوعي توضيح پذير , هوش مصنوعي , تفسير پذيري , يادگيري عميق

Interpretable AI , Explainable AI , Deep Learning , Machine Learning