7999

بررسي روش هاي شرح پذيري نرم افزار

1399

دكتر سعيد پارسا

چكيده نرم‌افزار و سيستم‌هايي كه توسط نرم‌افزاركنترل مي‌شوند، نقش مهمي درجامعه امروزي پيدا كرده‌‌اند. براي نمونه، حتي سيستم‌هاي سايبر-فيزيكي بعد از استقرار، ممكن است اشتباهاتي مرتكب شوندكه تبعات زيان‌بار مالي و جاني داشته باشد. به عنوان نمونه خودران تسلا اخيراً خانمي را در آريزونا كشت. فقط يك سيستم شرح‌پذير مي¬تواند شرايط مبهم چنين حادثه‌اي را روشن كند و در نهايت از وقوع آن جلوگيري كند. در حقيقت سيستم‌‌ها پيچيده‌تر ‌مي‌شوند و هنوز در شرح اينكه چرا و چگونه در شرايط معيني از محيط، تصميمات خاصي را مي‌گيرند دچار عدم‌ شفافيت هستند. اين عدم شفافيت نه‌تنها موجب چالش‌هايي در مراحل توسعه و تحليل نرم‌افزار، بلكه در استفاده و نگهداري آن‌ها مي‌شود. درسيستم‌هايي كه از مدل‌هاي هوش مصنوعي استفاده مي‌شود، شرايط حادتراست. درحقيقت، ميان دقت و شرح‌پذيري اين سيستم‌ها تناقض وجود دارد. به عنوان نمونه استفاده از شبكه‌هاي عصبي دقت را افزايش مي‌دهد. اما، هيچ توجيهي از تصميم خود ارائه نمي‌دهد. به منظور بهبود مدل‌هاي هوش‌مصنوعي شرح‌پذير، اخيراً تعداد زيادي از روش‌هاي شرح‌پذيري با استفاده از راه كار‌هايي از آمار، يادگيري‌ ماشين و علم داده انجام‌شده است. اين در حالي است كه بسياري از سيستم‌هاي سايبر- فيزيكي تصميماتي وابسته به زمينه مي‌گيرند و مبتني بر يادگيري ماشين نيستند و نياز به شرح‌پذيري دارند. شرح سيستم به مهندسان اين امكان را مي دهد كه اشكالات را پيدا كرده و برطرف كنند و نقش تاثيرگذاري داشته باشند. علاوه بر اين، ابزاري مفيد براي يادگيري حقايق جديد، جمع آوري اطلاعات و در نتيجه كسب دانش هست. بنابراين، تعجبي نخواهد داشت اگر در آينده، شرح‌پذيري قوانين جديد و نهان را آموزش دهد. آزمون نرم‌افزار براي شناسايي خرابي‌هاي سيستم استفاده مي‌شود، اما مي‌توان از آن به عنوان يك سازوكار سودمند براي شرح‌پذيري سيستم‌ها استفاده كرد. اگر با مشاهده خروجي‌هاي هنگام اجراي مجموعه آزمون، مدلي دقيق از رفتار سيستم استنتاج شود، مي‌توان نتيجه گرفت كه مجموعه آزمون مناسب و كافيست. بنابراين تحليلي بهتر روي كد انجام مي‌شود و دستورات، انشعاب‌ها و مسيرهاي بيشتري پوشش داده مي‌شود. با اين راهكار طيف گسترده‌تري از رفتار برنامه را مي‌توان كشف كرد. براين اساس مي¬توان كاوشي كامل روي نرم افزار به طور خودكار انجام داد و در نتيجه رفتار نرم‌افزار را شرح ‌داد. واژه‌هاي كليدي: شرح‌پذيري، يادگيري ماشين تفسيرپذير، آزمون نرم‌افزار

12/30/2020 12:00:00 AM

69940

1399/10/27

A Survey on Software Explainability Methods

شرح‌پذيري , يادگيري ماشين تفسيرپذير , آزمون نرم‌افزار

Explainability , Interpretable machin learning , software testing