8381

بررسي روش هاي توجه در يادگيري عميق

99-00

دكتر محسن سرياني

دكتر محمدرضا محمدي

توجه سازوكاريست كه با هدف بهبود اطلاعات و نه افزايش آنها، در يك شبكه تعبيه مي¬شود. اساس كار هر شبكه¬اي توجه به ورودي و استخراج اطلاعات از آن است كه ممكن است بهينه نبوده و موارد تكراري زيادي توليد شوند. بر همين اساس سازوكارهايي پيشنهاد مي¬شوند تا مدل برخي از اطلاعات را ناديده گرفته و توجه خود را با اطلاعات با اهميت¬تر معطوف كند. در كنار اين شبكه¬ها مدل¬هايي هم هستند كه هدفشان توليد نقشه برجستگي از ورودي است. اين نقشه بارزترين موارد موجود در تصوير را تفكيك كرده و به عبارتي يك بازنمايي از توجه انسان به دست مي¬دهد. به كارگيري توجه صريح مي¬تواند باعث افزايش كارايي و ظرفيت شبكه شود؛ در برخي از نمونه¬ها مكان دقيق توجه شبكه نيز قابل محاسبه مي¬شود كه در بسياري از كاربردها امري حياتيست. محاسبه يك بازنمايي از توجه انسان ميتواند به عنوان يك مرحله پيش¬پردازش صورت گرفته و عملكرد شبكه هدف را در بسياري از حوزه¬ها بهبود بخشد. در اين گزارش روشهاي گوناگون توجه در شبكه هاي عصبي بررسي شده و مورد مقايسه قرار ميگيرند.

12/23/2020 12:00:00 AM

70991

1399/10/22

A SURVEY OF VISUAL ATTENTION MECHANISMS

شبكه عصبي عميق. , توجه صريح , نقشه برجستگي , پيش پردازش

explicit attention , saliency map , preprocessing , deep neural net