30524

جستجوي معماري و ابرپارامترهاي مدل تشخيص اشيا كارآمد

كارشناسي ارشد

مهندسي كامپيوتر(هوش مصنوعي و رباتيكز)

1399

1402/07/10

آقاي دكتر محمدرضا محمدي

مهندسي كامپيوتر

يادگيري عميق رويكرد غالبي براي حل مسائلي همچون دسته بندي تصاوير، تشخيص اشيا، ناحيه بندي و .. مي باشد . يكي از دلايل اصلي اين پيشرفت خودكارسازي بخش استخراج ويژگي مي باشد . با اين حال هنوز چالش هايي در استفاده ي معمول از الگوريتم هاي عميق وجود دارد. چرا كه الگوريتم هاي ارائه شده به صورت مستقيم بر روي همه ي انواع داده ها كارآيي مناسبي ندارد و نيازمند تغيير ابرپارامتر ها و در مواردي بخشي از ساختار شبكه مي باشد. اين تغيير به صورت تجربي نيازمند زمان طولولاني و در مواردي نيازمند دانش غني مناسب در حوزه يادگيري عميق مي باشد . همچنين الگوريتم هاي طراحي شده در مواردي بايد متناسب با نياز صنايع باشد كه اين نيازمندي بيشتر در سرعت پاسخگويي نمايان مي شود. به همين جهت براي حل چالش ها و نياز ها، ياديگيري عميق خودكار به روي كارآمده است كه بخش طراحي ساختار هاي شبكه و تنظيم ابرپارامتر ها را به صورت خودكار انجام مي دهد. اما يكي از مسائل پرچالش زمان طولاني آزمودن ساختار ها و ابرپارامتر هاي مختلف در فضاي جستجو مي باشد چرا كه اين شبكه ها بايد بر روي امجموعه داده سنجيده شوند تا مشخص شود معيار هاي مساله را برآورده مي كنند يا نيازمند جستجوي بيشتر هستيم. در اين تحقيق با طراحي يك مساله نماينده سعي در كاهش محسوس زمان جستجو با حفظ عملكرد يكسان با حالت پايه هستيم. با خودكار سازي بخش طراحي ساختار كه مدل تشخيص اشيا و همچنين خودكار سازي تنظيم ابرپارامتر ها، مساله تشيخص اشيا براي مجموعه داده هاي DOTA و مجموعه داده خرما حل شده است. براي حل اين مساله با طراحي فضاي جستجو زنجيره اي با رويكرد يادگيري تقويتي، جستجو انجام شده است. با استفاده از مساله نماينده مدت زمان جستجو در قياس با الگوريتم هاي تقويتي به طور محسوسي كاهش يافته است.به طوري كه هر 40 دقيقه يكبار به كنترلر پاداش بازگردانده مي شود و معماري جديدي بدست مي آيد. در جستجوي خودكار از داده هاي نماينده براي جستجو استفاده كرديم. معماري بدست آمده بر روي اين داده ها بر روي داده اصلي،عملكردي نزديك به مدل پايه داشته است. با استفاده از داده نماينده، سرعت عامل يادگيري تقويتي در جستجوي معماري نسبت به كارهاي پيشين به طور محسوسي افزايش يافته است اما براي برقراري توزيع مناسب بين داده نماينده و داده اصلي نيازمند توليد داده هاي نماينده بيشتري هستيم .

1402/12/07

Architecture and Hyper-parameters search for Efficient Object Detection

1/1/1900 12:00:00 AM

Deep learning is a dominant approach to solving problems such as image classification, object recognition, zoning, etc. One of the main reasons for this progress is the automation of feature extraction. However, there are still challenges in the routine use of deep learning algorithms. Because the algorithms presented directly on all types of data are not effective and need to change hyperparameters and in some cases part of the network structure. This change in an experimental way requires a lot of time and in some cases it requires appropriate objective knowledge in the field of deep learning. Also, in some cases, the designed algorithms should be in accordance with the needs of the industry, which is more visible in the response speed. For this reason, to solve the challenges and needs, automatic deep learning is efficient, which performs the part of designing network structures and setting hyperparameters automatically. But one of the most challenging problems is the long time of testing different structures and hyperparameters in the search space, because these networks must be measured on the data set to determine whether they meet the criteria of the problem or we need more search. In this research, by designing a non-linear problem, we try to significantly reduce the search time while maintaining the same performance as the base case. By automating the design part of the key structure of the object recognition model and also automating the setting of hyperparameters, the problem of object classification for DOTA dataset and date dataset is resolved. To solve this problem, it has been done by designing a chain search space with a search reinforcement learning approach. By using the representative problem, the search time has been significantly reduced in comparison with the reinforcement algorithms. So that every 40 minutes, the reward is returned to the controller and a new architecture is obtained. In the automatic search, we used representative data to search. The architecture obtained on these data has a performance close to the basic model on the original data. With the use of representative data, the speed of the reinforcement learning agent in architecture search has been significantly increased compared to previous works, but to establish a proper distribution between the representative data and the original data, we need to generate more representative data.

يادگيري عميق خودكار , يادگيري عميق , تشخيص اشيا , فضاي جستجو , يادگيري تقويتي

Deep Learning , Auto Deep Learning , Object Detection , Search Space , Reinforcement Learning

Fatemeh Hajizadeh

Dr.Mohammad Reza Mohammadi