33437

مقداردهي اوليه وفق‌دهنده براي تشخيص اشيا

كارشناسي ارشد

مهندسي كامپيوتر

1401

1403/11/27

دكتر محمدرضا محمدي

ندارم

مهندسي كامپيوتر

مدل‌هاي يادگيري عميق معمولاً به داده‌هاي آموزشي غني و منابع پردازشي بالا نياز دارند، اما اين نياز در بسياري از كاربردها به‌ويژه در شرايط منابع محدود، چالش‌برانگيز است. ماژول‌هاي وفق‌دهنده به‌عنوان راهكاري نوآورانه معرفي شده‌اند كه با افزودن ماژول‌هاي كوچك به بخش‌هاي خاصي از شبكه و نگه‌داشتن ساير قسمت‌ها در حالت منجمد، امكان تنظيم مدل‌ها را با تعداد پارامترهاي كم فراهم مي‌كنند. اين روش نه‌تنها باعث كاهش نياز به داده‌هاي گسترده و منابع محاسباتي مي‌شود، بلكه زمان موردنياز براي تنظيم دقيق مدل‌ها را نيز كاهش مي‌دهد. مدل YOLO، يكي از پيشرفته‌ترين مدل‌ها در تشخيص اشيا، در شرايط معمولي عملكرد بالايي دارد، اما در شرايط داده‌هاي محدود، كارايي آن كاهش مي‌يابد. براي حل اين مشكل، در اين پژوهش ضمن تبيين اصول اوليه ماژول‌هاي وفق‌دهنده و مقداردهي اوليه با بررسي روش‌هاي موجود، به طراحي رويكردي نوين براي بهبود عملكرد مدل‌ در شرايط منابع محدود مي‌پردازيم. ساختار ماژول وفق‌دهنده به‌گونه‌اي طراحي شده است كه با الهام‌گيري از ساختار مدل مبنا، دقت و كارايي مدل را افزايش مي‌دهد. همچنين، روش مقداردهي اوليه مناسبي براي اين ماژول ارائه شده است كه بهبود عملكرد وفق‌دهنده را به‌ همراه دارد. نتايج به‌دست‌آمده، تأثير مثبت ماژول وفق‌دهنده پيشنهادي و روش مقداردهي اوليه را بر بهبود دقت مدل در شرايط منابع محدود تأييد مي‌كنند به‌طوري كه به‌كارگيري وفق‌دهنده مي‌تواند تا 11.3 درصد عملكرد مدل را نسبت‌ به تنظيم دقيق كامل افزايش‌ داده و به‌كارگيري روش مقداردهي اوليه معرفي‌شده، 0.4 درصد اين بهبود دقت را افزايش ‌دهد و به 11.7 درصد بهبود برساند. آزمايش روش پيشنهادي در يكي از جديدترين چارچوب‌هاي معيار توانسته ‌است رتبه‌ي دوم را كسب كند و در يكي از مجموعه‌دادگان اين چارچوب، با اختلاف 12.4 درصدي برتر باشد. در نهايت، تحليل‌هاي صورت‌گرفته نشان ‌مي‌دهند كه استفاده از اين رويكرد مي‌تواند به‌عنوان يك روش مؤثر در بهبود عملكرد مدل‌هاي تشخيص اشيا، در شرايط منابع محدود مورداستفاده قرار گيرد و زمينه‌ساز تحقيقات آينده در اين حوزه باشد.

1404/03/07

Initialization of adapters for object detection

1/1/1900 12:00:00 AM

Deep learning models typically require rich training data and high computational resources, which pose challenges in many applications, especially when data is limited. Adapters have been introduced as an innovative solution, enabling model tuning with a minimal number of parameters by adding small modules to specific parts of the network while keeping other parts frozen. This approach not only reduces the need for extensive data and computational resources but also decreases the time required for fine-tuning models. YOLO, one of the most advanced object detection models, performs exceptionally well under standard conditions but exhibits reduced efficiency in limited-data scenarios. To address this issue, this study explores the fundamentals of adapters and initialization methods by reviewing existing approaches, and proposes a novel strategy to enhance model performance in low-data scenarios. The structure of the adapter module is designed to increase model accuracy and efficiency by drawing inspiration from the base model architecture. Additionally, an effective initialization method is introduced for the adapter, further improving its performance. The results demonstrate the positive impact of the proposed adapter module and initialization method on improving model accuracy in low-data conditions. Specifically, the use of the adapter module can increase model performance by up to 11.3% compared to full fine-tuning, and the introduced initialization method contributes an additional 0.4% improvement, bringing the total enhancement to 11.7%. Testing the proposed method on one of the latest benchmarks, achieved second place overall and outperformed a dataset within the framework by a margin of 12.4%. Finally, the analysis highlights that this approach can serve as an effective method for improving the performance of object detection models data-limited scenarios and can pave the way for future research in this field.

وفق‌دهنده , مقداردهي‌ اوليه , تشخيص اشيا , يادگيري در مجموعه‌دادگان كم نمونه , يادگيري در دامنه جديد , انتقال دانش

Adapter , Initialization , Object Detection , Few-Shot Learning , Cross-domain Learning , Transfer Learning

Mohammadamin Chiniforoushan Esfahani

Dr. Mohammadreza Mohammadi