10722

مروري بر روش ها‌‌ و كاربردهاي يادگيري خود نظارتي چند وظيفه‌اي

1401

دكتر محسن سرياني

دكتر محمدرضا محمدي

آموزش يك مدل خوب براساس يادگيري عميق نيازمند حجم زيادي از داده‌هاي برچسب دار است. در بسياري از مسائل، اعم از مسائل پزشكي، مجموعه‌هاي داده‌ي شامل تصاوير بدون برچسب بيشتري نسبت به تصاوير برچسب دار وجود دارد. همچنين، با توجه به انبوه داده‌هاي توليد شده‌ي روزانه، محققان به جايگزين‌هايي مانند يادگيري خود نظارتي به دليل عدم نياز به برچسب گذاري روي آوردند. بنابراين، آموزش مدل‌هاي يادگيري ماشين با استفاده از داده‌هاي برچسب دار و بدون برچسب يك مساله مهم اما چالش برانگيز است. يادگيري خود نظارتي يك راه‌حل ممكن براي اين مشكل ارائه مي‌دهد. اين كار با حل وظايف كمكي خود نظارتي از پيش طراحي‌شده انجام مي‌شود. غالباً، براي دستيابي به عملكرد بهتر، چندين روش خود نظارتي را در چارچوب يك يادگيري چند وظيفه‌اي تركيب مي‌كنند تا بازنمايي‌هاي با معناتر و موثرتري آموخته شوند. مطالعات اين پژوهش به بررسي جزئيات چند روش يادگيري خود نظارتي چند وظيفه‌اي در سه حوزه‌ي كاربرد پزشكي، شهري و سنجش از راه دور مي‌پردازد. در كاربرد پزشكي، روش‌هاي يادگيري خود نظارتي موجود، بعد از اعمال روي تصاوير پزشكي نمي‌توانند منجر به بهبود قابل‌توجه عملكرد شوند. بلكه اغلب تنها منجر به بهبودهاي حاشيه‌اي مي‌شوند. ابتدا، يك روش يادگيري خود نظارتي جديد براساس بازيابي زمينه به منظور بهره‌برداري بهتر از تصاوير بدون برچسب بررسي مي‌شود. سپس، دو روش جديد خود نظارتي ديگر بررسي مي‌شوند كه به ترتيب اطلاعات مكاني و اطلاعات ظاهري را در تصاوير پزشكي قلب كدگذاري مي‌كنند كه در ناحيه‌بندي تصاوير قلبي با تعداد تصاوير كم مؤثر هستند. در ادامه، يك چارچوب يادگيري خود نظارتي چند وظيفه‌اي جديد براي تصاوير اسكوپي مورد مطالعه قرار مي‌گيرد. اين چارچوب از اطلاعات غني تعبيه‌شده در داده‌هاي خام بهره‌برداري مي‌كند و نيازي به داده‌هاي آموزشي ندارد. در كاربردهاي تصاوير شهري، هزينه‌هاي زياد حاشيه‌نويسي چنين مجموعه‌هاي بزرگي، يكي از چالش‌هاي اصلي هنگام نزديك شدن به سيستم‌هاي كمك راننده پيشرفته است. در ادامه، بررسي مي‌شود كه آيا مي‌توان از راهكار‌هاي مبتني بر تصاوير استريوي نظارت نشده براي يادگيري معنايي سطح بالا در تشخيص تك چشمي جاده استفاده كرد يا خير. در تجزيه و تحليل تصاوير سنجش از راه دور، ناحيه‌بندي معنايي نقش حياتي دارد. امروزه، اين مسئله عمدتاً با استفاده از پيش‌آموزش نظارت شده حل مي‌شود. در ادامه به بررسي نتايج يك معماري عصبي چند وظيفه‌اي براي رنگي كردن تصاوير و پيش‌بيني مكان‌هاي وصله‌هاي ايجاد شده روي تصاوير هوايي خواهيم پرداخت. در انتها نيز، روش پيش‌آموزش خود نظارتي چند وظيفه‌اي را با پيش‌آموزش مبتني بر ImageNet مقايسه خواهيم كرد.

5/11/2022 12:00:00 AM

74839

1401/02/31

An overview of multi-task self-supervised learning methods and applications

يادگيري خود نظارتي , يادگيري چند وظيفه‌اي , شبكه عصبي كانولوشني , پيش‌آموزش , تجزيه و تحليل تصاوير پزشكي

Self-supervised learning , multi-task learning , Convolutional neural network , pre-training , medical image analysis