11984

مروري بر روشهاي بازنمايي برداري متون با رويكرد معناشناسي

1400

اقاي دكتر بهروز مينايي بيدگلي

رو هياي تعبيي ه متن بيا رويكرد معنيايي ميپردازد. رو هياي معمول براي تعبيي ه متن عبيارتنيد از: رو هياي مبتني بر تكرار كلميات رو هاي مبتني بر تكرار دسيتور زبان و رو هاي مبتني بر مدلهاي توزيعي. با اين حال اين رو ها با چالشهايي همچون حج باالي داده ها و نياز به محاسبات گسترده مواجه هستند. براي حا اين چالشها رويكردهاي معنايي براي تعبيه متن ايجاد شييده اسييت كه از ويژگيهاي معنايي كلمات اسييتناده ميكنند تا بهترين بازنمايي براي متن را بدسييت آورند. اين رو ها شيياما معيارهاي مهتلني مانند معيار شييباهت معنايي معيار شييباهت متن و معيار شييباهت مبتني بر شييبكههاي عصييبي اسييت پس از معرفي رو هاي تعبيه متن با رويكرد معنايي رو هاي بهينهسييازي براي مدلهاي معنايي و رو هاي مقاوم سيازي براي افزايش دقت مدلهاي تعبيه متن بررسي ي شيده اند. در نهايت بررسي ي اينكه چگونه تعبيه متن با رويكرد معنايي در مسيائا مهتلف مانند تحليا احسي اسيات و ترجمه ماشي يني به كار گرفته ميشيود انجام شيده اسيت. پرداز زبان طبيعي و تشيهي موجوديتهاي نامدار در متون اسيتناده ميشيود. BERT با اسيتناده از معماري ترانسينورمر و بر پايه آموز مبتني بر بيازيي ابي جمليه بيه صيييورت دقي ميدلي زبياني پيشييي ينيهدار و آموز ديي ده بر روي مجموعيهداده هياي بزر زبيان انگليسي ي ايجاد شيده اسيت. در اين مدل جايگزيني واژگان تحليا احسياسيات و يادگيري بدون نمونه از ميان ديگر قابليتهاي آن اسيت. با توجه به عملكرد بهتر BERT نسيبت به مدلهاي قبلي در تعدادي از مسيائا پرداز زبان اين مدل به سيرعت در صينعت و تحقيقات NLP مورد استناده قرار گرفته است.

5/10/2023 12:00:00 AM

78864

1402/03/16

A Survey on Text Embedding Methods With Semantic Approach

مدل هاي مبتني بر ترنسفورمر در پردازش زبان هاي طبيعي , لايه انتقالي در پردازش زبان هاي طبيعي , جايگذاري كلمات