7968

معرفي، تحليل و ارزيابي عملكرد برت در ساختار و دستور زبان

1399

دكتر محمد طاهر پيله‌ور - دكتر سيد صالح اعتمادي

پردازش زبان طبيعي، پي بردن به عامل مؤثر در موفقيت چشمگير شبكه‌هاي عميق بسيار مهم است. پردازش زبان‌هاي طبيعي شامل گام‌هاي متعددي است كه مهم‌ترين گام نگاشت كلمات به بردارهايي است كه حاوي ويژگي‌هايي از زبان باشد سپس از اين بردار‌ها مي‌توان براي بهبود عملكرد شبكه‌هاي عصبي در مسئله‌هاي مختلف پردازش زبان استفاده نمود. شبكه‌هاي بسياري براي استخراج ويژگي از زبان معرفي شده‌اند كه از ميان آن‌ها شبكه‌هاي برت بسيار موفق بوده‌اند. اما چه عاملي در اين شبكه‌ها باعث چنين نتيجه‌هايي شده، به راحتي قابل تشخيص نيست. از اين رو مقالات بسياري در اين حوزه نوشته شده است تا بتوان اين شبكه‌ها را بهتر شناخت. شبكه‌هاي برت به صورت خود ناظر ويژگي‌هايي از زبان را در بردار كلمات تعبيه مي‌كنند. ويژگي‌هايي كه شبكه‌هاي عصبي به كمك آنان بتوانند انواع مسئله‌هاي پردازش زبان را حل كنند. از ميان اين ويژگي‌ها مي‌توان به ويژگي‌هاي نحوي، دستوري و معنايي زبان اشاره نمود. در اين سمينار به معرفي مفاهيم پايه و مورد نياز برت، شرح چالش‌هاي زباني (نحوي، دستوري و معنايي)، بررسي ساختار داخلي برت، معرفي روش‌هاي موجود براي تحليل عملكرد برت در ساختار و دستور زبان و بررسي ميزان يادگيري برت از ساختار زبان با مطالعه نتايج مي‌پردازيم.

12/23/2020 12:00:00 AM

69867

1399/10/20

Introduction, analysis and evaluation of BERT’s performance in language structure and grammar

پردازش زبان طبيعي , بردار كلمات , برت

Natural Language Processing , BERT