12762

از داده تا بينش: كاوش روشهايي قابل توضيح مبتني بر داده در پردازش زبان طبيعي

1401

دكتر بهروز مينايي بيدگلي

دكتر سيد صالح اعتمادي

اين گزارش سمينار به حوزه نوظهور هوش مصنوعي قابل توضيح، با تمركز بر ابهام زدايي از مدل‌هاي زباني بزرگ مانند مبدل هاTransformer ، ELMo،BERT ،XLNet ، GPT-2، و GPT-3 مي‌پردازد. اگرچه اين مدل‌هاي زباني بزرگ ها، در كاربردهاي متعدد پردازش زبا‌هاي طبيعي موفق هستند، به صورت "جعبه هاي سياه" با توابع پيچيده و غير خطي عمل مي‌كنند كه تفسير آنها دشوار است. نامشخص بودن اين مدل‌ها در برنامه‌هاي روزمره هوش مصنوعي، از جمله چت‌بات‌ها و سيستم‌هاي توصيه‌ گر، خطراتي بالقوه مانند تضعيف اعتماد كاربران و پنهان كردن تشخيص سوگيري‌ و خطا را به همراه دارد. براي پرداختن به اين موضوع، موارد كاربرد هوش مصنوعي قابل توضيح را در زمينه پردازش زبا‌هاي طبيعي بررسي مي‌كنيم كه تاكيد اين مطالعات بر مدل‌هايي است كه علاوه بر عملكرد مؤثر، قابل توضيح نيز باشند. اين گزارش تركيبي از روش‌هاي قابل توضيح مبتني بر داده با هدف بهبود شفافيت مدل‌هاي زباني بزرگ را ارائه مي‌كند و اهميت توسعه توضيحاتي كه به اطلاعات خارجي يا دانش قبلي نياز ندارد، برجسته مي‌كند. همچنين بين توضيحات محلي، كه پيش‌بيني‌هاي فردي را روشن مي‌كند، و توضيحات كلي، كه درك كلي از عملكرد مدل را ارائه مي‌دهد، تفاوت قائل مي‌شود. ساختار اين گزارش به گونه‌اي است كه مفاهيم بنيادي، بررسي ادبيات موضوع را ارائه مي‌كند و با بحث در مورد يافته‌ها و راه‌هاي پيشنهادي براي تحقيقات آينده به پايان مي‌رسد. هدف نهايي افزايش قابليت توضيح مدل‌هاي زباني بزرگ است به طوري كه اعتماد را كاربران ايجاد كند و توسعه ابزارهاي هوش مصنوعي قابل اعتمادتر و اخلاقي را تسهيل كند.

11/15/2023 12:00:00 AM

81059

1402/09/07

From Data to Insights: Exploring Data-Driven Explainable Methods in Natural Language Processing

هوش مصنوعي قابل توضيح , هوش مصنوعي قابل توضيح مبتني بر داده , پردازش زبا‌هاي طبيعي , مدل‌هاي زباني بزرگ

Explainable AI (XAI) , Data-Driven XAI , Natural Language Processing (NLP) , Large Language Models (LLMs)