9752

نظارت پويا بر محتواي خصمانه در توييتر فارسي با استفاده از نظريه بازي استكلبرگ

كارشناسي

علوم كامپيوتر

1404

استاد ابراهيم اردشير لاريجاني

استاد ابراهيم اردشير لاريجاني

1404/06/21

رياضي و علوم كامپيوتر

DAMPT: Dynamic Adversarial Moderation for Persian Twitter Using Stackelberg Game Theory

ظهور سريع مدل‌هاي زباني بزرگ (LLM) انقلابي در پردازش زبان طبيعي به وجود آورده است، اما در عين حال آسيب‌پذيري‌هاي امنيتي مهمي را نيز آشكار كرده است. براي مقابله با اين چالش‌ها، روش‌هاي تقابلي مانند AutoDAN براي توليد محتواي مضر به كار مي‌روند كه سپس براي تقويت دفاع‌هاي LLM مورد استفاده قرار مي‌گيرند. در اين مقاله، ما سيستم DAMPT (مديريت تقابلي پويا براي توييتر فارسي) را معرفي مي‌كنيم، سيستمي كه مديريت محتوا را به‌عنوان يك بازي سه‌نفره استاكلبرگ بين كاربران، دشمنان و يك مدير مدلسازي مي‌كند. DAMPT يك شناسگر سمّيت مبتني بر LLM كه به‌طور دقيق تنظيم شده است، شبيه‌ساز حملات تقابلي فارسي و آستانه‌گذاري تطبيقي از طريق بهينه‌سازي دو سطحي را تركيب مي‌كند. ما اثربخشي DAMPT را بر روي توييت‌هاي فارسي واقعي و تقابلي نشان مي‌دهيم و توانايي آن را در پيش‌بيني و كاهش محتواي تقابلي اثبات مي‌كنيم.

پردازش زبان طبيعي فارسي , شناسايي محتواي سمّي , بازي استاكلبرگ