25104

ماكزيمم كردن انتروپي تابع مفصل به شرط بخش قطري داده شده

كارشناسي ارشد

آمار رياضي

1394-1396

بهمن 1396

غلامحسين ياري

رحمان فرنوش

رياضي

در اين تحقيق، ابتدا تابع مفصل معرفي شده و ويژگي هاي آن بيان مي شود. پس از توضيحاتي مختصر در مورد انتروپي، سپس به معرفي توابع مفصل با بخش قطري داده شده پرداخته مي شود. هدف اصلي اين تحقيق پيدا كردن تابع مفصلي است كه حاوي كمترين اطلاعات مي باشد. چرا كه در اين صورت مي توان به اطلاعاتي استناد كرد كه حقيقي بوده و نسبت به آنها اطمينان بيشتري داريم. اين كار به معناي ماكزيمم كردن انتروپي است زيرا مي دانيم كه هرچه اطلاعات بيشتر باشد، انتروپي كمتر است و بالعكس. ماكزيمم كردن انتروپي معادل مينيمم كردن انتروپي نسبي است بنابراين به جاي كار كردن با انتروپي، با انتروپي نسبي كار كرده و هدف را مينيمم كردن آن قرار مي دهيم. پس از معرفي كردن تابع اي با نماد هاي جديد، مسأله ي مينيمم سازي انتروپي نسبي را به مسأله ي بهينه سازي تبديل مي كنيم. ثابت مي شود كه جواب شدني اي كه از حل مسأله ي بهينه سازي به دست مي آوريم معادل تابع چگالي مفصلي اي است كه انتروپي اش ماكزيمم است. با استفاده از يك سري عمليات رياضي در ابتدا فرم جواب بهينه را پيدا مي كنيم و سپس در مي يابيم كه جواب بهينه ي به دست آمده دقيقاً به فرم تابع اي است كه در ابتداي تحقيق معرفي شده است.

1400/04/28

Maximizing the Entropy of Copula with Given Diagonal Section

1/1/1900 12:00:00 AM

In this thesis, first we will introduce the copula and discuss its properties. After a brief introduction about entropy in the early sections, copulas with given diagonal section, with some interesting characteristics, will be presented. The main aim of this thesis, is to find the least informative copula. So that in this case we can refer or utilize datas that are more reliable and trust-worthy. Doing this task is equivalent to maximizing entropy of copula because we already know that obtaining more information or data, will result in decreasing entropy and vice versa. In addition, simple calculus illustrates that maximizing entropy is basically equivalent to minimization of Kullback-Leibler divergence. Consequently, we can work with Kullback-Leibler divergence instead of entropy and therefore we need to switch our approach and follow a different purpose. Also, some new functions are defined with new notations. Again, after some calculations and referring to some papers, minimization problem turns out to be an efficient optimization problem. With solving problems presented in this thesis, we will prove that woking on the optimization problem is much easier than minimizing entropy itself. Furthermore, it will be proved that the feasible answer which solves the optimization problem, is exactly the unique density of a copula with the highest entropy rate. Some calculations will helped us to reach an appropriate form of the optimal solution and then, we have come to this conclusion that the optimal solution is exactly of the form of the defined density function, and this was exactly the main aim of this study.

انتروپي , تابع مفصل , انتروپي نسبي , ماكزيمم انتروپي , بهينه سازي , تابع مفصل , انتروپي نسبي , كولبك ليب لر

Copula Function , Entropy , Kullback-Leibler , Maximum Entropy , Optimization , Diagonal Section , Density of Copula Function