دانلود مقاله مفاهیم آمار و تخمین‌ های بیزینی

مقدمه قبل از دو دهه اخیر پیش‌بینی‌های اقتصادی بوسیله مدلهای ساختاری انجام می‌گرفت که اکثراً منتج شده از نظریات کنیز بودند از آنجائیکه در آن دوره این مدلها نتوانستند حوادث مهم اقتصادی را پیش‌بینی نمائید بنابراین روش برداری‌های خود رگرسیونی توسعه پیدا کردند از جمله انتقاداتی که به این روش وارد می‌شود اینست که این روش به تخمین بیش از حد مبتلا می‌باشد برای رفع این مشکل یک مدل بیزینی توسط لیترمن و همکارانش توسعه پیدا کرد که در آن اعتقادات پیشین در مورد متغیرها همراه با داده‌ها ترکیب و یک چارچوب بیزینی را برای پیش‌بینی کنندگان فراهم می‌آورد از آنجاییکه این روش از اطلاعات قبلی در مورد متغیرها استفاده می‌کند این امر به ساختن پیش‌بینی‌های بیشتر اقتصادی و کمتر هنری کمک می‌کند در این فصل ابتدا مفاهیم آمار و تخمین‌های بیزینی بیان می‌شود سپس روش VAR و کاربردهای آن تشریح می‌گردد و در قسمت پایانی به تشریح روش BVAR می‌پردازیم.

ارتباط بین علوم اقتصاد و آمار: با تمرکز به مسئله کمیابی در علم اقتصاد، این علم به میزان زیادی به مسئله تصمیم‌گیری مربوط می‌باشد.

همچنانکه می‌دانیم سوخت ماشین تصمیم اطلاعات می‌باشد بنابراین روشهایی برای فراهم‌آوردن اطلاعات آماری و ارتباط آن با علم اقتصاد که منجر به تصمیم‌گیری بهینه می‌شود توسعه پیدا کرده‌اند که در چارچوب دو روش نظریه کلاسیک نمونه‌گیری و روش بیزینی در علم آمار مورد مطالعه قرار می‌گیرند.

در ذیل به شرح مختصری از این روشها پرداخته می‌شود.

روش کلاسیک نمونه‌ گیری: استنتاج آماری با استفاده از روش کلاسیک با استفاده از ویژگیهای زیر مشخص می‌شود.

الف- تخمین‌ها و روشهای آزمون بر حسب ویژگیهای موجود در نمونه آماری ارزیابی می‌شوند.

ب- احتمال یک حادثه برحسب حد فراوانی نسبی آن حادثه تعریف می‌شود.

پ- هیچ شرطی برای ورد مشاهدات غیر نمونه‌ ای (nonsample) و اطلاعات زیان (loss information) وجود ندارد.

هنگامی که تخمین پارامترها با استفاده از روش کلاسیک انجام می‌شود یک تخمین زننده بدون تورش با مینیمم واریانس مطلوب محقق می‌باشد زیرا بطور متوسط این تخمین زننده‌ها به پارامترهای حقیقی (نسبت به تخمین زننده‌های بدون تورش دیگر) نزدیکتر هستند.

در این روش تخمین فاصله‌ای و آزمون فرضیه بر حسب ویژگیهای بزرگ نمونه‌ای، نمونه‌های مورد مطالعه ارائه می‌شود همچنین در روش کلاسیک از آنجایکه پارامترها در نمونه‌های تکراری ثابت فرض می‌شوند، توزیع احتمال برای پارامترها تعیین نمی‌شود.

روش بیزین: در چارچوب بیزینی احتمال بر حسب یک درجه از اعتقادات تعریف می‌شود (هر چند که ویژگیهای تخمین زننده‌ها و آزمونهایی که بر روی نمونه آماری انجام می‌گیرید نیز مورد مطالعه قرار می‌گیرید اما پایه اصلی برای استنتاج و انتخاب تخمین زننده‌ها نمی‌باشند) در این روش احتمال یک حادثه بر حسب اعتقادات شخص در مورد اینکه این حادثه تا چه اندازه محتمل است که ظاهر شود انجام می‌گیرید این اعتقادات ممکن است به اطلاعات کمی و یا کیفی وابسته باشند اما لزوماً به فراوانی نسبی حادثه در یک نمونه بزرگ از آزمایش‌های فرضی آتی[1] وابسته نمی‌باشد بنابراین در آمار بنزینی احتمال یک مفهوم ذهنی (Subjective) و اشخاص مختلف ممکن است احتمال متفاوتی از یک حادثه را ارائه دهند همچنین ویژگی اصلی در تحلیل‌های بیزینی اینست که عدم اطمینان درباره مقدار یک پارامتر ناشناخته برحسب توزیع احتمال بیان می‌شود.

در این روش پارامترها بصورت متغیرهای تصادفی مورد مطالعه قرار می‌گیرند و بدین صورت که نتایج متفاوت از یک آزمایش مصداق‌های[2] متفاوتی از یک پارامتر بیان می‌کند، مورد ملاحظه قرار نمی گیرند.

بنابراین توزیع احتمال ذهنی بر روی یک پارامتر برحسب آگاهی شخصی، درباره آن پارامتر می‌باشد این آگاهی ممکن است قبل از مشاهده اطلاعات موجود در نمونه وجود داشته باشد که تابع توزیع این آگاهی شخصی، توزیع پیشین[3] نام دارد همچنین تابع توزیعی که از ترکیب تابع توزیع پیشین و اطلاعات نمونه حاصل می‌شود تابع توزیع پسین[4] نام دارد.

یک نکته مهم در اینجا اینست که توزیع پسین حاصله می‌تواند به عنوان یک توزیع پیشین مورد استفاده قرار گیرد زمانی که با اطلاعات نمونه‌ای دیگر در آینده مواجهه می‌شویم.

روشی که توزیع پیشین را با اطلاعات نمونه برای تشکیل توزیع پسین، ترکیب می‌کند قضیه بیز نام دارد.

طریقه بدست آوردن تابع توزیع پسین: اگر P(B/A) عبارتست از احتمال وقوع حادثه B به شرط معلوم بودن حادثه A باشد.

آنگاه می‌توان احتمال وقوع حوادث را بصورت زیر بیان کرد: از رابطه فوق نتیجه می‌شود که: که عبارت فوق به عنوان قضیه بیز شناخته می‌شود.

حال برای نشان دادن توابع توزیع پیشین و پسین فرض می‌کنیم که تابع چگالی احتمال پیوسته باشد اگر برداری از پارامترها و y برداری از مشاهدات موجود در نمونه‌ برای تابع چگالی پیوسته باشد در این صورت تابع بطور جبری‌ همانند تابع درستنمایی برای می‌باشد که همه اطلاعات نمونه‌ای در مورد را شامل می‌شود.

در چارچوب بیزینی از آنجایکه توزیع احتمال ذهنی برای وجود دارد ] برداری تصادفی می‌باشد[.

بنابراین بصورت تابع توزیع شرطی y به شرط مورد ملاحظه قرار می‌گیرید حال طبق رابطه (1-5) می‌توانیم بنویسیم: که به h تابع چگالی پیوسته برای و y ، g به تابع چگالی برای و f به تابع چگالی برای y دلالت می‌کند حال اگر عبارت فوق را بازنویسی کنیم داریم: که این عبارت همان قضیه بیز می‌باشد که در این عبارت بیانگر تابع چگالی پسین برای و بیانگر تابع چگالی پیشین برای (اطلاعات غیر نمونه‌ای در مورد ) می‌باشد.

از آنجائیکه داده‌های نمونه‌ای بصورت ثابت و معلوم در اختیار هستند در نتیجه f(y) ثابت می‌باشد بنابراین برای بدست آوردن اگر داده‌های نمونه ای y ثابت باشند می‌توانیم تابع را بصورت تابع در ستنمایی نشان دهیم بنابراین قضیه بیز بصورت زیر بیان می‌شود.

[5] که رابطه را بصورت زیر نیز می‌توانیم بیان کنیم (اطلاعات پیشین) × (اطلاعات درستنمایی) اطلاعات پسین رابطه (5-5) نشان می‌دهد که چگونه اطلاعات پیشین در مورد (که برحسب تابع چگالی پیشین بیان می‌شود) بوسیله اطلاعات نمونه‌ای (که بر حسب تابع در ستنمایی بیان می‌شود) اصلاح می‌شود تا اطلاعات پسین در مورد (که بر حسب تابع چگالی پسین بیان می‌شود) بدست آید.

نمودار (1-5) فرآیند بدست آمدن توزیع پسین را نشان می‌دهد.

تخمین نقطه‌ای سؤالی که در این قسمت با آن مواجهه می‌شویم اینست که چگونه یک تخمین نقطه‌ای برای انتخاب کنیم بطوریکه زیانهای ناشی از تخمین بیش از حد[6] و یا کمتر از مقدار واقعی[7] مینیمم گردد.

هنگامی که تخمین نقطه‌ای بیزینی را انجام می‌دهیم تخمین‌های متعددی بر اساس چگالی احتمال پسین حاصل می‌گردد.

بنابراین باید مناسبترین تخمین برای انتخاب شود که که این انتخاب بر اساس تابعی انجام می‌شود که تابع زیان[8] نام دارد اگر مقدار واقعی پارامتر و مقادیر تخمین آن باشد تابع زیان صورت بیان می‌شود.

نکته‌ای که باید به آن توجه کنیم اینست که با افزایش خطای تخمین، زیان نیز افزایش پیدا می‌کند بنابراین انتظار براینست که یک تابع افزایش از باشد همچنین تابع زیان ناشی از تخمین بیش از حد ممکن است متفاوت از تابع زیان ناشی از تخمین کمتر از مقدار واقعی باشد که در این حالت گفته می‌شود تابع زیان نامتقارن [9] است.

بسته به نوع توزیع چگالی احتمال پسین تابع زیان می‌تواند بصورت متفاوتی انتخاب گردد.

اما آنچه که بطور کلی اهمیت دارد، توجه به برخی از معیارهای گرایش به مرکز در توزیع پسین مانند میانه، میانگین و مد می‌باشد زیرا که اگر توزیع پسین غیر قرینه باشد این معیارهای تمایل به مرکز با هم متفاوت خواهند بود و مسئله انتخاب در بین آنها وجود خواهد داشت.

در قسمت بعد چند نمونه از توابع زیان معرفی می‌شود.

فرآیند رسیدن به بهینه بطور خلاصه در شکل (2-5) بیان شده است.

تابع زیان درجه دوم (quadratic loss function): برای بدست آوردن تخمین نقطه‌ای، تابع زیان درجه دوم بصورت زیر بیان می‌شود.

که c یک ثابت می‌باشد این تابع یک تابع متقارن می‌باشد زیرا زیانهای ناشی از تخمین بیش از حد همانند زیانهای ناشی از تخمین کمتر از مقدار واقعی می‌باشد همچنین این تابع از درجه دو می‌باشد زیرا زیان، تابعی درجه دو از خطای تخمین می‌باشد همچنانکه می‌دانیم ناشناخته است.

برای غلبه بر این مشکل میانگین وزنی تمام زیانهای مرتبط با همه مقادیری که در بر می‌گیرد را پیدا می‌کنیم و ی که میانگین زیانها را مینیمم کند انتخاب می‌شود، تابع وزنی که انتخاب می‌شود همان تابع توزیع پسین است (شکل تابع زیان و انتخاب متناظر با تابع زیان بهینه در شکل (3-5) نشان داده شده است).

اگر یک تخمین نقطه‌ای از باشد، در صورتی زیان برابر صفر می‌باشد که باشد در غیر اینصورت با افزایش ، L نیز افزایش می‌یابد برای بدست آوردن میانگین زیان از تابع زیر استفاده می‌شود.

تابع زیان خطای مطلق (Absolote Error Loss Function) در این حالت بصورت زیر تصریح می‌گردد زمانیکه تابع زیان بصورت قدر مطلق خطا در نظر گرفته می‌شود میزان زیان انتظاری زمانی حداقل می‌گردد که برابر با میانه توزیع باشد.[10] زمانیکه تابع زیان بصورت قدر مطلق خطا در نظر گرفته می‌شود میزان زیان انتظاری زمانی حداقل می‌گردد که برابر با میانه توزیع باشد.

تخمین بیزین ضرایب رگرسیون خطی: از آنجاییکه بدست آوردن تخمین ضرایب در رگرسیونهای دو متغیره و مرکب بیزینی، مستلزم اثباتهای طولانی می‌باشد بنابراین در این قسمت تخمین ضرایب بدون ارائه روش اثبات بیان می‌گردد.

تخمین بیزین ضرایب رگرسیون دو متغیره معادله زیر را در نظر می‌گیریم با فرض اینکه فروض کلاسیک در مورد معادله (9ـ5) صادق باشد (می‌توان فرض کرد که Xi تصادفی باشد اما در این صورت باید مستقل از Ui توزیع شده باشد و تابع چگالی احتمال آن پارامترهای را شامل نشود).

اگر از معادله (9ـ5) امید ریاضی بگیریم، میانگین شرطی بصورت زیر حاصل می‌شود.

حال با فرض اینکه n مشاهده داریم، می‌خواهیم احتمال نمونه مشاهده شده را بصورت تابعی از مقادیر و بدست آوریم در نتیجه داریم: از آنجائیکه ها مشاهده شده و معلوم هستند بنابراین عبارت بالا را به تابع درستنمایی تغییر می‌دهیم حال اگر که این تابع درستنمایی را درتابع توزیع پیشین ضرب کنیم تابع توزیع پسین بدست می‌آید اما بسته به اینکه توزیع پیشین چگونه در نظر گرفته شود، توزیع حاصل پسین زیر بصورت متفاوتی حاصل می‌شود.

تخمین بنزین در رگرسیون مرکب: در این قسمت توزیع پیشین اطلاعاتی (informative) در دو حالت مورد بررسی قرار می‌گیرد همچنین فرض می‌شود که توزیع پیشین دارای شکل مشابهی با توزیع چگالی درستنمایی باشد.

که این نوع توزیع پیشین را توزیع پیشین همانند (Conjugate) می‌نامند لحاظ این توزیع باعث می‌شود که محاسبات مربوط به انتگرال‌گیری جهت حصول توزیع‌های حاشیه‌ای ساده‌تر گردد.

توزیع پیشین اطلاعاتی برای ضرایب و عدم لحاظ آن برای : با فرض اینکه توزیع پیشین بصورت نرمال k متغیره با میانگین و ماتریس واریانس ـ کواریانس توسط محقق در نظر گرفته شده باشد همچنین واریانس معادله رگرسیونی معلوم باشد پسین حاصله برای میانگین و واریانس بصورت زیر بیان می‌شود.

که در معادلات فوق به ترتیب تخمین زن روش کلاسیک، مقدار پیشین ضرایب (میانگین پیشین توزیع)، ماتریس واریانس پیشین می‌باشد.

ملاحظه می‌شود که تخمین زن بنزین در (13ـ5) متوسط وزنی تخمین زن OLS و مقدار پیشین آن می‌باشد و F نیز به عنوان وزن واریانسهای پیشین و تابع چگالی درستنمایی می‌باشد.

توزیع پیشن اطلاعاتی برای ضرایب و : در این حالت با این فرض که مشخص نمی‌باشد توزیع پسین حاصله برای میانگین و واریانس بصورت زیر بیان می‌شود که در معادله فوق m درجه آزادی بصورت m=n-k+d می‌باشد که n تعداد مشاهدات، k تعداد پارامترهای مدل و d درجه آزادی است که بصورت پیشین توسط محقق تعیین می‌شود همچنین تخمین می‌باشد.

در واقع d نیز پارامتر پیشین برای بوده که توسط محقق تعیین می‌شود براساس دو معادله فوق مشاهده می‌شود که هرچه تعداد نمونه افزایش یابد واریانس ضرایب کوچکتر و عکس آن بزرگتر می‌شود لذا وزن بیشتری را به b یعنی تخمین زن روش کلاسیک می‌دهد بنابراین با افزایش تعداد نمونه، نتایج به نظریه کلاسیک نزدیک می‌شود.

سرچشمه مدل سازی VAR: قبل از دو دهه اخیر اقتصاد سنجی سنتی به منظور تخمین و تصریح ارتباط بین متغیرهای کلان اقتصادی از مدل‌های معادلات همزمان در مقیاس بزرگ استفاده می‌کرد از این سیستم برای پیش‌بینی‌، تحلیل سیاستی و آزمون تئوریهای اقتصادی رقیب استفاده می‌شد.

فعالیت‌های تحقیقاتی انجام گرفته توسط کمیسیون کولیز (Cowles Commissions)در ایالات متحده امریکا در دوره (1970ـ1945) براساس استفاده از این مدلها در مقیاس بزرگ بود.

این مدلها براساس شرایط تئوریکی منتج شده از نظریات کینز تصریح می‌شد.