1 بنام خدا بهینه سازی شبیه سازی Simulation Optimization Lecture 7 روش تقریب میانگین نمونه Sample Average Approximation 7- روش تقریب میانگین نمونه< سر فصل مطالب 2 شماره عنوان فصل 1-7 معرفی 2-7 تقریب 3-7 ویژگی های روش SAA 4-7 پیاده سازی-انتخاب اندازه نمونه 1
7- روش تقریب میانگین نمونه > منابع 3 منابع: Fu, Michael C; Handbook of Simulation Optimization, Springer, 2015, Chapter 8 7- روش تقریب میانگین نمونه > معرفی 4 معرفی: مساله بهینه سازی زیر را در نظر بگیرید: که در آن: روش تقریب میانگین نمونه (SAA) Sample Average Approximation برای حل چنین مساله ای از ابزار نمونه گیری و روش های بهینه سازی برای مسائل قطعی استفاده می کند که همگی دارای توزیع یکسان هستند انتخاب و ثابت در SAA مقادیر می شود بنابراین: 2
3 5-7 > هنومن نیگنا بیرقت شور یفرعم :یفرعم نیاربانب ناوت شور یاه یزاس هنی یعطق ار لح یارب هلاسم ریز راک :تفرگ هاگنآ هنی زاس ناونعب کی رگدروارب یارب باوج هنی هلاسم رد رظن هتفرگ دوش :لاوس نیا شور یارب هچ یلئاسم بسانم تسا نیا انعم هک رد هچ یلئاسم راظتنا دور اب باوج هعومجم هنی ارگمه دشاب رد اجنیا زکرمت رب لئاسم دیقمان تسا یلو نیا شور یتحار یارب لئاسم دیقم یتح هکینامز تیدودحم اه اب هدافتسا زا هیبش یزاس دروارب دنوش زین لباق لامعا تسا 6-7 > هنومن نیگنا بیرقت شور یفرعم :یفرعم -لاثم کی لاثم لوادتم هلاسم همانزور شورف تسا هک رد نآ x دحاو زا ییلااک اب تمیق c>0 یازا دحاو یرادیرخ دوش و سپ زا هدهاشم اضاقت ξ تمیق s>c هتخورف دوش فده نییعت x تسا هکیوحن دوس هنیشیب دوش دوس یارب کی یاضاقت صخشم ربارب تسا :اب نیا عبات تبسن x رعقم تسا و بیش یاراد یارب ریداقم کچوک x بیش و یفنم یارب ریداقم گرزب x تسا نیا عوضوم یارب عبات یبیرقت زین رارقرب تسا یتحار ناوت ناشن داد هک هنی رگ زا رد quantile زا زا عبات عیزوت اضاقت ینعی نا کچوک نیرت یاضاقت هدهاشم هدش خر دهد رگا ضرف مینک هک عبات عیزوت ξ رد quantile هتسویپ تسا هاگنآ اب اب نانطا لااب نیا رادقم ارگمه دوش
تقریب 7 شرط اصلی برای همگرایی بدست آمده از روش SSA به جواب بهینه حقیقی ورژن یکنواخت از قانون قوی اعداد بزرگ (ULLN) است که بصورت زیر نمایش داده می شود: زمانیکه 8 تقریب مثال- مساله روزنامه فروش چند بعدی یک تولید کننده را که p محصول از q منبع تولید می کند در نظر بگیرید برای نوع میزان منبع i مورد و نوع محصول منبع مشخص حاشیه سود واحد )درآمد منهای نیاز برای تولید یک واحد از محصول j و تعریف می شود فرض می کن این تولید کننده هزینه عملیاتی( برای محصول j پیش از اطالع یافتن درباره بردار تقاضای باید درباره بردار منبع تصم گیری نماید پس از مشخص شدن تقاضا محصوالت تصم گیری کند به نحویکه تولید کننده باید درباره بردار تولید سود عملیاتی در برنامه ریزی خطی زیر بهینه گردد: 4
تقریب 9 از آن است فرض می عضو و مثال )ادامه(- در اینجا A یک ماتریس و تابع سود عملیاتی بیشینه برای یک بردار سطح منبع مفروض کن بردار که در آن باشد بنابراین بردار تقاضای در قالب یک بردار تصادفی با تولید بهینه مربوطه است فرض می کن تقاضا مقدار مورد انتظار بیشینه سود توزیع معلوم در نظر گرفته شود همچنین عملیاتی در نظر گرفته می شود که در آن: هزینه سرمایه گذاری واحد برای برای کلیه فرض می کن منبع i باشد با در نظر گرفتن هزینه سرمایه گذاری در سود عملیاتی سود شرکت برای مقدار ثابت تعریف می شود هدف تعیین به صورت سطوح منبع x که رابطه زیر را بیشینه نماید: 10 تقریب مثال )ادامه(- با استفاده از تئوری برنامه ریزی خطی می توان نشان داد که هر دوی ویژگی های ساختاری و مقدار مورد انتظار تابع هدف تابع مسیر نمونه مناسب دارند نیز یک تابع مقعر برای هر مقدار ثابت است و در نتیجه مقعر است در صورتیکه دارای تابع توزیع گسسته باشد آنگاه هر دوی و خطی تکه ای و مقعر هستند در اینجا بر حالت تابع توزیع پیوسته تمرکز می شود و به دنبال تعیین شرایطی هست که تحت آنها تابع همواره مشتق پذیر باشد با فرض اینکه محدود است مساله دوگان مدل برنامه ریزی خطی برای به صورت زیر است: 5
تقریب 11 مثال )ادامه(- فرض می کن مقدار سایه بهینه برای محدودیت ظرفیت در مساله اصلی باشد با استفاده از تئوری دوگان می توان نشان داد: است و یک زیرگرادیان از و بنابراین در مقدار ثابت x با امید ریاضی گرفتن از رابطه قبل مشخص می شود که برای کلیه مقادیر است بنابراین یک زیرگرادیان از مشتق پذیر است و یکتا است بنابراین 12 تقریب مثال )ادامه(- تحلیل های باال نشان داد که تابع صحیح و تابع نمونه دارای ویژگی های ساختاری یکسان )همواری و تقعر( هستند این موضوع امکان حل کارای مساله روزنامه فروش چند بعدی را بوسیله روش SAA فراهم می آورد تابع تقریب میانگین نمونه خطی تکه ای و مقعر است ولی در کلیه نقاط هموار نیست بنابراین تابع تقریب میانگین نمونه می تواند به سرعت با زیاد شدن n هموار شود بنابراین در عمل می توان مقدار n را بزرگ انتخاب کرد و سپس یک الگوریتم بهینه سازی برای تابع مقعر هموار جهت حل مساله تقریب میانگین نمونه با استفاده از براوردگر گرادیان بکار گرفت 6
مثال- مساله زمانبندی اتوبوس تقریب مسافران به یک ایستگاه اتوبوس بر اساس یک فرایند پواسن با نرخ λ در بازه [0,1] وارد می شوند به دنبال تعیین برنامه زمانی زمان ورود d اتوبوس با ظرفیت محدود در این بازه زمانی هست به نحویکه مقدار مورد انتظار جمع زمان انتظار مسافران کمینه شود فرض می کن که یک اتوبوس در زمان 1 وارد ایستگاه می شود تا کلیه زمان های انتظار قابل محاسبه گردد فرض می کن نشان دهنده زمان برنامه ریزی شده ورود j امین اتوبوس نشان دهنده طول بازه زمانی بین ورود باشد که در آن و باشد که در آن جزء تصادفی ξ اتوبوس 1-j و j برای وارد برابر N تعداد مسافرانی که در بازه [0,1] با زمان های ایستگاه می شوند است 13 14 مثال)ادامه( تابع نمونه تقریب به صورت زیر نوشته می شود: ویژگی آماری-ترتیبی فرآیند پواسن می تواند برای نشان شود: دادن رابطه زیر استفاده به نحویکه محدب کوادراتیک و بنابراین هموار است تابع نمونه یک عدم پیوستگی در زمانی که زمان ورود اتوبوس با زمان ورود مسافر همزمان می شود دارد 7
15 مثال )ادامه(- تقریب مشتق پذیر است در این مساله برای هر مقدار ثابت ξ در مجموعه A با احتمال صفر گرادیان تابع نمونه مقدار غیر صفر بگیرد به جز برای یک می تواند توجه شود که گرادیان تابع نمونه اطالعات مفیدی درباره تابع حقیقی بدست دهد و بنابراین هیچ الگوریتم گرادیان مبنایی نتایج خوبی به دست نمی دهد نمی 16 قواعد اصلی به شرح زیر است: تقریب روش SAA مناسب است زمانیکه توابع تقریبی دارای ساختاری باشند که بکارگیری یک الگوریتم بهینه سازی قطعی کارا را ممکن سازد تابع که به دنبال کمینه کردن آن هست نیز دارای ساختار مشابه باشد به نحویکه ویژگی های تابع اصلی مانند محل قرار گیری بهینه محلی مشابه تابع تقریبی باشد قابل مشاهده هستند زیرا می توان آنها را در زمان محدود ایجاد کرد توابع تقریبی بصورت مستق قابل مشاهده نیست ولی می توان ویژگی های در حالیکه تابع کرد و شرایطی که استنباط را از طریق ویژگی های تابع تقریبی ساختاری برقرار است تضمین می کند این ویژگی ها در حالت حدی 8
فرض می کن x باشد تقریب قضیه 1: با در نظر گرفتن فرض می کن معناکه برای کلیه در یک مجموعه با احتمال 1 همچنین فرض کنید که خانواده از متغیرهای تصادفی نشان دهنده فضای کروی با شعاع 17 حول در x پیوسته است به این برای برخی مقادیر به صورت یکنواخت انتگرال پذیر هستند آنگاه پیوسته است نتیجه 1: با فرض اینکه شرایط قضیه باال برای برقرار باشد آنگاه پیوسته است در x در Θ 18 قضیه 2- فرض کنید: در این حالت فرضیه های قضیه 1 برقرار است و بنابراین در پیوسته است 9
19 قضیه 3- x در مقادیر درونی ثابت در نظر گرفته می شود فرض کنید در نقطه x با احتمال 1 مشتق پذیر است و را گرادیان آن تعریف می کن همچنین فرض کنید که خانواده متغیرهای تصادفی برای برخی مقادیر مشتق پذیر است و به صورت یکنواخت انتگرال پذیر است آنگاه در x نتیجه 2: با فرض اینکه شرایط قضیه 3 در کلیه نقاط درونی در نقاط درونی مشتق پذیر است و برقرار باشد آنگاه 20 فرض می کن که برای کلیه مقادیر در یک مجموعه قضیه 4- برای برخی با احتمال 1 اگر باشد آنگاه شرایط انتگرال پذیری یکنواخت قضیه 3 برقرار است 10
21 مثال: یک مخزن باید در مربع واحد قرار گیرد هر شب یک مجموعه شامل N درخواست برای برداشت در روز بعد ایجاد می شود که N دارای میانگین محدود است با فرض اینکه N محل برداشت مستقل و دارای توزیع یکسان با تابع چگالی در مربع واحد هستند این برداشت ها در یک تور توسط یک ون که در خط مستق از یک محل به محل دیگر حرکت می کند انجام می شوند )کلیه محل ها قبل از بازگشت بازدید می شوند( توالی برداشت ها به نحوی انتخاب می شود که کل مسیر طی شده کمینه شود بنابراین توالی برداشت ها یک جواب برای مساله TSP است که از انبار آغاز و به پایان می رسد در این مساله جزء تصادفی ξ شامل تعداد و محل برداشت و x مختصات انبار است هدف یافتن محل انبار است به نحویکه فاصله مورد انتظار طی شده توسط ون کمینه شود در اینجا زیر نوشت: یک نمونه از فاصله طی شده توسط ون است که می توان به صورت 22 مشتق پذیر است و مقدار مشتق آن محدود به 2 است مثال: هر تابع Lipschitz با ثابت 2 برای کلیه مقادیر ξ و π است از بنابراین رابطه اسالید قبل می توان نتیجه گرفت که نیز Lipschitz با ثابت 2 است همچنین برای مقدار ثابت x مجموعه ξ که برای آن در x مشتق پذیر نیست دارای احتمال صفر است زیرا محل های برداشت دارای چگالی هستند بنابراین در x مشتق پذیر است و 11
7- روش تقریب میانگین نمونه > ویژگی های روش SAA 23 ویژگی های روش SAA در این بخش برخی ویژگی های شناخته شده برای مسائل بهینه سازی نامقید با ویژگی های مناسب بررسی می شود منظور از ویژگی های مناسب این است که تابع نمونه از برخی ویژگی های ساختاری نظیر پیوستگی و مشتق پذیری بهره مند است ابتدا بررسی می شود که تحت چه شرایطی با افزایش اندازه نمونه n جواب بهینه و مقدار تابع هدف مساله SAA به مقادیر صحیح مساله همگرا می شوند 7- روش تقریب میانگین نمونه > ویژگی های روش SAA 24 ویژگی های روش SAA تضمین همگرایی همانطور که پیش تر نیز گفته شد همگرایی یکنواخت تابع میانگین نمونه کلیدی برای همگرایی تابع هدف و جواب بهینه در SAA است یکی از ثبات مقادیر بهینه SAA است یعنی: شرط نتایج به ترتیب مقادیر بهینه تابع هدف برای مساله SAA و مساله و که در آن می تواند در قالب اصلی هستند توجه شود که برای یک توالی ثابت در به تابع صحیح توالی از توابع قطعی در نظر گرفته شود فرض می کن به همگرا به همگرا است آنگاه برای هر توالی همگرا است 12
7- روش تقریب میانگین نمونه > ویژگی های روش SAA ویژگی های روش SAA تضمین همگرایی 25 قضیه 5: با فرض اینکه یک مجموعه بسته غیر تهی است برای هر مقدار ثابت فرض می شود که در x پیوسته است و مقدار وجود دارد به نحویکه به صورت یکنواخت انتگرال خانواده از متغیرهای تصادفی پذیر است آنگاه با میل کردن n به بی نهایت به صورت یکنواخت به همگرا است 7- روش تقریب میانگین نمونه > ویژگی های روش SAA 26 ویژگی های روش SAA تضمین همگرایی 13
7- روش تقریب میانگین نمونه > پیاده سازی- انتخاب اندازه نمونه 27 پیاده سازی پیاده سازی روش SAA ساده است زیرا تنها دو انتخاب نیاز است: اندازه نمونه که با استفاده از آن مساله مسیر نمونه ایجاد شود و روش های عددی که با استفاده از آن مساله ایجاد شده حل شود با فرض اینکه پروسه عددی با استفاده از کلیدهای گفته شده در بخش های قبل انتخاب شود تنها کار باقی مانده انتخاب اندازه نمونه مناسب است برای چنین تصم گیری سوال منطقی این است که چه اندازه نمونه کمینه ای تضمین می کند که نتیجه بدست آمده از مساله مسیر نمونه ایجاد شده با یک احتمال مشخص دارای کیفیت مورد نظر باشد 28 7- روش تقریب میانگین نمونه > پیاده سازی- انتخاب اندازه نمونه انتخاب اندازه نمونه برای و را به ترتیب جواب های ε-optimal برای و مساله نمونه به صورت زیر تعریف می کن: مساله اصلی می توان نشان داد برای هر مقدار با احتمال 1 برای مقادیر به حد کافی بزرگ برقرار است n رابطه به دنبال یافتن اندازه نمونه n که رابطه زیر را برای مقادیر مفروض تضمین می کند هست: و 14
7- روش تقریب میانگین نمونه > پیاده سازی- انتخاب اندازه نمونه 29 انتخاب اندازه نمونه بنحویکه برای هر رابطه و تابع مولد هر n که رابطه زیر را قضیه 7: با فرض اینکه وجود دارد گشتاور از متغیر تصادفی را تامین کند آنگاه برای تامین کند: تضمین می دهد که 15