فرض کنیم مقدار بهینه مسئله اولیه P و مقدار بهینه مسئله دوگان D است. اگر باشد یعنی فاصله دوگانگی صفر است. بنابراین شرایط دوگان قوی برقرار است.
بطور کلی ، شرط دوگان قوی برقرار نیست ، اما اگر مسئله اولیه P محدب باشد یعنی:
(که محدب اند)، معمولاً شرط دوگان قوی را داریم؛ دلایل بسیاری وجود دارد که به غیر از تحدب، شرایطی برای مسئله وجود دارند که دوگانگی قوی را برقرار می کنند. این شرایط را، شرایط مقید می نامند. یک شرط مقید ساده، شرط اسلاتر[۸] نامیده می شود:
نقطه درونی نسبی x از ناحیه شدنی وجود دارد بطوری که:
به عبارت دیگر، شرایط اسلاتر شرط کافی برای برقراری شرط دوگان قوی یک مسئله بهینه سازی محدب است. بطور کلی اگر شرایط اسلاتر برای مسئله اولیه برقرار باشد، آنگاه فاصله دوگانگی صفر است و مقدار دوگان متناهی است و در نهایت به جواب می رسیم.
تعریف ۱-۱-۶ : اگر C یک مجموعه محدب باشد، نقطه را یک نقطه درونی نسبی[۹] از C می گوییم هر گاه به ازای هر ، یک وجود داشته باشد بطوریکه به ازای برخی
مجموعه نقاط درونی نسبی C را با rint C نشان می دهیم.
خاصیت مستقل آفینی[۱۰] روش نیوتن
یک خاصیت بسیار مهم روش نیوتن این است که از تغییرات مختصات مستقل آفینی (خطی) است. فرض کنیم ، k- امین تکرار روش نیوتن باشد. نامنفرد است، تعریف می کنیم.
اگر از روش نیوتن برای مینیمم سازی با شروع داریم:
به ازای هر k، به عبارت دیگر روش نیوتن همان است، تکرارها مربوط به همان تغییر مختصات و حتی همان معیار توقف است، زیرا کاهش نیوتن در همان کاهش نیوتن f در است.
در پیاده سازی واقعی، روش نیوتن دقیقاً مستقل آفینی از مختصات نیست، اما در مقایسه با روش گرادیان و روش تندترین کاهش [۱۱]، خیلی تحت تأثیر قرار نمی گیرد.
الگوریتم روش نیوتن
نقطه شروع و داده شده است.
تکرار کن:
۱- محاسبه گام نیوتن و کاهش نیوتن
۲- محک توقف: اگر بود، متوقف شود.
۳- جستجوی خطی [۴] : اندازه t با جستجوی خطی به روز رسانی می شود.
۴- قرار دهید:
تعریف ۱-۱-۷: یک ابر صفحه[۱۱] مجموعه ای مانند است که در آن و . به عبارت دیگر ابر صفحه مجموعه جواب نابدیهی معادلات خطی مؤلفه های x است.
تعریف ۱-۱-۸: یک چند وجهی[۱۲] اشتراک تعداد متناهی از نیم فضاها و ابر صفحه ها است.
قضیه۱-۱-۱: تابع f تابعی محدب است اگر و تنها اگر تحدید آن بر هر خط که با دامنه f اشتراک داشته باشد، محدب شود. به عبارت دیگر تابع f محدب است اگر و تنها اگر به ازای تمام نقاط دامنه و به ازای هر v تابع محدب است.
تعریف۱-۱-۹: (تابع شاخص[۱۳] یک مجموعه محدب)
فرض کنید یک مجموعه محدب باشد و تابع محدب را متناظر با مجموعه محدب C به صورت زیر تعریف می کنیم (که منحصر به فرد است):
تابع محدب را تابع شاخص C می نامیم:
تعریف ۱-۱-۱۰: به مجموعه محدب و غیر تهی مخروط گفته می شود اگر:
به عبارت دیگر، یک مخروط شامل نقاط نیم خطی است که توسط نقطه ای به طول می انجامد.
یک مخروط محدب، گوشه دار[۱۴] نامیده می شود، اگر شامل هیچ خطی نباشد.
دوگان یک مخروط محدب به صورت زیر است:
قضیه ۱-۱-۲: فرض کنیم یک مخروط محدب و بسته باشد و دوگانش باشد، آنگاه:
الف) مخروط ، محدب و بسته است و
ب) مخروط K، گوشه دار است اگر و تنها اگر درون ناتهی داشته باشد.
مخروط ، گوشه دار است اگر و تنها اگر K درون ناتهی داشته باشد.
(و درون شامل همه بردارهای اکیداً مثبت s روی K است یعنی ).
۱-۲ دوگان فنچل[۱۵]
تابع محدب، سره[۱۶] و بسته f روی داده شده است که مقادیرش روی محور حقیقی قرار گرفته است (سره مربوط به دامنه تابع f (dom f) می شود یعنی مجموعه ای ناتهی که در آن f متناهی است. بسته یعنی اپی گراف تابع f بسته است) . مزدوج آن به صورت زیر تعریف می شود (تبدیل لژاندر):
که تابعی بسته، محدب و سره است و .
فرض کنیم توابعی محدب، بسته و سره روی باشند بطوری که فضای درونی دامنه تابع یک نقطه مشترک داشته باشند (درونی نسبت به پوسته های آفین دامنه هاست). قضیه دوگانگی فنچل بیان می کند که اگر تابع از پایین کراندار باشد، آنگاه:
(۱-۵) مسئله زیر را دوگان فنچل برای مسئله می نامیم:
تعریف ۱-۱-۱۱: مجموعه ای از همه ترکیبات آفین از نقاط مجموعه ی پوسته آفین از C نامیده می شود و با affC نمایش می دهیم:
پوسته ی آفین کوچکترین مجموعه آفین شامل C می باشد ، به این معنی که اگر S مجموعه ای آفین باشد که پس .
تعریف ۱-۱-۱۲: پوسته مخروطی[۱۷] مجموعه C، مجموعه ای از تمام ترکیبات مخروطی نقاط واقع در C است. یعنی: