सबसे तेज डिसेंट विधि का उपयोग करके किसी फ़ंक्शन का न्यूनतम ढूँढना। तीव्रतम अवतरण की विधि

समस्या का विधान

फ़ंक्शन दिया जाए एफ(एक्स) आर एन

आवश्यक एफ(एक्स) एक्स = आरएन

कार्यनीति खोजें

एक्स के } , के = 0.1,..., ऐसा है कि , के = 0.1,... . अनुक्रम बिंदु ( एक्स के ) नियम के अनुसार गणना की जाती है

बात कहां है एक्स 0 उपयोगकर्ता परिभाषित; चरण आकार टी प्रत्येक मान के लिए निर्धारित के हालत से

समस्या (3) को पर्याप्त न्यूनतम शर्त की जाँच के बाद आवश्यक न्यूनतम शर्त का उपयोग करके हल किया जा सकता है। इस पथ का उपयोग या तो किसी काफी सरल फ़ंक्शन को छोटा करने के लिए किया जा सकता है, या किसी जटिल फ़ंक्शन के प्रारंभिक अनुमान के लिए किया जा सकता है बहुपद पी(टी के) (आमतौर पर दूसरी या तीसरी डिग्री), और फिर स्थिति को स्थिति से और स्थिति को स्थिति से बदल दिया जाता है

अनुक्रमण (xk) बिंदु पर समाप्त होता है एक्स के , किस लिए , कहाँ ε - एक दी गई छोटी सकारात्मक संख्या, या के ≥ एम , कहाँ एम - पुनरावृत्तियों की सीमित संख्या, या दो असमानताओं के एक साथ निष्पादन के साथ , कहाँ ε 2 - छोटी धनात्मक संख्या. सवाल यह है कि क्या कोई बिंदु ऐसा कर सकता है? एक्स के वांछित स्थानीय न्यूनतम बिंदु का पाया गया सन्निकटन माना जाएगा एक्स* , अतिरिक्त शोध के माध्यम से हल किया जाता है।

के लिए विधि की ज्यामितीय व्याख्या एन=2 चित्र में 4.

समन्वय अवतरण विधि

समस्या का विधान

फ़ंक्शन दिया जाए एफ(एक्स) , सेट पर नीचे बंधा हुआ आर एन और इसके सभी बिंदुओं पर निरंतर आंशिक व्युत्पन्न होते हैं।

एफ(एक्स) व्यवहार्य समाधानों के सेट पर एक्स = आरएन , यानी ऐसा कोई बिंदु खोजें

कार्यनीति खोजें

समस्या को हल करने की रणनीति बिंदुओं का एक क्रम बनाना है ( एक्स के } , के = 0.1,..., ऐसा है कि , के = 0.1,... . अनुक्रम बिंदु ( एक्स के ) की गणना नियम के अनुसार चक्रों में की जाती है

(4)

कहाँ जे - गणना चक्र संख्या; जे = 0,1,2,...; के - लूप के अंदर पुनरावृत्ति संख्या, के = 0,1,... ,एन - 1; e k +1 , k = 0,l,...,n - 1 -यूनिट वेक्टर, (के+1) -जिसका प्रक्षेपण 1 के बराबर है; डॉट x 00 उपयोगकर्ता परिभाषित, चरण आकार टी शर्त से चयन किया जाता है

या .

यदि वर्तमान में चयनित स्थिति टी पूरा नहीं हुआ है, चरण आधा और अवधि है पुनः गणना की जाती है। यह देखना आसान है कि एक निश्चित j के लिए, संख्या के साथ एक पुनरावृत्ति में के बिंदु का केवल एक प्रक्षेपण बदलता है एक्स जे.के , एक नंबर होना क+1 , और पूरे चक्र के दौरान संख्या के साथ जे , यानी से शुरू के = 0 और ख़त्म के = एन -1 , बिंदु के सभी n अनुमान बदल जाते हैं x j0 . इस बिंदु के बाद एक्स जे एन नंबर आवंटित किया गया है एक्स जे + 1.0 , और इसे गणना के लिए शुरुआती बिंदु के रूप में लिया जाता है जे+1 चक्र। गणना बिंदु पर समाप्त होती है एक्स जे.के जब गिनती के तीन अंतिम मानदंडों में से कम से कम एक पूरा हो: , या , या असमानताओं का दोहरा निष्पादन।

गणना के परिणामस्वरूप प्राप्त अंकों को अनुक्रम के तत्वों के रूप में लिखा जा सकता है (एक्सएल), कहाँ एल=एन*जे+के - बिंदु की क्रम संख्या,

n = 2 के लिए विधि की ज्यामितीय व्याख्या चित्र में दिखाई गई है। 5.

4. फ्रैंक-वोल्फ विधि .

मान लीजिए हमें एक अवतल फलन का अधिकतम मान ज्ञात करना है

शर्तों के तहत

इस समस्या की एक विशेषता यह है कि इसकी बाधाओं की प्रणाली में केवल रैखिक असमानताएँ हैं। यह सुविधा अध्ययन के तहत बिंदु के आसपास के क्षेत्र में गैर-रेखीय उद्देश्य फ़ंक्शन को एक रैखिक के साथ बदलने का आधार है, जिसके कारण मूल समस्या का समाधान रैखिक प्रोग्रामिंग समस्याओं के अनुक्रमिक समाधान में कम हो जाता है।
समस्या का समाधान खोजने की प्रक्रिया समस्या के संभावित समाधान के क्षेत्र से संबंधित एक बिंदु की पहचान करने से शुरू होती है।
270
dachas बात यही रहने दीजिए एक्स(के) फिर इस बिंदु पर फ़ंक्शन के ग्रेडिएंट (57) की गणना की जाती है

और एक रैखिक फ़ंक्शन का निर्माण करें

फिर प्रतिबंध (58) और (59) के तहत इस फ़ंक्शन का अधिकतम मान ज्ञात करें। आइए इस समस्या का समाधान बिंदु से तय करें जेड(के) . फिर बिंदु के निर्देशांक को मूल समस्या के नए व्यवहार्य समाधान के रूप में लिया जाता है एक्स(के+1) :

कहाँ ठीक है - एक निश्चित संख्या जिसे गणना चरण कहा जाता है और शून्य और एक (0) के बीच संलग्न होता है<ठीक है < 1). Это число ठीक है मनमाने ढंग से लिया गया या निर्धारित किया हुआ

ताकि बिंदु पर फ़ंक्शन का मान हो एक्स (के +1) एफ(एक्स (के +1)) , इस पर निर्भर करते हुए ठीक है , अधिकतम था. ऐसा करने के लिए, आपको समीकरण का हल ढूंढना होगा और उसका सबसे छोटा मूल चुनना होगा। यदि इसका मान एक से अधिक हो तो हमें लगाना चाहिए ठीक है=1 . संख्या निर्धारित करने के बाद ठीक है किसी बिंदु के निर्देशांक ज्ञात करें एक्स(के+1) इसमें उद्देश्य फ़ंक्शन के मूल्य की गणना करें और एक नए बिंदु पर जाने की आवश्यकता निर्धारित करें एक्स(के+2) . यदि ऐसी कोई आवश्यकता है तो बिंदु पर गणना करें एक्स(के+1) ऑब्जेक्टिव फ़ंक्शन का ग्रेडिएंट, संबंधित रैखिक प्रोग्रामिंग समस्या पर जाएं और उसका समाधान ढूंढें। बिंदु के निर्देशांक निर्धारित करें और एक्स(के+2) और आगे की गणना की आवश्यकता की जांच करें। चरणों की एक सीमित संख्या के बाद, आवश्यक सटीकता के साथ मूल समस्या का समाधान प्राप्त होता है।

तो, फ्रैंक-वोल्फ पद्धति का उपयोग करके समस्या (57) - (59) का समाधान खोजने की प्रक्रिया में निम्नलिखित चरण शामिल हैं:

1. समस्या का प्रारंभिक व्यवहार्य समाधान निर्धारित करें।
2. स्वीकार्य समाधान के बिंदु पर फ़ंक्शन (57) का ग्रेडिएंट खोजें।
3. फ़ंक्शन (60) का निर्माण करें और शर्तों (58) और (59) के तहत इसका अधिकतम मान ज्ञात करें।
4. गणना चरण निर्धारित करें.
5. सूत्र (61) का उपयोग करके एक नए व्यवहार्य समाधान के घटक ढूंढे जाते हैं।
6. अगले संभावित समाधान पर जाने की आवश्यकता की जाँच करें। यदि आवश्यक हो, तो चरण 2 पर आगे बढ़ें, अन्यथा मूल समस्या का स्वीकार्य समाधान मिल जाएगा।

दण्ड कार्यों की विधि.

अवतल फलन का अधिकतम मान निर्धारित करने की समस्या पर विचार करें

एफ (एक्स 1, एक्स 2, .... एक्स एन)शर्तों के तहत जी मैं (एक्स 1, एक्स 2, .... एक्स एन) ≤ बी आई (आई=एल, एम) , x j ≥ 0 (j=1, n) , कहाँ जी मैं (एक्स 1, एक्स 2, .... एक्स एन) - उत्तल कार्य.

इस समस्या को सीधे हल करने के बजाय, फ़ंक्शन का अधिकतम मान ज्ञात करें एफ(एक्स 1, एक्स 2, ...., एक्स एन)= एफ(एक्स 1, एक्स 2, ...., एक्स एन) +एच(एक्स 1, एक्स 2, ...., एक्स एन) जो समस्या के वस्तुनिष्ठ कार्य और कुछ कार्य का योग है

एच(एक्स 1, एक्स 2, ...., एक्स एन), प्रतिबंधों की एक प्रणाली द्वारा परिभाषित और कहा जाता है दंड समारोह. दंड समारोह का निर्माण विभिन्न तरीकों से किया जा सकता है। हालाँकि, अधिकतर ऐसा ही दिखता है

ए ए मैं > 0 - भार गुणांक का प्रतिनिधित्व करने वाली कुछ स्थिर संख्याएँ।
दंड फ़ंक्शन का उपयोग करते हुए, वे क्रमिक रूप से एक बिंदु से दूसरे बिंदु तक जाते हैं जब तक कि उन्हें स्वीकार्य समाधान नहीं मिल जाता। इस स्थिति में, अगले बिंदु के निर्देशांक सूत्र का उपयोग करके पाए जाते हैं

अंतिम संबंध से यह निष्कर्ष निकलता है कि यदि पिछला बिंदु मूल समस्या के व्यवहार्य समाधान के क्षेत्र में है, तो वर्ग कोष्ठक में दूसरा पद शून्य के बराबर है और अगले बिंदु पर संक्रमण केवल उद्देश्य की ढाल से निर्धारित होता है समारोह। यदि निर्दिष्ट बिंदु स्वीकार्य समाधानों के क्षेत्र से संबंधित नहीं है, तो बाद के पुनरावृत्तियों में इस शब्द के कारण स्वीकार्य समाधानों के क्षेत्र में वापसी प्राप्त की जाती है
निर्णय. साथ ही, उतना ही कम एक मैं जितनी जल्दी कोई स्वीकार्य समाधान मिल जाता है, लेकिन उसके निर्धारण की सटीकता कम हो जाती है। इसलिए, पुनरावृत्तीय प्रक्रिया आमतौर पर अपेक्षाकृत छोटे मूल्यों पर शुरू होती है एक मैं और, इसे जारी रखते हुए, ये मूल्य धीरे-धीरे बढ़ते हैं।

तो, पेनल्टी फ़ंक्शन विधि का उपयोग करके उत्तल प्रोग्रामिंग समस्या का समाधान खोजने की प्रक्रिया में निम्नलिखित चरण शामिल हैं:

1. प्रारंभिक व्यवहार्य समाधान निर्धारित करें.
2. गणना चरण का चयन करें.
3. सभी चरों के लिए, उद्देश्य फ़ंक्शन और फ़ंक्शन के आंशिक व्युत्पन्न खोजें जो समस्या के व्यवहार्य समाधानों की सीमा निर्धारित करते हैं।

4. सूत्र (72) का उपयोग करके, उस बिंदु के निर्देशांक ढूंढे जाते हैं जो समस्या का संभावित नया समाधान निर्धारित करते हैं।
5. जांचें कि क्या पाए गए बिंदु के निर्देशांक समस्या बाधाओं की प्रणाली को संतुष्ट करते हैं। यदि नहीं, तो अगले चरण पर आगे बढ़ें। यदि पाए गए बिंदु के निर्देशांक समस्या का स्वीकार्य समाधान निर्धारित करते हैं, तो अगले स्वीकार्य समाधान पर जाने की आवश्यकता की जांच की जाती है। यदि आवश्यक हो, तो चरण 2 पर आगे बढ़ें, अन्यथा मूल समस्या का एक स्वीकार्य समाधान मिल गया है।
6. भारांक गुणांकों का मान निर्धारित करें और चरण 4 पर आगे बढ़ें।

एरो-हर्विट्ज़ विधि.

पेनल्टी फ़ंक्शन विधि का उपयोग करके नॉनलाइनियर प्रोग्रामिंग समस्याओं का समाधान ढूंढते समय, हमने मानों को चुना एक मैं , मनमाने ढंग से, जिसके कारण व्यवहार्य समाधान के क्षेत्र से निर्धारित बिंदुओं की दूरी में महत्वपूर्ण उतार-चढ़ाव आया। एरो-हर्विट्ज़ विधि द्वारा समस्या को हल करने पर यह कमी समाप्त हो जाती है, जिसके अनुसार अगले चरण में संख्याएँ ए मैं (के) सूत्र द्वारा गणना की गई

प्रारंभिक मूल्यों के रूप में ए मैं (0) मनमानी गैर-नकारात्मक संख्याएँ लें।

उदाहरण समाधान

उदाहरण 1.

किसी फ़ंक्शन का स्थानीय न्यूनतम ज्ञात करें

एक बिंदु को परिभाषित करना एक्स के

1. चलो सेट करें.

2. डालते हैं के = 0 .

3 0 . चलिए हिसाब लगाते हैं

4 0 . चलिए हिसाब लगाते हैं . चलिए चरण 5 पर चलते हैं।

5 0 . आइए स्थिति की जाँच करें . चलिए चरण 6 पर चलते हैं।

6 0 . आइए सेट करें t0 = 0.5 .

7 0 . चलिए हिसाब लगाते हैं

8 0 . आइए तुलना करें . हमारे पास है . निष्कर्ष: के लिए शर्त के = 0 निष्पादित नहीं किया जाता है. आइए सेट करें t0 = 0.25 , चरण 7, 8 को दोहराने के लिए आगे बढ़ें।

7 01. चलिए हिसाब लगाते हैं.

8 01. आइए तुलना करें एफ (एक्स 1) और एफ (एक्स 0) . निष्कर्ष: एफ (एक्स 1)< f (x 0) . चलिए चरण 9 पर चलते हैं।

9 0 . चलिए हिसाब लगाते हैं

निष्कर्ष: हम विश्वास करते हैं क =1 और चरण 3 पर जाएँ.

3 1. चलिए हिसाब लगाते हैं

4 1. चलिए हिसाब लगाते हैं . चलिए चरण 5 पर चलते हैं।

5 1. आइए स्थिति की जाँच करें के ≥ एम: के = 1< 10 = M . चलिए चरण 6 पर चलते हैं।

6 1. आइए सेट करें टी 1 = 0.25.

7 1. चलिए हिसाब लगाते हैं

8 1. आइए तुलना करें एफ (एक्स 2) एफ (एक्स 1) के साथ . निष्कर्ष: एफ (एक्स 2)< f (х 1). चलिए चरण 9 पर चलते हैं।

9 1. चलिए हिसाब लगाते हैं

निष्कर्ष: हम विश्वास करते हैं के = 2 और चरण 3 पर जाएँ.

3 2. चलिए हिसाब लगाते हैं

4 2. चलिए हिसाब लगाते हैं. चलिए चरण 5 पर चलते हैं।

5 2. आइए स्थिति की जाँच करें के ≥ एम : के = 2< 10 = М , चरण 6 पर जाएँ।

6 2. आइए सेट करें टी 2 =0,25 .

7 2. चलिए हिसाब लगाते हैं

8 2. आइए तुलना करें एफ (एक्स 3) और एफ (एक्स 2) . निष्कर्ष: एफ (एक्स 3)< f (х 2) .चरण 9 पर जाएँ.

9 2. चलिए हिसाब लगाते हैं

निष्कर्ष: हम विश्वास करते हैं के = 3 और चरण 3 पर जाएँ.

3 3 . चलिए हिसाब लगाते हैं

4 3 . चलिए हिसाब लगाते हैं. चलिए चरण 5 पर चलते हैं।

5 3. आइए स्थिति की जाँच करें के ≥ एम : के = 3<10 = М , चरण 6 पर जाएँ।

6 3. आइए सेट करें टी 3 = 0.25.

7 3. चलिए हिसाब लगाते हैं

8 3. आइए तुलना करें एफ (x 4) और एफ (एक्स 3) : एफ (एक्स 4)< f (х 3) .

9 3. चलिए हिसाब लगाते हैं

शर्तें पूरी होती हैं जब के = 2.3 . गणना

खत्म। बिंदु मिल गया

चित्र में. 3 परिणामी बिंदु एक बिंदीदार रेखा से जुड़े हुए हैं।

द्वितीय. बिंदु विश्लेषण एक्स 4 .

समारोह दो बार अवकलनीय है, इसलिए हम बिंदु पर न्यूनतम के लिए पर्याप्त शर्तों की जांच करेंगे एक्स 4 . ऐसा करने के लिए, आइए हेस्सियन मैट्रिक्स का विश्लेषण करें।

मैट्रिक्स स्थिर और सकारात्मक निश्चित है (अर्थात् . एच > 0 ) चूँकि इसके दोनों कोणीय अवयस्क धनात्मक हैं। इसलिए, बात स्थानीय न्यूनतम बिंदु और मान का पाया गया अनुमान है मूल्य का पाया गया अनुमान है एफ (एक्स *) =0 . ध्यान दें कि शर्त एच > 0 , साथ ही फ़ंक्शन की सख्त उत्तलता के लिए एक शर्त भी है . नतीजतन, वैश्विक न्यूनतम बिंदु के अनुमान पाए जाते हैं एफ(एक्स) और इसका न्यूनतम मूल्य आर 2 . ■

उदाहरण 2

किसी फ़ंक्शन का स्थानीय न्यूनतम ज्ञात करें

I. एक बिंदु की परिभाषा एक्स के, जिसमें गणना पूरी करने के लिए कम से कम एक मानदंड पूरा होता है।

1. चलो सेट करें.

आइए एक मनमाने बिंदु पर फ़ंक्शन का ग्रेडिएंट ज्ञात करें

2. डालते हैं के = 0 .

3 0 . चलिए हिसाब लगाते हैं

4 0 . चलिए हिसाब लगाते हैं . चलिए चरण 5 पर चलते हैं।

5 0 . आइए स्थिति की जाँच करें . चलिए चरण 6 पर चलते हैं।

6° अगला बिंदु सूत्र द्वारा पाया जाता है

आइए हम निर्देशांकों के लिए परिणामी व्यंजकों को प्रतिस्थापित करें

आइए फ़ंक्शन का न्यूनतम ज्ञात करें एफ(टी 0) द्वारा टी 0 बिना शर्त चरम सीमा के लिए आवश्यक शर्तों का उपयोग करना:

यहाँ से टी 0 =0.24 . क्योंकि , पाया गया चरण मान न्यूनतम फ़ंक्शन प्रदान करता है एफ(टी 0) द्वारा टी 0 .

आइए परिभाषित करें

7 0 . हम ढूंढ लेंगे

8°. चलिए हिसाब लगाते हैं

निष्कर्ष: हम विश्वास करते हैं के = 1 और चरण 3 पर जाएँ.

3 1. चलिए हिसाब लगाते हैं

4 1. चलिए हिसाब लगाते हैं

5 1. आइए स्थिति की जाँच करें के ≥ 1: के = 1< 10 = М.

6 1. आइए परिभाषित करें

7 1. हम ढूंढ लेंगे :

8 1. चलिए हिसाब लगाते हैं

हमें यकीन है के = 2 और चरण 3 पर जाएँ.

3 2. चलिए हिसाब लगाते हैं

4 2. चलिए हिसाब लगाते हैं

5 2. आइए स्थिति की जाँच करें के ≥ एम: के = 2< 10 = M .

6 2. आइए परिभाषित करें

7 2. हम ढूंढ लेंगे

8 2. चलिए हिसाब लगाते हैं

हमें यकीन है क =3 और चरण 3 पर जाएँ.

3 3 . चलिए हिसाब लगाते हैं

4 3 . चलिए हिसाब लगाते हैं.

गणना पूरी हो गई है. बिंदु मिल गया

द्वितीय. बिंदु विश्लेषण एक्स 3 .

उदाहरण 1.1 (अध्याय 2 §1) में यह दिखाया गया था कि फ़ंक्शन एफ(एक्स) सख्ती से उत्तल है और इसलिए, बिंदु 3 पर वैश्विक न्यूनतम बिंदु का अनुमान पाया जाता है एक्स* .

उदाहरण 3.

किसी फ़ंक्शन का स्थानीय न्यूनतम ज्ञात करें

I. एक बिंदु की परिभाषा xjk , जिसमें गणना पूरी करने के लिए कम से कम एक मानदंड पूरा होता है।

1. चलो सेट करें

आइए एक मनमाने बिंदु पर फ़ंक्शन का ग्रेडिएंट ज्ञात करें

2. चलिए सेट करते हैं जे = 0.

3 0 . आइए जाँच करें कि क्या शर्त पूरी हुई है

4 0 . आइए सेट करें के = 0.

5 0 . आइए देखें कि क्या शर्त पूरी हुई है

6 0 . चलिए हिसाब लगाते हैं

7 0 . आइए स्थिति की जाँच करें

8 0 . आइए सेट करें

9 0 . चलिए हिसाब लगाते हैं , कहाँ

10 0 . आइए स्थिति की जाँच करें

निष्कर्ष: हम मान लेते हैं और चरण 9 पर आगे बढ़ते हैं।

9 01. चलिए हिसाब लगाते हैं x 01 वेतन वृद्धि में

10 01. आइए स्थिति की जाँच करें

11 0 . आइए शर्तों की जाँच करें

हमें यकीन है क =1 और चरण 5 पर जाएं.

5 1. आइए स्थिति की जाँच करें

6 1. चलिए हिसाब लगाते हैं

7 1. आइए स्थिति की जाँच करें

8 1. आइए सेट करें

9 1. चलिए हिसाब लगाते हैं

10 1. आइए स्थिति की जाँच करें :

11 1. आइए शर्तों की जाँच करें

हमें यकीन है के = 2 , चरण 5 पर जाएँ।

5 2. आइए स्थिति की जाँच करें। आइए सेट करें, चरण 3 पर जाएं।

3 1. आइए स्थिति की जाँच करें

4 1. आइए सेट करें के = 0.

5 2. आइए स्थिति की जाँच करें

6 2. चलिए हिसाब लगाते हैं

7 2. आइए स्थिति की जाँच करें

8 2. आइए सेट करें

9 2. चलिए हिसाब लगाते हैं

10 2. आइए स्थिति की जाँच करें

11 2. आइए शर्तों की जाँच करें

हमें यकीन है क =1 और चरण 5 पर जाएं.

5 3. आइए स्थिति की जाँच करें

6 3. चलिए हिसाब लगाते हैं

7 3. आइए शर्तों की जाँच करें

8 3. आइए सेट करें

9 3. चलिए हिसाब लगाते हैं

10 3. आइए स्थिति की जाँच करें

11 3. आइए शर्तों की जाँच करें

आइए सेट करें के = 2 और चरण 5 पर जाएं.

5 4 . आइए स्थिति की जाँच करें

हमें यकीन है जे = 2, एक्स 20 = एक्स 12 और चरण 3 पर जाएँ.

3 2. आइए स्थिति की जाँच करें

4 2. आइए सेट करें क =0 .

5 4 . आइए स्थिति की जाँच करें

6 4. चलिए हिसाब लगाते हैं

7 4. आइए स्थिति की जाँच करें

8 4 . आइए सेट करें

9 4. चलिए हिसाब लगाते हैं

10 4. आइए स्थिति की जाँच करें और चरण 11 पर आगे बढ़ें।

11 4. आइए शर्तों की जाँच करें

शर्तें संख्याओं के साथ लगातार दो चक्रों में पूरी होती हैं जे=2 और जे -1= 1 . हिसाब पूरा हो गया, बात मिल गई

चित्र में. 6 परिणामी बिंदु एक बिंदीदार रेखा से जुड़े हुए हैं।

समन्वय वंश विधि में, हम एक टूटी हुई रेखा के साथ उतरते हैं जिसमें समन्वय अक्षों के समानांतर सीधे खंड होते हैं।

द्वितीय. बिंदु x21 का विश्लेषण।

उदाहरण 1.1 में यह दिखाया गया कि फ़ंक्शन एफ(एक्स) पूर्णतः उत्तल है, इसका एक अद्वितीय न्यूनतम है और इसलिए, एक बिंदु है वैश्विक न्यूनतम बिंदु का पाया गया अनुमान है।

ऊपर चर्चा की गई सभी ग्रेडिएंट विधियों में, बिंदुओं का क्रम (xk) फ़ंक्शन के स्थिर बिंदु पर अभिसरण होता है एफ(एक्स) इस फ़ंक्शन के गुणों के संबंध में काफी सामान्य प्रस्तावों के साथ। विशेष रूप से, प्रमेय सत्य है:

प्रमेय. यदि फ़ंक्शन f(x) नीचे परिबद्ध है, तो इसका ग्रेडिएंट लिप्सचिट्ज़ स्थिति () और मान की पसंद को संतुष्ट करता है तमिलनाडु ऊपर वर्णित विधियों में से किसी एक द्वारा उत्पादित, चाहे प्रारंभिक बिंदु कुछ भी हो एक्स 0 :

पर ।

योजना के व्यवहारिक क्रियान्वयन में

क =1, 2, …एन.

यदि सभी के लिए पुनरावृत्तियाँ रुक जाएँ मैं, मैं = 1, 2, ..., एन , जैसी स्थितियाँ

,

न्यूनतम खोजने की सटीकता को दर्शाने वाली एक निश्चित संख्या कहां है।

प्रमेय की शर्तों के तहत, ग्रेडिएंट विधि फ़ंक्शन में या सटीक निचली सीमा (यदि फ़ंक्शन) में अभिसरण सुनिश्चित करती है एफ(एक्स) कोई न्यूनतम नहीं है; चावल। 7), या किसी स्थिर बिंदु पर फ़ंक्शन के मान तक, जो अनुक्रम की सीमा है (एक्स के). जब इस बिंदु पर एक काठी का एहसास होता है, तो उदाहरण देना मुश्किल नहीं है, और न्यूनतम नहीं। व्यवहार में, ग्रेडिएंट डिसेंट विधियाँ आत्मविश्वास से सैडल पॉइंट्स को बायपास करती हैं और ऑब्जेक्टिव फ़ंक्शन का न्यूनतम (सामान्य मामले में, स्थानीय वाले) ढूंढती हैं।

निष्कर्ष

ग्रेडिएंट अप्रतिबंधित अनुकूलन विधियों के उदाहरणों पर ऊपर चर्चा की गई थी। किए गए कार्य के परिणामस्वरूप, निम्नलिखित निष्कर्ष निकाले जा सकते हैं:

1. प्रतिबंधों की उपस्थिति में चरम सीमा खोजने की अधिक या कम जटिल समस्याओं के लिए विशेष दृष्टिकोण और तरीकों की आवश्यकता होती है।

2. सीमित समस्याओं को हल करने के लिए कई एल्गोरिदम में कुछ कदम के रूप में अप्रतिबंधित न्यूनतमकरण शामिल है।

3. अलग-अलग वंश विधियां वंश की दिशा और इस दिशा में चरण की लंबाई का चयन करने के तरीके में एक-दूसरे से भिन्न होती हैं।

4. अभी तक ऐसा कोई सिद्धांत नहीं है जो समस्या के निरूपण का वर्णन करने वाले कार्यों की किसी भी विशेषता को ध्यान में रखेगा। किसी समस्या को हल करने की प्रक्रिया में उन तरीकों को प्राथमिकता दी जानी चाहिए जिन्हें प्रबंधित करना आसान हो।

वास्तविक अनुप्रयुक्त अनुकूलन समस्याएँ बहुत जटिल हैं। आधुनिक अनुकूलन विधियाँ हमेशा मानवीय सहायता के बिना वास्तविक समस्याओं को हल करने में सक्षम नहीं होती हैं।

प्रतिक्रिया दें संदर्भ

1. कोसोरुकोव ओ.ए. संचालन अनुसंधान: एक पाठ्यपुस्तक। 2003

2. पेंटलीव ए.वी. उदाहरणों और समस्याओं में अनुकूलन के तरीके: पाठ्यपुस्तक। फ़ायदा। 2005

3. शिश्किन ई.वी. संचालन अनुसंधान: पाठ्यपुस्तक। 2006

4. अकुलिच आई.एल. उदाहरणों और समस्याओं में गणितीय प्रोग्रामिंग। 1986

5. वेंटज़ेल ई.एस. गतिविधि अनुसंधान। 1980

6. वेंटज़ेल ई.एस., ओवचारोव एल.ए. संभाव्यता सिद्धांत और इसके इंजीनियरिंग अनुप्रयोग। 1988

©2015-2019 साइट
सभी अधिकार उनके लेखकों के हैं। यह साइट लेखकत्व का दावा नहीं करती, लेकिन निःशुल्क उपयोग प्रदान करती है।
पेज निर्माण तिथि: 2017-07-02

एनोटेशन: यह व्याख्यान व्यापक रूप से सबसे तेज वंश विधि और डेविडन-फ्लेचर-पॉवेल विधि जैसे मल्टीपैरामीटर अनुकूलन विधियों को शामिल करता है। इसके अलावा, सबसे प्रभावी तरीका निर्धारित करने के लिए उपरोक्त तरीकों का तुलनात्मक विश्लेषण किया जाता है, उनके फायदे और नुकसान की पहचान की जाती है; और बहुआयामी अनुकूलन समस्याओं पर भी विचार करता है, जैसे कि रैविन विधि और मल्टीएक्सट्रीमल विधि।

1. सबसे तीव्र अवतरण की विधि

इस पद्धति का सार यह है कि पहले बताए गए का उपयोग करना समन्वय वंश विधिकिसी एक अक्ष के समानांतर दिशा में किसी दिए गए बिंदु से इस दिशा में न्यूनतम बिंदु तक खोज की जाती है। फिर खोज अन्य अक्ष के समानांतर दिशा में की जाती है, इत्यादि। निःसंदेह, दिशाएँ निश्चित हैं। इस पद्धति को संशोधित करने का प्रयास करना उचित प्रतीत होता है ताकि प्रत्येक चरण में न्यूनतम बिंदु की खोज "सर्वोत्तम" दिशा में की जा सके। यह स्पष्ट नहीं है कि कौन सी दिशा "सर्वश्रेष्ठ" है, लेकिन यह ज्ञात है ढाल दिशाफ़ंक्शन में सबसे तेज़ वृद्धि की दिशा है। इसलिए, विपरीत दिशा फ़ंक्शन की सबसे तेज़ कमी की दिशा है। इस संपत्ति को निम्नानुसार उचित ठहराया जा सकता है।

आइए मान लें कि हम बिंदु x से अगले बिंदु x + hd पर जा रहे हैं, जहां d एक निश्चित दिशा है और h एक निश्चित लंबाई का एक चरण है। नतीजतन, आंदोलन बिंदु (x 1, x 2, ..., x n) से बिंदु तक किया जाता है (x 1 + zx 1, x 2 + zx 2, ..., x n + zx n), कहाँ

फ़ंक्शन मानों में परिवर्तन संबंधों द्वारा निर्धारित होता है

(1.3)

पहले क्रम zx i तक, आंशिक व्युत्पन्न की गणना बिंदु x पर की जाती है। फ़ंक्शन df में परिवर्तन का सबसे बड़ा मूल्य प्राप्त करने के लिए दिशा d i को कैसे चुना जाना चाहिए जो समीकरण (1.2) को संतुष्ट करता है? यहीं पर बाधा के साथ अधिकतमीकरण की समस्या उत्पन्न होती है। आइए हम लैग्रेंज मल्टीप्लायरों की विधि लागू करें, जिसकी सहायता से हम फ़ंक्शन निर्धारित करते हैं

मान df संतोषजनक बाधा (1.2) फ़ंक्शन होने पर अपने अधिकतम तक पहुँच जाता है

अधिकतम तक पहुँचता है. इसका व्युत्पन्न

इस तरह,

(1.6)

फिर di ~ df/dx i और दिशा d बिंदु x पर दिशा V/(x) के समानांतर है।

इस प्रकार, सबसे बड़ी स्थानीय वृद्धिकिसी दिए गए छोटे चरण h के लिए फ़ंक्शन तब होता है जब d Vf(x) या g(x) की दिशा है। इसलिए, सबसे तीव्र ढलान की दिशा ही दिशा है

सरल रूप में, समीकरण (1.3) को इस प्रकार लिखा जा सकता है:

सदिश Vf(x) और dx के बीच का कोण कहाँ है। dx के दिए गए मान के लिए, हम यह चुनकर df को न्यूनतम करते हैं कि dx की दिशा -Vf(x) की दिशा से मेल खाती है।

टिप्पणी. ढाल दिशास्थिर स्तर की रेखा पर किसी भी बिंदु के लंबवत, क्योंकि इस रेखा के साथ कार्य स्थिर होता है। इस प्रकार, यदि (डी 1, डी 2, ..., डी एन) स्तर रेखा के साथ एक छोटा कदम है, तो

और इसलिए

(1.8)

सेवा का उद्देश्य. ऑनलाइन कैलकुलेटर खोजने के लिए उपयोग किया जाता है न्यूनतम कार्यतीव्रतम अवतरण विधि या कॉची विधि(उदाहरण देखें). समाधान वर्ड फॉर्मेट में तैयार किया गया है।

एफ(एक्स 1 ,एक्स 2) =

ढूँढ़ने के लिए अधिकतम कार्य, उद्देश्य फ़ंक्शन को (-1) से गुणा करना आवश्यक है, अर्थात। एफमिन = -एफमैक्स।
किसी फ़ंक्शन का न्यूनतम ज्ञात करने की विधितीव्रतम अवतरण की विधि न्यूटन की विधि
एक बिंदु से शुरू ( ; ) .
सटीकता ξ = . पुनरावृत्तियों की संख्या 1 2 3

किसी फ़ंक्शन में प्रवेश करने के नियम

में सबसे तीव्र अवतरण विधिएक वेक्टर जिसकी दिशा फ़ंक्शन ▽f(x) के ग्रेडिएंट वेक्टर की दिशा के विपरीत है, को खोज दिशा के रूप में चुना गया है। गणितीय विश्लेषण से यह ज्ञात होता है कि वेक्टर ग्रेड f(x)=▽f(x) फ़ंक्शन में सबसे तेज़ वृद्धि की दिशा को दर्शाता है (फ़ंक्शन का ग्रेडिएंट देखें)। इसलिए, वेक्टर - grad f (X) = -▽f(X) कहा जाता है विरोधी ढालऔर इसकी सबसे तेज गिरावट की दिशा है. पुनरावृत्ति संबंध जिसके साथ सबसे तेज वंश विधि लागू की जाती है उसका रूप X k +1 =X k - λ k ▽f(x k), k = 0,1,... है।
जहां λ k >0 चरण आकार है। चरण आकार की पसंद के आधार पर, आप ग्रेडिएंट विधि के लिए विभिन्न विकल्प प्राप्त कर सकते हैं। यदि अनुकूलन प्रक्रिया के दौरान चरण आकार λ निश्चित है, तो विधि को असतत चरण के साथ ग्रेडिएंट विधि कहा जाता है। यदि λ k को शर्त λ k =min f(X k + λS k) से चुना जाए तो पहले पुनरावृत्तियों में अनुकूलन प्रक्रिया को काफी तेज किया जा सकता है।
λ k निर्धारित करने के लिए, किसी एक-आयामी अनुकूलन विधि का उपयोग किया जाता है। इस मामले में, विधि को सबसे तीव्र अवतरण विधि कहा जाता है। एक नियम के रूप में, सामान्य मामले में, न्यूनतम फ़ंक्शन प्राप्त करने के लिए एक कदम पर्याप्त नहीं है; प्रक्रिया तब तक दोहराई जाती है जब तक कि बाद की गणना परिणाम में सुधार करने की अनुमति न दे।
यदि स्थान कुछ चर में बहुत लम्बा है, तो एक "खड्ड" बनता है। खोज धीमी हो सकती है और "खड्ड" के नीचे टेढ़ी-मेढ़ी हो सकती है। कभी-कभी उचित समय में समाधान नहीं मिल पाता।
विधि का एक और नुकसान रुकने की कसौटी हो सकता है ||▽f(X k)||<ε k , так как этому условию удовлетворяет и седловая точка, а не только оптимум.

उदाहरण। बिंदु x k =(-2, 3) से प्रारंभ करते हुए, फ़ंक्शन को न्यूनतम करने के लिए सबसे तेज़ डिसेंट विधि का उपयोग करके बिंदु x k +1 निर्धारित करें।
खोज दिशा के रूप में, वर्तमान बिंदु पर ग्रेडिएंट वेक्टर का चयन करें

आइए रुकने की कसौटी की जाँच करें। हमारे पास है
आइए प्रारंभिक बिंदु f(X 1) = 35 पर फ़ंक्शन के मान की गणना करें। आइए करते हैं
प्रतिगामी दिशा की ओर कदम बढ़ाएँ

आइए एक नए बिंदु पर फ़ंक्शन के मान की गणना करें
f(X 2) = 3(-2 + 19λ 1) 2 + (3-8λ 1) 2 - (-2 + 19λ 1)(3-8λ 1) - 4(-2 + 19λ 1)
आइए हम ऐसा कदम खोजें जिससे उद्देश्य फलन इस दिशा में न्यूनतम तक पहुंच जाए। फ़ंक्शन के चरम के अस्तित्व के लिए आवश्यक शर्त से
f'(X 2) = 6(-2 + 19λ 1) 19 + 2(3-8λ 1)(-8) – (73 - 304 λ 1) – 4*19
या f'(X 2) = 2598 λ 1 – 425 = 0.
हमें चरण λ 1 = 0.164 प्राप्त होता है
इस चरण को पूरा करने से बात सामने आएगी

जिसमें ग्रेडिएंट वैल्यू है , फ़ंक्शन मान f(X 2) = 0.23. सटीकता हासिल नहीं की जाती है, जिस बिंदु से हम एंटीग्रेडिएंट की दिशा में एक कदम उठाते हैं।

f(X 2) = 3(1.116 – 1.008λ 1) 2 + (1.688-2.26λ 1) 2 - (1.116 – 1.008λ 1)(1.688-2.26λ 1) - 4(1.116 – 1.008λ 1)
एफ'(एक्स 2) = 11.76 – 6.12λ 1 = 0
हमें λ 1 = 0.52 मिलता है

आप ग्रेडिएंट की दिशा में सबसे अच्छे बिंदु के लिए नहीं, बल्कि वर्तमान से बेहतर किसी बिंदु के लिए भी खोज कर सकते हैं।

सभी स्थानीय अनुकूलन विधियों को लागू करना सबसे आसान है। इसमें अभिसरण की स्थितियाँ कमजोर हैं, लेकिन अभिसरण की दर काफी कम (रैखिक) है। ग्रेडिएंट विधि चरण का उपयोग अक्सर अन्य अनुकूलन विधियों के भाग के रूप में किया जाता है, जैसे कि फ्लेचर-रीव्स विधि।

विवरण [ | ]

सुधार[ | ]

खड्ड के साथ चलते समय ग्रेडिएंट डिसेंट विधि बहुत धीमी हो जाती है, और जैसे-जैसे उद्देश्य फ़ंक्शन में चर की संख्या बढ़ती है, विधि का यह व्यवहार विशिष्ट हो जाता है। इस घटना से निपटने के लिए इसका उपयोग किया जाता है, जिसका सार बहुत सरल है। ग्रेडिएंट डिसेंट के दो चरण बनाने और तीन बिंदु प्राप्त करने के बाद, तीसरा चरण खड्ड के तल के साथ पहले और तीसरे बिंदु को जोड़ने वाले वेक्टर की दिशा में उठाया जाना चाहिए।

द्विघात के करीब के कार्यों के लिए, संयुग्म ग्रेडिएंट विधि प्रभावी है।

कृत्रिम तंत्रिका नेटवर्क में अनुप्रयोग[ | ]

ग्रेडिएंट डिसेंट विधि, कुछ संशोधनों के साथ, परसेप्ट्रॉन प्रशिक्षण के लिए व्यापक रूप से उपयोग की जाती है और कृत्रिम तंत्रिका नेटवर्क के सिद्धांत में इसे बैकप्रॉपैगेशन विधि के रूप में जाना जाता है। एक परसेप्ट्रॉन-प्रकार के तंत्रिका नेटवर्क को प्रशिक्षित करते समय, नेटवर्क के भार गुणांक को बदलना आवश्यक होता है ताकि प्रशिक्षण इनपुट डेटा का एक क्रम इनपुट में खिलाए जाने पर तंत्रिका नेटवर्क के आउटपुट पर औसत त्रुटि को कम किया जा सके। औपचारिक रूप से, ग्रेडिएंट डिसेंट विधि (नेटवर्क मापदंडों में सिर्फ एक बदलाव करें) का उपयोग करके केवल एक कदम उठाने के लिए, नेटवर्क इनपुट में प्रशिक्षण डेटा के पूरे सेट को क्रमिक रूप से सबमिट करना, प्रत्येक ऑब्जेक्ट के लिए त्रुटि की गणना करना आवश्यक है। प्रशिक्षण डेटा और नेटवर्क गुणांक के आवश्यक सुधार की गणना करें (लेकिन यह सुधार न करें), और सभी डेटा जमा करने के बाद, प्रत्येक नेटवर्क गुणांक (ग्रेडिएंट्स का योग) के समायोजन में राशि की गणना करें और गुणांक को "एक चरण" में सही करें . जाहिर है, प्रशिक्षण डेटा के एक बड़े सेट के साथ, एल्गोरिदम बेहद धीमी गति से काम करेगा, इसलिए व्यवहार में, नेटवर्क गुणांक को अक्सर प्रत्येक प्रशिक्षण तत्व के बाद समायोजित किया जाता है, जहां ग्रेडिएंट मान को लागत फ़ंक्शन के ग्रेडिएंट द्वारा अनुमानित किया जाता है, केवल एक प्रशिक्षण पर गणना की जाती है तत्व। इस विधि को कहा जाता है स्टोकेस्टिक ग्रेडिएंट डिसेंट या परिचालन ढाल वंश . स्टोकेस्टिक ग्रेडिएंट डिसेंट स्टोकेस्टिक सन्निकटन का एक रूप है। स्टोकेस्टिक सन्निकटन का सिद्धांत स्टोकेस्टिक ग्रेडिएंट डिसेंट विधि के अभिसरण के लिए स्थितियाँ प्रदान करता है।

लिंक [ | ]

• जे. मैथ्यूज.तीव्रतम अवतरण या ग्रेडिएंट विधि के लिए मॉड्यूल। (अनुपलब्ध लिंक)

साहित्य [ | ]

• अकुलिच आई. एल.उदाहरणों और समस्याओं में गणितीय प्रोग्रामिंग। - एम.: हायर स्कूल, 1986. - पी. 298-310।
• गिल एफ., मरे डब्ल्यू., राइट एम.व्यावहारिक अनुकूलन = व्यावहारिक अनुकूलन. - एम.: मीर, 1985।
• कोर्शुनोव एम., कोर्शुनोव एम.साइबरनेटिक्स की गणितीय नींव। - एम.: एनर्जोएटोमिज़डैट, 1972।
• मक्सिमोव यू., फ़िलिपोव्स्काया ई. ए.नॉनलाइनियर प्रोग्रामिंग समस्याओं को हल करने के लिए एल्गोरिदम। - एम.: एमईपीएचआई, 1982।
• मक्सिमोव यू.रैखिक और असतत प्रोग्रामिंग के लिए एल्गोरिदम। - एम.: एमईपीएचआई, 1980।
• कोर्न जी., कोर्न टी.वैज्ञानिकों और इंजीनियरों के लिए गणित की पुस्तिका। - एम.: नौका, 1970. - पी. 575-576।
• एस. यू. गोरोडेत्स्की, वी. ए. ग्रिशागिन।नॉनलीनियर प्रोग्रामिंग और मल्टीएक्सट्रीमल ऑप्टिमाइज़ेशन। - निज़नी नोवगोरोड: निज़नी नोवगोरोड यूनिवर्सिटी पब्लिशिंग हाउस, 2007। - पी. 357-363।

सबसे तीव्र अवतरण विधि एक परिवर्तनशील चरण वाली ग्रेडिएंट विधि है। प्रत्येक पुनरावृत्ति पर, चरण आकार k को वंश की दिशा में फ़ंक्शन f(x) के न्यूनतम की स्थिति से चुना जाता है, अर्थात।

इस स्थिति का मतलब है कि एंटीग्रेडिएंट के साथ गति तब तक होती है जब तक फ़ंक्शन f (x) का मान कम हो जाता है। गणितीय दृष्टिकोण से, प्रत्येक पुनरावृत्ति पर फ़ंक्शन द्वारा एक-आयामी न्यूनतमकरण की समस्या को हल करना आवश्यक है

()=f (x (k) -f (x (k)))

आइए इसके लिए स्वर्णिम अनुपात विधि का उपयोग करें।

सबसे तीव्र अवतरण विधि का एल्गोरिदम इस प्रकार है।

प्रारंभिक बिंदु x (0) के निर्देशांक निर्दिष्ट हैं।

बिंदु x (k) , k = 0, 1, 2, ... पर, ग्रेडिएंट मान f (x (k)) की गणना की जाती है।

चरण आकार k फ़ंक्शन का उपयोग करके एक-आयामी न्यूनतमकरण द्वारा निर्धारित किया जाता है

()=f (x (k) -f (x (k))).

बिंदु x (k) के निर्देशांक निर्धारित हैं:

x i (k+1) = x i (k) - k f i (x (k)), i=1, …, n.

पुनरावृत्तीय प्रक्रिया को रोकने की स्थिति की जाँच की जाती है:

||एफ (एक्स (के +1))|| .

यदि वह पूरी हो गई तो हिसाब-किताब बंद हो जाएगा। अन्यथा, हम चरण 1 पर आगे बढ़ते हैं। सबसे तीव्र वंश विधि की ज्यामितीय व्याख्या चित्र में प्रस्तुत की गई है। 1.

चावल। 2.1. सबसे तीव्र अवतरण विधि का ब्लॉक आरेख।

कार्यक्रम में विधि का कार्यान्वयन:

तीव्रतम अवतरण की विधि.

चावल। 2.2. सबसे तीव्र अवतरण विधि का कार्यान्वयन।

निष्कर्ष: हमारे मामले में, विधि 7 पुनरावृत्तियों में परिवर्तित हुई। बिंदु A7 (0.6641; -1.3313) एक चरम बिंदु है। संयुग्मित दिशाओं की विधि. द्विघात कार्यों के लिए, आप एक ग्रेडिएंट विधि बना सकते हैं जिसमें अभिसरण समय सीमित होगा और चर n की संख्या के बराबर होगा।

आइए हम एक निश्चित दिशा को कॉल करें और कुछ सकारात्मक निश्चित हेस मैट्रिक्स एच के संबंध में संयुग्मित करें यदि:

फिर यानी इकाई एच के लिए, संयुग्म दिशा का अर्थ है उनका लंबवत। सामान्य स्थिति में, H गैर-तुच्छ है। सामान्य स्थिति में, संयुग्मता एक वेक्टर के लिए हेस मैट्रिक्स का अनुप्रयोग है - इसका अर्थ है इस वेक्टर को किसी कोण से घुमाना, खींचना या संपीड़ित करना।

और अब वेक्टर ऑर्थोगोनल है, यानी संयुग्मता वेक्टर की ऑर्थोगोनलिटी नहीं है, बल्कि घुमाए गए वेक्टर की ऑर्थोगोनलिटी है।

चावल। 2.3. संयुग्म दिशा विधि का ब्लॉक आरेख।

कार्यक्रम में विधि का कार्यान्वयन: संयुग्मित दिशाओं की विधि।

चावल। 2.4. संयुग्म दिशा विधि का कार्यान्वयन.

चावल। 2.5. संयुग्म दिशा विधि का ग्राफ़.

निष्कर्ष: बिंदु A3 (0.6666; -1.3333) 3 पुनरावृत्तियों में पाया गया और यह एक चरम बिंदु है।

3. प्रतिबंधों की उपस्थिति में किसी फ़ंक्शन का न्यूनतम और अधिकतम मूल्य निर्धारित करने के तरीकों का विश्लेषण

याद रखें कि एक सामान्य बाधित अनुकूलन समस्या इस तरह दिखती है:

f(x) ® मिनट, x О W,

जहाँ W, R m का एक उचित उपसमुच्चय है। समानता-प्रकार की बाधाओं वाली समस्याओं का एक उपवर्ग इस तथ्य से अलग है कि सेट  को फॉर्म की बाधाओं द्वारा परिभाषित किया गया है

f i (x) = 0, जहां f i: R m ®R (i = 1, …, k)।

इस प्रकार,W = (x О R m: f i (x) = 0, i = 1, …, k)।

फ़ंक्शन f के लिए इंडेक्स "0" लिखना हमारे लिए सुविधाजनक होगा। इस प्रकार, समानता प्रकार की बाधाओं के साथ अनुकूलन समस्या को इस प्रकार लिखा गया है

एफ 0 (एक्स) ® मिनट, (3.1)

f i (x) = 0, i = 1, …, k. (3.2)

यदि हम अब R m पर R k में मानों के साथ एक फ़ंक्शन को f द्वारा निरूपित करते हैं, जिसके निर्देशांक अंकन का रूप f(x) = (f 1 (x), ..., f k (x)) है, तो ( 3.1)–(3.2) इसे हम फॉर्म में भी लिख सकते हैं

एफ 0 (एक्स) ® मिनट, एफ(एक्स) = क्यू।

ज्यामितीय रूप से, समानता प्रकार की बाधाओं वाली समस्या मैनिफोल्ड  पर फ़ंक्शन f 0 के ग्राफ़ के निम्नतम बिंदु को खोजने की समस्या है (चित्र 3.1 देखें)।

वे बिंदु जो सभी बाधाओं को पूरा करते हैं (अर्थात, सेट  में बिंदु) आमतौर पर स्वीकार्य कहलाते हैं। एक स्वीकार्य बिंदु x* को बाधाओं f i (x) = 0, i = 1, ..., k (या समस्या का समाधान (3.1)–(3.2)) के तहत फ़ंक्शन f 0 का एक सशर्त न्यूनतम कहा जाता है, यदि सभी स्वीकार्य बिंदुओं के लिए x f 0 (x *)  f 0 (x)। (3.3)

यदि (3.3) केवल बिंदु x* के कुछ पड़ोस V x * में स्थित स्वीकार्य x के लिए संतुष्ट है, तो हम स्थानीय सशर्त न्यूनतम की बात करते हैं। सशर्त सख्त स्थानीय और वैश्विक न्यूनतम की अवधारणाओं को प्राकृतिक तरीके से परिभाषित किया गया है।