Barzilai-Borwein Fails Superlinear Convergence on an Open Set of Quadratics for Every Dimension $n\geq 4$
Barzilai--Borwein (BB) method has shown strong practical performance in continuous optimization, yet its convergence dynamics remains poorly understood. In particular, a central unresolved question is whether BB converges superlinearly for almost every strictly convex quadratic problem and initialization. We provide a negative answer to this question. Specifically, for every finite dimension $n\geq4$, we construct a nonempty open, hence positive-Lebesgue-measure, family of strictly convex quadratic problems and initial points for which the long Barzilai--Borwein method (BB1) converges but cannot converge root-superlinearly. More precisely, with the explicit constants $ρ_{\min}=10^{-6},ρ_{\max}=0.61$, every spectral component of the gradient is bounded above and below by the corresponding geometric sequence. Consequently, the gradient norm and the energy norm of the error satisfy two-sided geometric estimates with the same rates, while the objective gap satisfies the corresponding estimates with squared rates. In particular, all three quantities are bounded below by geometric sequences, ruling out superlinear convergence. The construction is highly nontrivial, based on a computer-assisted proof of a nonresonant, attracting seven-cycle of the projectivized BB dynamics in dimension four.
C1 reading
Select any word for its Thai meaning and pronunciation.
แปลไทยทั้งบท
วิธี Barzilai-Borwein (BB) ได้แสดงผลการปฏิบัติที่แข็งแกร่งในการปรับปรุงต่อเนื่อง, แต่การไดนามิกการสอดคล้องของมันยังคงเข้าใจไม่ค่อยดี. โดยเฉพาะอย่างยิ่ง คําถามที่ยังไม่ได้แก้ไขอยู่หลักคือว่า BB จะเข้ากันแบบเหนือเส้นตรงสำหรับเกือบทุกปัญหาและการเริ่มต้น quadratic คอนเว็กซ์อย่างละเอียด. เราให้คําตอบลบกับคําถามนี้.
โดยเฉพาะอย่างยิ่ง, สำหรับทุกมิติอันจํากัด $n\geq4$, เราสร้างที่ไม่ว่างเปิด, จากนั้นเป็นลบ-Lebesgue-มาตรการ, ครอบครัวของปัญหา quadratic ละเอียดและจุดเริ่มต้นสำหรับ. วิธี Barzilai-Borwein ยาว (BB1) สอดคล้องกัน แต่ไม่ทำได้เข้ากันได้แบบราก - ซูเปอร์ไลเนียร์. โดยแม่นยํายิ่งกว่า โดยการตั้งค่าที่ชัดเจน $ρ_{\min}=10^{-6},ρ_ {\max}=0.61$, ส่วนประกอบวงจาของ gradient ทุกอย่างถูกจํากัดขึ้นและล่างโดยเรียงไหลภูมิศาสตร์ที่ตรงกัน. จากนั้นมาตรฐานการปรับปรุงและมาตรการพลังงานของความผิดพลาดตอบสนองการประเมินทาง geometric สองด้านด้วยอัตราเดียวกัน ขณะที่ช่องว่างเป้าหมายตอบสนุน. ราคาประมาณที่ตรงกันด้วยอัตราสอง.
โดยเฉพาะอย่างยิ่ง, ทั้งสามปริมาณถูกจํากัดด้านล่างโดยเรียงเรียง geometric, ยกเว้นการสอดคล้องแบบเหนือเส้นตรง. การก่อสร้างนั้นไม่น่าสนใจมาก เพราะพิสูจน์ที่ได้รับการสนับสนุนจากคอมพิวเตอร์ของ nonresonant ที่ดึงดูด 7 รอบของไดนามิก BB ที่ถูกฉายในมิติสี่.
ประโยคและวลีที่ใช้ได้จริงจากเรื่องนี้
Useful phrases from this story
ได้แสดงผลการปฏิบัติที่แข็งแกร่ง.
From the storyBarzilai--Borwein (BB) method has shown strong practical performance in continuous optimization, yet its convergence dynamics remains poorly understood.
คําถามที่ยังไม่ได้แก้ไขคือ BB.
From the storyIn particular, a central unresolved question is whether BB converges superlinearly for almost every strictly convex quadratic problem and initialization.
มีขอบเขตด้านบนและด้านล่าง.
From the storyMore precisely, with the explicit constants $ρ_{\min}=10^{-6},ρ_{\max}=0.61$, every spectral component of the gradient is bounded above and below by the corresponding geometric sequence.
ตามลําดับทางภูมิศาสตร์ที่ตรงกัน.
From the storyMore precisely, with the explicit constants $ρ_{\min}=10^{-6},ρ_{\max}=0.61$, every spectral component of the gradient is bounded above and below by the corresponding geometric sequence.
การประเมินทางภูมิศาสตร์ด้านข้างกับ.
From the storyConsequently, the gradient norm and the energy norm of the error satisfy two-sided geometric estimates with the same rates, while the objective gap satisfies the corresponding estimates with squared rates.
Save & Review
Only words saved from this story appear here.