目錄 第一章最優化理論基礎 1 1.1 最優化問題的數學模型. . . . . . . . . . . . . . . . . . . . . . . . 1 1.2 向量和矩陣范數. . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 1.3 函數的可微性與展開. . . . . . . . . . . . . . . . . . . . . . . . . 4 1.4 凸集與凸函數. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.5 無約束問題的最優性條件. . . . . . . . . . . . . . . . . . . . . . 10 1.6 無約束優化問題的算法框架. . . . . . . . . . . . . . . . . . . . . 12 第二章線搜索技術 16 2.1 精確線搜索及其Matlab實現. . . . . . . . . . . . . . . . . . . . 18 2.2 非精確線搜索及其Matlab實現. . . . . . . . . . . . . . . . . . . 24 2.3 線搜索法的收斂性. . . . . . . . . . . . . . . . . . . . . . . . . . 27 第三章最速下降法和牛頓法 32 3.1 最速下降方法及其Matlab實現. . . . . . . . . . . . . . . . . . . 32 3.2 牛頓法及其Matlab實現. . . . . . . . . . . . . . . . . . . . . . . 36 3.3 修正牛頓法及其Matlab實現. . . . . . . . . . . . . . . . . . . . 41