优化理论及其分支有哪些？

优化问题涉及到四个方面，其一，问题研究。其二，数学建模。其三，问题求解（借助计算机求数值解）。其四，解的验证。最后，验证不对的话，重复上面的过程。

问题研究与数学模型之间、数学模型与问题求解之间存在着对应关系。特定问题，对应某个或者某几个特定的数学模型。特定的数学模型，对应某个或者某几个特定的求解算法。其中，需要特别指出的是，问题研究与建立起问题与数学模型之间的桥梁是优化的关键，是整个优化理论的重中之重。而这常常被人所忽略。

优化问题既可以按照问题类型进行分类，也可以按照数学模型进行分类。

按照问题分类，有装箱问题、生产计划问题、运输计划问题、厂址选择问题、背包问题、车间调度问题、旅行商问题、路径选择问题、最小生成树问题等。

按照数学模型进行分类，有确定型模型、随机性模型。有连续模型、离散模型。其中，确定型模型主要有线性规划、非线性规划、动态规划等。随机型模型主要有随机优化、模糊优化、鲁棒优化等。连续型模型又可以分为线性规划模型、非线性规划模型。非线性规划模型又分为约束的非线性规划模型与无约束的非线性规划模型。离散模型主要有差分方程、图、树、整数规划、0-1规划、动态规划等。

优化算法。按照解的性质，分为解析解算法与数值解算法。解析解一般可以借助笔、值、计算器手动解出。而数值解一般借助计算机软件（数学软件或者编程软件）。因此，任何数学模型对应的算法都有两个，只不过有可能这两个的求解思路与步骤是一样的。比如：线性规划问题，解析解的算法是单纯形法。数值解的算法是单纯形法或者内点法。但对于复杂的非凸优化的问题，解析解不一定能够求出来，此时通过函数逼近的方法求出其数值解，是一个权衡利弊后的结果。