详细介绍如何使用Ipopt非线性求解器求解带约束的最优化问题

   本文中将详细介绍如何使用Ipopt非线性求解器求解带约束的最优化问题，结合给出的带约束的最优化问题示例，给出相应的完整的C++程序，并给出详细的解释和注释，以及编译规则等

   一、Ipopt库的安装和测试

   本部分内容在之前的文章《Ubuntu20.04安装Ipopt的流程介绍及报错解决方法（亲测简单有效）》中已经详细介绍过了，链接如下：

   https://blog.csdn.net/qq_44339029/article/details/133679131

   二、使用Ipopt非线性求解器求解带约束的最优化问题的程序示例

   0、明确要求解的带约束的最优化问题

   首先，我们来看一个简单的带约束的最优化问题，其包含两个不等式约束和1个等式约束，详情如下：

   $$f=(x_1-10.24{)}^2+5.21x_2+9.9(x_3-x_4{)}^2$$

   $$\begin{array}{rlr}{g}_1& :& 2\le x_3-x_4\le 10\\ g_2& :& 2.99\le x_2\le 100\\ g_3& :& x_2=x_4\end{array}$$

   其中$x_1$、$x_2$、$x_3$、$x_4$的取值范围均为0~100，易知使得上述目标函数$f$取值最小的解为：10.24、2.99、4.99、2.99。

   下面介绍，如何编程使用Ipopt非线性求解器求解该问题

   1. 引入头文件和命名空间：

#include <iostream>
#include <cassert>
#include <cppad/ipopt/solve.hpp>
using CppAD::AD;

   引入必要的C++头文件，包括iostream（用于输入输出），cassert（用于C风格的assert）以及cppad/ipopt/solve.hpp（用于Ipopt求解器和CppAD库的接口）。然后在一个匿名的命名空间中引入了AD类型，这是CppAD库中用于自动微分（Automatic Differentiation）的数据类型。

   2. 定义FG_eval类：

namespace {
    class FG_eval {
    public:
        typedef CPPAD_TESTVECTOR(AD<double>) ADvector;
        
        void operator()(ADvector& fg, const ADvector& x) {
            // ...
        }
    };
}

   在匿名命名空间中，定义一个FG_eval类，用于计算目标函数和约束条件的值。这个类也是调用使用CppAD和Ipopt库所需的最重要的接口，这个类中的operator()函数是用于计算问题的目标函数和约束条件的核心部分。它接受两个向量：fg用于存储目标函数值和约束条件值，x用于存储优化变量。

   3. 定义operator()函数：

   接下来，我们根据第0步中明确的目标函数及约束条件来编写核心的operator函数，示例如下：

void FG_eval::operator()(ADvector& fg, const ADvector& x) {
    assert(fg.size() == 4);
    assert(x.size() == 4);

    AD<double> x1 = x[0];
    AD<double> x2 = x[1];
    AD<double> x3 = x[2];
    AD<double> x4 = x[3];

    fg[0] = (x1 - 10.24) * (x1 - 10.24) + 5.21 * x2 + 9.9 * (x3 - x4) * (x3 - x4);
    fg[1] = x3 - x4;
    fg[2] = x2;
    fg[3] = x2 - x4;
    
    // 打印计算结果
    std::cout << "fg[0]:" << fg[0] << std::endl;
    std::cout << "fg[1]:" << fg[1] << std::endl;
    std::cout << "fg[2]:" << fg[2] << std::endl;
    std::cout << "fg[3]:" << fg[3] << std::endl;
}

   operator()函数接受fg和x向量，然后根据问题的定义计算目标函数和约束条件的值，并将它们存储在fg向量中。同时，它也打印出这些值， 其中fg[0]即为目标函数表达式、fg[1]、fg[2]、fg[3]中依次对应了第0步中设定的三个约束，不等式约束直接写即可，等式约束的等式左右两边同时减去右边的项，使等式右边变为0。

   4. 定义主函数get_started（该函数名字可任取）：

   定义一个主函数，设定自变量的初始值，以及自变量和约束的上下限，设定和提供调用Ipopt非线性求解器求解所需要的变量，然后调用求解器进行求解，并进行验证等操作，程序示例如下：

bool get_started(void)
{	bool ok = true;
	size_t i;
	typedef CPPAD_TESTVECTOR( double ) Dvector;
	size_t nx = 4;
	size_t ng = 3;
	Dvector xi(nx);
	xi[0] = 10.0;
	xi[1] = 5.0;
	xi[2] = 5.0;
	xi[3] = 100.0;
	Dvector xl(nx), xu(nx);
	for(i = 0; i < nx; i++)
	{	xl[i] = 0;
		xu[i] = 100;
	}

	Dvector gl(ng), gu(ng);
	gl[0] = 2;     gu[0] = 10;
	gl[1] = 2.99;  gu[1] = 100;
	gl[2] = 0;     gu[2] = 0;

	FG_eval fg_eval;
	std::string options;
	options += "Integer print_level  0\n";
	options += "String  sb           yes\n";
	options += "Integer max_iter     10\n";
	options += "Numeric tol          1e-6\n";
	options += "String  derivative_test            second-order\n";
	options += "Numeric point_perturbation_radius  0.\n";
	CppAD::ipopt::solve_result<Dvector> solution;
	CppAD::ipopt::solve<Dvector, FG_eval>(
		options, xi, xl, xu, gl, gu, fg_eval, solution
	);
	
	ok &= solution.status == CppAD::ipopt::solve_result<Dvector>::success;
	double check_x[]  = { 10.24, 2.99, 4.99, 2.99 }; 
	double rel_tol    = 1e-6;  // relative tolerance
	double abs_tol    = 1e-6;  // absolute tolerance
	for(i = 0; i < nx; i++)
	{		
		ok &= CppAD::NearEqual(
			check_x[i],  solution.x[i],   rel_tol, abs_tol     
		); 
        std::cout << "x[" << i << "] = " << solution.x[i] << std::endl;
	}
	return ok;
}

   以下是程序的详细解释：

   （1）. bool get_started(void)：程序逻辑流程的主要函数，get_started函数定义了问题的基本参数，如变量数量、约束数量、变量的初始值，以及变量和约束的上下界。然后，它创建了一个FG_eval对象来计算目标函数和约束条件，设置了Ipopt求解器的选项，并最终调用求解器来解决问题。

   （2）. bool ok = true;：定义一个布尔变量 ok，用于表示问题是否成功求解。一开始将其初始化为 true。

   （3）. 类型别名 Dvector：通过 typedef CPPAD_TESTVECTOR(double) Dvector; 定义了一个 Dvector 类型，它是CppAD库中的向量类型，用于存储双精度（double）数值。

   （4）. size_t nx = 4;：定义一个 size_t 类型的变量 nx，表示问题中独立变量（自变量）的数量，即问题的变量维度。在这个示例中，有4个独立的自变量。

   （5）. size_t ng = 3;：定义一个 size_t 类型的变量 ng，表示问题中的约束数量，即约束的维度。在这个示例中，有3个约束条件。

   （6）. 创建 Dvector 向量 xi：用于存储问题的独立变量（自变量）。这个向量有4个元素，对应于4个自变量。

   （7）. 设置初始猜测值 xi：为 xi 向量中的每个元素分别赋初值，为检验算法性能，这里设定了一个较差的初始值。

   - `xi[0] = 10.0;`
   - `xi[1] = 5.0;`
   - `xi[2] = 5.0;`
   - `xi[3] = 100.0;`

   （8）. 定义变量和约束条件的上下界：

   - 创建 Dvector 向量 xl 和 xu，它们分别表示变量的下界和上界，并根据第0步中的设定的自变量的取值范围0~100进行设定

   - 创建 Dvector 向量 gl 和 gu，它们分别表示约束条件的下界和上界，并根据第0步中，三个约束的进行设定，对于前两个不等式约束，直接设定即可，第三个等式约束，即$x_2-x_4=0$,因此，上下限均设为0即可。

   （9）. 创建 FG_eval 类的对象 fg_eval：FG_eval 即我们第二步中设定的类，用于计算目标函数和约束条件的值。这是问题的目标函数和约束条件的具体定义。

   （10）. 创建字符串 options：用于存储Ipopt求解器的选项，包括设置输出级别、最大迭代次数、收敛容差等，详情如下所示：

    - `options += "Integer print_level  0\n";`：将输出级别设置为0，以关闭求解器的详细输出，只打印关键信息。
    - `options += "String  sb           yes\n";`：使用平衡约束优化方法。
    - `options += "Integer max_iter     10\n";`：设置最大迭代次数为10次。
    - `options += "Numeric tol          1e-6\n";`：设置迭代停止的收敛容差为1e-6。
    - `options += "String  derivative_test            second-order\n";`：启用二阶导数测试，用于检查目标函数和约束条件的导数是否正确。
    - `options += "Numeric point_perturbation_radius  0.\n";`：将随机扰动的半径设置为0，表示不使用扰动进行数值近似求导。

   （11）. 创建 CppAD::ipopt::solve_result<Dvector> solution;：用于存储求解结果的对象。

   （12）. 调用 CppAD::ipopt::solve 函数：使用Ipopt求解器解决非线性规划问题。传递了问题选项、独立变量的初始值、变量的上下界、约束条件的上下界、问题的定义（fg_eval 对象），以及存储结果的 solution 对象。

   （13）. 检查求解器的状态：如果状态为成功（success），则将 ok 变量保持为真，表示问题已成功求解。

   注：下面的第(14)~(16)部分，是为了验证求解是否正确，为非必要步骤

   （14） 创建 check_x 数组：包含问题的精确解。这些值是问题的已知精确解。

   （15）. 设置相对容差和绝对容差的阈值：这些值用于控制验证解的精度。

   （16）. 遍历问题中的每个变量，进行解的验证：使用 CppAD::NearEqual 函数来比较问题的解与精确解是否足够接近。如果它们的差距在相对容差和绝对容差的范围内，ok 变量将保持为真，并打印每个变量的解。

   （17）.返回 ok 变量：表示问题是否成功求解。

   5. C++主函数main：

int main(void) {
    std::cout << "===== Ipopt with CppAD Testing =====" << std::endl;
    bool result = get_started();
    std::cout << "Final checking: " << result << std::endl;
}

   main函数是程序的入口点，它简单地调用get_started函数来执行非线性规划问题的求解，并打印结果。

   6. ☆☆☆带详细注释的完整程序`☆☆☆

# include <iostream>
// C style asserts
# include <cassert>
// 包含Ipopt求解器头文件
# include <cppad/ipopt/solve.hpp>


// 在一个匿名的命名空间中，引入了一个AD类型，它是CppAD库中用于自动微分（Automatic Differentiation）的数据类型。AD类型可以用来表示变量和函数，使其具备微分能力。
namespace {
	using CppAD::AD;

	class FG_eval {
	public:
		typedef CPPAD_TESTVECTOR( AD<double> ) ADvector;
        // fg: function that evaluates the objective and constraints using the syntax
		// 定义一个函数运算符，用于计算目标函数和约束条件的值
		void operator()(ADvector& fg, const ADvector& x)
		{	
			//使用assert来设定fg和x的大小，以确保它们与问题的维度匹配
			//fg 向量用于存储目标函数值和约束条件值，x向量用于存储优化变量
			assert( fg.size() == 4 );
			assert( x.size()  == 4 );

			//  将 x 中的优化变量分配给 AD 类型的变量 x1 到 x4。这是在使用C++ Algorithmic Differentiation（CppAD）时定义问题中的独立变量的方式。
			AD<double> x1 = x[0];
			AD<double> x2 = x[1];
			AD<double> x3 = x[2];
			AD<double> x4 = x[3];
			// 计算目标函数的值，将其存储在 fg[0] 中。这里使用了 x1 到 x4 这些 AD 类型的变量，这意味着这个表达式将被自动微分，以便后续的梯度计算。
			fg[0] = (x1-10.24) * (x1-10.24) + 5.21*x2 + 9.9*(x3-x4)*(x3-x4);
			//  分别计算三个约束条件的值，并将它们存储在 fg[1] 和 fg[2]、 fg[3]中。
			fg[1] = x3-x4;
			fg[2] = x2;
            fg[3] = x2-x4;
			//
			std::cout << "fg[0]:" << fg[0]<< std::endl;
			std::cout << "fg[1]:" << fg[1]<< std::endl;
			std::cout << "fg[2]:" << fg[2]<< std::endl;
            std::cout << "fg[3]:" << fg[3]<< std::endl;

			return;
		}
	};
}

// 该函数用于设置和解决非线性规划问题
// 它首先定义了问题的一些基本参数，如变量数量、约束数量、变量的初始值、变量和约束的上下界等
// 然后创建一个FG_eval对象用于计算目标函数和约束条件
// 最后，使用CppAD::ipopt::solve函数来解决问题，并将结果存储在solution中
bool get_started(void)
{	bool ok = true;
	size_t i;
	// 创建了一个类型别名 Dvector，它是CppAD库中的一个向量类型，用于存储双精度（double）数值。这个向量类型是CppAD库的一部分，通常用于存储问题的变量、约束和其他向量。
	typedef CPPAD_TESTVECTOR( double ) Dvector;

	// 声明了一个 size_t 类型的变量 nx，它表示问题中独立变量（自变量）的数量，也就是问题的变量维度。在这个示例中，有4个独立变量，因此 nx 的值为4。
	size_t nx = 4;
	// 声明了一个 size_t 类型的变量 ng，它表示问题中的约束数量，也就是约束的维度。在这个示例中，有3个约束条件，因此 ng 的值为3。
	size_t ng = 3;
	//  创建了一个名为 xi 的 Dvector 类型的向量，用于存储问题的独立变量（自变量）。这个向量有4个元素，对应于4个自变量。
	Dvector xi(nx);
	// 分别为这4个独立变量设置了初始值。这些值将用作问题的初始猜测，作为非线性规划求解器的起点。
	xi[0] = 10.0;
	xi[1] = 5.0;
	xi[2] = 5.0;
	xi[3] = 100.0;

	//设置问题的变量（自变量）和约束条件的上下界（限制条件）。
	Dvector xl(nx), xu(nx);
	for(i = 0; i < nx; i++)
	{	xl[i] = 0;
		xu[i] = 100;
	}

	Dvector gl(ng), gu(ng);
	gl[0] = 2;     gu[0] = 10;
	gl[1] = 2.99;  gu[1] = 100;
	gl[2] = 0;     gu[2] = 0;

	// 创建了 FG_eval 类的对象 fg_eval，用于计算目标函数和约束条件的值。这是问题的目标函数和约束条件的具体定义。
	FG_eval fg_eval;

	// 创建了一个字符串 options，用于存储Ipopt求解器的选项。
	std::string options;
	// 设置了求解器选项，将 print_level 参数设置为0，以关闭求解器的输出，即不会在控制台打印详细信息，只打印关键信息。
	options += "Integer print_level  0\n";
	//  将 sb 参数设置为 "yes"，这表示使用平衡约束优化方法。
	options += "String  sb           yes\n";
	// 设置最大迭代次数为10次。
	options += "Integer max_iter     10\n";
	// approximate accuracy in first order necessary conditions;
	// see Mathematical Programming, Volume 106, Number 1,
	// Pages 25-57, Equation (6)
	// 设置迭代停止的收敛容差为1e-6。
	options += "Numeric tol          1e-6\n";
	//  启用了二阶导数测试，用于检查目标函数和约束条件的导数是否正确。
	options += "String  derivative_test            second-order\n";
	// maximum amount of random pertubation; e.g.,
	// when evaluation finite diff
	// 将随机扰动的半径设置为0，表示不使用扰动进行数值近似求导。
	options += "Numeric point_perturbation_radius  0.\n";

	// 创建了一个用于存储求解结果的对象 solution，
	CppAD::ipopt::solve_result<Dvector> solution;

	// 调用了 CppAD::ipopt::solve 函数，用于解决非线性规划问题。它传递了问题选项、独立变量的初始值、变量的上下界、约束条件的上下界、问题的定义（fg_eval 对象），以及存储结果的 solution 对象。
	CppAD::ipopt::solve<Dvector, FG_eval>(
		options, xi, xl, xu, gl, gu, fg_eval, solution
	);

	//检查求解器的状态，如果状态为成功（success），则 ok 变量将保持为真。这表示问题已成功求解。
	ok &= solution.status == CppAD::ipopt::solve_result<Dvector>::success;
	// 创建一个名为 check_x 的数组，其中包含了问题的精确解。这个数组中的值是问题的已知精确解。
	double check_x[]  = { 10.24, 2.99, 4.99, 2.99 }; 
	// 设置了相对容差和绝对容差的阈值。这些值用于控制验证解的精度。
	double rel_tol    = 1e-6;  // relative tolerance
	double abs_tol    = 1e-6;  // absolute tolerance
	// 遍历问题中的每个变量，进行解的验证。
	for(i = 0; i < nx; i++)
	{	
		//使用 CppAD::NearEqual 函数来比较问题的解 solution.x[i] 与精确解 check_x[i] 是否足够接近。如果它们的差距在相对容差和绝对容差的范围内，ok 变量将保持为真。
		ok &= CppAD::NearEqual(
			check_x[i],  solution.x[i],   rel_tol, abs_tol     
		); 
		// 使用 std::cout 打印每个变量的解，以便在控制台上查看结果。
        std::cout << "x[" << i << "] = " << solution.x[i] << std::endl;
	}

	return ok;
}

// main program that runs all the tests
int main(void)
{	
    std::cout << "===== Ipopt with CppAD Testing =====" << std::endl;
    bool result = get_started();
    std::cout << "Final checking: " << result << std::endl;
}
// END C++

   三、编译验证

   将上面第二部分，第6步中给出的完整的程序，保存为CppAD_Ipopt.cpp，然后在同一目录下，创建一个名为CMakeLists.txt的文件，接下来，我们需要在CMakeLists.txt文件中，编写编译规则，如下所示：

# 设置CMake的最低版本要求
cmake_minimum_required(VERSION 3.5)
# 项目名称
project(CppadIpoptDemo)
# 寻找Ipopt包（确保你已经安装了Ipopt和CppAD）
# find_package(Ipopt REQUIRED)
# 设置可执行文件的名称和源文件
add_executable(cppad_ipopt_demo CppAD_Ipopt.cpp)
# 包含Ipopt的头文件
# target_include_directories(cppad_ipopt_demo PRIVATE ${IPOPT_INCLUDE_DIRS})
# 链接Ipopt库
# target_link_libraries(cppad_ipopt_demo ${IPOPT_LIBRARIES})
TARGET_LINK_LIBRARIES(cppad_ipopt_demo ipopt)

   保存，并关掉CMakeLists.txt文件，接下来就利用该文件对CppAD_Ipopt.cpp进行编译，在该目录下空白处，右键打开终端，依次输入以下四条语句

mkdir build

cd build

cmake ..

make

   以上编译结束后，在build文件夹下，生成了可执行文件cppad_ipopt_demo，如下图所示

   在当前目录下，右键打开终端，输入以下指令运行该文件

./cppad_ipopt_demo

   运行结果如下，可以发现即使在给定的初始解很差的情况下，Ipopt非线性求解器依然能够求解出第二部分第0部步中设定的带约束优化问题的最优解。文章来源地址https://www.toymoban.com/news/detail-721600.html

到了这里，关于详细介绍如何使用Ipopt非线性求解器求解带约束的最优化问题的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！