今天在使用Eigen的时候发现了一个深坑,其矩阵Matrix的transpose计算之后的值不能赋值给自身,这实在是有违C/C++的写法,操作符重载做的太不人性化了。
一般来说,我们在C/C++中习惯了这么写:

int a= 10;
a=a/10;

但是今天使用Eigen进行矩阵运算时写了如下代码:

Eigen::MatrixXd A= B * C;
A = A.transpose();

直接报异常,导致程序崩溃,出现以下的错误,起先我还怀疑是我其他的逻辑代码出现了问题,导致矩阵运算行列不一致,出现异常
Eigen踩坑1:Matrix的transpose(矩阵转置)计算之后不能赋值给自身-StubbornHuang Blog

然后我换了一种写法:

Eigen::MatrixXd A;
Eigen::MatrixXd Acopy= B * C;
A = Acopy.transpose();

突然就OK了。
然后去看其官方文档,发现,如果想要transpose可以赋值给自身,还可以这么写:

Eigen::MatrixXd A= B * C;
A = A.transposeInPlace();

记录下,防止再次踩坑。