JNI 开发：C++ Debug 正常 Release 返回 NaN 的根因分析

二、问题根因定位：一个'看起来没问题'的函数

问题最终锁定在这个函数：

double* ComputeTranslation(double x1, double y1, double x2, double y2) {
    double res[2] = {0, 0};
    // ... 省略中间逻辑
    res[0] = flagX * x;
    res[1] = flagY * y;
    return res;
}

乍一看逻辑完全正确，但这里隐藏了一个致命错误。

三、致命问题：返回了栈内存指针（未定义行为）

1. res 是什么？

double res[2];

• res 是 函数内部的局部变量
• 存储在 当前函数的栈帧（stack frame）中

2. 函数返回后发生了什么？

当 ComputeTranslation 返回时：

• 函数栈帧被销毁
• res 对应的内存 立刻失效
• 返回的指针指向：
  • 已被释放的栈空间
  • 或即将被复用的内存区域

3. C++ 标准如何定义这种行为？

这是典型的 Undefined Behavior（未定义行为）

含义是：

• 编译器不保证任何结果
• 程序：
  • 可能'看起来能跑'
  • 也可能随机崩溃
  • 也可能只在 Release 模式出问题

四、为什么 Debug 正常，而 Release 出 NaN？

这是很多开发者最困惑的地方。

1. Debug 模式的特点

• 编译器优化极少
• 栈内存分配保守
• 局部变量：
  • 生命周期'看起来'更长
  • 内存内容不容易被覆盖

返回的指针虽然非法，但数据暂时还在

2. Release 模式的特点

• 启用 -O2 / -O3 等激进优化
• 栈空间：
  • 快速复用
  • 指令重排
  • 寄存器替代变量

编译器甚至可能认为：

'你返回这个指针是非法的，那我随便优化'

结果就是：

• *offset 变成随机值
• 或直接成为 NaN / Inf

五、为什么 NaN 特别容易出现？

在 Release 下，offset 可能是：

• 未初始化内存
• 被 SIMD / 浮点寄存器覆盖
• 任意 bit pattern

而 浮点数中：

• 特定 bit pattern ⇒ NaN
• 一旦参与计算：
  • NaN + x = NaN
  • sin(NaN) = NaN

导致后续都是 NaN

六、这不是 JNI 的问题

值得特别强调的是：

• JNI 只是一个函数调用边界
• 问题在 C++ 层就已经发生
• Java 侧只是'忠实地接收了 NaN'

如果这是纯 C++ 工程：

• 现象 完全一致

七、正确修复方式：返回值语义而不是指针

修复方案：使用结构体返回

struct Vec2 {
    double x;
    double y;
};

Vec2 ComputeTranslation(double x1, double y1, double x2, double y2) {
    Vec2 res{0.0, 0.0};
    // ... 省略中间逻辑
    res.x = flagX * x;
    res.y = flagY * y;
    return res;
}

调用：

Vec2 offset = ComputeTranslation(...);
double deX = offset.x;
double deY = offset.y;

八、为什么'以前这么写也没事'？

原因通常是：

1. 旧编译器优化弱
2. Debug 构建长期被使用
3. 数据规模较小
4. 没踩到'恰好会覆盖栈'的场景

但：

未定义行为从来不是'偶尔才错'，而是'早晚会炸'。

九、如何系统性避免这类问题？

1. 永远不要返回局部变量地址

return &localVar;
return localArray;

2. 优先使用值语义

struct / std::array / std::pair

3. Debug ≠ 正确

Debug 只能说明：

'在当前编译条件下恰好没炸'

十、总结

这次问题再次验证了一点：

C++ 中，最危险的 Bug 往往不是'复杂算法'， 而是'看起来理所当然的代码'。

如果在 Debug / Release 行为不一致时遇到诡异问题， 第一时间检查：是否触发了未定义行为。