一、概述

在进行NX开发时，基本上都会使用到数学库，比如计算变换矩阵，计算点与点距离等，有时计算出的结果会和自己预想的结果存在较大的偏差，经过vs调试，发现某个值变成了NaN（nota number）。

二、分析

（1）先排除一些常见的可能导致计算异常的情况（÷0，等）;

（2）判断输入值是否在函数定义域内（sqrt[0,+∞ ），sin[全体实数]，asin[-1,1]，等）;

（3）由于计算机是采用二进制计算和存储数据的，无法精确的表示一个小数，比如

反余弦函数定义域[-1,1]，输入大于1，计算得出nota number

在使用数学库计算时，如果发现计算的数值与预想的结果不同，可以参考上方法。

能科科技介绍

能科科技股份有限公司，成立于2006年12月，2016年10月在上交所上市（股票代码：603859.SH）致力成为制造业企业的数字化转型合作伙伴，围绕工业互联网经营生态，围绕全流程数字孪生组织能力，以生产力中台为基础，建设新时代企业应用服务基础设施，赋能客户实现智能制造转型与数字化运作。

能科科技上海联宏事业部，专注为汽车、轨道交通、通用机械、消费电子等领域内的广大用户提供面向工业4.0的全产品生命周期的数字化产品工程解决方案及全方位资深咨询服务。

标签：