1、浮点类型数显示时的有效位数.

2、浮点堆叠的大小必须至少六个元素.

3、将双精度浮点值舍入为最接近的整数.

4、此压缩器已作为一个压缩模块，用在32位浮点乘法器的软核设计中，得到了很好的结果。

5、来看看哪儿会出问题，你可能会碰到浮点数中的溢出和下溢问题,当你碰到一系列这种问题后，可能就会适时的开始怀疑结果的正确性。

6、默认情况下,使用六位数字的精度显示浮点值.

7、研究DSPTMS320F240浮点数开平方的理论方法，采用牛顿迭代法完成浮点数开方运算。

8、这是一个标准的浮点表示法,特点是尾数的第一个元不可以是零.

9、计算机组成原理的一个浮点数运算器。

10、好了，看到他说输入一个浮点数,我输入它可以转换为浮点数的值,那没问题，我回过来再运行一遍,如果我再运行一遍。

11、虽然可以人为限定IEEE浮点数的精度以保证其值处于较小范围，但使用定点数能切地解决此问题。

12、请注意,由于浮点数的精度有限,涉及浮点数的计算可以累积次要的舍入错误.

13、所以如何在虚拟城市的输出过程中有效地解决浮点精度相关的问题，对能否精确的生成世界坐标有着重要的影响。

14、如何以合理的硬件代价，快速实现高精度的浮点超越函数，是高性能微处理器设计的关键问题之一。

15、此外，还可以使用指数记数法表示浮点型直接量，即实数后跟随字母e或E，后面加上正负号，其后再加一个整型指数。

16、请问一个负数的浮点数的尾数还带不带符号呀？

17、浮点数的表示精度要比定点数高的多。

18、在工作台机器上，将浮点许可密钥导入到许可服务器中。

19、该算法根据Q格式数对浮点数的近似，采用定点逼近旋转矩阵中的三角函数值。

20、通常，要正确处理浮点数对开发者而言是一个挑战，需要复杂而又有差异的编程技巧和硬件指令集的支持来呈现这类数字。

21、将双精度浮点值按指定的小数位数舍入.

22、针对定点型DSP的特点设计了定点数与浮点数的转换程序，完成定点型DSP的浮点运算。

23、但要注意,对浮点数字的比较是非常严格的.

24、在分析开平方迭代算法收敛速度的基础上,提出了浮点数开平方的初值选取改进算法.

25、要修复此问题，用户可下载上述版本的漏洞补丁，或是为处理浮点数使用额外标志重编译PHP程序。

26、第三，为了能实现频率检测算法，并且能够实时设计出所需要的陷波器，本系统选用了TMS320C6711浮点处理器。

27、结合西北工业大学航空微电子中心所承担的某国家项目，作者参加了“龙腾”C2微处理器的设计与实现，主要负责浮点处理单元的结构设计和浮点超越函数的设计与实现。

28、航迹由B样条曲线得到，以代表航迹的B样条曲线的控制顶点坐标值作为染色体的基因位进行浮点数编码。

29、但由于定点数运算会引起量化累积误差，均衡器的收敛速度比浮点数运算均衡器的收敛速度要慢，收敛后的稳定性也较差。

30、该算法剔除了大量冗余样本点，并在计算过程中以区间表示代数数，有效避免了浮点数等近似计算。

31、这项技术特别有助于发现使用浮点值、转换率，以及与数据类型相关长度的问题。

32、基本数据类型:布尔,字符,整数,浮点型.

33、将双精度浮点值舍入为最接近的整数值.

34、可在一个表达式中兼用数值整型和浮点型.

35、好，我们现在回到一些,非基本类型的话题来，我们在过去的几节课里,一直在研究浮点数类型和integer类型。

36、完成了浮点处理单元的数据通路设计,包括尾数部件和指数部件.

37、在CPU子系统还包括一个浮点单元.

38、同时,在设计CAN总线通信板卡时提出了一种在PC机与下位机之间进行浮点数传送的有效的方法.

39、核心从插断切换回来，其中一个应用程式的较高浮点暂存器已终结。

40、RPC服务器上的浮点操作导至以零做除数.

41、IEEE浮点数用1位表示数字的符号，用8位来表示指数，用23位来表示尾数，即小数部分。

42、如果要强制取得浮点结果，则必须确保操作数中至少有一个为浮点类型。

43、基于浮点数编码，提出一种分级变异的动态免疫克隆选择优化算法。

44、其特点包括屏幕瓦片，内部真彩色处理，零开销抗锯齿，可编程着色3D加速器，和32位浮点运算。

45、在分析查表开平方算法和浮点数特点的基础上，提出一种二进制浮点数与查表法相结合的开平方算法。

46、同时，单板机本身也因具有进行高精度浮点算术运算的能力而得到了新的开发应用。

47、将指定之单精确度浮点数的值，转换为相等的64位元带正负号的整数。

48、采用高速缓存和循环展开技术，降低了存储复杂性，提高了浮点运算的平均时间。

49、当浮点数从一种表示形式转换为另一种表示形式时，该数字的最低有效位数可能稍有变化。

50、IEEE754用科学记数法以底数为2的小数来表示浮点数。