您当前的位置：
matlab中的显示精度问题
作者：selfcherish 来源：转载 发布时间：2008-7-4 14:54:48
减小字体
增大字体format：设置输出格式
对浮点性变量，缺省为format short.
format并不影响matlab如何计算和存储变量的值。对浮点型变量的计算，即单精度或双精度，按合适的浮点精度进行，而不论变量是如何显示的。对整型变量采用整型数据。整型变量总是根据不同的类（class）以合适的数据位显示，例如，3位数字显示显示int8范围 -128：127。format short, long不影响整型变量的显示。
format long 显示15位双精度，7为单精度（scaled fixed point）
format short 显示5位(scaled fixed point format with 5 digits)
format short eng 至少5位加3位指数
format long eng 16位加至少3位指数
format hex 十六进制
format bank 2个十进制位
format + 正、负或零
format rat 有理数近似
format short 缺省显示
format long g 对双精度，显示15位定点或浮点格式，对单精度，显示7位定点或浮点格式。
format short g 5位定点或浮点格式
format short e 5位浮点格式
format long e 双精度为15位浮点格式，单精度为7为浮点格式
int8 显示范围-128：127，stored integer为raw 二进制数
real-world value=2^(-fraction length)* stored integer,或者，等价的：
real-world value=(slope*stored integer)+bias
|
Operation |
Output Range |
Output Type |
Bytes per Element |
Output Class |
|
int8 |
-128 ~ 127 |
Signed 8-bit integer |
1 |
int8 |
|
int16 |
-32,768 ~ 32,767 |
Signed 16-bit integer |
2 |
int16 |
|
int32 |
-2,147,483,648 ~ 2,147,483,647 |
Signed 32-bit integer |
4 |
int32 |
|
int64 |
-9,223,372,036,854,775,808~ 9,223,372,036,854,775,807 |
Signed 64-bit integer |
8 |
int64
|
文章评论 （评论内容只代表网友观点，与本站立场无关！）