float가 대개 32bit

double이 대개 64bit 인데

fp16이라고 16bit짜리 half precision float point라는게 존재하네..

 

They can express values in the range ±65,504, with the minimum value above 1 being 1 + 1/1024.

In the IEEE 754-2008 standard, the 16-bit base-2 format is referred to as binary16. It is intended for storage of floating-point values in applications where higher precision is not essential for performing arithmetic computations.

[링크 : https://en.wikipedia.org/wiki/Half-precision_floating-point_format]

'이론 관련 > 컴퓨터 관련' 카테고리의 다른 글

fp16  (0) 2021.05.10
gps 체크섬  (0) 2020.11.17
GPX, NMEA 포맷 변환  (0) 2020.11.05
NMEA / GPS 날짜&시간  (0) 2020.11.05
온프레미스  (0) 2020.10.27
NMEA 포맷  (0) 2020.10.26
Posted by 구차니

댓글을 달아 주세요