ABOUT

성능과 운영 안정성을 함께 끌어올리는 개발자입니다.

92% Positional Error Reduction
79% p95 Latency Improvement
90%+ Long Tasks Reduction

2022.02 · 한국장학재단

우수 멘티

한국장학재단 사회 리더 대학생 멘토링 IT

2022.10 · 동작구청

우수 인재상

동작구청 우수 SW 인재

2025.05 · (주) 그랩

프로그래밍 우수상

(주) 그랩 우수 프로그램 개발

2025.05 · AWSKRUG

AWS한국사용자모임 발표

AI agent 스크립트 튜닝 관련 발표

ComputerScience

Development

Engineering

Trouble Shooting

GUESTBOOK

첫 마음부터
함께 나누는 온기

방명록 작성하러 가기

SUBSCRIBE

최신소식을
편하게 만나보세요.

IEEE 754

정의

컴퓨터에서 실수를 어떻게 저장하고 계산할지 정의한 국제 표준입니다.

과거에는 제조사마다 실수 표현 방식이 달라서, 같은 계산을 해도 결과가 달랐습니다.

이를 해결하기 위해 IEEE(미국 전기전자학회)에서는 실수 표현과 연산을 표준화하기 위해 만든 규격입니다.

이로 인해 모든 CPU와 프로그래밍언어가 동일한 방식으로 부동소수점을 처리해 이식성과 일관성이 보장됩니다.

IEEE 754는 크게 표현 방식과 연산 규칙을 규정합니다.

 

표현 방식

대표적인 형식으로는 단정밀도와 배정밀도가 있습니다.

📌 단정밀도 (Single Precision)

메모리 사용이 적고, 연산 속도가 빠르지만 정밀도가 낮아 오차가 발생합니다.

총 32비트로  부호(1비트), 지수(8비트), 가수(23비트)로 구성됩니다.

바이어스(Bias)는 127입니다.

표현 가능 범위는 약 10⁻³⁸ ~ 10³⁸입니다.

정밀도는 약 7자리(10진수)입니다.

 

📌 배정밀도 (Double Precision)

훨씬 정밀하고 넓은 범위를 표현 가능해서 금융, 통계 등 정확한 계산이 필요한 곳에서 사용합니다.

총 64비트로 부호(1비트), 지수(11비트), 가수(52비트)로 구성됩니다.

바이어스(Bias)는 1023이며, 표현 가능 범위는 약 10⁻³⁰⁸ ~ 10³⁰⁸입니다.

정밀도: 약 15~16자리(10진수)입니다.

 

📌 반정밀도(Half Precision)

딥러닝 등 메모리 절약이 중요한 분야에서 사용합니다.

총 16비트입니다.

 

📌 사중정밀도(Quad Precision)

과학계산에 사용됩니다.

총 128비트입니다.

 

📌 가변 정밀도(Decimal Floating Point)

금융 분야 등에서 10진 연산을 정확히 다뤄야 할 때 사용합니다.

 

연산 규칙

부동소수점 연산의 반올림 방식과 예외 처리 방식을 포함한 연산을 규정합니다.

📌 반올림 방식

실수를 2진수로 변환 시, 대부분 무한소수가 되는데 이 때 방식을 명시합니다.

가장 가까운 짝수로 반올림 하는 방식을 기본 규칙으로하며, 소수점 버리기, 올리기, 내리기 식의 방식을 규정합니다.

 

📌 무한대

너무 큰 값 계산시, (+∞, -∞)로 처리합니다.  ex) 1/0 = +

 

📌 NaN 

 정의되지 않은 연산결과를 NaN으로 처리합니다. ex) 0/0 = NaN

 

📌 언더플로우

너무 작은 값은 0으로 처리합니다.

 

📌 오버플로우

너무 큰 값은 ∞로 처리합니다.

 

📌 가변 정밀도(Decimal Floating Point)

금융 분야 등에서 10진 연산을 정확히 다뤄야 할 때 사용합니다.


 

728x90