ABOUT

성능과 운영 안정성을 함께 끌어올리는 개발자입니다.

92% Positional Error Reduction
79% p95 Latency Improvement
90%+ Long Tasks Reduction

2022.02 · 한국장학재단

우수 멘티

한국장학재단 사회 리더 대학생 멘토링 IT

2022.10 · 동작구청

우수 인재상

동작구청 우수 SW 인재

2025.05 · (주) 그랩

프로그래밍 우수상

(주) 그랩 우수 프로그램 개발

2025.05 · AWSKRUG

AWS한국사용자모임 발표

AI agent 스크립트 튜닝 관련 발표

ComputerScience

Development

Engineering

Trouble Shooting

GUESTBOOK

첫 마음부터
함께 나누는 온기

방명록 작성하러 가기

SUBSCRIBE

최신소식을
편하게 만나보세요.

숫자 표현법

 

서론

숫자는 여러 비트를 묶어 값을 표현합니다.

컴퓨터는 0과 1만을 이해하므로, 모든 데이터는 2진수(0, 1)로 저장해야 합니다.

하지만 우리가 사용하는 숫자는 정수, 음수, 소수, 실수 등 다양한 형태를 가집니다

따라서 이러한 수를 효과적으로 저장하고 계산하기 위해 컴퓨터 내부에서는 여러 가지 숫자 표현 방법을 사용합니다.

숫자 표현 방식은 단순한 저장 규칙을 넘어, 계산의 정확도와 성능에 직접적인 영향을 미칩니다.

 

정수 표현법

비트 수와 부호 여부가 표현에 영향을 미칩니다.

📌 비트 수

정수는 저장할 때, 비트에 따라서 표현할 수 있는 범위가 고정되어 있습니다.

ex) 8비트(-128 ~ +127), 16비트(-32,768 ~ +32,767), 32비트(-2,147,483,648 ~ +2,147,483,647)

 

📌 부호 비트 여부

부호 비트란 저장된 수가 음수인지 양수인지 판단이 가능하게 하는 비트로 여부에 따라 저장 방식이 다릅니다.

양수(부호가 없는 정수)의 경우, 부호 비트가 없이 모든 비트를 값의 크기에만 사용합니다.

숫자를 2진수로 바꾸고 제공된 비트 수에 맞춰 그대로 저장합니다.

ex) 8비트
00000000₍₂₎ → 0
00000001₍₂₎ → 1
11111111₍₂₎ → 255

ex) 16비트
0000000000000000₍₂₎ → 0
0000000000000001₍₂₎ → 1
0000000011111111₍₂₎ → 255

 

음수(부호가 있는 정수)의 경우, 그대로 저장하지 않고, 2의 보수를 사용합니다.

 

소수 표현법

부동 소수점을 통해 표현합니다.
 

부동소수점

정의부동은 "不動"이 아니라 "浮動" 입니다.컴퓨터에서 실수를 표현할 때 사용하며, 소수점을 나타내기 위해 대표적으로 사용하는 표현 방식입니다.아주 큰 수(3.0 × 10⁸)나 아주 작은 수(1.2 × 10

develop-enchantment.tistory.com


 

728x90