[CS /CA] 컴퓨터의 실수 표현

2023. 8. 2. 15:50· CS
목차
  1. 고정 소수점
  2. 부동 소수점

고정 소수점

소수부의 자릿수를 미리 정하여, 고정된 자릿수의 소수를 표현하는 것

  • 부호 비트 : 0이면 양수, 1이면 음수
  • 정수부
  • 소수부 : 앞에서부터 채우며 나머지는 0으로 채움

소수점의 위치를 고정시키기 때문에 크고 정밀한 실수를 표현하지 못한다.

 

 

 

부동 소수점

±(1.가수부)×2지수부-127 형식으로 정규화하여 실수를 표현하는 것

  1. 정규화 : 정수 부분에 한자릿수 1만 남기는 표현법
  2. IXXX 754 부동 소수점 표현
    • 부호 비트 : 0이면 양수, 1이면 음수
    • 지수부
    • 가수부

'CS' 카테고리의 다른 글

[CS / CA] ARM Processor  (0) 2023.08.21
[CS / CA] 패리트비트와 해밍코드  (0) 2023.08.02
[CS / CA] Cache Memory  (0) 2023.08.02
[CS / CA] CPU 작동원리  (0) 2023.08.02
[CS / CA] 폰 노이만 구조  (0) 2023.07.18
  1. 고정 소수점
  2. 부동 소수점
'CS' 카테고리의 다른 글
  • [CS / CA] ARM Processor
  • [CS / CA] 패리트비트와 해밍코드
  • [CS / CA] Cache Memory
  • [CS / CA] CPU 작동원리
따봉치치
따봉치치
따봉치치
김치치의개발블로그
따봉치치
전체
오늘
어제
  • 분류 전체보기 (359)
    • 면접질문 (4)
    • CS (50)
    • FE (116)
      • Javascipt (16)
      • Typescipt (6)
      • React (16)
      • CSS (5)
      • Nextjs (1)
      • 리뷰 (70)
    • Algorithm (181)
    • ETC (3)
      • Bootcamp (4)

블로그 메뉴

  • 홈
  • 태그
  • 방명록

공지사항

인기 글

태그

  • 투 포인터
  • 문자열
  • 모던 리액트 딥다이브
  • TOPCIT
  • 자바스크립트
  • dp
  • 알고리즘
  • 그래프 탐색
  • typescript
  • 우선순위 큐
  • C++
  • 스택
  • BOJ
  • javascript
  • BFS
  • 백트래킹
  • 모던 자바스크립트 딥다이브
  • 자료구조
  • Greedy
  • 리액트
  • 백준
  • 탐욕 알고리즘
  • 누적합
  • Stack
  • CS
  • Fe
  • 완전탐색
  • 그리디
  • 데이터베이스
  • react

최근 댓글

최근 글

hELLO · Designed By 정상우.v4.2.2
따봉치치
[CS /CA] 컴퓨터의 실수 표현
상단으로

티스토리툴바

단축키

내 블로그

내 블로그 - 관리자 홈 전환
Q
Q
새 글 쓰기
W
W

블로그 게시글

글 수정 (권한 있는 경우)
E
E
댓글 영역으로 이동
C
C

모든 영역

이 페이지의 URL 복사
S
S
맨 위로 이동
T
T
티스토리 홈 이동
H
H
단축키 안내
Shift + /
⇧ + /

* 단축키는 한글/영문 대소문자로 이용 가능하며, 티스토리 기본 도메인에서만 동작합니다.