Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- OpenAI 개발
- Recoverit
- pwntools
- 개발
- python
- python3.11 설치
- GDB
- Python3
- tool
- docker
- DYNAMIC Section
- c++
- 공유 라이브러리는 왜 항상 같은 순서로 맵핑 될까?
- Seccomp bypass
- python3.11 pip
- 임베디드 시스템 해킹
- Windows 부팅 오류
- GEF
- 실시간로깅
- pip 에러 해결
- VSCode C++ 표준 버전 수정
- wsl2 복구
- Python.h: No such file or directory
- vmware 반응 속도
- 리커버릿
- std::cerr
- vhdx 파일 복구
- z3 signed 이슈
- 지훈현서
- pwn
Archives
- Today
- Total
목록Python float 오차 해결법 (1)
OZ1NG의 뽀나블(Pwnable)
[Tips] Python float형(부동소수점) 계산 오차 발생 이유 및 해결법
파이썬3로 개발하다가 단순 float형끼리의 계산에서 오차가 발생한다는 것을 알았다. ????????????????? 아니 이게 왜... 분명 0.043-0.001의 값은 0.042가 나와야하는데 0.0419999.....가 나온다... (참고로 python2도 마찬가지다.) [*] 이유 이건 꼭 Python에서만 발생하는 문제가 아니라 모든 언어에서 거의 공통으로 발생하는 문제이고 그 이유는 컴퓨터는 숫자를 2진수로 받아들이기 때문에 생긴다는 것이다. 2진수의 정수부는 아래와 같이 표현할 수 있다. 1 = 2^0 = 1(2) = 1 1*2 = 2^1 = 10(2) = 2 1*2*2 = 2^2 = 100(2) = 4 ... 2씩 곱한다는 규칙이 있다. 2진수의 소수부는 아래와 같다. 1/2 = 2^-1 ..
Tips
2021. 4. 4. 22:46