티스토리 뷰

개발

실수 빼기 실수를 할때

Jrady 2018. 11. 15. 15:19

유니티에서 아래와 같이 할 경우 문제가 생긴다.




1
2
3
4
5
6
float f = 1.0f;
 
while (f >= 0.0f) {
    f -= 0.1f;
    Debug.Log(f);
}
cs



처음에는 0.9, 0.8 잘 되는 것 같다가도

0.6999999 가 된다..


해결방법.


1
2
3
4
5
6
int i = 10;
while (i > 0) {
    i -= 1;
    float f = i / 10.0f; 
    Debug.Log(f);
}
cs

아래와 같이 계산하면 실수계산에서 생기는 오류를 해결 할 수 있다.!!


'개발' 카테고리의 다른 글

[JS] Substring  (0) 2018.11.21
유니티 오브젝트 투명하게 하는법. - FadeIn/ FadeOut  (0) 2018.11.16
.htaccess 파일 업로드 설정  (0) 2018.11.06
전국 급식 API  (0) 2018.11.05
Visual Studio 주석 단축키  (0) 2018.10.30
댓글
공지사항
최근에 올라온 글
최근에 달린 댓글
Total
Today
Yesterday
링크
TAG
more
«   2025/05   »
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31
글 보관함