floating point number1 신호처리와 숫자 표현(3)-고정 소수점, 부동 소수점의 변환 고정 소수점과 부동 소수점의 변환 신호처리에서 실수는 고정 소수점 방식과 부동 소수점 방식으로 기록됩니다. 고정 소수점 방식은 메모리 비트를 그대로 읽으면 실수로 표시되기 때문에 하드웨어 매우 유리한 방식입니다. 이에 반해 부동 소수점 방식은 코딩 과정에 유리합니다. 이 두 표현 관계는 신호처리 과정에서 상호 변환해서 사용하기도 합니다. 특히 필터의 계수값을 구할때 고정 소수점 방식으로 구하지 않습니다. 부동 소수점이 일반적인 수학 연산 표현에 더 적합하기 때문입니다. 그러니 부동 소수점으로 구한 값을 고정 소수점으로 변환해서 주로 사용하게 됩니다. 이 글에서는 두 표현 방법 간에 변환 방법을 알아보겠습니다. 실수의 고정 소수점$(N_{fixed})$ 표현 먼저 다음 공식을 이용해서 실수 R을 Qm.n .. 2021. 8. 17. 이전 1 다음