본문 바로가기

fixed point number2

신호처리와 숫자 표현(3)-고정 소수점, 부동 소수점의 변환 고정 소수점과 부동 소수점의 변환 신호처리에서 실수는 고정 소수점 방식과 부동 소수점 방식으로 기록됩니다. 고정 소수점 방식은 메모리 비트를 그대로 읽으면 실수로 표시되기 때문에 하드웨어 매우 유리한 방식입니다. 이에 반해 부동 소수점 방식은 코딩 과정에 유리합니다. 이 두 표현 관계는 신호처리 과정에서 상호 변환해서 사용하기도 합니다. 특히 필터의 계수값을 구할때 고정 소수점 방식으로 구하지 않습니다. 부동 소수점이 일반적인 수학 연산 표현에 더 적합하기 때문입니다. 그러니 부동 소수점으로 구한 값을 고정 소수점으로 변환해서 주로 사용하게 됩니다. 이 글에서는 두 표현 방법 간에 변환 방법을 알아보겠습니다. 실수의 고정 소수점$(N_{fixed})$ 표현 먼저 다음 공식을 이용해서 실수 R을 Qm.n .. 2021. 8. 17.
신호처리와 숫자 표현(2)-숫자의 비트 표현 숫자의 비트 표현 신호처리는 최종적으로 정수(integer)와 실수 형식을 사용하고 실수는 고정 소수점 방식과 부동 소수점 방식을 사용합니다. 그런데 숫자를 DSP의 신호처리 연산을 위해서는 비트(bit) 형식으로 표시할 필요가 있습니다. 이 글에서는 정수와 소수의 비트 표현을 알아보겠습니다. 여기서 숫자 뒤의 강호는 숫자의 진법을 의미합니다. 정수의 비트 표현 10진수의 정수 표현은 잘 알려진 것과 같이 정수를 2로 나누면서 나머지를 모으면 쉽게 구해집니다. 소수의 비트 표현 실수에서 정수 부분이 위의 정수 비트 표현을 사용하면 됩니다. 실수의 소수 부분은 아래와 같이 2를 계속 곱하고 정수 부분을 모아서 표현합니다. 다음은 0.33의 소수 표현입니다. 그런데 0.33은 2진법으로 표현하면 무한히 소수.. 2021. 8. 17.