ANALOG SOUL DSP ENGINE

직렬 8단 구성이다. 앞 단의 출력이 뒤 단의 입력이 되므로 배치 순서가 최종 음색을 결정한다. 마스터링 단은 배치와 무관하게 항상 최종단이다.

순서 변경의 음향적 결과

• TUBE를 COMP 앞으로. 포화가 먼저 피크를 둥글게 만들어 압축기에 들어가는 크레스트 팩터가 낮아진다. 같은 스레숄드에서 리덕션이 줄고 결과적으로 더 단단한 어택이 남는다.
• VINYL을 선두로. 부가 잡음이 이후 모든 비선형 단을 통과한다. 핑크 노이즈가 포화 단에서 배음을 만들어 잡음 스펙트럼이 고역으로 확장된다.
• ATMOS를 MASTER 직전이 아닌 앞쪽으로. 잔향 성분이 대역 압축의 검출 신호에 포함되어, 잔향 꼬리에서 게인이 되돌아오는 펌핑이 생긴다.

각 단 진입 직전에 ±24 dB 범위의 입력 게인이 있다. 해당 단이 비활성이면 게인도 개입하지 않으므로 토글 상태가 레벨에 영향을 주지 않는다.

입력 게인의 의미는 단의 성격에 따라 다르다.

블록도에서 세로 분기는 병렬 경로를 뜻한다. 필터 표기는 종류(주파수, Q, 게인) 형식이다.

손실 압축으로 제거된 고역을 하모닉 전사로 합성한다. 단시간 푸리에 변환 영역에서 동작하며, 프레임 길이 4096, 홉 1024(75% 중첩), 한 창을 사용한다.

192 kHz에서는 같은 프레임 길이가 시간상 절반이 되므로 시간 분해능이 높아지는 대신 주파수 분해능이 절반으로 떨어진다. 저역 배음 구조의 식별력이 낮아지지만, 대역 확장이 관심을 두는 영역은 고역이라 실무상 문제가 되지 않는다.

지각 부호화기는 마스킹 임계 아래의 성분을 제거하고, 비트 예산이 부족하면 고역 전체를 대역 제한한다. 결과적으로 스펙트럼에 수직에 가까운 절벽이 남는다.

자연 음원의 스펙트럼은 고역으로 갈수록 완만하게 감쇠한다. 악기의 배음 포락선은 대체로 −6 ~ −12 dB/oct 기울기를 가진다. 부호화가 만든 절벽은 이보다 훨씬 가파르며, 이 불연속이 가청 대역 밖에 있더라도 경계 부근의 인접 대역 인지에 영향을 준다.

프레임 단위가 아니라 파일 전역에서 1회 수행한다. 한 프레임만 관측하면 고역이 없는 조용한 구간을 차단으로 오판할 수 있다.

1. 평균 스펙트럼 수집. 파일 전체에서 최소 20개 지점을 표본 추출해 진폭 스펙트럼을 평균한다.
2. 평활과 dB 변환. 9빈 이동 평균 후 dB로 변환한다. 인접 빈의 변동을 줄여 판정을 안정화한다.
3. 기준 레벨 산출. 1 ~ 4 kHz 구간의 평균 dB를 기준으로 삼는다. 대부분의 음악에서 에너지가 집중되고 부호화기가 가장 보존하는 대역이다.
4. 1차 탐색. 상한은 샘플레이트의 1/4이다. 업샘플링으로 생긴 빈 영역을 탐색 대상에서 제외한다. 여기서 하강하며 연속 12빈 평균이 기준 − 30 dB를 넘는 최초 지점을 차단점으로 본다.
5. 절벽 검증. 차단점 위 12빈이 아래보다 15 dB 이상 낮지 않으면 절벽이 아니라고 판단하고, 인접 12빈 평균차가 20 dB를 넘는 지점을 재탐색한다.

차단점 아래의 잔존 성분을 정수배 주파수 위치로 복사한다. 차수별 레벨은 고정 비율을 따르고 사용자 파라미터가 전체를 스케일링한다.

차수가 2배 될 때마다 −6 dB다. 주파수 축 로그 스케일에서 옥타브당 −6 dB 기울기에 해당하며, 현악기·관악기 배음 포락선의 전형적인 감쇠율과 일치한다. 이 때문에 합성된 고역이 원본 배음 구조의 연장선처럼 들린다.

구간이 연속되도록 설계되어 있다. 차수 2는 차단점부터 그 2배까지, 차수 4는 2배부터 4배까지를 담당한다. 슬라이더를 0으로 내려도 스케일이 0.5이므로 합성이 완전히 꺼지지는 않는다.

원음과 합성음의 경계를 코사인 곡선으로 교차시킨다. 교차 시작점은 차단점의 75% 지점이다.

가중치의 합이 1인 진폭 보존 교차다. 상관관계가 없는 두 신호를 섞을 때는 제곱합이 1인 전력 보존 교차가 적절하지만, 여기서는 합성음이 원음에서 파생되어 상관관계가 있으므로 진폭 보존이 맞다. 전력 보존을 쓰면 교차 중앙에서 약 3 dB 융기가 발생한다.

배음 차수 사이의 경계도 각 구간을 25% 침범하며 교차한다. 중첩 없이 이어 붙이면 경계마다 진폭 딥이 생기고, 주기적인 딥은 금속성 착색으로 들린다.

합성 구간의 진폭에 가우시안 커널을 적용한다. 전사 과정에서 원본의 협대역 피크가 그대로 복사되면 고역에 고립된 정현파 성분으로 남아 금속성 울림을 만든다.

평활은 진폭에만 적용하고 위상은 보존한다. 위상까지 평활하면 시간 영역에서 임펄스가 퍼져 트랜지언트가 뭉개진다.

합성량이 클수록 돌출 피크도 많아지므로 SMOOTH를 함께 올리는 것이 일반적이다. SYNTH 70 이상에서 심벌에 금속성이 들리면 SYNTH를 내리기 전에 SMOOTH를 먼저 올려 볼 가치가 있다.

고역 성분을 추가하면 전체 에너지가 증가한다. 처리 전후 RMS를 비교해 증가분만 되돌린다.

1% 여유를 둔 단방향 보정이다. 커진 경우만 줄이고 작아진 경우는 두므로, 기능을 켜고 끌 때 음량 차이가 최소화되어 A/B 비교가 공정해진다. 레벨을 맞추지 않으면 단순히 커진 소리를 개선으로 오인하게 된다.

클램프는 0.99에서 하드 클리핑이다. 정합 후에도 피크가 남는 경우를 대비한 최종 보호이며, 정상 동작에서는 거의 개입하지 않는다.

처리 전후를 동시에 표시한다. 원음 신호는 모든 처리 단 진입 이전에서 분기한다.

표시 범위 70 dB를 0~255로 정규화한다. 색상 눈금과 dB 격자가 동일한 상한·하한을 참조하므로 두 표시가 항상 일치한다. 시간 평활 0.8은 프레임 간 급변을 억제해 판독성을 높이지만, 짧은 트랜지언트의 순간 피크는 과소 표시된다.

막대 표시

128개 구간을 로그 간격으로 나누고 각 구간의 최대값을 취한다. 평균을 쓰면 협대역 피크가 인접 빈에 희석되어 사라진다. 피크 홀드 지시는 프레임당 일정 비율로 하강한다.

시간-주파수 표시

가로축 시간, 세로축 로그 주파수, 색상이 음압이다. 약 8.7초의 이력이 유지된다. 차단점 식별에는 이 표시가 유리하다. 정지 스펙트럼은 순간값만 보여주므로, 곡 전체에 걸친 대역 제한을 판단하려면 시간 축이 필요하다.

표시 범위 고정

표시 상한을 24 kHz, 48 kHz, 96 kHz 중에서 고정할 수 있다. 대역 확장을 켜고 끄면 실제 나이퀴스트가 바뀌어 축이 재조정되는데, 그 상태로는 같은 성분이 화면상 다른 위치에 나타나 비교가 성립하지 않는다. 축을 고정하면 위치가 유지되어 새로 채워진 영역만 식별된다.

고정 범위가 실제 나이퀴스트보다 넓으면 데이터가 없는 구간이 생긴다. 이 구간은 경계선 표시와 함께 어둡게 처리한다. 경계에서 값을 유지하면 없는 신호가 존재하는 것처럼 보인다.

대역 확장의 효과를 평가할 때 반드시 고려해야 할 제약이다.

가청 상한

96 kHz 확장이 채우는 20 ~ 48 kHz, 192 kHz 확장이 추가로 채우는 48 ~ 96 kHz는 어느 연령에서도 직접 지각되지 않는다. 실효 이득은 차단점과 가청 상한 사이의 중첩 구간에서만 발생한다.

재생계 제약

출력 장치가 48 kHz로 동작하면 24 kHz 이상은 변환 단계에서 제거된다. 96 kHz 대응 변환기가 있어야 48 kHz까지 전달되고, 192 kHz 대응은 더 드물다. 다만 실효 이득 구간이 가청 대역 내에 있으므로, 장치 대역폭과 무관하게 그 부분은 전달된다.

초음파 성분의 간접 영향

가청 상한 이상의 성분이 증폭단의 비선형성과 상호작용해 가청 대역 내에 상호변조 산물을 만들 수 있다. 이는 개선이 아니라 왜곡이다. 고차 배음을 과도하게 넣는 설정이 역효과를 낼 수 있는 물리적 근거이기도 하다.

소스별 대역 확장 설정

평가 절차

1. 시간-주파수 표시로 전환하고 표시 범위를 96 kHz로 고정한다.
2. 확장을 끈 상태로 차단점을 확인한다. 절벽이 없으면 확장 대상이 아니다.
3. 확장을 켜고 채워진 영역의 질감을 관찰한다. 하부 무늬와 연속되면 정상이고, 무관한 균일 대역이면 SYNTH가 과도하다.
4. 레벨을 정합한 상태에서 청감 비교한다. 심벌·하이햇·치찰음 구간을 중점적으로 듣는다.
5. 차이가 식별되지 않으면 해당 소스에 확장이 불필요하다고 판단한다.

과도 설정의 징후

• 심벌의 금속성 착색. 합성 배음이 원본과 조화하지 못하는 상태. SMOOTH를 올리거나 SYNTH를 내린다.
• 치찰음의 경직. 6~10 kHz 대역에 합성 성분이 과다. 차단점 판정이 낮게 잡혔을 가능성.
• 무음 구간의 배경 잡음. 잔존 잡음 성분까지 전사된 상태. SYNTH를 내린다.

다른 단과의 상호작용

대역 확장과 EXCITER를 동시에 강하게 걸면 고역이 중복 강조된다. 두 처리가 같은 대역을 다르게 만들어내므로 합산 시 예측이 어렵다. 확장 효과를 판정할 때는 EXCITER를 포함한 다른 단을 모두 끄는 것이 좋다.

BBE의 HI DEF는 8 kHz 이상을 셸빙으로 들어올린다. 확장으로 새로 만든 성분까지 함께 증폭하므로, 확장을 켠 상태에서는 평소보다 낮은 값이 적절하다.

설계상 타협

• 포화 단의 잔류 앨리어싱 — 약 −80 dBFS. 4배 오버샘플링과 입력 대역 제한으로 발생 차수를 10.5차까지 밀어냈다. 아래 잔류량 산정에 수치를 명시했다. 더 줄일 수단은 있으나 채택하지 않았으며, 그 판단 근거도 함께 적었다.

잔류 앨리어싱 산정

"완전 제거 불가"로만 적으면 쓸모가 없으므로 실제 크기를 계산해 둔다. 기준은 중간 드라이브의 tanh 포화와 일반적인 음악 스펙트럼이다.

양자화 바닥보다는 위지만 실제 청취 환경의 암소음보다 10 dB 이상 아래다. 드라이브를 최대로 올리고 16 kHz 부근에 에너지가 몰린 소스를 쓰는 극단적 조건에서만 측정에 잡히는 수준이다.

더 줄이는 수단과 채택하지 않은 이유

체인 전체를 목표 레이트의 배수에서 렌더한 뒤 내리면 시작 차수가 배수만큼 밀린다. 구현해서 측정한 결과는 이렇다.

5분 스테레오 48 kHz 기준. 채택하지 않은 이유는 세 가지다.

• 이득이 가장 필요 없는 곳에만 적용된다. HD는 96 kHz, ULTRA HD는 192 kHz라 배수를 곱하면 브라우저 상한인 192 kHz를 넘는다. 실제로 배수를 쓸 수 있는 것은 16비트 표준 출력뿐인데, 그쪽은 양자화 바닥이 −96 dBFS라 −80을 −93으로 내려봐야 바닥에 묻힌다. 정작 정밀도가 높은 HD·UHD 경로에는 적용할 수 없다.
• 리샘플 단계가 1회에서 2회로 늘어난다. 올리고 내리는 두 변환이 각각 통과대역 리플과 트랜지언트 전후 링잉을 남긴다. 들리지 않는 앨리어싱을 줄이려고 들릴 수 있는 리샘플 아티팩트를 새로 들이는 거래가 된다. 브라우저 리샘플러의 품질은 명세에 규정되어 있지 않다.
• 실시간 경로와의 차이가 다시 벌어진다. 오버샘플 렌더는 내보내기에만 적용된다. 처리 순서를 맞춰 없앤 불일치가 하필 같은 축에서 되살아난다.

원본 샘플레이트 보존

디코딩은 대상 컨텍스트의 레이트로 리샘플하므로, 원본 레이트를 유지하려면 디코딩 전에 그 값을 알아야 한다. 컨테이너 헤더를 직접 읽어 해결한다.

MP4는 moov → trak → mdia → minf → stbl → stsd 경로를 재귀 탐색한다. mdhd의 타임스케일도 같은 값을 담는 경우가 많지만, SBR 계열에서는 출력 레이트의 절반으로 적히는 일이 있어 stsd를 우선하고 실패했을 때만 보조 수단으로 쓴다.

판독에 실패하거나 8 ~ 192 kHz 범위를 벗어나면 장치 기본값으로 되돌아간다.