평활화, 지연, 그리고 칼만 필터

무엇인가

가격 위에 그리는 모든 평활선은 지난 종가들의 가중평균입니다. 평활화 방식끼리의 차이는 가중치를 어떻게 나누느냐뿐이고, 그 선택이 두 가지를 동시에 정합니다. 봉마다의 잡음을 얼마나 걸러내는가, 그리고 움직이는 시장보다 선이 얼마나 뒤처지는가입니다. 잡음을 줄이면 반드시 지연이 늘어납니다. 어떤 가중 방식도 이 교환에서 벗어나지 못하고, 그 선 위의 한 지점을 고를 뿐입니다.

지연을 한 숫자로 보려면 가중치의 무게중심, 곧 평균이 실제로 몇 봉 뒤에 앉아 있는가를 봅니다. 일정한 속도로 오르는 시장에서 선은 정확히 그만큼 뒤처집니다. GMR의 테스트는 아래 필터들을 일정한 상승 추세 위에서 직접 계산해 이 수치를 확인합니다. 인용한 숫자가 아니라 측정한 숫자입니다.

• 단순이동평균(SMA) — n봉에 같은 가중치를 줍니다. 20봉 SMA는 일정한 추세보다 9.5봉 뒤에 있습니다. 식으로는 (n − 1) ÷ 2입니다.
• 지수이동평균(EMA) — 최근 봉에 2 ÷ (n + 1)의 가중치를 주고 과거로 갈수록 기하급수적으로 줄입니다. 20봉 EMA도 결국 9.5봉 뒤에 자리 잡습니다. 최근 봉의 비중이 커서 방향 전환에는 더 빨리 반응하지만, 평균적인 지연은 SMA와 같습니다.
• 와일더 평활(SMMA·RMA) — 가중치가 1 ÷ n인 지수평균입니다. 20봉 SMMA는 19봉 뒤, SMA의 두 배입니다. 와일더 방식의 RSI와 ATR이 느리게 움직이는 이유가 여기에 있습니다.
• 선형가중이동평균(WMA·LWMA) — 최근 봉부터 n, n − 1 … 1의 가중치를 줍니다. 20봉 WMA는 약 6.3봉, (n − 1) ÷ 3만큼 뒤에 있고, 그 대가로 잡음을 더 많이 통과시킵니다.
• 칼만 필터 — 고정된 기간이 아니라 모형입니다. 실제 수준은 봉마다 조금씩 움직이고(과정 잡음 Q), 각 종가는 그 수준에 측정 잡음(R)이 더해진 값이라고 가정합니다. 필터는 두 잡음의 크기가 뜻하는 비율대로 자신의 예측과 새 종가를 섞습니다.

차트에서 찾는 법

칼만 필터의 성격은 q = Q ÷ R 이라는 하나의 비율로 정해집니다. 실제 수준이 한 봉에 움직인다고 보는 정도를, 종가 하나에 섞인 잡음의 크기와 비교한 값입니다. q가 크면 각 종가를 믿고 가격을 바짝 따라가며, q가 작으면 모형을 믿고 강하게 평활합니다.

속도 없이 수준만 추정하는 가장 단순한 형태는 결국 일정한 혼합 비율 K = (√(q² + 4q) − q) ÷ 2 에 수렴합니다. 그 순간부터는 가중치가 K인 지수이동평균과 정확히 같습니다. q = 0.02이면 K는 약 0.13으로, 약 14봉 EMA처럼 움직이고 일정한 추세보다 약 6.6봉 뒤처집니다. 수준만 보는 칼만 필터는 마법이 아니라, 잡음에 대한 가정에서 가중치를 끌어낸 EMA입니다.

교환 조건을 바꾸는 것은 상태에 속도를 더한 형태입니다. 필터가 수준이 어디에 있는지와 얼마나 빠르게 움직이는지를 함께 추정하고, 둘을 써서 다음 봉을 예측합니다. 일정한 추세에서는 자리를 잡은 뒤 지연이 0이 되고, 추정 속도는 추세의 기울기를 그대로 되찾습니다. 대가는 잡음과 과잉 반응입니다. 추세가 꺾이면 필터는 새 종가가 바로잡을 때까지 몇 봉 동안 이전 속도를 끌고 갑니다.

GMR은 내부 차트 랩에서 수준과 속도를 함께 추정하는 인과적(causal) 칼만 추정을 계산합니다. 각 봉의 값은 그 봉과 이전 봉만 써서 구하므로, 한 번 나온 값은 나중에 바뀌지 않습니다. 추정 기울기를 ATR 단위로, 가격이 추정선 위아래 어디에 있는지를 보여 주고, 지지·저항 구간, 조건부 RSI, 볼린저 밴드 위치를 따로 나란히 놓습니다. 아직 GMR의 공개 답변에는 포함되지 않습니다.

왜 보는가

트레이더는 전환을 빨리 보려고 더 빠른 평균을, 잡음을 무시하려고 더 느린 평균을 찾습니다. 새로 나온 평균은 대부분 같은 지연·잡음 곡선 위의 다른 점일 뿐입니다. 칼만 필터가 인기를 얻은 이유는 가정을 명시적으로 드러내고, 상태에 속도를 넣으면 모든 고정 이동평균이 안고 있는 일정 추세 지연을 없애기 때문입니다.

매매 스크립트에서 인기가 높은 만큼 실제보다 부풀려 소개되는 일도 잦습니다. 가격을 '예측'하는 선이라거나, 지난 값을 다시 그리는(리페인트) 신호라거나 하는 식입니다. 인과적 필터는 최근의 과거를 설명할 뿐입니다. 뒤의 봉을 보고 앞의 봉을 그리는 평활선은 완성된 차트에서는 정확해 보이지만 실시간으로는 재현할 수 없습니다.

확인 조건

어떤 평활선으로 읽은 추세든, 평활선 없이 추세를 확인하는 것과 같은 조건으로 확인합니다. 시장 구조가 그에 맞는 스윙 순서를 만들고, 가격이 해당 지지·저항 구간 너머에서 받아들여지는 것입니다. 추정선의 기울기가 구조와 일치하는 것은 근거 하나입니다. 볼린저 밴드, 이동평균, 칼만 추정은 모두 같은 종가에서 계산하므로, 셋이 일치해도 세 개가 아니라 한 번만 세는 근거 하나입니다.

무효화

가격이 추정선을 계속 위아래로 넘나들 때, 몇 봉 사이에 기울기가 여러 번 뒤집힐 때, 구조와 구간은 횡보를 말하는데 선만 한쪽으로 기울어 있을 때 추세 추정은 더 이상 시장을 설명하지 못합니다. 횡보 구간에서는 모든 평활선이 잡음을 따라다니고, 갑작스러운 갭이나 국면 전환에서는 속도를 품은 필터가 한 번 지나쳤다가 돌아옵니다. Q와 R은 가정이며, 변동성이 바뀌는 시장은 그 가정을 깹니다. 적응형 잡음 조정은 정해진 범위 안에서 이를 누그러뜨릴 수 있지만 없애지는 못합니다.

흔한 실수

• 지연이 적은 선을 예측으로 받아들이는 것. 일정한 추세에서 지연이 0이라는 말은 추세를 따라잡는다는 뜻이지, 다음 봉을 본다는 뜻이 아닙니다.
• 새 봉이 들어올 때 지난 값을 고치는(리페인트) 평활선을 쓰고, 지나고 나서 얼마나 잘 맞아 보이는지로 평가하는 것.
• 지난달 차트에 딱 맞을 때까지 Q와 R을 조정하는 것. 한 국면에 맞춘 설정은 그 국면에 대한 설명이지 시장의 성질이 아닙니다.
• 가격과 추정선의 교차를 매매 지시로 읽는 것. 교차는 과거에 대한 평활된 설명 하나가 방향을 바꾼 순간일 뿐입니다.
• SMA·EMA·볼린저·칼만을 서로 독립된 확인으로 세는 것. 모두 같은 종가의 가중평균입니다.