Post

Rff

Plancherel Theroem


  • 플랑쉐렐 정리(Plancherel Theroem)

    푸리에 변환은 $L^{2}(\mathbb{R}^{d})$ 함수 공간에서 내적과 노름을 보존한다.

    \[\begin{aligned} \left<f,g\right>_{L^{2}(\mathbb{R}^{d})} &= \frac{1}{(2\pi)^{d}}\left<\hat{f},\hat{g}\right>_{L^{2}(\mathbb{R}^{d})} \end{aligned}\]
  • $L^{2}(\mathbb{R}^{d})$ 공간:

    \[\begin{aligned} L^{2}(\mathbb{R}^{d}) := \left\{f:\mathbb{R}^{d}\to\mathbb{C} \mid \int_{-\mathbb{R}^{d}}{\vert f(x) \vert^{2}\mathrm{d}x}<\infty\right\} \end{aligned}\]
  • $f,g \in L^{1}\cap L^{2}$ 의 내적:

    \[\begin{aligned} \left<f,g\right>_{\mathbb{R}^{d}} &=\int_{\mathbb{R}^{d}}{f(x)g^{*}(x)\mathrm{d}x} \end{aligned}\]
  • $g$ 의 푸리에 역변환:

    \[\begin{aligned} g(x) &= \frac{1}{2\pi}\int_{\mathbb{R}^{2}}{\hat{g}(\omega)\exp{\left[i\omega^{T}x\right]}\mathrm{d}\omega} \end{aligned}\]
  • 내적에 대입:

    \[\begin{aligned} \int_{\mathbb{R}^{d}}{f(x)g^{*}(x)\mathrm{d}x} &= \int_{\mathbb{R}^{2}}{f(x)\left(\frac{1}{(2\pi)^{d}}\int_{\mathbb{R}^{d}}{\hat{g}^{*}(\omega)\exp{\left[-i\omega^{T}x\right]}\mathrm{d}\omega}\right)\mathrm{d}x}\\ &= \frac{1}{(2\pi)^{d}}\int_{\mathbb{R}^{d}}{\left(\int_{\mathbb{R}^{d}}{f(x)\exp{\left[-i\omega^{T}x\right]}\mathrm{d}x}\right)\hat{g}^{*}(\omega)\mathrm{d}\omega}\\ &= \frac{1}{(2\pi)^{d}}\int_{\mathbb{R}^{d}}{\hat{f}(\omega)\hat{g}^{*}(\omega)\mathrm{d}\omega} \end{aligned}\]
  • $L^{1}\cap L^{2}$ 가 $L^{2}$ 안에서 조밀(dense)하므로 $\forall f_{n} \in L^{2}$ 를 $\exists f \in L^{1}\cap L^{2}$ 로 근사할 수 있음

    \[\begin{aligned} \Vert f_{n}-f \Vert_{L^{2}} < \epsilon \end{aligned}\]
  • 따라서 푸리에 변환은 $L^{2}(\mathbb{R}^{d})$ 함수 공간에서 내적과 노름을 보존함

    \[\begin{aligned} \left<f,g\right>_{L^{2}(\mathbb{R}^{d})} &= \frac{1}{(2\pi)^{d}}\left<\hat{f},\hat{g}\right>_{L^{2}(\mathbb{R}^{d})} \end{aligned}\]

Convolution Theorem


  • 합성곱(Convolution) 정의:

    \[\begin{aligned} f \circ g(x) := \int_{\mathbb{R}^{d}}{f(x-y)g(y)\mathrm{d}y} \end{aligned}\]
  • 푸리에 변환:

    \[\begin{aligned} \widehat{(f \circ g)}(\omega) &= \int_{\mathbb{R}^{d}}{f \circ g(x) \phi_{\omega}^{*}(x)\mathrm{d}x} \end{aligned}\]
  • 합성곱 정의 대입:

    \[\begin{aligned} \int_{\mathbb{R}^{d}}{f \circ g(x) \phi_{\omega}^{*}(x)\mathrm{d}x} &= \int_{\mathbb{R}^{d}}{\left(\int_{\mathbb{R}^{d}}{f(x-y)g(y)\mathrm{d}y}\right) \phi_{\omega}^{*}(x)\mathrm{d}x}\\ &= \int_{\mathbb{R}^{d}}{g(y)\left(\int_{\mathbb{R}^{d}}{f(x-y)\phi_{\omega}^{*}(x)\mathrm{d}x}\right)\mathrm{d}y} \end{aligned}\]
  • $u=x-y$ 변수 치환:

    \[\begin{aligned} \int_{\mathbb{R}^{d}}{g(y)\left(\int_{\mathbb{R}^{d}}{f(x-y)\phi_{\omega}^{*}(x)\mathrm{d}x}\right)\mathrm{d}y} &= \int_{\mathbb{R}^{d}}{g(y)\left(\int_{\mathbb{R}^{d}}{f(u)\phi_{\omega}^{*}(u+y)\mathrm{d}u}\right)\mathrm{d}y}\\ &= \int_{\mathbb{R}^{d}}{g(y)\left(\int_{\mathbb{R}^{d}}{f(u)\phi_{\omega}^{*}(u)\phi_{\omega}^{*}(y)\mathrm{d}u}\right)\mathrm{d}y}\\ &= \int_{\mathbb{R}^{d}}{g(y)\phi_{\omega}^{*}(y)\left(\int_{\mathbb{R}^{d}}{f(u)\phi_{\omega}^{*}(u)\mathrm{d}u}\right)\mathrm{d}y}\\ &= \hat{f}(\omega)\int_{\mathbb{R}^{d}}{g(y)\phi_{\omega}^{*}(y)\mathrm{d}y}\\ &= \hat{f}(\omega)\hat{g}(\omega) \end{aligned}\]
  • 따라서:

    \[\begin{aligned} \widehat{(f \circ g)}(\omega) &= \hat{f}(\omega)\hat{g}(\omega) \end{aligned}\]

Dirac Delta Dist. Application


  • 분포(Distribution): 고전적인 함수 개념으로는 정의하기 어려운 객체를 다루기 위하여 고안된 함수 개념의 확장으로서, 점마다 함수 값이 존재하지 않기에 단독으로는 값을 도출할 수 없고, 오직 테스트 함수 $\psi$ 와의 상호작용(적분)을 통해서만 값이 결정됨

    • 디랙 델타 분포(Dirac Delta Distribution): 모든 질량이 한 점에 몰린 점질량분포(Degenerate Distribution)로서, 테스트 함수 $\psi$ 에 대하여 $0$ 에서의 값을 샘플링하는 연산자로서 기능함

      \[\begin{aligned} \left<\delta, \psi\right> := \int_{-\infty}^{\infty}{\delta(x)\psi(x)\mathrm{d}x} = \psi(0) \end{aligned}\]
  • 디랙 델타 분포의 변형:

    \[\begin{aligned} \int_{-\infty}^{\infty}{\delta(\omega-\gamma)\phi_{t}(\omega)\mathrm{d}\omega} &= \phi_{t}(\gamma) \end{aligned}\]
  • 테스트 함수 $\varphi$ 정의:

    \[\begin{aligned} \varphi(\omega) := \frac{1}{2\pi}\int_{-\infty}^{\infty}{\exp{i(\omega - \gamma)t}\mathrm{d}t} \end{aligned}\]
  • 복소 지수 함수와 내적:

    \[\begin{aligned} \left<\varphi,\phi^{*}\right> &= \int_{-\infty}^{\infty}{\varphi(\omega)\phi_{t}(\omega)\mathrm{d}\omega} \end{aligned}\]
  • $\varphi$ 정의 대입:

    \[\begin{aligned} \int_{-\infty}^{\infty}{\varphi(\omega)\phi_{t}(\omega)\mathrm{d}\omega} &= \int_{-\infty}^{\infty}{\phi_{t}(\omega)\left(\frac{1}{2\pi}\int_{-\infty}^{\infty}{\exp{i(\omega - \gamma)t}\mathrm{d}t}\right)\mathrm{d}\omega}\\ &= \frac{1}{2\pi}\int_{-\infty}^{\infty}{\left(\int_{-\infty}^{\infty}{\phi_{t}(\omega)\exp{\left[i \omega t\right]}\mathrm{d}\omega}\right)\exp{\left[-i \gamma t\right]}\mathrm{d}t}\\ &= \int_{-\infty}^{\infty}{\left(\frac{1}{2\pi}\int_{-\infty}^{\infty}{\phi_{t}(\omega)\phi_{t}(\omega)\mathrm{d}\omega}\right)\phi_{\gamma}^{*}(t)\mathrm{d}t}\\ &= \int_{-\infty}^{\infty}{\hat{\phi}(t)\phi_{\gamma}^{*}(t)\mathrm{d}t}\\ &= \phi_{t}(\gamma) \end{aligned}\]
  • 따라서 분포의 의미에서 복소 지수 함수의 내적 연산은 다음이 성립함:

    \[\begin{aligned} \left<\phi_{\omega},\phi_{\gamma}\right> = \int_{-\infty}^{\infty}{\exp{i(\omega - \gamma)t}\mathrm{d}t} = 2\pi\delta(\omega-\gamma) \end{aligned}\]

Bochner’s Theorem


  • 보흐너의 정리(Bochner’s theorem)

    연속이고 시프트 불변이며 양의 정부호를 만족하는 커널 행렬 $\mathbf{K}$ 을 생성하는 커널 함수 $k: \mathbb{R}^{d}\times\mathbb{R}^{d}\to\mathbb{C}$ 는 어떤 양의 유한 보렐 측도 $\mu$ 의 푸리에 역변환이다.

    • 이차 형식(Quadratic Form): 행렬 $\mathbf{A}$ 에 대하여 정의된 스칼라 함수로서, 인자 $\mathbf{x}$ 에 대하여 동일한 성분들 간의 일차 상호작용(self interaction)과 서로 다른 성분들 간의 이차 상호작용(pair interaction)에 대하여 $\mathbf{A}$ 가 규정한 가중치를 부여하여 값을 산출하는 형식

      \[\begin{aligned} Q_{A}(\mathbf{x}) &= \mathbf{x}^{T}\mathbf{A}\mathbf{x}\\ &= \underbrace{\sum_{i}{A_{i,i}x_{i}^{2}}}_{\text{weighted self-interaction}} + \underbrace{\sum_{j \ne i}{A_{i,j}x_{i}x_{j}}}_{\text{weighted pair-interaction}} \end{aligned}\]
    • 양의 정부호 행렬(Positive Definite Matrix): 임의의 벡터에 대하여 자기 자신와의 일차, 이차 상호작용의 총합이 양수가 되도록 보장하는 행렬

      \[\begin{aligned} \mathbf{A}:=Q_{A}(\mathbf{x}) > 0 \quad \mathrm{for} \quad \forall \mathbf{x} \ne 0 \end{aligned}\]
    • 시프트 불변(Shift-Invariant):

  • 테스트 함수 $\varphi \in \mathcal{S}(\mathbb{R}^{d})$ 를 가정하자:

    \[\begin{aligned} \mathcal{S}(\mathbb{R}^{d}) := \left\{\varphi: \mathbb{R}^{d} \to \mathbb{C} \mid \varphi\in C^{\infty},\sup_{x \in \mathbb{R}^{d}}{\vert x^{\alpha}\partial^{\beta} \varphi(x)\vert} < \infty,\forall \alpha,\beta \in \mathbb{N}^{d}\right\} \end{aligned}\]
    • $\mathcal{S}(\mathbb{R}^{d})$: 슈바르츠 공간(Schwartz Space)
    • $C^{\infty}$: 무한히 미분 가능한 연속함수
    • $x^{\alpha}$: $\alpha$ 차 다항식 벡터
    • $\partial^{\beta}$: $\beta$ 차 도함수
  • 이차 형식의 일반화:

    \[\begin{aligned} Q(\varphi) &= \int_{\mathbb{R}^{d}}{\int_{\mathbb{R}^{d}}{k(x,y)\varphi(x)\varphi^{*}(y)\mathrm{d}x\mathrm{d}y}} \end{aligned}\]
  • 합성곱 정의:

    \[\begin{aligned} (\varphi^{*} \circ k)(x) &:=\int_{\mathbb{R}^{d}}{\varphi^{*}(y)k(x-y)\mathrm{d}y} \end{aligned}\]
  • 이차 형식에 대입:

    \[\begin{aligned} Q(\varphi) &= \left<\varphi(x),(\varphi^{*} \circ k)(x)\right>\\ &= \frac{1}{(2\pi)^{d}}\left<\hat{\varphi}(\omega),\widehat{(\varphi^{*} \circ k)}(\omega)\right> \quad \because \text{Plancherel Theroem}\\ &= \frac{1}{(2\pi)^{d}}\left<\hat{\varphi}(\omega),\widehat{\varphi^{*}}(\omega) \cdot \hat{k}(\omega)\right> \quad \because \text{Convolution Theorem}\\ &= \frac{1}{(2\pi)^{d}}\int_{\mathbb{R}^{d}}{\hat{\varphi}(\omega)\widehat{\varphi^{*}}(\omega) \hat{k}(\omega)\mathrm{d}\omega} \end{aligned}\]
  • 푸리에 연산자는 슈바르츠 공간 위에서 자기동형(Isomorphism)이므로 양의 선형 범함수를 $\psi$ 에 대하여 재정의할 수 있음:

    \[\begin{aligned} P(\psi) &:= \int_{\mathbb{R}^{d}}{\psi(\omega)\mathrm{d}\mu(\omega)}\\ \psi(\omega) &:=\hat{\varphi}(\omega)\widehat{\varphi^{*}}(\omega) \in \mathcal{S}(\mathbb{R}^{d})\\ \mathrm{d}\mu(\omega) &:= \frac{1}{(2\pi)^{d}}\hat{k}(\omega)\mathrm{d}\omega \end{aligned} \quad \because \mathcal{F}: \mathcal{S}(\mathbb{R}^{d}) \to \mathcal{S}(\mathbb{R}^{d})\]
  • 리즈-마르코프-카쿠타니 표현 정리(Riesz–Markov–Kakutani Representation Theorem):

    국소 콤팩트 하우스도르코프 공간 $X$ 위에 정의된 연속함수 중 그 정의역 $x \in X$ 이 무한대로 발산하면 값이 $0$ 으로 수렴하는 함수들의 공간을 $f \in C_{0}(X)$ 이라고 하자. 이 공간 위에 정의된 양의 선형 범함수 $\forall L:C_{0}(X)\to\mathbb{C}$ 는 적분으로 표현할 수 있으며, 이에 대응하는 양의 보렐 측도 $\mu(x)$ 는 유일하게 존재한다.

    \[\begin{aligned} \exists ! \mu(x) \quad \mathrm{s.t.} \quad L(f)=\int_{x \in X}{f(x)\mathrm{d}\mu(x)} \quad \forall f \in C_{0}(X) \end{aligned}\]
  • 리즈-마르코프-카쿠타니 표현 정리에 의하여 양의 보렐 측도 $\mu(\omega)$ 의 존재가 강제됨:

    \[\begin{aligned} \exists ! \mu(\omega) \quad \mathrm{s.t.} \quad P(\hat{\varphi}) \ge 0 \end{aligned}\]
This post is licensed under CC BY 4.0 by the author.