線形差分方程式

線形差分方程式とは †

線形の漸化式で表わされる方程式である。

xt=a1xt-1+a2xt-2+....+anxt-n

初期値を与えれば、数列がその解として求められる。

Xt+2=3xt+1-2xt

の場合、x1=1,x2=0からスタートすれば

{1,0,-2,-6,-14,-30,....}

の数列は、上の差分方程式から得られる。また、初期値を変えれば、下記の数列も得られる。

{1,1,1,1,1,....}
{2,4,8,16,32,....}

この数列のn番目の値xnを表わす式を求めることを、一般解を求めるという。

• 数列{xt},{yt}に対して、下記のように和とスカラー積の２つを定義することで、数列の存在する空間は線形空間の構造をもつ。線型空間（linear space）あるいはベクトル空間（vector space）とは、和とスカラー倍の定義された集合（代数系）のことである。

  {xt}+{yt}={xt+yt}
  α{xt}={αXt}

• 線形差分方程式の解全体は、 数列全体 の線形部分空間となる.

解の系列の特徴と一般解 †

上記の差分方程式の次の３つの解の数列x1、x２、x3はどのような性質をもつのであろうか？。

X1={1,1,1,1,1,....}
X2={2,4,8,16,32,....}
X3={1,0,-2,-6,-14,-30,....}

最初の解の数列はt番目の項が1^t＝１となっており、２番目の解の数列はt番目の項が2^tとなっている。 さらに、3番目の数列は、前の２つの数列の線形和の形になっている。

X3=2・x1+(-1/2)x2={1,0,-2,-6.-14,-30,....}

このように、上記の差分方程式の解は、一般に

X=c1X1+c2X2=c11^t+c22^t
C1,c2は初期値によって異なる。

で表わされそうである。これが、差分方程式の解が線形部分空間の要素であるとの意味である。 それでは、このことを一般的に成立するか調べてみよう。

シフトオペレーター：シフト作用素 †

複素数の無限数列の集合をVとして、その要素のX=｛x1,x2,x3,...}に対して、シフト作用素E とは

EX={x2,x3,....}

を与える作用素である。この作用素は、VからVへの写像を与える作用素である。 i回繰り返してシフトする作用素を　E^i　(iは整数）で表わす。E^0は、元の数列をそのまま与える。 この作用素の線形結合で表わされる下記の作用素Lを、線形差分作用素L(E)と呼ぶ。 何故、線形作用素と呼ぶかといえば、前記の和とスカラー積の２つを定義することで、線形空間から線形空間への写像を行う作用を果たすからである。

L(E)=c0E^0+c1E^1+ ....+E^m

これは、m次差分方程式の作用素である。L(E) 線形差分方程式で表わされる数列Xは、作用素表示すれば、

L(E)x=0 <--->c0E^0x+c1E^1x+ ....+E^mx=0

で表わされる。 また、λの多項式　P(λ)

P(λ)=c0λ+c1λ^1+ ....+λ^m

のλに作用素Eを代入した形になっている。

• この多項式を特性多項式と呼ぶ。
  • 先のXt+2=3xt+1-2xtの特性多項式を示せ。

    (答え)：P(λ)=λ^2-3λ+2
    LX=(E^2-3E+2)(x)=E^2x-3E^1x+2E^0=0
    XはXt+2-3xt+1+2xt=0の漸化式で表わされる数を要素にもつ数列

特性多項式=0の解の性質 †

定理；特性多項式p(λ)=0の解をλ*とするとき、数列X*=｛λ*,λ*^2,λ*^3,....}は、線形差分作用素で表わされるp(E)X=0　の解である。p の解が0 でなく重解を持たないならば, 差分方程式p(E)X = 0 の解は特性多項式の解の一次結合であらわされる.

• 言い換えれば、差分方程式の一般解は次のように表わされる。

  yt=c1λ1^t+c2λ2^t+... +cmλm^t

  そして、係数は初期条件を満たす条件からに唯一解が得られる。
• 証明：m次の特性多項式の解がλ1,λ2,...λmであったとすれば、

  p(λ)=定数・(λ-λ1)(λ-λ2)...(λ-λm)

  の形で表わされる。そこでp(E)x=0は書き換えれば

  (E-λ1)(E-λ2)...(E-λm)X=0　

  が成り立つことを証明すればよい。

  Ex*=E｛λ*,λ*^2,λ*^3,....}=｛λ*^2,λ*^3,....}=λ*｛λ*,λ*^2,λ*^3,....}=λ*X*

  が成立するので

  (E-λ*)X*=0

  である。よって特性多項式の解λ*からなる数列X*は、p(E)X*=0を満たす。
  • 特性多項式のm個の根が相異なっていれば、根の数列X*=｛λ*,λ*^2,λ*^3,....}は互いに線形独立である。これはファンデルモンドの行列式の公式から行列式の値が0にならないことで判る。（証明は省略)

    ｜１　　１　　１　 ｜
    ｜ａ　　ｂ　　ｃ　 ｜  ＝（ａ－ｂ）（ｂ－ｃ）（ｃ－ａ）
    ｜ａ^2　ｂ^2　ｃ^2｜

• 漸化式から数列を求めることもできるが、要点は漸化式（線形差分方程式）を満たす数列全体の集合Ｖがベクトル空間になる。Ｖがベクトル空間であれば、漸化式を満たすすべての数列は基底となる数列の線形結合として表現できるということ。一般にベクトル空間Ｖのn個のベクトルが線形独立であり、かつ任意のベクトルがそのn個のベクトルの線形結合で書けるならば、そのn個のベクトルはＶの基底であり、Ｖはn次元。

多項式が重根を持つ時の一般解 †

定理：特性多項式がP(λ)=0が重根λを持ち、重複度がkとする。また、P(0)=でないとする。この時、P(E)の基底は、x(λ)、x'(λ)、x''(λ)、...X^(k)(λ)　である。そこで、一般解は　λ^t、tλ^(t-1)、t(t-1)λ^(t-2)、....などk個の項の線形結合で表わされる。 下記の数列はp(E)X=0を満たす。

x(λ)=｛λ,λ^2,λ^3,....}
x'(λ)={1,2λ,3λ^2,4λ^3....}
X''(λ)={0,2,6λ,12^2,...}

• 分かりやすく書けば、λ = λ0 がk 重解の場合(2 ≤ k ≤ N)、数列{t^jλ0^n} (j = 0, 1, . . . , k − 1)のk 個の一次独立な数列がすべて解となる。すなわち

  yt=c0λ0^t+c1tλ0^t+c2t^2λ0^t+...+ck-1t^(k-1)λ0^(k-1)

  の形で一般解が与えられ、係数c0,...,ck-1は、初期条件で唯一に定めることができる。

差分方程式の初期値と一般解 †

差分方程式の一般解は、初期値を与えれば、特性多項式の解の線形和の係数を特定できるので、ユニークに与えることができる。

2次の差分方程式の一般解 †

2階の線形差分方程式　xn+2-axn+1-bxn=0は特性方程式の２解をαとβとおくと、

• α≠βのとき

  xn=A1*α^n+A2*β^n　　（１）

• 重解のとき、

  xn=A1*α^n+A2*n*α^n　（２）

• 初期値が与えられれば、A1、A2の係数が定まる。

• 例題：フィボナッチ数列の一般解を求めよ。黄金数が現れます。

安定な差分方程式とは †

差分方程式p(E)x = 0 が安定(stable) であるとは, すべての解が有界であ ること.

• 定理：安定であることと、「特性多項式のすべての解は|z| ≤ 1 を満たし, p のすべての重解は|z| < 1 を満たす.」ことは同値である。
  • 例題１：次の差分方程式は安定かどうか調べよ.　4xn + 7xn-1 + 2xn-2 − xn-3 = 0
  • 例題２：差分方程式xn = xn-1 + xn-2 は安定か?

差分方程式の行列・ベクトル表現：状態空間モデル †

最初に出た差分方程式を行列表示してみましょう。

ｙt+2=3ｙt+1-2ｙt
初期値：y1=1,y2=0

は、下記のように表わされる。

|Xt+2|=|3 -2| |xt+1|
|Xt+1| |1  0| |xt|

そこで、A行列を

A=|3 -2|
  |1  0|

として、Z=(z1,z2)'ベクトルとおいて

Zt+1=A zt
ｙt==|1 0| zt
初期値:Z1=(0,1)'

で表わされる。これを状態空間モデルという。

固有値・固有ベクトルと特性多項式 †

マトリックスAの固有値λと対応する固有ベクトルZは

AZ=λZ　<-->(A-λE)Z=0　0：零ベクトル

で定義される。これは同次の連立1次方程式と考えられる。ここで固有ベクトル が存在するための必要十分条件は，右式の行列式の右からX'を掛けて、行列式の値　det|A-λE|det|xx'|=0より

det|A-λE|=0

である。これを固有多項式と呼ぶ。 この場合は

det|A-λE|=(3-λ)(-λ)-(-2)(1)=λ^2-3λ+2=0

である。この根である固有値は+1と+2であることが判る。

• 固有多項式と前に書いた特性多項式は同じである。

固有値+1の固有ベクトルは

A-λE=A-E=|2　-2|
         |1  -1|

より、(A-λE)Z=0　を満たす固有ベクトルとして(1,1)'が求められる。 固有値+2の固有ベクトルは

A-λE=A-2E=|1　-2|
         |1  -2|

より、(A-λE)Z=0　を満たす固有ベクトルとして(1,1/2)'が求められる これら固有ベクトルを列にもつ次の行列を定義する。

T=|1   1|
  |1 1/2|

対角化による一般解の求め方 †

固有値が異なっている場合はTが正則となるのでTの逆行列が存在し対角化可能である。

• 証明：行列A の固有値α1, ... , αr が互いに異なり、αi に関する固有ベクトルを ひとつ選んでそれをvi であるとする。（i = 1, ..., r）このとき、v1, ... , vr は線形独立である。すなわちTは正則である。 背理法を用いる。v1, ..., vr のうち最初のi¡1 個v1, ... , vi−1 が線形独立で、v1, ... , vi が線形従属であると仮定して矛盾を導く。

  a1v1 + ... + aivr = o (1)

  となるようなa1, ... , ai で、どれかひとつは0 でないようなものが存在すると仮定しよう。 この式の両辺にA をかけると、

  A(a1v1 + ... + aivi) = o

  v1, ... は固有ベクトルであるから、

  a1α1v1 + ... + aiαivi = o (2)

  である。(1)xαi-(2) を計算すると

  a1(αi - α1)v1 + ... + ai−1(αi - αi−1)vi−1 = o

  となる。v1, ... , vi−1 が線形独立であることから

  a1(αi - α1) = ... = ai−1(αi - αi−1) = 0

  今、α1, ... , αr が互いに異なることより、

  a1 = ... = ai−1 = 0

  である。この式を(1) に代入すると、ai = 0 を得る。しかし、a1, ... , ai でど れかひとつは0 でないと言っていたので、これは矛盾である。(証明終わり)

固有値が異なっている場合、これを用いれば、AT=ΛT(Λは固有値を対角要素にもつ行列）なのでT^(-1)AT=Λ　のように対角化できる。Tの逆行列T^(-1)をT~で簡略表現すれば

(T~AT)(T~AT)....(T~AT) = T~(A^n)T =Λ^n

であるので

A^n=T(Λ^n)T~

のように、A^nもTを使って計算できる。この式からyt+1の一般解は、

yt+1=(1,0)A^(t)z1=(1,0)T(Λ^t)T~z1

となるので、 固有値λ1とλ2を使って 　yt+1=c1(λ1)^n　+　c2(λ2)^n

c1,c2は定数

のように表わされることになる。 c1,c2は初期条件y1=1,y2=0を与えてれば求めることができる。

線形漸化式のn期の一般解xt+1=A^(t)x1は、λ1=1のn乗とλ2=2のn乗の線形和で得られ、初期条件を与えることで線形和の係数をユニークに決められるることも理解できる。

• 行列式の固有ベクトルを用いた対角化による解法も、先に記した特性多項式を用いた解法も全く同等の計算を行っている。

固有方程式が重解をもつ場合 †

実は、固有方程式がm重解をもつ場合であっても、固有値に対応する固有ベクトルがm個ある場合には、行列Aを対角化することができます。固有方程式がm重解をもつ場合、固有値に対応する固有ベクトルがm個未満の場合には、行列Aを対角化することはできず、類似の操作を行うと、Jordanの標準形と呼ばれる形になります。

• 対角化可能な必要十分条件は、n次元A行列がn個の独立な固有ベクトルを持つことです。正方行列が対角化可能であるための必要十分条件は, それぞれの固有値に対する固有空間の次元と固有値の重複度が一致することです。
• 定理：n 次正方行列A が対角化可能であるための必要十分条件は, A がn 個の１次独立な固有ベクトルを持つことである. 　このとき, n 個の１次独立な固有ベクトルを縦ベクトルとして並べたものをT とすると, T−1AT は, 対応するn 個の固有値が対角線に並ぶ対角行列である.
• 行列 A が実対称の場合、固有方程式は永年方程式とも言われる。また行列 A が実対称なら固有値は必ず実数となる。
• n の値が大きければ固有値問題は数値的対角化手法（ヤコビ法、ハウスホルダー法など）によって解かれることとなる。行列 A が実対称やエルミートでない場合は、これを解くことは一般に難しくなる

重ね合わせの原理 †

入力utを持つ線形差分方程式を考えてみよう。

xt=a1xt-1+a2xt-2+....+anxt-n　+ut

入力系列の数列をu={u1,u2,...}とすれば、解の数列xは、線形差分作用素L(E)を用いて

 L(E)x=u

で表わされる。 このことから、

• ２つの入力列u,vについてL(E)x=uの解をX1、L(E)x=vの解をX2とすればL(E)x=(u+V)の解は、X1+x2で表わされる。これが重ね合わせの原理である。

  L(E)(x1+x2)=L(E)x1+L(E)x2=u+V

• 線形差分方程式においては、入力{ut}の出力を{x1t}、入力{vt}の出力を{x2t}とする時、入力{ut+vt}の出力は、それぞれの出力の和（重ね合わせ){x1t+x2t}になる。線形系の重要な性質である。
  • この重ね合わせの原理から、　Ｌ(E)X＝u　の一般解を求めるには、その一つの特殊解に、Ｌ(E)X＝０　の一般解を加えればよいことになる。