x
i
,
j
(
c
)
=
σ
(
∑
k
=
1
K
w
k
(
c
)
⋅
x
i
+
k
−
1
,
j
+
b
(
c
)
)
x_{i,j}^{(c)} = \sigma (\sum_{k=1}^{K}w_k^{(c)} \cdot x_{i+k-1,j} + b^{(c)})
xi,j(c)=σ(k=1∑Kwk(c)⋅xi+k−1,j+b(c))
其中,
x
i
,
j
(
c
)
x_{i,j}^{(c)}
xi,j(c)表示第
j
j
j个特征在第
i
i
i个时间步的卷积结果,
K
K
K表示卷积核大小,
w
k
(
c
)
w_k^{(c)}
wk(c)表示第
c
c
c个卷积核的第
k
k
k个权重,
b
(
c
)
b^{(c)}
b(c)表示第
c
c
c个卷积核的偏置,
σ
\sigma
σ表示激活函数。
然后,使用BiLSTM层对CNN层的输出进行建模:
h
t
→
=
LSTM
(
x
t
,
h
t
−
1
→
)
h
t
←
=
LSTM
(
x
t
,
h
t
+
1
←
)
h
t
=
[
h
t
→
;
h
t
←
]
\begin{aligned} & \overrightarrow{h_t} = \text{LSTM}(x_t, \overrightarrow{h_{t-1}})\\ & \overleftarrow{h_t} = \text{LSTM}(x_t, \overleftarrow{h_{t+1}})\\ & h_t = [\overrightarrow{h_t}; \overleftarrow{h_t}] \end{aligned}
ht=LSTM(xt,ht−1)ht=LSTM(xt,ht+1)ht=[ht;ht]
其中,
h
t
→
\overrightarrow{h_t}
ht和
h
t
←
\overleftarrow{h_t}
ht分别表示前向和后向LSTM的隐藏状态,
h
t
h_t
ht表示BiLSTM的隐藏状态。
接下来,使用分位数回归技术来预测时间序列的不同分位数:
y
t
(
τ
)
=
h
t
T
⋅
W
(
τ
)
+
b
(
τ
)
y_t^{(\tau)} = h_t^T \cdot W^{(\tau)} + b^{(\tau)}
yt(τ)=htT⋅W(τ)+b(τ)
其中,
y
t
(
τ
)
y_t^{(\tau)}
yt(τ)表示时间步
t
t
t的第
τ
\tau
τ个分位数预测结果,
W
(
τ
)
W^{(\tau)}
W(τ)表示权重向量,
b
(
τ
)
b^{(\tau)}
b(τ)表示偏置。该模型可以同时预测多个分位数,从而得到一个区间范围。