Perhitungan Backpropagation

Contoh:
Gunakan backpropagation dengan sebuah layer tersembunyi (dengan 3 unit), untuk mengenali fungsi logika XOR dengan 2 masukan X₁ dan X₂. Buatlah iterasi untuk menghitung bobot jaringan untuk pola pertama (X₁=1, X₂=1 dan t=0). Gunakan laju pemahaman α=0.2.
Penyelesaian
Bobot-bobot diberikan nilai acak dengan range -1 sampai dengan 1. Missal bobot dari layer input ke layer tersembunyi seperti pada table a dan bobot-bobot dari layer tersembunyi ke layer output seperti pada table b.


Langkah 0
Inisialisasi semua bobot dengan bilangan acak kecil.
Table a

	z1	Z2	Z3
X1	0.2	0.3	-0.1
X2	0.3	0.1	-0.1
1	-0.3	0.3	0.3

Table b

	Y
Z1	0.5
Z2	-0.3
Z3	-0.4
1	-0.1

Langkah 1
Jika kondisi penghentian belum terpenuhi, lakukan langkah 2 sampai dengan 8

Langkah 2
Untuk setiap pasang data pelatihan, lakukan langkah 3 sampai dengan 8
Fase I: Propagasi Maju

Langkah 3
Tiap unit masukkan menerima sinyal dan meneruskan ke unit tersembunyi

Langkah 4
Hitung semua keluaran di unit tersembunyi (Z_j):

Langkah 5
Hitung semua jaringan di unit keluaran (y_k)

 









Fase II : Propagasi Maju

Langkah 6
d_k=(t_k-y_k) f’(y_net_k)= (t_k-y_k) y_k (1-y_k)
d₁=(t₁-y₁) f’(y_net₁)= (t₁-y₁) y₁ (1-y₁)=(0-0,44) 0,44 (1-0,44)=-0,11
Δw_kj= α d_k z_j
Δw₁₀= α d₁ (1)=0,2 . (-0,11) . (1)=-0,022
Δw₁₁= α d₁ (z₁)=0,2 . (-0,11) . (0,55)=-0,01
Δw₁₂= α d₁ (z₂)=0,2 . (-0,11) . (0,67)=-0,01
Δw₁₃= α d₁ (z₃)=0,2 . (-0,11) . (0,52)=-0,01

Langkah 7
Hitung factor d unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi z_j (j=1,2,3,…,p)

Faktor kesalahan unit tersembunyi
d_j = d_net_j f’(z_net_j)= d_net z_j (1-z_j)
d₁ = d_net₁ z₁ (1-z₁)=(-0.055).0,55.(1-(0,55))=-0,01
d₂ = d_net₂ z₂ (1-z₂)=(0.033).0,67.(1-(0,67))=0,01
d₃ = d_net₃ z₃ (1-z₃)=(0.044).0,52.(1-(0,52))=0,01
Δv_ji=α d_jx_i
Δv₁₀=α d_{1=0,2*(-0,01)*1=} -0,002
Δv₂₀=α d_{2=0,2*(0,01)*1=0,002}
Δv₃₀=α d_{3=0,2*(0,01)*1=0,002}
Δv₁₁=α d₁x_{1=0,2*(-0,01)*1=-0,002}
Δv₂₁=α d₂x_{1=0,2*(0,01)*1=0,002}
Δv₃₁=α d₃x_{1=0,2*(0,01)*1=0,002}
Δv₁₂=α d₁x_{2=0,2*(-0,01)*1=-0,002}
Δv₂₂=α d₂x_{2=0,2*(0,01)*1=0,002}
Δv₃₂=α d₃x_{2=0,2*(0,01)*1=0,002}
 
Fase III : Perubahan Bobot

Langkah 8 
Perubahan bobot garis yang menuju unit keluaran
w_kj (baru)= w_kj (lama) + Δw_kj
w₁₀ (baru)= w₁₀ (lama) + Δw₁₀= -0,1-0,022=-0,122
w₁₁ (baru)= w₁₁ (lama) + Δw₁₁=0,5-0,01=0,49
w₁₂ (baru)= w₁₂ (lama) + Δw₁₂=-0,3-0,01=0,31
w₁₃ (baru)= w₁₃ (lama) + Δw₁₃=-0,4-0,01=0,41

V_ji (baru)= v_ji (lama) + Δv_ji
V₁₀ (baru)= v₁₀ (lama) + Δv₁₀ =-0,3-0,002=-0,302
V₂₀ (baru)= v₂₀ (lama) + Δv₂₀ =0,3+0,002=0,302
V₃₀ (baru)= v₃₀ (lama) + Δv₃₀ =0,3+0,0020,302
V₁₁ (baru)= v₁₁ (lama) + Δv₁₁ =0,2-0,002=0,198
V₂₁ (baru)= v₂₁ (lama) + Δv₂₁ =0,3+0,002=0,302
V₃₁ (baru)= v₃₁ (lama) + Δv₃₁ =-0,1+0,002=-0,098
V₁₂ (baru)= v₁₂ (lama) + Δv₁₂ =0,3-0,002=0,298
V₂₂ (baru)= v₂₂ (lama) + Δv₂₂ =0,1+0,002=0,102
V₃₂ (baru)= v₃₂ (lama) + Δv₃₂ =-0,1+0,002=-0,098
Untuk Pola yang kedua, X₁=1, X₂=0 dan t=1
 
Fase I: Propagasi Maju
Langkah 3
Tiap unit masukkan menerima sinyal dan meneruskan ke unit tersembunyi

Langkah 4
Hitung semua keluaran di unit tersembunyi (Z_j):

Langkah 5
Hitung semua jaringan di unit keluaran (y_k)

 









Fase II : Propagasi Maju

Langkah 6
d_k=(t_k-y_k) f’(y_net_k)= (t_k-y_k) y_k (1-y_k)
d₁=(t₁-y₁) f’(y_net₁)= (t₁-y₁) y₁ (1-y₁)=(0-0,44) 0,44 (1-0,44)=-0,11
Δw_kj= α d_k z_j
Δw₁₀= α d₁ (1)=0,2 . (-0,11) . (1)=-0,022
Δw₁₁= α d₁ (z₁)=0,2 . (-0,11) . (0,55)=-0,01
Δw₁₂= α d₁ (z₂)=0,2 . (-0,11) . (0,67)=-0,01
Δw₁₃= α d₁ (z₃)=0,2 . (-0,11) . (0,52)=-0,01

Langkah 7
Hitung factor d unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi z_j (j=1,2,3,…,p)

Faktor kesalahan unit tersembunyi
d_j = d_net_j f’(z_net_j)= d_net z_j (1-z_j)
d₁ = d_net z₁ (1-z₁)=(-0.055).0,55.(1-(0,55))=-0,01
d₂ = d_net z₂ (1-z₂)=(0.033).0,67.(1-(0,67))=0,01
d₃ = d_net z₃ (1-z₃)=(0.044).0,52.(1-(0,52))=0,01

Δv_ji=α d_jx_i
Δv₁₀=α d_{1=0,2*(-0,01)*1=} -0,002
Δv₂₀=α d_{2=0,2*(0,01)*1=0,002}
Δv₃₀=α d_{3=0,2*(0,01)*1=0,002}
Δv₁₁=α d₁x_{1=0,2*(-0,01)*1=-0,002}
Δv₂₁=α d₂x_{1=0,2*(0,01)*1=0,002}
Δv₃₁=α d₃x_{1=0,2*(0,01)*1=0,002}
Δv₁₂=α d₁x_{2=0,2*(-0,01)*1=-0,002}
Δv₂₂=α d₂x_{2=0,2*(0,01)*1=0,002}
Δv₃₂=α d₃x_{2=0,2*(0,01)*1=0,002}
 
Fase III : Perubahan Bobot

Langkah 8 
Perubahan bobot garis yang menuju unit keluaran
w_kj (baru)= w_kj (lama) + Δw_kj
w₁₀ (baru)= w₁₀ (lama) + Δw₁₀= -0,1-0,022=-0,122
w₁₁ (baru)= w₁₁ (lama) + Δw₁₁=0,5-0,01=0,49
w₁₂ (baru)= w₁₂ (lama) + Δw₁₂=-0,3-0,01=0,31
w₁₃ (baru)= w₁₃ (lama) + Δw₁₃=-0,4-0,01=0,41

V_ji (baru)= v_ji (lama) + Δv_ji
V₁₀ (baru)= v₁₀ (lama) + Δv₁₀ =-0,3-0,002=-0,302
V₂₀ (baru)= v₂₀ (lama) + Δv₂₀ =0,3+0,002=0,302
V₃₀ (baru)= v₃₀ (lama) + Δv₃₀ =0,3+0,0020,302
V₁₁ (baru)= v₁₁ (lama) + Δv₁₁ =0,2-0,002=0,198
V₂₁ (baru)= v₂₁ (lama) + Δv₂₁ =0,3+0,002=0,302
V₃₁ (baru)= v₃₁ (lama) + Δv₃₁ =-0,1+0,002=-0,098
V₁₂ (baru)= v₁₂ (lama) + Δv₁₂ =0,3-0,002=0,298
V₂₂ (baru)= v₂₂ (lama) + Δv₂₂ =0,1+0,002=0,102
V₃₂ (baru)= v₃₂ (lama) + Δv₃₂ =-0,1+0,002=-0,098

Pola ke 2 X1=1, X2=0, t=1
Pola ke 3 X1=0, X2=1, t=1
Pola ke 4 X1=0, X2=0, t=0