next up previous contents
Next: Test aanpak Up: Het programma Previous: Inleiding   Contents

Backpropagation netwerk

Backpropagation netwerk

Dit hoofdstuk legt uit hoe het backpropagation netwerk is opgebouwd. Het bestaat uit 2 onderdelen, namelijk het netwerk en de neuronen. Het netwerk bestaat uit een klasse waarin de benodigde neuronen zijn gespecificeerd.

Een backpropagation netwerk is een netwerk van units die aan elkaar verbonden zijn, bestaande uit drie lagen. De invoer laag (input layer), de verborgen laag (hidden layer) en de output laag (output layer). Elke laag kan uit een aantal units bestaan. In deze opdracht gaan we uit van 80 input units. Elke unit is gekoppeld aan een pixel van een letter. De invoer unit wordt gevoed met het waarden van de pixels van de letter die getraind en later getest moet worden.

Trainen van een backpropagation netwerk houdt in het voeden van het netwerk met invoer en de gewenste uitvoer. Hier wordt het netwerk dus gevoed met pixels die een 1 of een 0 bevatten, bij een plaatje van 8 bij 10 pixels zijn er dus 80 input units en een output layer van 26 units, namelijk 1 voor elke letter uit het alfabet.

We trainen verschillende letters van verschillende personen, de letters zijn bekend en zo kan bijvoorbeeld een plaatje als A getraind worden Dus als we bijvoorbeeld de letter A willen trainen moet de output layer 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 teruggeven.

Het trainen van het netwerk is het belangrijkste van een backpropagation netwerk. Een standaard backpropagation netwerk heeft van elke input unit een verbinding naar elke hidden unit en van elke hidden unit is er een verbinding naar elke ouput unit. Aan deze verbindingen hangen gewichten. Ook heeft elke unit zijn eigen gewicht. Deze gewichten worden gebruikt om het resultaat te berekeken. Bij het trainen wordt de gewenste output gebruikt om de gewichten bij te stellen zodat het resultaat steeds dichter bij het gewenste resultaat komt te liggen. De zogenaamde backpropagation.

Indien het niet duidelijk genoeg is volgt hieronden nog het algoritme. Verder zijn er eenvoudige voorbeelden genoeg te vinden op het internet, waarop deze code gebaseerd is. Het meest voorkomende is het oplossen van het XOR probleem met een backpropagation netwerk.

Back propagation:

\includegraphics[width=15cm]{img3.eps}


next up previous contents
Next: Test aanpak Up: Het programma Previous: Inleiding   Contents
R.M.Morrien 2002-02-11