Neuronske mreže > Predavanje > 

1. Razvoj neuronskih mreža

Neuronsko računalstvo profiliralo se kao jedna od grana umjetne inteligencije pedesetih godina ovog stoljeća, točnije na konferenciji Dartmouth Summer Research Project on Artificial Intelligence koja je najavila ostvarivanje vizije računalnog modela koji će u nekim temeljnim principima oponašati funkcioniranje mozga. Neuronsko računalstvo se pojavljuje kao alternativa Von Neumann-ovim računalima i nastoji simulirati ili ostvariti paralelnu obradu informacija koju koristi ljudski mozak dok razmišlja, sjeća se i rješava probleme. Za razvoj neuronskih mreža od presudnog je značaja nekoliko događaja:

• 1943 - McCullock i Pitts postavljaju temelje za razvoj neuronskih mreža tako što prvi dokazuju da neuroni mogu imati dva stanja (pobuđujuće i umirujuće) i da njihova aktivnost ovisi o nekom pragu vrijednosti.
• 1949 - Hebb prvi predložio pravilo kojim se opisuje proces učenja (Hebb-ovo pravilo)
• 1956 - Dartmouth Summer Conference na kojoj su Rochester i skupina autora predstavili prvu simulaciju Hebb-ovog modela koja je preteča modela neuronskih mreža
• 1958 - Rosenblatt razvio prvu neuronsku mrežu perceptron, koja je dvoslojna i nije mogla rješavati probleme klasifikacije koji nisu linearno djeljivi (npr. XOR problem)
• 1974 - razvijena višeslojna perceptron mreža - MLP (Paul Werbos), kao preteča Backpropagation mreže, koja prevladava nedostatak perceptrona uvođenjem učenja u skrivenom sloju
• 1986 - Backpropagation mrežu usavršuju Rumelhart, Hinton i Williams, ona vraća ugled neuronskim mrežama, jer omogućuje aproksimiranje gotovo svih funkcija i rješavanje praktičnih problema

Od tada raste znanstveni i komercijalni interes za neuronske mreže. Razvijeni su brojni algoritmi za neuronske mreže, no najveću komercijalnu upotrebu do danas ima mreža "širenje unatrag" (eng. Backpropagation).
Više o povijesnom razvoju NM vidi na http://www.dacs.dtic.mil/techs/neural/neural4.html.

Dakle, teorijsko ishodište i inspiracija neuronskog računalstva je u ljudskom mozgu. Cilj mu je spojiti sposobnost ljudi da dobro prepoznaju oblike, lica i glasove i sposobnost računala da izvršava numeričke proračune i radi s velikom količinom podataka.

Slika 1. Mozak kao središnji dio živčanog sustava čovjeka. Animacija 1. Što su neuronske mreže.

Na koji način neuronsko računalstvo simulira rad mozga? Mozak se sastoji od nekoliko desetaka milijardi neurona povezanih u mrežu koji mogu paralelno obrađivati informacije (slika 1). Neuron, kao osnovna jedinica živčanog sustava, prima informacije od drugih neurona putem dendrita, obrađuje ih, a zatim šalje impuls putem aksona i sinapsi drugim neuronima u mreži (slika 2). Učenje se odvija mijenjanjem jačine sinaptičkih veza, odnosno težina u mreži.

2. Definicija neuronskih mreža

13.03.2003