spike trains

- im Rhythmus neuronaler Zellen -

Wolfgang Maass

Institut für Grundlagen der Informationsverarbeitung

Technische Universität Graz

email: maass@igi.tu-graz.ac.at

http://www.igi.tu-graz.ac.at/maass




Nicht nur der Computer, sondern auch unser Gehirn verarbeitet Informationen. Aber wie macht unser Gehirn das eigentlich? Können wir dem Gehirn möglicherweise sogar Methoden zum Bau von leistungsfähigeren Computern abschauen? Können wir eine neue Generation von Computern bauen, die ebenso wie das Gehirn ohne Programmierer auskommen, Sprache und bewegte Bilder in Echtzeit verstehen, ungenaue sowie assoziative Speicherabfragen beantworten können (z.B.: "Wie hieß doch gleich der Mann mit der großen Nase, der uns neulich vorgestellt wurde?") und auch dann noch weiterarbeiten können, wenn einmal ein Schaltkreis ausfällt?

Die Frage, wie die Informationsverarbeitung in unserem Gehirn - oder allgemeiner in den Nervensystemen von Lebewesen - funktioniert, ist eine der größten wissenschaftlichen Herausforderungen für das 21. Jahrhundert. Sie hat im Ausland - vor allem in den USA, Großbritannien, Deutschland, Schweiz, Japan und Israel - während der 90'er Jahre zum Entstehen von neuen Wissenschaftszweigen und Studienprogrammen, unter Namen wie Computational Neuroscience, Neural Computation, Neuroinformatik oder Neuromorphic Engineering geführt.1 An der Technischen Universität Graz kann dieses Gebiet im Rahmen des Clusters "Maschinelle Intelligenz" (http://www.igi.tu-graz.ac.at/cluster/maschint.html) studiert werden.

Wir betrachten unsere Installation "spike trains" in der Landesausstellung als ein Fenster in die Welt der schnellen Informationsverarbeitung in lebenden Organismen.2 Spike trains bilden die Sprache der Neuronen (siehe Abb. 1), also von denjenigen Zellen, die für die schnelle Informationsverarbeitung in Lebewesen verantwortlich sind. Unser Gehirn enthält ca. 10.000.000.000 solcher Neuronen.3


Abbildung 1: Vereinfachte Darstellung eines Neurons mit Input-Bereich, zentraler Recheneinheit (Zellkern) und Output-Bereich. Die Synapsen ("Verbindungsstecker") zu den nächsten Neuronen sind durch blaue Dreiecke markiert. Die Informationsverarbeitung in Neuronen erfolgt - ähnlich wie im Computer - mittels elektrischer Ströme und Spannungen. Allerdings sind die hier auftretenden Spannungen sehr viel kleiner, sie werden daher nicht in Volt, sondern in Millivolt (abgekürzt mV) = 1/1000 Volt gemessen. Jedesmal, wenn die elektrische Spannung am Zellkörper eines Neurons eine gewisse Schwelle überschreitet (die meist bei -50 mV liegt), sagt man, das Neuron "feuert". Dieses "Feuern" besteht aus einem explosionsartigen Anstieg der Spannung am Zellkörper um 50-100 mV. Dieser elektrische Spannungspuls ("spike") klingt nach 1 bis 2 ms ebenso rasch wieder ab wie er gekommen ist (siehe Abb. 2a)). Zur Messung der Zeit arbeitet man in diesem Bereich meist mit Millisekunden (abgekürzt ms) = 1/1000 Sekunde.

Ein spike wird vom Zellkörper des Neurons über die Verzweigungen des Axons - den Output-Bereich des Neurons - an ca. 10.000 Kontaktstellen zu anderen Neuronen, sogenannten Synapsen4, weitergeleitet. Eine solche Synapse zwischen zwei Neuronen verwandelt den spike des einen Neurons in eine kleine Spannungsänderung von bis zu einigen Millivolt im nächsten Neuron (siehe Abb. 3). Je nach Art des vorhergehenden Neurons gehen diese Spannungsänderungen nach oben - man spricht dann von einem excitatory postsynaptic potential, kurz EPSP - oder nach unten (inhibitory postsynaptic potential: IPSP).

Jeder einzelne von einem Neuron ausgesandte spike hat ungefähr die gleiche Form (wie in Abb. 2a) dargestellt), es gibt also insbesondere keine 1/2-spikes oder 3/4-spikes. Daher kann man einen spike als die kleinste Einheit der Informationsübertragung in unserem Gehirn auffassen, vergleichbar mit dem bit im Computer. Ein spike train (siehe Abb. 2b)) ist einfach eine Folge von spikes, oder genauer gesagt, ein Protokoll der Zeitpunkte, zu denen ein Neuron einen spike aussendet. Spike trains stellen gewissermaßen die Sprache der Neuronen dar, denn mittels spike trains gibt ein Neuron seine Informationen an andere

Abbildung 2: a) ein spike (zeitlicher Verlauf des Spannungspulses am Zellkörper). b) ein spike train (Markierung der Zeitpunkte, zu denen ein Neuron feuert; die Striche sind hier kürzer als bei a), weil sie nicht den Spannungsverlauf wiedergeben sondern nur symbolische Markierungen sind).
Abbildung 3: Die elektrische Spannung am Zellkörper eines Neurons kann (abgesehen vom spike) in erster Annäherung als Summe all dieser kleinen EPSP's und IPSP's aufgefaßt werden, die vom Input-Bereich des Neurons - seinem Dendritenbaum - zu seinem Zellkörper weitergeleitet werden. Sobald die Summe aller EPSP's und IPSP's am Zellkörper die Schwelle für das Feuern des Neurons überschreitet, feuert es und sendet einen spike aus. Neuronen weiter. Dabei wird jeder spike bei einer Verzweigung des Axons automatisch dupliziert und erreicht so mehrere andere Neuronen. Ein Neurophysiologe ist in der Lage, die "Unterhaltung" der Neuronen untereinander zu belauschen, siehe Abb. 4. Es gibt da allerdings ein Problem: Wir verstehen die Sprache der Neuronen noch nicht, d.h. wir können in der Regel die im spike train enthaltene Information nicht dekodieren. Ausnahmen, bei denen es gelungen ist, den "neuronalen Kode" zu knacken, bilden einige spezielle, den Sinnesorganen nahestehende, Neuronen in "einfachen" Tieren, wie z.B. die H1-Neuronen in der Fliege, deren Aufgabe es ist, die vom Fliegenauge wahrgenommenen horizontalen Bewegungen mittels ihrer spike trains dem "Gehirn" der Fliege mitzuteilen (Rieke et al., 1997), oder Neuronen, deren spike trains direkt die Kontraktion von Muskelfasern steuern.

Man hat früher gemeint, daß man einen spike train stets mit der folgenden Methode dekodieren kann: man zählt einfach die von einem Neuron ausgesandten spikes in einem gewissen Zeitintervall (z.B. 1 Sekunde) und faßt diese Zahl (= "Feuerrate") als die in diesem Abschnitt des spike trains enthaltene Information auf. Alle traditionellen Modelle für "künstliche neuronale Netzwerke" basieren auf dieser Interpretation. Neuere experimentelle Untersuchungen (siehe zum Beispiel Rieke et al., 1997, Koch, 1999, Recce, 1999) zeigen aber, daß in vielen Fällen auch die genauen Positionen der spikes in einem spike train für die neuronale Informationsverarbeitung relevant sind. Man kann die Informationsverarbeitung in einem Netzwerk von Neuronen also eher mit einem von einer Schlagzeugergruppe gespielten Stück vergleichen, zu dessen Wiedererkennung es nicht ausreicht zu wissen, wie oft jedes Schlaginstrument angeschlagen wurde. Charakteristisch für eine von einer Schlagzeugergruppe gespieltes Stück sind vielmehr die überlagerten Rhythmen der einzelnen Schlaginstrumente sowie gewisse Zeitpunkte, an denen mehrere Schlaginstrumente gleichzeitig angeschlagen werden. Man nimmt an, daß in ähnlicher Weise viele Gruppen von Neuronen in biologischen Systemen die von ihnen ausgesendeten Informationen durch das zeitliche Muster kodieren, in dem jedes Neuron in der Gruppe relativ zu den anderen feuert.

Abbildung 4: Kommunikation im Gehirn: 30 Neuronen im Gehirn des Affen (die hier mit A1 bis E6 bezeichnet sind) wurden von Krüger und Aiple 4 Sekunden lang bei ihrer Arbeit beobachtet (Krüger und Aiple, 1988). Ihre spike trains sind hier aufgezeichnet, für jedes Neuron in einer separaten Zeile (wie in Abb. 2b)). Man kann dieses Bild also wie eine Partitur für Schlaginstrumente in der Musik lesen. Die Frage ist: was teilen die 30 Neuronen gerade den anderen Neuronen mittels dieser spike trains mit?
Der graue Balken markiert ein Zeitintervall von 150 ms. In dieser Zeit kann unser Gehirn bereits komplexe Aufgaben der Informationsverarbeitung, wie zum Beispiel das Erkennen eines Gesichts, bewältigen. Gegenwärtige Computer benötigen eine deutlich längere Rechenzeit für ähnliche Aufgaben.
Daher ist die Kommunikationsweise innerhalb unseres Gehirns einem von einer Gruppe von Schlagzeugern in der Karibik improvisierten Musikstück - bei dem jeder Mitspieler flexibel auf den Rhythmus der anderen reagiert - sehr viel ähnlicher als die von der gegenwärtigen Generation von Computern bevorzugte synchronisierte Arbeitsweise, die in dieser Metapher eher einer preußischen Marschmusik gleichzusetzen wäre. Das biologische Vorbild eröffnet für den Informatiker eine faszinierende neue Welt, nämlich die Möglichkeit, Zeit - oder genauer Zeitunterschiede - als eine bisher in unseren Computern brachliegende Dimension zu erschließen, und direkt mit raum-zeitlichen Mustern zu "rechnen".5

Unsere interaktive Installation "spike trains" in der Landesausstellung soll dem "User" Gelegenheit geben, in die Welt der Informationsverarbeitung mit Neuronen in spielerischer Weise einzutauchen. In dieser Installation wird die Arbeitsweise6 von 3 Neuronen im Computer simuliert. Die Erhöhung der Spannung am Zellkörper eines Neurons durch eine Grünfärbung angedeutet. Das Feuern eines Neurons wird jeweils durch einen für das Neuron spezifischen Klang hörbar gemacht. Dies haben wir deshalb gemacht, weil unser Hörsystem besonders gut die komplexen Rhythmen aufnehmen kann, die in spike trains überlagert sind. Wir können also quasi die 3 Neuronen bei ihrer Kommunikation belauschen. Zusätzlich werden die von den Neuronen ausgesandten spike trains als wandernde Strichfolgen, und die von den Synapsen daraus erzeugten EPSP's als wandernde grüne Hügel, graphisch dargestellt (siehe Abb. 5). Um die spike trains für das menschliche Ohr und Auge erfaßbar zu machen, mußten wir sie künstlich verlangsamen. Durch den unteren Regler am User Interface (siehe Abb. 6) kann der User die Simulationsgeschwindigkeit, und damit die Geschwindigkeit der Kommunikation unter den Neuronen, regulieren.

Unser Gehirn enthält ca. 1.000.000.000.000.000 Synapsen, also ca. 10.000 mal so viele wie Neuronen. Diese in unserer Simulation als blaue und rote Dreiecke dargestellten Komponenten des neuronalen Schaltkreises spielen eine besondere Rolle. Zunächst einmal sind sie individuell recht verschieden. Manche bewirken Spannungserhöhungen (EPSP's), andere - wie die rot markierte Synapse in unserer Simulation - bewirken Spannungserniedrigungen (IPSP's). Man spricht von einer "stärkeren" oder "schwächeren" Synapse je nachdem, ob sie größere oder kleinere Spannungsänderungen (also EPSP's oder IPSP's) am nächsten Neuron erzeugt. Dabei ist die "Stärke" einer Synapse in der Regel nicht im genetischen Kode eines Lebewesens vorprogrammiert, sondern sie ist das Resultat von "Lernen". Es wird vermutet, daß "das Gelernte" in unserem Gehirn überwiegend als Muster von stärkeren und schwächeren Synapsen kodiert vorliegt. Der genaue Algorithmus, der diese Kodierung von "Gelerntem" steuert, ist unbekannt. In unserer Installation kann der User die Rolle dieses unbekannten Algorithmus übernehmen und die Stärken der 6 Synapsen - die von 1 bis 6 numeriert sind - individuell verändern.

Wenn man die Stärken der 6 Synapsen verändert, sieht man, daß dies die Dynamik des ganzen Systems verändert. Insbesondere werden dieselben Input spike trains anders verarbeitet und ergeben ganz andere Output spike trains, ähnlich wie Gelerntes uns veranlaßt, die Welt "mit anderen Augen" zu sehen.

In jüngerer Zeit hat man festgestellt, daß Synapsen - abgesehen von ihrer "Polarität" und ihrer Stärke - eine weitere Art von Individualität aufweisen. Wenn man die Folge der EPSP's oder IPSP's beobachtet, die eine Synapse im nächsten Neuron erzeugt, so sieht man, daß sie die verschiedenen spikes des spike train vom vorhergehenden Neuron in verschieden große EPSP's (oder IPSP's) umwandelt, auch wenn die "Stärke" der Synapse nicht verändert wird. Diese zusätzliche sehr schnelle zeitliche Dynamik von Synapsen (die sich auf der Zeitskala von Millisekunden und Sekunden abspielt, während "Lernen" im Zeitbereich von Minuten stattfindet) haben wir ebenfalls in unserer Installation modelliert. Genauer gesagt haben wir die neuen experimentellen Daten von Markram, Wang und Tsodyks (Markram, et al., 1998) über die schnelle Dynamik von Synapsen im Computer modelliert. Die vom User veränderbare "Stärke" einer Synapse beeinflußt nur die durchschnittliche Größe der EPSP's.

Abbildung 5: Skizze des in der Installation "spike trains" simulierten neuronalen Netzwerkes, bestehend aus drei Neuronen A,B,C und sechs in ihrer Stärke veränderbaren Synapsen 1, ..., 6 (blau markiert). Die Synapse links unten (rotes Dreieck) ist eine inhibitorische Synapse, die IPSP's anstatt EPSP's erzeugt. Änderungen der elektrischen Spannung der Neuronen sind als grüne Linien, bzw. bei spikes als weiße Striche, dargestellt. Die Input spike trains des im Computer simulierten neuronalen Netzwerkes kommen von links, die Output spike trains verlassen den Bildschirm auf der rechten Seite. Die Input spike trains Bio I und Bio II kommen von Neuronen im Gehirn des Affen. Die beiden anderen Input spike trains I und II werden vom User erzeugt. Während man früher eine Synapse von der Funktion her nur als eine Art "Stecker" zwischen den eigentlichen "Rechnerbausteinen" - den Neuronen - gehalten hat, sieht man nunmehr, daß eine Synapse eher als eine separate Art von Rechnerbaustein zu betrachten ist, der spike trains in komplexer und individuell verschiedener Weise zu Folgen verschieden großer Pulse (EPSP's bzw.IPSP's) im nächsten Neuron verarbeitet. Für uns als Informatiker ergibt dies eine neue Herausforderung, denn es stellt sich die Frage, wie man mit diesem zusätzlichen Typ von Rechnerbausteinen (in Kombination mit Neuronen) in effizienter Weise Informationen verarbeiten kann. Das ist eines der gegenwärtigen Forschungsgebiete an unserem Institut (siehe zum Beispiel (Natschläger et al., 1999, Maass und Sontag, 1999)).8

Abbildung 6: Skizze des User Interface der Installation "spike trains"





Der User kann am Interface durch Drücken der beiden linken Tasten selbst zwei spike trains erzeugen, die jeweils einen der 4 Inputs für die Neuronen A und B links und unten (siehe Abb. 5) liefern. Der mittels der oberen Taste erzeugte spike train I verursacht EPSP's im Neuron A, das heißt, er bringt dieses Neuron öfters zum Feuern. Der mittels der unteren Taste erzeugte spike train II verursacht IPSP's in Neuron B, das heißt, er hält das Neuron B gelegentlich vom Feuern ab. Daneben erhalten die Neuronen A und B jeweils einen von einem Neuron im Gehirn des Affen (siehe Abb. 4) ausgesandten spike train Bio I bzw. Bio II als Input, und zusätzlich je zwei spike trains von den anderen 2 Neuronen in diesem "neuronalen Schaltkreis". Nach außen liefert der Schaltkreis zwei spike trains als Output, nämlich die spike trains der Neuronen B und C. In einem biologischen System würden solche Output spike trains entweder an andere Teile des Nervensystems weitergeleitet, oder direkt zur Steuerung von Muskeln verwendet.9

Zum Schluß möchte ich anmerken, daß die Untersuchung einer neuen Generation von künstlichen neuronalen Netzwerken, die ähnlich wie das in dieser Installation simulierte mit zeitlichen Mustern von Pulsen rechnen und kommunizieren, ein heißes Thema der gegenwärtigen Forschung ist (für einen Überblick siehe (Maass und Bishop, 1999)). Für die technische Realisierung und die Beratung bei der Konzeption der Computerinstallation "spike trains" möchte ich Dr. Thomas Natschläger und Dipl.-Ing. Harald Burgsteiner herzlich danken.10 Ferner danke ich der Landesausstellung gr2000az für die Finanzierung dieses Projektes.
 

Fussnoten:

1 siehe http://www.informatik.uni-hamburg.de/GRK/Personen/Jens/neuroinf.html, http://www.cns.caltech.edu/s1.html, http://www.ini.unizh.ch/, http://www.cs.cmu.edu/afs/cs/project/cnbc/nips/NIPS.html, http://tcw2.ppsw.rug.nl/~tjeerd/genesis/beeman/cnslecs.html, http://www.ini.unizh.ch:80/telluride99/home.html
2 Diese Installation ist ab April 2000 kostenlos über das Internet von der Homepage unseres Instituts http://www.igi.tu-graz.ac.at/ unter der Rubrik "Demos" erhältlich.
3 Bilder von Neuronen und Erläuterungen ihrer Funktion sind online erhältlich von http://zig.ini.unizh.ch/projects/jca/index.html, http://www.ini.unizh.ch:80/~jca/, http://www.csuchico.edu/psy/BioPsych/neurotransmission.html, http://www.sturgeon.ab.ca/rw/nervious_system/nerve.html, http://tcw2.ppsw.rug.nl/~tjeerd/genesis/beeman/cnslecs.html
4 Bilder und Erläuterungen zu Synapsen sind online erhältlich von http://www.csuchico.edu/psy/BioPsych/neurotransmission.html
5 Dies ist eines der Forschungsgebiete unseres Instituts. Eine allgemein verständliche Einführung ist der online erhältliche Aufsatz "Netzwerke von 'spiking' Neuronen: Die dritte Generation von Modellen für Neuronale Netzwerke" von Thomas Natschläger (http://www.igi.tu-graz.ac.at/tnatschl/Publications.html) sowie der von meiner Homepage http://www.tu-graz.ac.at/igi/maass erhältliche Aufsatz "Das menschliche Gehirn: nur ein Rechner?". Detailliertere Übersichtsartikel sind ebenfalls von meiner Homepage erhältlich. Weitere einführende Artikel, die auch mögliche technische Anwendungen besprechen, findet man in dem Buch (Maass und Bishop, 1999).
6 Genauer gesagt: es werden mathematische Modelle von Neuronen simuliert, die auf die Nobelpreisträger Hodgkin und Huxley zurückgehen. Software für die Simulation von Neuronen ist auf dem Internet frei erhältlich http://www.bbb.caltech.edu:80/GENESIS/, http://neuron.duke.edu, http://www.uib.no/med/avd/miapr/arvid/cns/genesis_tutorial/genesis_tutorial.html
7 Dabei mußten wir die Schwelle für das Feuern sehr viel niedriger ansetzen als in der Natur, weil sie sonst niemals feuern würden. Der Grund ist der, daß ein Neuron in der Natur Input von nicht nur 3 oder 4, sondern von ca. 10.000 anderen Neuronen erhält.
8 Eine detaillierte Einführung in die zeitliche Dynamik von Synapsen (Maass und Zador, 1999) ist online von meiner Homepage erhältlich.
9 Es ist geplant, daß der User in der Landesausstellung die von ihm erzeugten Output spike trains der Neuronen B und C mittels seines Fingerabdrucks speichern und am Ende seines Ausstellungsrundganges ausdrucken kann.
10 Unsere Computerinstallation verwendet in der graphischen Darstellung ein Bild von Herzmuskelzellen, das uns freundlicherweise von Prof. Dr. Helmut Tritthart und Mag. Manfred Hartbauer zur Verfügung gestellt wurde.
 

Literatur

Koch, C. (1999). Biophysics of Computation: Information Processing in Single Neurons. Oxford University Press (Oxford).

Krüger, J. und Aiple, F. (1988). Multielectrode investigation of monkey stritate cortex: Spike train correlations in the infragranular layers. Neurophysiology, 60:798-828.

Maass, W. und Bishop C. M., eds., Pulsed Neural Networks, MIT Press (Cambridge), 1999. Siehe http://www.igi.tu-graz.ac.at/maass/PNN.html

Maass, W. und Sontag, E. D., Neural systems as nonlinear filters, Neural Computation, in press, Nummer 107 auf http://www.igi.tu-graz.ac.at/maass/#Publications.

Maass, W. und Zador, A. M., Computing and learning with dynamic synapses, in Pulsed Neural Networks, W. Maass and C. M. Bishop, editors, MIT Press (Cambridge), 321-336, 1999; Nummer 101 auf http://www.igi.tu-graz.ac.at/maass/#Publications.

Markram H., Wang, Y. und Tsodyks, M. (1998). Differential signaling via the same axon of neocortical pyramidal neurons. Proc. Natl. Acad. Sci., Vol. 95, 5323-5328.

Natschläger, T., Maass, W. und Zador, A. M. Efficient temporal processing with dynamic synapses. Submitted for publication, 1999; Nummer 111 auf http://www.igi.tu-graz.ac.at/maass/#Publications.

Recce, M. (1999). Encoding Information in Neuronal Activity. In Maass, W. und Bishop, C., editors, Pulsed Neural Networks. MIT-Press (Cambridge, MA), 111-131.

Rieke, F., Warland, D., Bialek, W. und de Ruyter van Steveninck, R. (1997). SPIKES: Exploring the Neural Code. MIT-Press (Cambridge, MA).