Sensorische Systeme/ Computermodelle/Effiziente Kodierung

Effiziente Kodierung

Warum brauchen wir effizientes Kodieren?

Wie bereits beschrieben, werden visuelle Signale im visuellen Kortex verarbeitet, um Informationen zu interpretieren. Nachdem wir verstanden haben, wie visuelle Informationen verarbeitet werden, stellt sich die Frage, wie diese Informationen kodiert werden.

Menge an Eingabedaten

Die Netzhaut nimmt ca. 10¹⁰ Bit/Sekunde auf, davon werden ca. 3-6 * 10⁶ Bit/Sekunde von ca. 1 Million Axonen durch jeden Sehnerv übertragen Das Ergebnis ist, dass nur 10⁴ Bit/Sekunde bis zur Schicht IV von V1 gelangen. Da die Kapazität des Bewusstseins auf <= 100 bit/sec1 geschätzt wird, ist eine Reduzierung der Datenmenge nicht nur ausreichend, sondern auch notwendig.

Verarbeitungsgeschwindigkeit und Präzision

Beim Menschen feuern die Nervenzellen mit einer Frequenz von etwa 0,2 bis 10 Hz Die Kodierung der Information hängt auch vom exakten Zeitpunkt und der Frequenz des Feuerns ab. Eine zusätzliche Herausforderung besteht darin, dass das verarbeitende neuronale Netzwerk auch mit Rauschfaktoren umgehen muss. Innerhalb dieser Problematik spielt insbesondere das retinale Rauschen eine Rolle. Dieses Phänomen beschreibt die spontane Fluktuation der elektrischen Signale auf den Photorezeptoren der Netzhaut. Diese Fluktuationen werden durch die thermische Zersetzung von Rhodopsin in den Stäbchen verursacht und erzeugen Ereignisse, die nicht klar von den Ereignissen unterschieden werden können, die entstehen, wenn Licht auf die Stäbchen fällt und ein Quantum absorbiert wird. Solches Rauschen entsteht ebenso in den Zapfen aufgrund molekularer Ursachen. . and also arises in the cons having a molecular origin. Die These besagt, dass das retinale Rauschen die visuelle Empfindlichkeit deutlich stärker einschränkt als das Rauschen im zentralen Nervensystem. Letzteres wird durch zufällige Aktivitäten an den Synapsen der Nervenzellen verursacht, was zusätzliche Aktionspotenziale erzeugt. .

Energieverbrauch

Jede neuronale Aktivität benötigt Energie: Das Gehirn verbraucht etwa 20% des Ruhestoffwechsels. Ein Anstieg um ein Aktionspotenzial pro Neuron und Sekunde erhöht den Sauerstoffverbrauch um 145 ml/100 g graue Substanz/h. Der menschliche Blutkreislauf versorgt das menschliche Gehirn mit etwa 1,5 l Blut pro Minute und liefert ihm Energie und Sauerstoff. "Bei einer Aktionspotentialfrequenz von 4 Hz in aktiven Zellen sollten etwa 15% einer Neuronengruppe gleichzeitig aktiv sein, um einen Zustand zu kodieren" .

Lösung

Angesichts der enormen Datenmengen, die von einem Nervensystem mit begrenzter Geschwindigkeit, Präzision und verfügbarer Energie verarbeitet werden müssen, ist die Implementierung einer effizienten Kodierung notwendig.

Die Grundstruktur, auf der die menschliche (verbale) Kommunikation beruht, sind im auditorischen System die Phoneme, d.h. die verschiedenen Grundlautelemente einer Sprache, die ein Wort von einem anderen unterscheiden So besteht z.B. das Wort "Auge" nur aus einem Phonem, /ai/, während das Wort "Code" aus den Phonemen /k/, /ə/, /ʋ/, /d/ besteht.

Analog dazu würde ein effizienter Code für das visuelle System aus Bildstrukturen als Grundelementen bestehen, die kombiniert werden können, um die wahrgenommene Umgebung (d. h. das Bild) darzustellen. Als Modell, das die grundlegenden Eigenschaften der visuellen Wahrnehmungsfelder bewahrt, haben Olshausen & Field einen Optimierungsalgorithmus vorgeschlagen, der einen spärlichen Code findet und dabei die Informationen des Bildes bewahrt.

Technische Demonstration

Kodierungs- und Dekodierungsprozess

Das Prinzip der Informationskompression lässt sich sehr gut anhand der "k-means"-Methode demonstrieren, die auf (zweidimensionale) Bilder angewendet wird. Diese Methode ist in der Python-Bibliothek scikit-image implementiert. Die Idee besteht darin, wie in Abbildung 1 veranschaulicht, ein Bild oder Daten im Allgemeinen zu komprimieren, zu verarbeiten und anschließend zurück zu transformieren. Der Verarbeitungsschritt ist auf diese Weise wesentlich effizienter und im Gegensatz zu den Methoden in biologischen Systemen gibt es auch verlustfreie Komprimierungsmethoden, wie z. B. Wavelets, die eine korrekte Rücktransformation ermöglichen.

Eine verlustfreie Komprimierung ist für biologische Systeme nicht notwendig. Der Informationsverlust wird am Beispiel des bereits erwähnten k-means-Algorithmus auf scikit-learn und auch auf youtube gezeigt.

Einleitung

Bruno Olshausen und Michael Lewicki untersuchten Ende der 1990er Jahre bzw. zu Beginn des 21. Jahrhunderts, wie natürliche Bilder und natürliche Töne vom Gehirn kodiert werden, und versuchten, ein Modell zu erstellen, das diesen Prozess so genau wie möglich wiedergibt. Es wurde festgestellt, dass der Prozess beider Eingangssignale mit sehr ähnlichen Methoden modelliert werden konnte. Das Ziel einer effizienten Kodierungstheorie ist es, ein Maximum an Informationen über einen Stimulus zu erfassen, indem eine Reihe von statistisch unabhängigen Merkmalen verwendet wird . Eine effiziente Kodierung natürlicher Bilder ergibt sich aus einer Population von lokalisierten, orientierten Gabor wavelet-ähnlichen Filtern ^,. Gammatone-Filter sind das Äquivalent zu diesen Filtern für das auditorische System. Um Formen in einem Bild zu unterscheiden, ist das wichtigste Merkmal die Kantenerkennung, die mit Gabor-Filtern erreicht wird. Bei der Tonverarbeitung können Tonanfänge oder "akustische Kanten" durch einen Pool von Filtern ähnlich einer Gammatone-Filterbank kodiert werden.

Vision

Bruno Olshausen und sein Team waren 1996 die Ersten, die einen Lernalgorithmus entwickelten, der darauf abzielt, spärliche lineare Codes für natürliche Bilder zu finden und die Spärlichkeit zu maximieren, um eine Gruppe von lokalisierten, orientierten, rezeptiven Bandpass-Feldern zu bilden, die denen im primären visuellen Kortex entsprechen .

Sie gehen von der Annahme aus, dass ein Bild $I(x,y)$ als lineare Überlagerung von Basisfunktionen dargestellt werden kann, $\phi _{i}(x,y)$:

$I(x,y)=\sum _{i}a_{i}\phi _{i}(x,y)$

Die Parameter $a_{i}$ hängen davon ab welche Basisfunktionen $\phi _{i}(x,y)$ gewählt werden, und sind für jedes Bild unterschiedlich. Das Ziel einer effizienten Kodierung ist es, eine Familie von $\phi _{i}(x,y)$ zu finden, die den Bildraum aufspannt und Parameter erhält, die statistisch so unabhängig wie möglich sind. Natürliche Szenen enthalten viele Formen statistischer Strukturen höherer Ordnung, die nicht gaußförmig sind . Die Verwendung der Hauptkomponentenanalyse zur Erreichung dieser beiden Ziele wäre daher ungeeignet. Statistische Abhängigkeiten zwischen einem Pool von Parametern können erkannt werden, sobald die gemeinsame Entropie kleiner ist als die Summe der einzelnen Entropien:

$H(a_{1},a_{2},...,a_{n})<\sum _{i}H(a_{i})$

Mit Entropie ist hier die Shannon-Entropie gemeint, die der Erwartungswert (Durchschnitt) einer Variablen ist. Die Blockentropie ist ein Maß für die Unsicherheit, die mit einer Reihe von Variablen verbunden ist. Es wird davon ausgegangen, dass natürliche Bilder eine "spärliche Struktur" haben, d. h. das Bild kann als Funktion einer kleinen Anzahl von Merkmalen aus einer größeren Menge ausgedrückt werden ^,. Ziel ist es, einen Code zu finden, der die Entropie senkt, wobei die Wahrscheinlichkeitsverteilung jedes Parameters unimodal ist und ihren Höhepunkt bei Null hat. Dies kann als Optimierungsproblem formuliert werden :

$E=-[{\text{Information bewahren}}]-\lambda [{\text{Spärlichkeit von }}a_{i}]$

wobei $\lambda$ ein positiver Gewichtungskoeffizient ist. Die erste Größe bewertet den mittleren quadratischen Fehler zwischen dem natürlichen Bild und dem rekonstruierten Bild.

$[{\text{Information bewahren}}]=-\sum _{x,y}[I(x,y)-\sum _{i}a_{i}\phi _{i}(x,y)]^{2}$

Der zweiten Größe werden höhere Kosten zugeschrieben, wenn für ein bestimmtes Bild die verschiedenen Parameter spärlich verteilt sind. Sie wird berechnet, indem die Aktivität der einzelnen Koeffizienten, die in eine nichtlineare Funktion $S(x)$ eingesetzt werden, addiert wird.

$[{\text{Spärichkeit von }}a_{i}]=-\sum _{i}S\left({\frac {a_{i}}{\sigma }}\right)$

wobei $\sigma$ eine Skalierungskonstante ist. Für $S(x)$, Funktionen, die inmitten von Aktivitätszuständen mit gleicher Varianz diejenigen mit der geringsten Anzahl von Nicht-Null-Parametern bevorzugen (z.b. $-e^{-x^{2}}$, $log(1+x^{2})$, $\left\vert x\right\vert$).

Durch Minimierung der Gesamtkosten $E$ über $a_{i}$ wird Lernen erreicht. Die $\phi _{i}$ konvergiert durch Gradientenabstieg über mehrere Bildvariationen gemittelt. Der Algorithmus ermöglicht es, dass die Basisfunktionen dimensionsmäßig überkomplett und nicht orthogonal sind, ohne dass der Zustand der Spärlichkeit abnimmt.

Nach dem Lernprozess wurde der Algorithmus an künstlichen Datensätzen getestet, wobei sich bestätigte, dass er geeignet ist, spärliche Strukturen in den Daten zu erkennen. Die Basisfunktionen sind gut lokalisiert, orientiert und selektiv für verschiedene räumliche Maßstäbe. Durch die Zuordnung der Reaktion jedes $a_{i}$ zu Punkten an jeder Position wurde eine Ähnlichkeit zwischen den rezeptiven Feldern und den Basisfunktionen hergestellt. Alle Basisfunktionen bilden zusammen einen vollendeten Bildcode, der den gemeinsamen Raum von räumlicher Position, Orientierung und Skala ähnlich wie Wavelet-Codes abdeckt.

Zusammenfassend zeigen die Ergebnisse von Olshausens Team, dass die beiden hinreichenden Ziele für die Entstehung von lokalisierten, orientierten, rezeptiven Bandpass-Feldern darin bestehen, dass die Information erhalten bleibt und die Repräsentation spärlich ist.

Audition

Fig.1: Zeitreihenanalyse. (a) Die Filter in einer Fourier-Transformation sind in der Frequenz, aber nicht in der Zeit lokalisiert. (b) Wavelet-Filter sind sowohl in der Zeit als auch in der Frequenz lokalisiert. (c–e) Die statistische Struktur der Signale bestimmt, wie die Filterformen, die sich aus der effizienten Kodierung der verschiedenen Datensätze ergeben, im Zeit-/Frequenzraum verteilt sind. Jede Ellipse ist eine schematische Darstellung der Ausdehnung eines einzelnen Filters im Zeit-/Frequenzraum. (c) Umgebungsgeräusche. (d) Tierlaute. (e) Sprache.

Lewicki veröffentlichte seine Ergebnisse nach Olshausen im Jahr 2002. Er führte Experimente zur Überprüfung der Hypothese der effizienten Kodierung durch, welche auf vorangegangenen Arbeiten basiert. Das Ziel war es, optimierte Codierungen für unterschiedliche Kategorien von natürlichen Klangkulissen zu entwickeln, einschließlich Tierlauten, Umgebungsgeräuschen und menschlicher Sprache.

Die Forscher nutzten die Methode der unabhängigen Komponentenanalyse (UKA), um eine lineare Zerlegung von Signalen zu realisieren. Dieses Verfahren zielt darauf ab, Korrelationen und statistische Abhängigkeiten höherer Ordnung zu minimieren . Dieser Lernalgorithmus liefert dann einen Filter für jeden Datensatz, der in Form eines Zeit-Frequenz-Fensters interpretiert werden kann. Die Form des Filters wird durch die statistische Struktur des Ensembles bestimmt .

Bei der Anwendung auf die vielfältigen Beispiele von Geräuschkulissen ergaben sich mittels der angewandten Methode Filter mit Zeit-Frequenz-Fenstern. Diese Fenster ähneln jenen eines Wavelets, insbesondere im Fall von Umgebungsgeräuschen, bei denen Schallereignisse sowohl in der zeitlichen als auch in der frequenzlichen Dimension lokalisiert sind. (Abb. 1c). Bei der Analyse von Tierlauten resultiert eine Darstellung, die einem Kachelmuster ähnelt und vergleichbar mit der Fourier-Transformation ist. In diesem Fall erfolgt die Lokalisierung des Schalls in der Frequenz, jedoch nicht in der zeitlichen Dimension. (Abb. 1d). Sprache enthält eine Mischung aus beidem mit einer Gewichtung von 2:1 zwischen Umwelt- und Tierlauten (Abb. 1e). Dies ist darauf zurückzuführen, dass Sprache aus harmonischen Vokalen und nichtharmonischen Konsonanten besteht. Diese Muster wurden bereits experimentell bei Tieren und Menschen beobachtet .

Um die wesentlichen Unterschiede zwischen diesen drei Arten von Geräuschen zu ermitteln, analysierte Lewickis Team die Bandbreite, die Filterschärfe und die zeitliche Hüllkurve. Die Bandbreite nimmt bei Umweltgeräuschen in Abhängigkeit von der Mittenfrequenz zu, während sie bei Tierlauten konstant bleibt. Sprache nimmt ebenfalls zu, aber weniger als Umweltgeräusche. Aufgrund des Zeit/Frequenz-Kompromisses verhalten sich die zeitlichen Hüllkurven ähnlich. Beim Vergleich der Schärfe in Bezug auf die Mittenfrequenz physiologischer Messungen ^, aus Sprachdaten mit der Schärfe der kombinierten Geräuschensembles wurde die Übereinstimmung zwischen beiden Feinheiten bestätigt.

Es ist anzumerken, dass zur Durchführung dieser Analyse mehrere Näherungen erforderlich waren. In ihrer Analyse wurden die Intensitätsschwankungen des Schalls nicht berücksichtigt. Das auditorische System hält sich an bestimmte Intensitätsschwellen, je nachdem, welche Frequenzen gewählt werden . Die physiologischen Messungen, mit denen diese Messungen verglichen werden, werden jedoch mit isolierten reinen Tönen durchgeführt, was den Anwendungsbereich dieses Modells zwar einschränkt, es aber nicht diskreditiert. Außerdem stimmt die zeitliche Symmetrie der Filter nicht mit den physiologisch charakterisierten "Gammatonfiltern" überein. Es besteht die Option, den Algorithmus derart zu modifizieren, dass er kausal agiert. In diesem Fall würden die zeitlichen Hüllkurven der Filter asymmetrisch gestaltet werden, ähnlich wie bei den Gammatonfiltern.

Schlussfolgerung

Es gibt eine Analogie zwischen diesen beiden Systemen. Der Ort und die räumliche Frequenz von visuellen Reizen werden von den Neuronen im visuellen Kortex kodiert. Die Anpassung zwischen diesen beiden Variablen ist ähnlich wie die zwischen Zeitpunkt und Frequenz bei der auditiven Kodierung.

Ein weiterer interessanter Aspekt dieser Parallele ist, warum die UKA die neuronalen Antworteigenschaften in den früheren Phasen der Analyse im auditorischen System aufklärt, während sie die Antworteigenschaften der kortikalen Neuronen im visuellen System aufklärt. Es ist zu beachten, dass die neuronale Anatomie der beiden Systeme unterschiedlich ist. Im visuellen System tritt ein Engpass am Sehnerv auf, wo die Informationen von 100 Millionen Photorezeptoren in 1 Million Sehnervenfasern verdichtet werden. Die Informationen werden dann im Kortex um den Faktor 50 verbreitet. Im auditorischen System gibt es keinen Engpass und die Informationen von 3000 inneren Haarzellen der Cochlea werden direkt auf 30000 Hörnervenfasern übertragen. Die UKA wird dann tatsächlich dem Punkt der Ausdehnung in der Repräsentation zugeordnet .