Erfassen, Verarbeiten und Zuordnen multivariater Messgrößen: Neue Rahmenbedingungen für das Nächste-Nachbarn-Verfahren

Geleitwort
Vorwort
Inhaltsverzeichnis
Abbildungsverzeichnis
Tabellenverzeichnis
1 Einleitung
	1.1	Konnektionistische Systeme
	1.2	Verarbeitung hochdimensionaler Datensätze
	1.3	Multivariate Datenverarbeitung
	1.4	Maschinelles Lernen
	1.5	Entwicklungstendenzen der Lernstrategien
	1.6	Notwendige Eigenschaften
		1.6.1	Ursache und Wirkung
		1.6.2	Voraussetzungen zur Realisierung der Modelle
	1.7	Gestaltung des Verarbeitungsprozesses
		1.7.1	Grenzen des Maschinenlernens
		1.7.2	Notation und Beispiele
	1.8	Die drei Hauptteile dieses Buches
		1.8.1	Kapitelübersicht
			1.8.1.1 Teil 1
			1.8.1.2 Teil 2
			1.8.1.3 Teil 3
		1.8.2	Problemfelder und Fragen zum Thema maschinelles Lernen
	Literatur
2 Methoden des maschinellen Lernens
	2.1	Verschiedene Methoden
	2.2	Freiheitsgrade und Trainingsphase
	2.3	Themen zur Gestaltung eines adaptiven Systems
	2.4	Künstliche neuronale Netze
	2.5	Weiterentwickelte künstliche neuronale Netze
	2.6	Stützvektormethoden
	2.7	Dimensionsreduktion
	2.8	Modularisierte künstliche neuronale Netze
	2.9	Kombinierte künstliche neuronale Netze
	Literatur
3 Anforderungen zur Gestaltung eines adaptiven Systems
	3.1	Gestaltung neuer Verfahren
	3.2	Konzeptionelle Anforderungen
	3.3	Trennung von Trainings- und Arbeitseinheit
		3.3.1	Trainingsphase
		3.3.2	Arbeitsphase
	Literatur
4 Ein Klassifizierungsverfahren im Überblick
	4.1	Arbeitsteilung und Modularisierung
	4.2	Realisierungsaspekte
	4.3	Anforderungen an die Trainings- und Arbeitseinheit
	4.4	Organisationsstruktur
	Literatur
5 Messtechnik und maschinelles Lernen
	5.1	Automatische Messsysteme
	5.2	Messfehler
		5.2.1	Fehlerursachen
			5.2.1.1 Fehlerrechnung
		5.2.2	Erfassung von Messdaten
		5.2.3	Messsystem mit Störquellen
			5.2.3.1 Messvorgang beim maschinellen Messen
			5.2.3.2 Störeinflüsse
		5.2.4	Statische Messfehler
		5.2.5	Dynamische Messfehler
	5.3	Quantitative Erfassung der Messfehler
		5.3.1	Auswirkung der verschiedenen Arten von Messfehlern
		5.3.2	Wahrscheinlichkeit und Varianz
		5.3.3	Umfang und Verteilung der Messwerte
	5.4	Messfehler bei verschiedenen Aufgaben
	5.5	Limitierte Onlineanpassung
	5.6	Messsignalüberwachung
	Literatur
6 Metrik für multidimensionale Daten
	6.1	Abstandsmaße
		6.1.1	Datenpunkte im Merkmalsraum
		6.1.2	Nächste Nachbarpunkte
		6.1.3	Distanzmetriken
		6.1.4	Geometrie n-dimensionaler Räume
		6.1.5	Metrische Eigenschaften
		6.1.6	Abstandsmessung und Anzahl der Dimensionen
		6.1.7	Kontrasterhöhung und Rauschen
	6.2	Berechnungsaufwand und Speicherplatzbedarf
	6.3	Vergleich der Metriken
	6.4	Metrik für das Nächste-Nachbarn-Verfahren
		6.4.1	Metrik für multidimensionale Daten  beim NN-Verfahren
		6.4.2	Zahlenbereich des Punkteraums
	Literatur
7 Glättung einer Mannigfaltigkeit
	7.1	Indizierung und Ordnung der Trainingsdaten
	7.2	Besonderheiten bei spektralen Methoden
	7.3	Vorgaben zur Glättung
	7.4	Krümmung und Komplexität
	7.5	Füllwertmethode
		7.5.1	Einprägen der maximal zulässigen Krümmung
		7.5.2	Anzahl der nächsten Nachbarpunkte
		7.5.3	Feinstruktur des Modells
	7.6	Bereiche der nächsten Nachbarschaft der Datenpunkte
		7.6.1	Verbinden von Datenmengen
		7.6.2	Verbindung zu einer Mannigfaltigkeit
		7.6.3	Mono- und Multiklassenverarbeitung
			7.6.3.1 Krümmungsstetigkeit durch Spline-Interpolation
			7.6.3.2 Positionen von TPs und Füllwerten im X-, Y- und Z-Raum
			7.6.3.3 Große Datenmengen
		7.6.4	Rücktransformation und Transformationsmatrix
		7.6.5	Überlappende Bereiche
		7.6.6	Zugehörigkeitswert
	Literatur
8 Distanz- und Ähnlichkeitsmaße
	8.1	Zugehörigkeitsgrad und Ähnlichkeitsmessung
		8.1.1	Skalenniveau
		8.1.2	Voraussetzungen zur Nutzung von Ähnlichkeitsmaßen
		8.1.3	Speicherung der Charakteristika
		8.1.4	Definition von Ähnlichkeit
	8.2	Rezeptiver Bereich
		8.2.1	Kontur einer Mannigfaltigkeit
		8.2.2	Fester Grenzwert der Zugehörigkeit
			8.2.2.1 Prüfung auf Zugehörigkeit
		8.2.3	Variabler Grenzwert der Zugehörigkeit
			8.2.3.1 Optimierung der Modellkomplexität
		8.2.4	Zugehörigkeitsgrad
			8.2.4.1 Aspekte zur Bestimmung des Zugehörigkeitsgrades
	8.3	Aggregation der Charakteristika
	8.4	Richtungskosinus und Richtungskomponenten
	8.5	Richtungsmaße
		8.5.1	Richtungskosinus im euklidischen Raum
		8.5.2	Richtungskomponenten im L1-Raum
		8.5.3	Richtungsänderung im L1-Raum
	8.6	Dominanz der größten Koeffizienten
		8.6.1	Vermeidung störender Komponenten
		8.6.2	Gütekriterien für Ähnlichkeitsmaße
	8.7	Verschiedene Darstellungsarten der Eingangsdaten  im Merkmalsraum
	8.8	Dominante Komponenten und Bereichsgrenzen einer Mannigfaltigkeit
		8.8.1	Ähnlichkeitsprüfung
		8.8.2	Mehrstufiger Zugehörigkeitstest
	Literatur
9 Wavelet-Transformation
	9.1	Allgemeine Definition
		9.1.1	Distanzerhaltung
		9.1.2	Genutzte Eigenschaft der Wavelet-Transformation
		9.1.3	Wavelet-, Fourier- und andere Transformationen
	9.2	Wavelet-Funktionen
	9.3	Haar-Wavelet
	9.4	Perfekte Lokalität
	9.5	Auswahl von Wavelet-Koeffizienten
	9.6	Multiklassenmannigfaltigkeit
	9.7	Bildung eines Eingangsvektors
	Literatur
10 Nächste-Nachbarn-Verfahren und Dimensionsreduktion
	10.1	Nächste-Nachbarn-Verfahren
		10.1.1	Dimensionsreduktion
		10.1.2	Favorisiertes Verfahren zur Dimensionsreduktion
	10.2	Voraussetzungen und Vorteile der Dimensionsreduktion
	10.3	Anwendung spektraler Methoden
		10.3.1	Innere Dimensionalität
		10.3.2	Abfolge der Datenpunktpositionen auf der Referenzskala
	10.4	Verschiedene Methoden
		10.4.1	Varianten und Erweiterungen
		10.4.2	Die Basismethoden
		10.4.3	Grundsätzliche Arbeitsweise
		10.4.4	Auftretende Probleme
	10.5	Aufgabenbezogene Einsatzbedingungen
	10.6	Vermeidung numerischer Instabilität
	10.7	Spektrale Methoden zur Dimensionsreduktion
		10.7.1	Schritt 1: Bestimmung der nächsten Nachbarpunkte
		10.7.2	Schritt 2: Bestimmung der Rekonstruktionsgewichte
		10.7.3	Schritt 3: Optimierung I, Normalisierung
		10.7.4	Invarianz gegenüber Rotationen und Reskalierungen
		10.7.5	Schritt 4: Optimierung II, Eigenwertanalyse
			10.7.5.1 NOP-Methode
			10.7.5.2 MVU-MethodeMaximum variance unfolding als Alternative
		10.7.6	Schritt 5: Rekonstruktion im niedrigdimensionalen Raum
			10.7.6.1 Generalisierung neuer Anfragepunkte
			10.7.6.2 Abfolge der Datenpunktpositionen auf der Referenzskala
	Literatur
11 Modellbildung
	11.1	Modellkomplexität
	11.2	Bedingungen und Phasen der Modellerstellung
	11.3	Der Bias-Varianz-Konflikt
	11.4	Auswirkungen bei der Modellbildung
		11.4.1	Strukturierung eines Modells
		11.4.2	Bias-Varianz-Analyse
			11.4.2.1 Bias-Varianz-Kombinationen
			11.4.2.2 Bias-Varianz-Fehlerquellen
		11.4.3	Einstellung der Modellkomplexität
	11.5	Test eines Modells
		11.5.1	Validierung
			11.5.1.1 Interne Validierung
			11.5.1.2 Externe Validierung
			11.5.1.3 Praxistest
		11.5.2	Kreuzvalidierung
		11.5.3	Testablauf und Laufzeitkalkulation
	11.6	Komplexe Modelle
	11.7	Gruppenbildung
	Literatur
12 Datenvorverarbeitung
	12.1	Anforderungen an die Datenvorverarbeitung
		12.1.1	Generalisierung um ein Ensemble von Erwartungswerten
		12.1.2	Ermittlung der Messunsicherheit
			12.1.2.1 Ursache-Wirkungs-Listen und Kreuztabellen
	12.2	Eindimensionale Datensätze
		12.2.1	Begriffe, Verteilung, Testverfahren
		12.2.2	Zuordnung, Signifikanzniveau und Varianz der Messdaten
	12.3	Multidimensionale Datensätze
		12.3.1	Reduzierung auf eine univariate Verteilung
		12.3.2	Fehlereinflüsse und Struktur einer Mannigfaltigkeit
		12.3.3	Manhattan-Distanz
		12.3.4	Ordnen und Glätten der Daten
	12.4	Schwellenwert zur Erkennung von Ausreißern
		12.4.1	Ausreißertest
		12.4.2	Bestimmung des Medians
		12.4.3	Anweisungsliste zur Datenaufbereitung
		12.4.4	Messwerte und multidimensionaler Median
		12.4.5	Ausreißer entfernen
		12.4.6	Doppel- oder nahezu gleiche Werte (Ties) entfernen
		12.4.7	Maximale Distanz zwischen den Datenpunkten
		12.4.8	Lücken und Sprünge in einer Distanzliste ergänzen
		12.4.9	Kennwerte des aufbereiteten Trainingsdatensatzes
	12.5	Rezeptiven Bereich definieren
		12.5.1	Anwendung des Verfahrens auf einen größeren Datensatz
		12.5.2	Rezeptiver Bereich
	12.6	Eindimensionale Referenzskala für alle Trainingsdatenpunkte
	Literatur
13 Merkmalsraum
	13.1	Vorbereitung eines Trainingsdatensatzes
	13.2	Transformation von Gruppendaten
	Literatur
14 Assoziationsraum
	14.1	Optimierung eines Trainingsdatensatzes
		14.1.1	Darstellung eines Merkmals mit Messwerten
		14.1.2	Darstellung in Form von Wavelet-Koeffizienten
		14.1.3	Darstellung in Form von Fourier-Koeffizienten
		14.1.4	Darstellung in Form von Eigenwerten
	14.2	Ermittlung von Rekonstruktionsgewichten
		14.2.1	Rekonstruktionsgewichte in der Trainingsphase
		14.2.2	Rekonstruktionsgewichte in der Arbeitsphase
		14.2.3	Einstellung der Modellkomplexität durch Ausblendung
		14.2.4	Einstellung der Modellkomplexität durch Mittelung
	14.3	Rezeptive Bereiche zuordnen
		14.3.1	Einzelne rezeptive Bereiche von Gruppen
		14.3.2	Komplexer rezeptiver Bereich mehrerer Gruppen
		14.3.3	Skalierung und Anpassung
			14.3.3.1 Skalierung und Anpassung der Gruppendaten
			14.3.3.2 Skalierung und Anpassung der NOP-Daten
		14.3.4	Skalierung und Anpassung mit transformierten Daten
		14.3.5	Skalierung und Anpassung direkter oder normierter Messwerte
		14.3.6	Skalierung und Anpassung komplexer Eingangsdaten
	14.4	Abbildungsfehler
		14.4.1	Rekonstruktionsfehler im Assoziationsraum
		14.4.2	Rekonstruktionsfehler im Darstellungsraum
		14.4.3	Abbildungsgenauigkeit dimensionsreduzierter Daten
	Literatur
15 Darstellungsraum
	15.1	Generalisierung im Darstellungsraum
		15.1.1	Abbildungsgenauigkeit und Darstellung
		15.1.2	Anpassung an die Form der Ausgangsfunktion
	15.2	Klassifizierung
	15.3	Ermittlung des Zugehörigkeitsgrades
		15.3.1	Erkennung von Ausreißern bei einer Sensorfusion
		15.3.2	Zuordnungsgrad klassifizierter Messdaten
	15.4	Visualisierung der Messdaten
	Literatur
16 Diversitäre Messmethoden
	16.1	Hybride Messstrukturen
	16.2	Interpreteranweisungen zur Gestaltung der Auswertung
	16.3	Verwaltung der Klassifizierungsergebnisse
	16.4	Adaptives System zur Klassifizierung
	16.5	Anwendungen
	Literatur
17 Simulation und Test
	17.1	Codierung
		17.1.1	Pseudocode des Moduls Trainingsphase
		17.1.2	Pseudocode des Moduls Arbeitsphase
	17.2	Simulation
		17.2.1	Trainingsphase mit synthetischen Daten
		17.2.2	Störeinflüsse
		17.2.3	Hohe Rauschpegel
		17.2.4	Ungleiche Anzahl der nächsten Nachbarn in Trainings- und Arbeitsphase
		17.2.5	Abweichungen und Fehlertoleranzen
	17.3	Interne Validierung
	17.4	Externe Validierung
	Literatur
18 Hardware und Realisierung
	18.1	Bausteine und Steuerungsstrukturen
	18.2	Realisierung
		18.2.1	Angabe von Rechenaufwand und Speicherplatzbedarf
		18.2.2	Arbeitsteilung und Modularisierung bei Anwendungen
		18.2.3	Aufwand in der Trainingsphase
			18.2.3.1 Klassifizierungsbeispiel für die Trainingsphase
		18.2.4	Rechenkapazität und Software
		18.2.5	Aufwand in der Arbeitsphase
			18.2.5.1 Klassifizierungsbeispiel für die Arbeitsphase
		18.2.6	Arbeitsphase bei voller Dimensionalität
		18.2.7	Arbeitsphase bei reduzierter Dimensionalität
			18.2.7.1 Matrix-Vektor-Multiplikation
			18.2.7.2 Eigenschaften von Z-Transition (D) und Z-Transition (d)
			18.2.7.3 Aufwand bei dimensionsreduzierter Darstellung
		18.2.8	Klassifizierung
		18.2.9	Fusion von Sensorsignalen
		18.2.10	Realisierung mit Einzelplatzrechner
			18.2.10.1 Klassifizierung von Spektren
			18.2.10.2 Daten von Raman-Spektren
			18.2.10.3 Raman-Spektren
	18.3	Arbeitsteilung und Entwicklungsumgebung
		18.3.1	Kommunikation zwischen Lern- und Arbeitseinheit
		18.3.2	Grafische Bedienoberfläche
		18.3.3	Trainings- und Arbeitsdatensatz
		18.3.4	Trainingsphase
		18.3.5	Schritte in der Arbeitsphase
		18.3.6	Speicherprogrammierbare Steuerungen
		18.3.7	Realisierung mit Mikrocontroller
		18.3.8	Realisierung mit komplexen Bausteinen
			18.3.8.1 Übersicht
			18.3.8.2 Datenverarbeitung in der Bedien- und Verwaltungseinheit
			18.3.8.3 Aufgabenstellung
		18.3.9	Realisierungsaspekte
			18.3.9.1 Datenübertragung vom Spektrometer zur Arbeitseinheit
			18.3.9.2 Vorteilhafte Strukturierung
			18.3.9.3 Datenverarbeitung in der Detektoreinheit
			18.3.9.4 Datenübertragung zwischen Erfassungs- und Anzeigeeinheit
			18.3.9.5 Datenverarbeitung in der Anzeigeeinheit
			18.3.9.6 Weiterführende Informationen zur Realisierung
	Literatur
19 Datenanalyse
	19.1	Grafik zur Darstellung von Klassifizierungsergebnissen
	19.2	Bedeutung der Abkürzungen bei der ROC-Analyse
	19.3	Monoklassenklassifizierung
	19.4	Multiklassenklassifizierung
	19.5	Erstellung und Anwendung von ROC-Kurven
	19.6	Auswertung und Darstellung
		19.6.1	Mono- und Multiklassen im Darstellungsraum
		19.6.2	Multiklassenklassifizierung zur Auswertung von Zuständen
	Literatur
20 Einsatzgebiete
	20.1	Verschiedene Einsatzgebiete
	20.2	Eigenständige Systeme
	20.3	Gestaffelte Prozedur bei der Suche nach Zugehörigkeiten
	20.4	Verbundsysteme
	Literatur
21 Zusammenfassung der Ergebnisse
	21.1	Anwendererfahrungen bei der Klassifizierung von Spektren
	21.2	Ergebnisse und Vergleich
		21.2.1	Künstliches neuronales Netz
		21.2.2	Stütz-Vektor-Methode
		21.2.3	Multivariate adaptive Einbettung
	21.3	Erreichte Funktionalität
	21.4	Beiträge zu aktuellen Entwicklungen
	21.5	Vorteile
	21.6	Ergebnisse
	21.7	Zukünftige Entwicklungen
	21.8	Abschließende Bemerkungen
	Literatur
Anhang A: Datensatztabellen
Anhang B: Untersuchungsergebnisse
Anhang C: Mathematische Zusammenhänge
Anhang D: Übersicht Künstliche Neuronale Netze und Dimensionsreduktionsverfahren
Anhang E: Multiskalenanalyse
Anhang F: Architekturen
Anhang G: Komplexität
Anhang H: Darstellung der Klassifizierungsergebnisse
Anhang I: Anwendungen
Anhang J: Spektroskopie
Anhang K: Klassifizierungsbeispiele
Anhang L: Glossar
Anhang M: Hinweise
Stichwortverzeichnis