Unterabschnitte
Wir können einen Vektorraum durch eine Hyperebene eine Dimension tiefer in zwei Teile teilen. Linear sparierbare Probleme lassen sich durch eine Hyperebene in zwei Klassen teilen. Eine solche Hyperebene läßt sich definieren durch
Die eine Halbebene ist dann definiert durch
die andere durch
Für viele separierbare Probleme können wir eine Hyperebene auf verschiedene Art und Weise erstellen
Wir sehen jedoch, dass viele Ebenen nicht so klug separieren. Wenn wir gerade an einen Rand die Ebene legen, dann können leicht Muster auftauchen, die die Ebene überschreiten. Wir wollen deshalb eine Ebene mit einem Korridor drumherum erstellen
Wir können
und
so einstellen, dass alle Punkte außerhalb des Korridors liegen und die Support Vectors genau auf der Grenze:
Seien
und
die Support Vectors, dann gilt
Wir normieren
und erhalten ein passendes
Unsere Entscheidungsfunktion ist nun
Wir versuchen zwei Ziele zu erfüllen
- gute Generalisierung (Extremum)
- alle Beispiele richtig klassifizieren (Nebenbedingung)
Dies können wir mit dem La-Grange-Ansatz. Die La-Grange-Funktion
hat die Form
Nach Einsetzen und Auflösen erhalten wir die sogenannte Duale Form
Die Decision Function wäre dann