Informationstheorie

Aus Psycho
Wechseln zu: Navigation, Suche

140922_Informationstheorie

Aufwandabschätzung

Laufzeitanalyse (Laufzeiten von einfachen Algorithmen) Unterschiedlich clevere Formen.

Zum beispiel auch viele unterschiedliche Algorithmen um zu sortieren. Manchmal auch platzbedarf entscheidend. Heute wenihger

o-Notation (quadratisch)

Normalerweise möglichst effiziente Algorithmen. Aber bei Kryptologie natürlich möglichst schwierig. (Faktorisieren von sehr Grossen Zahlen, relativ aufwändig & "Teuer") Travelling Slaesman Problem (möglichst effizientes verteilen)

Syntaxanalyse

Wie kann man etwas als syntax definieren und nachher verstehen. Syntaxdiagramme (Railroad Diagrams)

Lieber natürliche dummheit als künstliche Intelligenz

IBM Watson als Beispiel für künstliche Intelligenz.

Programmentwicklung und verifikation

Mathematisch beweisen das Algorithmus stimmt Sich davon überzeugen das das was man schreibt stimmt häufig fehler: schleifen, unf if then statements

Warum das Ganze?

Wichtig das man Bit kennt als Bit, aber auch die Entropie, gemessen in Bit. Binary Digit hat nur 2 Werte, 0 und 1 Bit als Entropie kann irgendwelche Werte annehmen, als Messgrösse.

Heutzutage Kompression vorallem wegen geschwindigkeit spannend, auch Fehlererkennung und Fehlerkorrektur. Hat mehr Information drin als Bneötigt, dadurch können Fehler korrigiert werden.

Digitales Signa

  • Eigenschaften – diskrete Zustände – begrenzt genau (endlich viele verschiedene Zustände) – Verarbeitung weniger i.a. aufwendig

z.B in Cobol gibt es binary coded decimals

ASCII Tabelle kann auch Binär dargestellt werden, jede Zahl hat ein Dezimalcode, welcher wiederum binär codiert werden kann