Wissen

01 KI, Deep Learning und Interpretierbarkeit

• Transformer und Attention die Architektur hinter modernen Sprachmodellen.
• Neuronale Netze und Backpropagation wie ein Netz aus Daten lernt.
• Rotary Positional Embeddings (RoPE) Position als Drehung kodiert.
• Retrieval-Augmented Generation (RAG) Wissen abrufen statt auswendig lernen.
• Superposition mehr Merkmale als Dimensionen.
• Sparse Autoencoders deutbare Merkmale herausziehen.
• Mechanistic Interpretability und Circuits das Netz als Schaltkreis.
• Feature Visualization sichtbar machen, worauf Neuronen reagieren.
• Diffusionsmodelle (Bilderzeugung) aus Rauschen wird ein Bild.
• Mesa-Optimization und Deceptive Alignment wenn das Modell selbst optimiert.

02 Formale Systeme und Information

• Information Theory die Mathematik von Information und Unsicherheit.
• Graph Theory und Netzwerke Knoten, Kanten und reale Netzwerke.
• Category Theory Struktur und Komposition über Pfeile.
• Formal Logic klassische und moderne formale Logik.

03 Mathematik, Geometrie und Topologie

• Topology und Manifolds was unter Verformung erhalten bleibt.
• Fraktale und Selbstähnlichkeit Muster auf jeder Zoomstufe.

04 Systemtheorie und Systemdynamik

• Systems Thinking und Feedback Loops Hebelpunkte und Rückkopplung.
• Nonlinear Systems, Phase Space und Attractors Chaos aus einfachen Regeln.
• Network Dynamics wie Netzwerke wachsen und ausfallen.

05 Wissens- und Informationssysteme

• Knowledge Graphs und Semantic Web Wissen als Netz aus Entitäten.
• Embedding Spaces Bedeutung als Geometrie.

06 Statistik und Wahrscheinlichkeit

• Grundlagen (Verteilungen, Regression) Statistik zum Anfassen.
• Bayes' Theorem Überzeugungen an Daten anpassen.
• Simpson's Paradox wenn der Gesamttrend lügt.
• Base-Rate Fallacy die Grundrate ignorieren.

07 Psychologie, Entscheidung und Verhalten

• Prospect Theory und Loss Aversion wie Menschen wirklich entscheiden.
• Dual-Process Theory (System 1 und 2) schnelles und langsames Denken.
• Klassische Konditionierung Lernen durch Verknüpfung (Pawlow).
• Operante Konditionierung Lernen durch Konsequenzen (Skinner).
• Verfügbarkeitsheuristik was leicht einfällt, wirkt häufig.
• Peak-End-Regel Erinnerung nach Höhepunkt und Ende.
• Zeigarnik-Effekt Unerledigtes bleibt im Kopf.

08 Logik und Philosophie

• Square of Opposition das logische Quadrat.
• Substance Theory der Träger von Eigenschaften.
• Great Chain of Being die Stufenordnung des Seins.

09 Physik und Raumzeit

• Raumzeit und Minkowski-Diagramme Zeit als vierte Koordinate.