Institut für Theoretische Informatik (ITI)

Privacy und Fairness

Beschreibung

Durch die Digitalisierung sind wir inzwischen in unserem Alltag von einer Vielzahl komplexer Systeme und Dienste umgeben, die unsere Daten elektronisch speichern und in irgendeiner Form verarbeiten. Diese Entwicklung bietet viele Vorteile, birgt jedoch auch ernsthafte Risiken was die Systemsicherheit und den Schutz der Privatsphäre der Nutzer betrifft. Es gibt zahlreiche bekannt gewordene Angriffe auf derartige Systeme, bei denen private Nutzerdaten entwendet wurden.

Das Prinzip von „Privacy by Design“ besagt, dass bereits bei der Konzeption eines Systems darauf geachtet wird, Datenschutzmaßnahmen zu berücksichtigen und nur die Daten von Nutzern zu erheben, die tatsächlich für die korrekte Funktion des Systems erforderlich sind. Durch Einsatz kryptographischer Methoden ist es oft möglich, die Menge der Daten, die ein Systembetreiber tatsächlich lernt, noch weiter zu reduzieren ohne die Funktionsweise des Systems zu beeinträchtigen. Beispielsweise kann man Berechnungen mit sensiblen Nutzerdaten den Nutzer selbst durchführen lassen, sodass der Systembetreiber die Daten nie zu Gesicht bekommt. Mit Hilfe von sog. „Zero-Knowledge Beweisen“ kann der Nutzer den Systembetreiber dann davon überzeugen, dass er die Berechnung korrekt durchgeführt hat. Auch „Multi-Party Computation“ ist ein beliebtes Mittel um Nutzerdaten zu schützen. Dabei führen mehrere Parteien gemeinsam eine Berechnung auf all ihren privaten Daten durch, ohne dass die anderen Parteien Informationen über die eigenen Daten lernen. Eng damit verwand ist „Secure Function Evaluation“, bei dem eine Partei in Besitz von geheimen Daten ist und die andere Partei im Besitz einer geheimen Funktion ist. Nun können beide Parteien gemeinsam die Funktion auf die Daten anwenden ohne dabei das Geheimnis der anderen Partei zu lernen.

Auch das Thema „Fairness“ spielt eine Rolle in der digitalisierten Welt. In der Zukunft könnte es üblich werden, Entscheidungen ohne menschlichen Einfluss direkt von intelligenten Algorithmen treffen zu lassen. Dabei ist es wichtig sicherzustellen, dass dieser Algorithmus „fair“ handelt, also durch seine Entscheidungen niemanden benachteiligt. Zudem ist Fairness ein Thema im Bereich der „Multi-Party Computation“. Dabei wird sichergestellt, dass entweder alle Parteien das Ergebnis der Berechnung erfahren, oder niemand.

Unsere Forschung

Unsere Lehre

Referenzen