Fakultät für Informatik | KIT |  Deutsch  | English

Kontakt

Am Fasanengarten 5

Geb. 50.34

D-76131 Karlsruhe

Tel.: + 49 721 608-44205
Fax: + 49 721 608-55022

E-Mail: crypto-info(at)iti.kit.edu

Aktuelles

Jörn Müller-Quade wird acatech-Mitglied

Am 1. Dezember 2016 wurde Prof. Jörn Müller-Quade aufgrund seiner Verdienste und Leistungen auf dem Gebiet der theoretischen Informatik und der IT-Sicherheit in die deutsche Akademie der Technikwissenschaften(acatech) aufgenommen. Die acatech ist eine interdisziplinäre, gemeinnützige Organisation, die hauptsächlich in beratender Funktion agiert und das das Gebiet der deutschen Technikwissenschaft auf nationaler und internationaler Ebene vertritt.

Link zur acatech

ERC Consolidator Grant für Prof. Dennis Hofheinz

Prof. Dennis Hofheinz hat für das Projekt „PREP-CRYPTO: Preparing Cryptography for Modern Applications“ den Consolidator Grant des European Research Council (ERC) erhalten. Das Projekt beschäftigt sich neue kryptographische Bausteine für Bereiche wie Big Data und Cloud Computing zu entwickeln und wird in den nächsten fünf Jahren mit rund zwei Millionen Euro gefördert.

Link zur offiziellen Pressemitteilung

Prof. Jörn Müller-Quade und PD Oliver Raabe auf Smart Data Jahreskongress

Am 14. November fand in Berlin der vom Bundesministerium für Wirtschaft und Energie(BMWi) der Jahreskongress Smart Data 2016 statt. Der Kongress stand dieses Jahr unter dem Thema Datenschutz. So hielten Prof. Jörn Müller-Quade und PD Oliver Raabe einen Impulsvortrag zum Thema "Möglichkeiten des technischen Datenschutzes".

Link zur Veranstaltung 

Prof. Jörn Müller-Quade bei CyberRisk-Kongress

"Wie gefährlich sind Cyberattacken?" BadenTV berichtet über den CyberRisk-Kongress, der am 4. Oktober in den Räumen der Firma Vollack stattfand. Dabei ging es um die Gefahren von Cyberattacken sowohl für Privatpersonen als auch für Unternehmen. Unter anderem nahm auch Prof. Jörn Müller-Quade teil und hielt einen Vortrag zum Thema Beweisbare Sicherheit.

Link zum Beitrag von BadenTV.

Link zur Webseite des CyberRisk-Kongress.

Dokumentation zu ZKM-Ausstellung

Die Dokumentation zur ZKM-Ausstellung "Global Control and Censorship" ist nun online.

KASTEL-PI bei Baden-TV

Prof. Jörn Müller-Quade gab Baden-TV ein Interview zum Thema Keyless-Go.

KASTEL beim 8. Tag der IT-Sicherheit

Beim 8. Tag der IT-Sicherheit führten KASTEL-Mitarbeiter das Blurry-Box-Verfahren vor.

Prof. Müller-Quade beim Big Tech Day 9

Beim 9. Big Tech Day nahm Prof. Müller-Quade mit dem Vortrag "No Cat-and-Mouse Game - Models, Assumptions and Evidence in Cryptography and IT Security" teil.

3. Platz bei CTF

Am 26. Mai fand in Amsterdam der HITB CTF statt. Unter 20 teilnehmenden internationalen Teams gelang es dem KIT-Team, den 3. Platz zu belegen und 1000$ Preisgeld zu gewinnen.

Gründungsmitglied von Clusternetzwerk

Das KIT ist mit KASTEL Gründungsmitglied eines europäischen Netzwerks von Sicherheitsclustern. Sechs europäische Cluster aus den Bereichen zivile Sicherheit und IT-Sicherheit bereiten den Boden für eine engere Zusammenarbeit europäischer Unternehmen und Forschungseinrichtungen.

Ausstellung "Global Control and Censorship" im ZKM verlängert

Die Ausstellung "Global Control and Censorship", zu welcher das KIT mehrere Exponate beigesteuert hat, wird nun bis zum 7. August 2016 verlängert.

Uni-Chat mit der FAZ

Die Online-Sprechstunde der FAZ fand am 3.5. statt und gab Abiturienten die Gelegenheit, ihre Fragen zum Informatik- und Mathematikstudium an Prof. Müller-Quade und Prof. Beutelsbacher zu stellen.

Prof. Jörn Müller-Quade bei "Deutschlands größter Sprechstunde"

Am 3. Mai findet, organisiert von der FAZ, "Deutschlands größte Sprechstunde" zum Thema Mathematik und Informatik statt, an welcher Prof. Müller-Quade teilnimmt.

Ministerin Bauer weiht Profilregion Mobilität ein

Ministerin Theresia Bauer und Staatssekretär Peter Hofelich sprachen bei der Eröffnung der Profilregion Mobilitätssysteme. KASTEL ist an der zweijährigen Pilotphase beteiligt.

Bundeskanzlerin besucht KASTEL auf der CeBIT

Auf der CeBit 2016 besuchte Bundeskanzlerin Angela Merkel den Gemeinschaftsstand KIT und FZI, auf dem KASTEL das mit dem deutschen IT-Sicherheitspreis ausgezeichnete Blurry-Box-Verfahren vorstellte.

SecUnity-Kick-Off

Am 1.1.16 startete das Verbundprojekt secUnity (Supporting the security community).

In diesem BMBF Projekt wollen 7 Arbeitsgruppen von 5 Standorten die europäische IT-Sicherheitsforschung in Deutschland stärken. Am 29.1.16 fand am KIT das Kick-Off-Treffen des Projekts statt.

Prof. Jörn Müller-Quade als Gastredner bei 20-jährigem Helmholtz-Jubiläumsempfang

Prof. Jörn Müller-Quade hielt am 1.12.15 einen Gastvortrag zum Anlass des 20-jährigen Jubiläums der Helmholtz-Gemeinschaft.

Best-Paper-Award auf der ProvSec'15

Prof. Jörn-Müller Quade und Mitarbeiter erhielten für ihr Papier "From Stateful Hardware to Resettable Hardware Using Symmetric Assumptions" den begehrten Best-Paper-Award der diesjährigen

ProvSec-Konferenz, ein Forum für Arbeiten im Bereich "Beweisbare Sicherheit".

Prof. Jörn Müller-Quade bei Podiumsdiskussion

Am 10.12.15 nahm Prof. Jörn Müller-Quade bei einer öffentlichen Podiumsdiskussion zum Thema "IT-Sicherheit und Datenschutz" mit weiteren hochrangigen Gästen wie Bundesjustizministering a.D. Frau Leutheusser-Schnarrenberger teil.

Großer Erfolg für Prof. Dennis Hofheinz auf der TCC 2016

Prof. Dennis Hofheinz ist mit seinen Mitarbeitern auf der Theory of Cryptography Conference (TCC) 2016 gleich mit vier Papieren vertreten. Die TCC ist eine von der International Association for Cryptologic Research (IACR) ausgerichtete Konferenz im Bereich Kryptographie und eines der wichtigsten Foren für theoretische Resultate in diesem Bereich.

Prof. Jörn Müller-Quade beim ZDF-Morgenmagazin

Prof. Jörn Müller-Quade gab beim ZDF-Morgenmagazin vom 26.11.15 Auskunft

über die Kommunikationsmöglichkeiten des Islamischen Staates.

"Das Digitale Ich braucht Verschlüsselung"

Prof. Jörn Müller-Quade hielt am 15.10.15 einen eingeladenen Vortrag auf der Konferenz "Das digitale Ich",

die von der Bundesdruckerei und der Frankfurter Allgemeinen Zeitung in Berlin veranstaltet wurde. Heise berichtet in seinem Artikel

"Das Digitale Ich braucht Verschlüsselung" über die Highlights der Konferenz und "den kleinen Professor mit der Fliege, der die Konferenz rockte".

Prof. Jörn Müller-Quade im FAZ-Interview

Im FAZ-Uni-Ratgeber werben Deutschlands beste Professoren für ihr Fach. Hier beantwortet Prof. Jörn Müller-Quade

in einem Video-Interview fragen zur Informatik und IT-Sicherheit.

Interview mit Prof. Jörn Müller-Quade auf MDR-Online

Prof. Jörn Müller-Quade stand am 20. Juni 2015 Deborah Manavi vom MDR SACHSEN zum Thema "Welche Auswirkungen haben Kryptographie, Internetspionage und die Nutzung von Social Media für unseren Alltag?" Rede und Antwort. Das Interview kann auf den WDR-Webseiten nachgelesen werden.

20 Jahre Helmholtz-Gemeinschaft

Am 24. und 25. Juni 2015 fand der Festakt "20 Jahre Helmholtz-Gemeinschaft" im Beisein von Angela Merkel sowie ein Symposium mit 20 Vorträgen statt. Prof. Jörn Müller-Quade war dabei mit einem Vortrag zum Thema "Kryptographie jenseits der Verschlüsselung" vertreten.

Seminar: Computer Science meets Philosophy – the Future of AI

Betreuende

Prof. Dr. Bernhard Beckert, Prof. Dr. Gregor Betz, Prof. Dr. Jörn Müller-Quade, Brandon Broadnax, Michael Kirsten, Alexander Koch. Bei Fragen zum Seminar oder zur Anmeldung bitte an Alexander Koch wenden. Das Seminar ist leider schon sehr voll: Wenn Sie auf die Warteliste möchten, schreiben Sie eine E-Mail.

Thema

Was passiert, wenn wir in der Lage sind, eine KI zu erschaffen, die in puncto allgemeine Intelligenz mit uns Menschen gleichzieht? Wenn diese Intelligenz versucht – um unsere vermeintlichen Ziele besser zu erreichen – ihre Intelligenz zu optimieren, und diese Optimierung selbst immer besser wird, könnte mit exponentieller Geschwindigkeit eine Superintelligenz entstehen, für die es ein Leichtes wäre, unbezwingbare Machtmittel anzuhäufen und die eingepflanzten Ziele komme-was-wolle durchzusetzen. Gleichzeitig ist es äußerst schwierig, Ziele so zu formulieren, dass sie nicht perverse/unintendierte Folgen haben, wenn sie von wirklich mächtigen Akteuren maximal durchgesetzt werden. Die These, das diese Gefahr sogar das „default“-Szenario einer solchen Intelligenzexplosion wäre, wenn wir uns nicht wirklich darum bemühen, dies zu verhindern, vertritt der Philosoph Nick Bostrom (Oxford University) in seinem 2013 erschienen Buch „Superintelligence“.

Im Seminars möchten wir dieses Buch gemeinsam lesen und diskutieren, dabei einzelne Aspekte aus philosophischer und informatischer Perspektive vertiefen und neuere Ansätze des „KI-Kontroll-Problems“ betrachten. Insgesamt geht es um Chancen und Risiken der künstlichen Intelligenz in globalen Maßstab.  Das Buch liefert darüber hinaus zahlreiche Anknüpfungspunkte an philosophische Grundlagenfragen, wie z.B. zur Theorie des Geistes („Hat eine orginalgetreue Simulation unseres Gehirns ein Bewusstsein und Leidempfinden?”) und zu risikoethischen Positionen („wie moralisch handeln unter Unsicherheit?“). Als Einstieg/Überblick ist eine der unten angegebenen Video-Quellen empfohlen.

Das Seminar soll ermöglichen über den Rand der Disziplin Informatik hinaus zu blicken, in gewissem Sinne also Out-of-the-Box-Thinking darüber zu betreiben, wie die Menschheit die „Büchse der Pandora“ öffnen kann, ohne, dass Dinge passieren, die wir nicht wollen (was das wiederum heißt, wird dann im Seminar erörtert). Am Ende möchten wir auch die Frage stellen, in wieweit Kryptographie und formale Verifikation für die Lösung des „KI-Kontroll-Problem“ interessant sein kann. An einigen Stellen wird es zudem darum gehen Methodik und Vorgehensweise der Philosophie, sowie der Technikfolgenabschätzung zu erleben.

Das Seminar richtet sich vorrangig an Studierende der Informatik mit Interesse an philosophischen Fragestellungen und Studierende im Fachbereich Philosophie mit Interesse an Fragen der angewandten Ethik und Technikfolgenabschätzung oder der Rekonstruktion von Argumentstrukturen. Es sind auch Bachelor-Studierende willkommen, diese sollten sich aber bewusst sein, dass das Seminar vom Anspruch her als Hauptseminar konzipiert ist.

Vortragsthemen und Termine

Es gibt fünf Blöcke mit üblicherweise jeweils drei Vorträgen.

  • Block 1: Mo, 15. Mai, 9:45 – 13:00 Uhr

    1. Pfade zur Superintelligenz (Inf.)
    2. Formen von Superintelligenz (Inf.)
    3. Komplexitätstheoretische Betrachtungen/AI-completeness (Inf.)


  • Block 2: Mo, 22. Mai, 9:45 – 13:00 Uhr

    1. Cognitive Superpowers (Inf.)
    2. Zusammenhang Intelligenz und Ziele/Motivation (SQ oder Inf.)
    3. Sind Auslöschungsszenarien/Dystopien der „default“? (SQ)


  • Block 3: Mo, 29. Mai, 9:45 – 13:00 Uhr

    1. Fähigkeitsbeschränkungen zur KI-Kontrolle (Inf.)
    2. Motivationsauswahl zur KI-Kontrolle (Inf.)
    3. i) Mind Crime – „Können (Gehirn-)Simulationen Leid empfinden?“ (SQ)
      ii) Risikoethik, Formalisierung/von Neumann–Morgenstern Axiome (Inf.)


  • Block 4: Fr, 2. Juni, 9:45 – 11:15 Uhr, 14:00 – 15:30 Uhr

    1. Ansätze um KIs Werte beizubringen (Inf. oder SQ)
    2. Axiomatisierung von Werteauswahlkriterien, Entscheidungsverfahren (Inf.)
    3. Analyse der coherent extrapolated volition (SQ)


  • Block 5: Mo, 12. Juni, 9:45 – 13:00 Uhr

    1. Kartierung möglicher Strategien (SQ)
    2. Technikfolgenabschätzung (SQ)

Material

Vorbesprechung:

Ablauf und Anforderungen

Von allen, die einen Seminarschein erhalten möchten, wird erwartet, dass sie einen 20-minütigen Einführungsvortrag zu einem Thema des Seminars halten, sowie mindestens fünf interessante Diskussionsfragen formulieren und eine 30-minütige Diskussion über das Thema (an-)leiten. Zum jeweiligen Seminarvortrag, der entweder ein Kapitel des Buches zur Grundlage hat, oder aus einer Liste von Ergänzungsthemen entspringt, muss selbstständig weitere Literatur gefunden und hinzugezogen werden. Darüber hinaus wird Anwesenheit bei allen anderen Vorträgen und eine gründliche Lektüre der jeweils zu behandelnden Kapitel vorausgesetzt – diese Vorbereitung sollte mindestens soweit gehen, dass es allen Teilnehmenden möglich sein sollte, auf Aufforderung eine dreiminütige Zusammenfassung des Kapitels vorzutragen. Darüber hinaus wird von allen Teilnehmenden eine Ausarbeitung, bzw. eine Hausarbeit verlangt, sowie ein kurzes Review über die schriftliche Arbeit eines*einer anderen Seminarteilnehmers*in zu verfassen.

Die Sprache des Seminars ist Deutsch, jedoch ist es auf Anfrage auch möglich den Einführungsvortrag auf Englisch zu halten.

Mögliche Module

Das Seminar ist für Informatik-Studierende im Master als „Seminar Informatik 1/2/3“ (alte SPO) oder „Seminar Sicherheit“, „Seminar Kryptographie“ bzw. „Seminar Formale Verifikation“ (neue SPO) belegbar, wenn ein Informatik-nahes Thema/Vortrag gewählt wird. Darüber hinaus ist das Seminar als Teilleistung im Modul „Praktische Philosophie A/B“ des Masterstudiengangs Europäische Kultur- und Ideengeschichte (EUKLID), sowie dem „interdisziplinären Modul“ der alten SPO in EUKLID belegbar. Im Falle eines Philosophie-nahen (und Informatik-fernen) Themas ist das Seminar darüber auch als Schlüsselqualifikation in den Master Informatik anrechenbar. Alle Angaben ohne Gewähr, für genauere Informationen oder weitere Fälle, bitte an Alexander Koch wenden.

Zusätzliches Material

Video-Quellen:

Quellen allgemeiner Art: