Vertrauen in KI?

Interview mit

Dr. Katharina Kaufmann, Leiterin des Innovations- und Qualitätszentrum (IQZ) und stellvertretende Teamleiterin für KI-Qualität bei MISSION KI und Matthias Stier, Leitung Digitale Strategie im Deutschen Technikmuseum in Berlin 

Juli 2025

Am Deutschen Technikmuseum in Berlin gestaltet acatech – Deutsche Akademie der Technikwissenschaften im Rahmen der MISSION KI – Nationale Initiative für Künstliche Intelligenz und Datenökonomie seit Ende Januar und noch bis Mitte Dezember 2025 einen interaktiven Showroom zu vertrauenswürdiger Künstlicher Intelligenz, der KI für verschiedene Zielgruppen verständlich machen soll. Neben der Ausstellung mit Exponaten, die KI-Anwendungen aus unterschiedlichen Bereichen zeigen, bietet das Innovations- und Kompetenzzentrum (IQZ) in der Ladestraße des Museums einen Dialograum, in dem Veranstaltungen für Fachleute und die interessierte Öffentlichkeit stattfinden. Von AI Act über Physical AI bis hin zu KI Use Cases für gemeinnützige Organisationen wird ein breites Themenspektrum abgedeckt. Die Ausstellung ist kostenfrei und ohne Voranmeldung zu den Öffnungszeiten des Deutschen Technikmuseums zugänglich.

MISSION KI – Nationale Initiative für Künstliche Intelligenz und Datenökonomie ist eine bundesweite Initiative zur Stärkung vertrauenswürdiger Künstlicher Intelligenz und datengetriebener Innovationen in Deutschland. Unter der Federführung der acatech – Deutsche Akademie der Technikwissenschaften und gefördert durch das Bundesministerium für Digitales und Verkehr bündelt sie Projekte, Partner:innen und Fördermaßnahmen. Ziel ist es, qualitativ hochwertige, transparente und verantwortungsvolle KI-Anwendungen zu fördern. Dafür entwickelt MISSION KI Standards für die Prüfung und Qualitätssicherung von KI-Systemen und unterstützt deren Anwendung in der Praxis. Orte wie die Innovations- und Qualitätszentren in Berlin und Kaiserslautern machen KI erlebbar und stärken den Wissenstransfer. MISSION KI steht damit für einen anwendungsorientierten und verantwortungsbewussten Umgang mit künstlicher Intelligenz.

MAKURA: Was passiert, wenn das Deutsche Technikmuseum auf eine Zukunftsinitiative wie MISSION KI trifft?

Matthias Stier: Die Zusammenarbeit des Deutschen Technikmuseums und der Initiative MISSION KI erweist sich als „perfect match“. Von beiden Seiten kommen Expertisen, Ideen und Partner:innen zusammen, die einen spürbaren Mehrwert erzeugen. Durch die Kooperation ergibt sich die Möglichkeit, sich dem Thema KI in Form einer interaktiven Ausstellung zu nähern – am Deutschen Technikmuseum haben wir uns schon seit geraumer Zeit mit dieser Idee befasst. KI ist ein wichtiges Zukunftsthema an der Schnittstelle von Technik und Gesellschaft, und mit solchen Themen setzen wir uns am Museum in unseren Sonderausstellungen und Programmen gezielt auseinander.

Katharina Kaufmann: KI ist ein technisch komplexes, aber auch hochdynamisches gesellschaftspolitisches Thema, das uns alle betrifft. Wir sind mit der Frage konfrontiert, wie wir diese Dynamik in einem klassischen Museum abbilden können. Durch die entstandenen Synergien konnte ein inhaltliches Rahmenprogramm zur Ausstellung entwickelt und auch der Raum für ein breites Publikum eröffnet werden. Bei der Konzeption des Programms war es uns besonders wichtig, verschiedene Zielgruppen zu erreichen. Hierzu haben wir die Expertise des Deutschen Technikmuseums einbezogen und in enger Zusammenarbeit mit unseren Kreativdienstleistern passende Formate für die Ansprache des Publikums entwickelt. Als öffentlich gefördertes Projekt ist die Ausstellung für alle Besuchenden kostenlos.

Welche Rückkopplung gibt es in die Dauerausstellung des Museums?

Matthias Stier: Am Deutschen Technikmuseum ist das Thema Digitalität bereits präsent, beispielsweise haben wir Ausstellungen zum Thema Informatik, Internet oder Kommunikation. Über Angebote wie das Kids DigiLab bieten wir außerdem digitale Bildung für Kinder ab dem Kita-Alter an. Das Thema KI ins Haus zu holen, stellt aufgrund der hohen Dynamik des Themas jedoch eine besondere Herausforderung dar. Das IQZ von MISSION KI bietet uns nun die Möglichkeit, Künstliche Intelligenz mit anderen Ausstellungsthemen wie Mobilität, Produktion und Robotik zu verknüpfen. Aber auch für unsere anderen Museumsangebote überlegen wir, wie KI hier eingesetzt werden kann, zum Beispiel in Form von KI-gestützten Museumsguides.

Katharina Kaufmann: Vor einigen Wochen haben wir einen Workshop für Schulklassen am IQZ veranstaltet, bei dem die Schüler:innen an einer Prompting-Challenge und einer digitalen Selbstlerntour teilgenommen haben. Wir haben das Programm mit einer Führung durch die Ausstellung „Das Netz“ im Deutschen Technikmuseum kombiniert. Inhaltlich gibt es also durchaus Synergieeffekte zum Bestehenden.

Was bedeutet die Sonderausstellung für die Digitale Strategie und das Konzept des Museums als Plattform?

Matthias Stier: Zu unserer Digitalen Strategie gehört es, den Blick zu weiten. Wir müssen zum einen schauen, wie wir uns intern beim Thema Digitalität entwickeln können, beispielsweise durch den Ausbau der Digitalisierung in der Verwaltung. Zum anderen müssen wir das Digitale und speziell Künstliche Intelligenz als Technologie zum Thema des Museums und seiner Ausstellungen machen. Weil sich KI in einer besonders hohen Geschwindigkeit entwickelt und wir als öffentliche Einrichtung gewisse Vorlaufzeiten benötigen, fehlt uns für das Einbinden eines so dynamischen Themas wie KI aktuell noch die nötige Agilität.

Deshalb gehört es zur Digitalen Strategie, sich starke Partner:innen zur Seite zu holen, um in den uns zur Verfügung stehenden Räumen Platz für digitale Themen wie KI zu bieten. Das Technikmuseum hat die besondere Möglichkeit, ein sehr breites Publikum anzuziehen und darüber hinaus auch ein Erlebnis- und Freizeitort zu sein. Partner:innen Raum zu bieten, ist jedoch kein einfaches Unterfangen. Das hat im klassischen Museumskontext etwas mit dem Anspruch auf Deutungshoheit zu tun. Im Rahmen einer vertrauensvollen Kooperation müssen wir uns als Institution etwas zurücknehmen und externen Expertisen Platz geben, um von ihnen zu lernen. Gemeinsam entstehen dann umso bessere Angebote für unsere Besuchenden und ein Mehrwert für alle Beteiligten. 

Welches Verständnis von kultureller Teilhabe hat das Museum und welche Rolle spielt KI darin?

Matthias Stier: Wir haben das große Glück, dass die Themen des Deutschen Technikmuseums von Grund auf ein breites Spektrum an Besuchenden anziehen. Doch obwohl unsere Besuchendenzahlen für sich sprechen, sind wir weiterhin daran interessiert, unsere Inhalte noch zugänglicher zu gestalten. Deshalb beschäftigen wir uns unter anderem mit Barrierefreiheit in unseren Ausstellungen, Servicebereichen und Angeboten. Mit KI eröffnen sich dafür ganz neue Möglichkeiten. In Museen ist es grundsätzlich so, dass die präsentierten Inhalte immer nur eine kuratorisch aufbereitete Auswahl einer großen Wissensmenge darstellen. Der Zugang zu Objekten und Sachverhalten ist dadurch bereits selektiv und stark verengt. Durch den Einsatz von KI kann perspektivisch eine individualisierte und deshalb weitreichendere Form der Vermittlung stattfinden. Das kann etwa durch automatisch generierte Übersetzungen, die Audioausgabe von Inhalten für Personen mit Sehbeeinträchtigungen oder das Antworten auf spezifische, individuelle Fragen durch KI passieren. Hier stehen wir selbst jedoch noch am Anfang und versuchen zu testen, wie das genau funktionieren kann.

Wenn Sie morgen eine KI-Anwendung für mehr Teilhabe im Technikmuseum einführen dürften, welche wäre das?

Matthias Stier: Im Museum treibt uns aktuell besonders um, wie wir zukünftig KI als Guide einsetzen können. Besuchende sollen ihre Fragen an ein bestimmtes Objekt stellen und eine von der KI individuell angepasste Antwort erhalten. Die Fragen dürfen dabei auch ganz albern sein, während die Antworten auf einem gesicherten Wissen basieren sollen, das aus dem bestehenden und wachsenden Wissensschatz des Museums gespeist wird. Die KI ist in der Lage, über den Ursprung des Wissens zu informieren. Als Technikmuseum wollen wir Künstliche Intelligenz dabei nicht nur als Werkzeug nutzen, sondern KI selbst zum Thema machen und zum kritischen Befragen der Ergebnisse von KI-Anwendungen animieren. Da zusätzlich zum Wissen auch die Vermittlung zu unserer Expertise gehört, haben wir den Anspruch, den Besuch in unserem Museum zu einem gemeinsamen, unterhaltsamen Erlebnis zu machen. KI soll hier dazu beitragen, nicht einfach nur mehr Inhalte zur Verfügung zu stellen, sondern diese auf kurzweilige und fesselnde Weise zugänglich zu machen.

Künstliche Intelligenz wirft durch die dynamische Entwicklung fortwährend Fragen nach Vertrauenswürdigkeit auf. Welche Aufgabe wird der Ausstellung von MISSION KI in dem Diskurs zuteil?

Matthias Stier: Vertrauen spielt bei dem Einsatz von KI eine zentrale Rolle. Aktuell besteht das Problem, dass die erzeugten Ergebnisse der KI nicht immer korrekt sind. Museen genießen jedoch ein großes Vertrauen innerhalb der Gesellschaft, das zeigen zahlreiche Untersuchungen, und deshalb erwarten unsere Besuchenden auch ein hohes Maß an Korrektheit der Informationen. Darauf müssen wir Rücksicht nehmen. Nun erweist es sich als schwierig, nachzuvollziehen, wie KI zu ihren Ergebnissen kommt, was uns als Museum vor große Herausforderungen stellt. Ausstellungen wie das IQZ von MISSION KI sind aus diesem Grund wichtig, weil wir dort den Aspekt der Vertrauenswürdigkeit zum Thema machen und unsere Besuchenden dafür sensibilisieren können. KI souverän nutzen zu können, ist aus unserer Sicht auch eine Voraussetzung und ein Ziel für die kulturelle Teilhabe.

Katharina Kaufmann: Das Thema Vertrauenswürdigkeit setzt voraus, dass ein grundsätzliches Verständnis darüber herrscht, was künstliche Intelligenz ist und wie sie funktioniert. Zu Beginn unserer Ausstellung gibt es deshalb zwei Infotafeln, die die Besuchenden vor der Führung durch die Objekte mit Hintergrundinformationen vorbereiten. Sie führen die sieben Dimensionen der Vertrauenswürdigkeit von KI auf:

• Vorrang menschlichen Handelns
• Technische Robustheit und Sicherheit
• Privatsphäre und Datenqualitätsmanagement
• Transparenz
• Vielfalt, Nicht-Diskriminierung und Fairness
• Gesellschaftliches und ökologisches Wohlergehen
• Rechenschaftspflicht

Über jede Dimension kann aber je nach Anwendungsfall diskutiert werden; so kann z.B. ein höherer Datenschutz dazu führen, dass ein System weniger akkurat ist. Zudem kann KI exaktere Ergebnisse z.B. bei frühzeitiger Krebserkennung erzielen, was die menschliche Kontrolle erschwert.

Aus meiner Sicht ist es insgesamt herausfordernd, ganzheitlich über das Thema zu informieren. Das liegt zum einen daran, dass der Wissensstand bei den Besuchenden sehr unterschiedlich ausfällt, was die Sensibilisierung zu einem besonders wichtigen Teil der Ausstellung macht. Zum anderen können wir in unserer Ausstellung aufgrund der dynamischen Entwicklung der Technologie nicht den Anspruch erheben, ein umfassendes Bild zu zeichnen.

Mit den sieben Dimensionen wird ein hoher Standard für die Vertrauenswürdigkeit von KI gesetzt. An Museen sind die Ressourcen jedoch begrenzt. Inwiefern können die Dimensionen trotzdem handlungsleitend sein?

Matthias Stier: Die Ressourcen sind zwar nicht üppig, doch wir können als Museum trotzdem ein Ort des Ausprobierens und Testens sein. Die sieben Dimensionen stellen für uns einen Leitfaden dar, insbesondere auch aus ethischer Perspektive. Viele Einrichtungen entwickeln in dem Zusammenhang eine eigene Strategie, in der sie erläutern, wie sie zu dem Thema KI stehen. Für uns bieten die sieben Dimensionen einen gewissen Rahmen, in dem wir uns mit unserer Arbeit an einen vertrauensbasierten Umgang mit KI annähern können.

Katharina Kaufmann: Die sieben Dimensionen formulieren natürlich einen hohen Anspruch. Sie wurden von einer hochrangigen Expert:innengruppe entwickelt, die von der EU-Kommission berufen wurde. Damit spiegeln sie zugleich europäische Werte wider. Qualitätsprüfungen im Sinne dieser Dimensionen können dabei helfen, unerwünschtes Verhalten von KI-Systemen zu erkennen, um dieses dann zu reduzieren und zu beheben.

Oft ist KI eine Blackbox, bei der schwer nachvollziehbar ist, wie Ergebnisse zustande kommen. Wenn bereits beim Design die Dimensionen der Vertrauenswürdigkeit berücksichtigt werden, können nicht intendierte Konsequenzen wie z.B. Verzerrungen besser vermieden werden. Wichtig ist in jedem Fall, dass man die Ergebnisse der KI kritisch prüft. Aus dieser Perspektive ist es gut, dass die Ziele höhergesteckt sind.

Auf welche Grenzen stoßen Sie in der Auseinandersetzung um Vertrauenswürdigkeit von KI?

Katharina Kaufmann: Das Thema Vertrauenswürdigkeit entwickelt sich ständig weiter, z.B. wird daran geforscht, wie die Qualitätsdimensionen in der Praxis nachweisbar und umsetzbar sind. Der AI-Act der EU-Kommission ist auch erst seit August 2024 in Kraft, deshalb ist vielen Unternehmen und Einrichtungen noch nicht klar, wie sie damit umgehen sollen. Man möchte zum einen die Komplexität des Themas vermitteln, weiß aber nicht genau, was auf juristischer Ebene zu beachten ist und welche Auswirkungen die Anwendung von KI haben wird. Probleme in Bezug auf Diskriminierung durch KI beispielsweise konnten in der Vergangenheit behoben werden, doch trotzdem bestehen weiterhin diese Risiken. Ein derart fortlaufender Prozess ist für alle ungewohnt.

Matthias Stier: In menschlichen Beziehungen ist Vertrauen ein Kernwert, bei dem sich alle über deren Bedeutung für ein gelungenes Miteinander einig sind. Mit KI haben wir plötzlich einen neuen Mitspieler, dessen Vertrauenswürdigkeit wir, anders als bei etablierten Technologien, noch stark infrage stellen. Deshalb müssen wir im Zusammenhang mit KI diesen Aspekt in den Fokus rücken und als Kernwert in der Auseinandersetzung mit der Technologie anerkennen.

Vielen Dank für das Gespräch!

Das Interview führten Ina von Kunowski und Anna Muradyan aus der MAKURA-Redaktion.

Dr. Katharina Kaufmann leitet das Innovations- und Qualitätszentrum (IQZ) und ist stellvertretende Teamleiterin für KI-Qualität bei MISSION KI. Ihr Schwerpunkt liegt auf den gesellschaftlichen, politischen, wirtschaftlichen und wissenschaftlichen Auswirkungen Künstlicher Intelligenz – mit besonderem Fokus auf der Vertrauenswürdigkeit dieser Technologie. Im IQZ konzipiert und moderiert sie Veranstaltungen zu Themen wie Deepfakes, algorithmischer Fairness, KI-Qualität und Technikphilosophie. Sie ist überzeugt, dass technologische Innovation nur dann gesellschaftlich tragfähig ist, wenn sie transparent, gerecht und inklusiv gestaltet wird.

Matthias Stier leitet den Bereich „Digitale Strategie“ im Deutschen Technikmuseum in Berlin. Dort absolvierte er auch sein Volontariat im Bereich Bildung. Zudem arbeitete er als Konzepter und für verschiedene Museen als Kunst- und Kulturvermittler. Die digitale Transformation und innovative Museumsprojekte sind sein Fachgebiet. Im Deutschen Technikmuseum war er unter anderem für die hybride Sonderausstellung „Projekt Lightspeed. Mit mRNA-Technologie zum Corona-Impfstoff“, für die immersive Rekonstruktion „Anhalter Bahnhof Revisited“ und verschiedene Podcasts verantwortlich. Aktuell befasst er sich mit den Einsatzmöglichkeiten von Künstlicher Intelligenz in Museen.