Tabea Berberena, M.A., ist eine der drei Koordinatorinnen von IRIS und wissenschaftliche Koordinatorin des Lehr- und Lernforums RISING an der Universität Stuttgart. Derzeit promoviert sie zum Thema Vertrauen in intelligente Systeme. Ihr Forschungs- und Lehrschwerpunkt liegt auf der kritischen Reflexion von KI, insbesondere auf unbewussten Vorurteilen, ethischen Fragen und den gesellschaftlichen Auswirkungen von Chatbots und anderen intelligenten Technologien. Neben ihrer wissenschaftlichen Tätigkeit leitet sie Workshops zu Datenschutz und ethischer Technologiebildung für junge Menschen, unter anderem im Rahmen von Jugend forscht.
Woran forschst du gegenwärtig?
In meiner Forschung beschäftige ich mich derzeit mit der Frage, welche Faktoren das Vertrauen in Künstliche Intelligenz (KI) beeinflussen. Besonders interessieren mich dabei Aspekte wie Emotionen und unbewusste Vorurteile – also wie unsere Gefühle und Einstellungen das Vertrauen in Chatbots prägen. Ziel ist es, ein differenzierteres und alltagstaugliches Vertrauensmodell für den Einsatz von KI zu entwickeln.
Wie verlief dein beruflicher Werdegang?
Studiert habe ich im Big Apple – New York City: eine aufregende und inspirierende Umgebung, die mich nicht nur akademisch, sondern auch persönlich geprägt hat.
Meinen Bachelor habe ich in Psychologie gemacht, gefolgt von einem Master in Educational Psychology.
Warum habe ich genau diese Fächer studiert? Menschen zu verstehen, ihre Denkweisen, Emotionen und Entscheidungen zu analysieren, war für mich schon immer faszinierend. Aber es ging mir nie nur ums Verstehen, ich wollte auch aktiv etwas verbessern. Wie lernen Menschen am besten? Wie kann man Wissen effektiver vermitteln? Was steckt hinter Einstellungen, Verhalten, Beweggründen? Educational Psychology war für mich die perfekte Verbindung zwischen Psychologie und Praxis, weil sie sich mit genau diesen Fragen beschäftigt.
Ein zentraler Antrieb in meinem Studium war immer die Frage: „Aber warum?“ Ich wollte nicht einfach Dinge hinnehmen, sondern verstehen, was dahintersteckt. Warum treffen Menschen bestimmte Entscheidungen? Warum sind manche Menschen von Dingen begeistert, die andere Menschen schrecklich finden? Warum beeinflussen Emotionen unser Urteilsvermögen so stark? Diese Neugier hat mich letztlich auch zu meiner heutigen Forschung geführt.
Wie bist du an der Universität Stuttgart gelandet?
Als wir als Familie aus den USA nach Deutschland gezogen sind hat es mich (wieder) in das Umfeld der „höheren Bildung“ gezogen, also in die akademische Welt. Ich habe schon immer gerne gelernt und Wissen an Studierende weitergegeben. Schon während meines Psychologiestudiums hatte ich in den USA an einem College gearbeitet und Seminare gegeben. Die akademische Welt war mir also vertraut – und ich wollte gerne an diese Erfahrung anknüpfen.
Die Universität Stuttgart hat sich für mich als eine ideale Umgebung erwiesen, um meine Interessen und meine Forschung weiterzuverfolgen. Sie bietet eine interdisziplinäre und innovative Forschungslandschaft, insbesondere in Bereichen wie KI, Digitalisierung und Mensch-Technik-Interaktion. Das sind Themen, die mir persönlich auch wichtig sind, weil die psychologische und ethische Perspektive hier häufig zu kurz kommen. Dass ich hier nicht nur forschen, sondern auch Studierende in aktuellen und gesellschaftlich relevanten Themen unterrichten kann, empfinde ich als große Bereicherung.
Gibt es ein Ereignis in deinem Leben, das dich zu deiner heutigen Forschung führte?
Tatsächlich sind mir die Themen Vorurteile, Stereotype und Emotionen besonders durch meinen Mann immer wichtiger geworden, nachdem er nach unserer Ankunft in Deutschland einige (leider unschöne) Erfahrungen gemacht hat. Ich hatte zuvor gehört, dass Vorurteile und Diskriminierung in Deutschland kaum eine Rolle spielen – was sich als Trugschluss herausgestellt hat. Das hat mich dazu gebracht, mich auch im Bereich der KI mit diesen Themen zu beschäftigen. Ich habe entdeckt, dass sie dort lange kaum Beachtung fanden. Zum Glück hat sich das in den letzten 2-3 Jahre langsam geändert. Gleichzeitig habe ich beobachtet, dass Kinder, Jugendliche und auch Erwachsene zunehmend an ihren Handys hängen, und KI-Anwendungen nutzen, ohne wirklich zu verstehen, was da eigentlich passiert und wie sie diese Technologien unterbewusst beeinflussen.
Was sind deine Hobbys? Haben sie etwas mit deiner Forschung zu tun?
Mit zwei Kindern bestehen meine Hobbys derzeit eher aus Hausaufgabenbetreuung und Fahrdiensten – also Lernhilfe und Taxifahrerin. Auf den ersten Blick hat das wenig mit meiner Forschung zu tun. Aber genau dieses Alltagsleben zeigt mir, wie sehr KI-Technologien auch Familien und junge Menschen betreffen – oft, ohne dass sie es merken.
Aber wenn ich genauer darüber nachdenke, gibt es durchaus Überschneidungen. Wenn ich meine Kinder beim Lernen unterstütze, bekomme ich hautnah mit, wie sie lernen, was sie lernen, welche Erklärungen gut funktionieren und wo sie Schwierigkeiten haben – besonders bei komplexen oder abstrakten Themen. Genau das spielt in meiner Forschung eine zentrale Rolle: Wie lässt sich Wissen – insbesondere über die kritische Reflexion intelligenter Systeme – so aufbereiten, dass es verständlich, greifbar und zugänglich wird?
Außerdem lerne ich durch meine Rolle als „Taxifahrerin“, wie Kinder und Jugendliche heute kommunizieren und wie selbstverständlich sie mit digitalen Technologien umgehen. Sprachassistenten, Chatbots oder soziale Medien sind für sie alltäglich, und das genau eröffnet mir spannende Einblicke in ihre Haltung gegenüber KI. In gewisser Weise ist mein Alltag also eine Art „Feldforschung“ – nur eben auf dem Rücksitz des Autos oder beim Hausaufgabenmachen.
IRIS ist ein interdisziplinärer Raum, in dem nicht nur Wissenschaftler*innen aus verschiedenen Bereichen zusammenkommen, sondern Forschung, Public Engagement und Lehre miteinander verbunden sind. Dies zeigt, dass nichts in einem Vakuum geschieht, sondern jeder Bereich den anderen beeinflusst und informiert. Diese Konstellation ist äußerst selten, jedoch ein fundamentaler Kreislauf um wahre Veränderung hervorzubringen.
Tabea Berberena
Inwiefern spielt die Tatsache in deine Arbeit, dass du Mutter bist?
In meiner Rolle bei IRIS, insbesondere als Verantwortliche für das Lehr- und Lernforum RISING, ist es ein echter Vorteil, dass ich durch meine Kinder einen direkten Draht zu Schulen und Lehrkräften habe. So bekomme ich nicht nur eine theoretische, sondern auch eine praxisnahe Perspektive darauf, welche Bedürfnisse und Herausforderungen es bei der Entwicklung von Kursen und Unterrichtsmaterialien zu aktuellen und gesellschaftlich brisanten Themen gibt.
Auch meine Rolle als Mutter verschafft mir wertvolle Einblicke in die Lebenswelt von Kindern und Jugendlichen. Ich erlebe aus nächster Nähe, welche Themen sie in Schule und Freundeskreis beschäftigen, wie sie mit digitalen Technologien umgehen und welche Schwierigkeiten sie beim Lernen haben. Dieses Wissen hilft mir enorm dabei, Lernmaterialien nicht nur verständlich und praxisnah zu gestalten, sondern auch inhaltlich so auszurichten, dass sie für die Zielgruppen tatsächlich relevant sind.
Darüber hinaus bringt das Elternsein eine besondere Sensibilität dafür mit, wie Wissen vermittelt wird. Ich erlebe, wie unterschiedlich Kinder lernen, welche Formate sie motivieren – und wo sie schnell das Interesse verlieren. Diese Beobachtungen fließen direkt in die Gestaltung von Kursen und Lehrmaterialien ein.
Gerade im Kontext von KI und Vertrauen ist es entscheidend, nicht nur die technischen Grundlagen zu vermitteln, sondern auch ethische und gesellschaftliche Fragestellungen kindgerecht und verständlich aufzubereiten.
Ich schätze zudem den Austausch mit anderen Eltern und Lehrpersonen, die mir wertvolle Rückmeldungen zu den Lernangeboten geben. Dieser direkte Praxisbezug hilft mir, die Materialien kontinuierlich weiterzuentwickeln – orientiert an den tatsächlichen Bedürfnissen von Schüler*innen und Lehrkräften. Mein Muttersein macht mich sensibel für die Herausforderungen im Bildungsbereich und liefert immer wieder wichtige Impulse, um Lerninhalte noch praxisnäher und lebensweltlicher zu gestalten.
Was ist dein Forschungsziel? Wird es den Menschen dienen, wenn ja inwiefern?
Mein Ziel ist es zu verstehen, welche Faktoren das Vertrauen in KI, insbesondere in Chatbots, beeinflussen. Dabei geht es nicht nur um technologische Aspekte, sondern auch um psychologische und soziale Mechanismen, die eine Rolle spielen. Dieses Wissen kann dann in die Gestaltung von Chatbots, die Webseitengestaltung sowie in Kommunikationskonzepte zwischen Unternehmen und Kund*innen oder zwischen medizinischen Einrichtungen und Patient*innen fließen.
Ein zentraler Punkt meiner Forschung ist es, nicht nur die positiven Potenziale von Chatbots zu betrachten, sondern auch Herausforderungen und Hürden zu identifizieren. Grundsätzlich kann die Intention hinter der Nutzung eines Systems ja positiv sein – sie soll möglichst vielen Menschen einen einfachen, schnellen und barrierefreien Zugang zu Informationen und Dienstleistungen ermöglichen. Jedoch zeigt sich in der Realität, dass nicht alle Menschen diese Technologien gleichermaßen akzeptieren oder nutzen. Unterschiedliche Vorerfahrungen, persönliche Präferenzen und auch Vorurteile gegenüber KI können dazu führen, dass Menschen skeptisch sind oder sich von automatisierten Systemen frustriert fühlen.
Ein Beispiel aus eigener Erfahrung: Wie oft hat mich der Chat mit einem Chatbot schon genervt und zur Weißglut getrieben?! Meine Anfrage wurde nicht verstanden, bzw. es gab keine vorprogrammierte Antwort. Statt Hilfe zu bekommen, musste ich dann doch andere Wege finden, um mein Anliegen zu lösen.
Solche Momente verdeutlichen, dass es nicht ausreicht, einfach nur einen Chatbot bereitzustellen – er muss so gestaltet sein, dass er wirklich als unterstützend wahrgenommen wird.
Wofür setzt sich deine Forschung ein? Was bedeutet dies in der Praxis, also wie genau kommen deine Ergebnisse mit den Menschen in Berührung?
Meine Forschung setzt sich dafür ein, besser zu verstehen, wie Vertrauen in Chatbots entsteht und welche psychologischen Faktoren wie Emotionen und Vorurteile, dieses Vertrauen beeinflussen. Dabei spielt für mich persönlich auch der Schutz vor potentieller Manipulation eine zentrale Rolle. Es geht im Grunde darum, zu schauen, wie Chatbots gezielt eingesetzt werden könnten, um Nutzer*innen nicht nur zu überzeugen, sondern möglicherweise auch zu beeinflussen. Dadurch könnte man Mechanismen aufdecken, die entweder Vertrauen stärken oder missbraucht werden könnten, um Nutzer*innen zu manipulieren. Auf dieser Basis könnten dann wiederum Strategien entwickelt werden, um faire, ethische und transparente Interaktionen mit Chatbots zu fördern.
Praktisch bedeutet meine Forschung, dass Unternehmen, Entwickler*innen und Designer*innen von Chatbots fundierte Erkenntnisse darüber gewinnen, wie sie ihre Systeme so gestalten können, dass sie Vertrauen aufbauen, aber gleichzeitig vor manipulativen Einflüssen schützen. Zum Beispiel könnten Chatbots so programmiert werden, dass sie emotionale Intelligenz zeigen, dabei jedoch keine irreführenden oder übermäßig persuasive Techniken nutzen, um Entscheidungen zu beeinflussen. Vielleicht bedeutet es auch, dass noch mehr auf das Erscheinungsbild der Chatbots geachtet werden muss bzw. geregelt werden muss.
Ich könnte mir bspw. Auswirkungen in den folgenden drei Bereichen vorstellen:
- Im Bereich des Kundenservice: Chatbots müssen transparent kommunizieren, wenn sie Verkaufsinteresse verfolgen, und sollten keine psychologisch manipulativen Verkaufstaktiken anwenden.
- Im Bereich Gesundheitsberatung: Chatbots sollten vertrauenswürdige Informationen liefern, ohne Nutzern Angst zu machen oder sie unbewusst zu bestimmten Entscheidungen zu drängen.
- Im Bereich der politischen und sozialen Kommunikation: KI-Systeme dürfen hier nicht dazu genutzt werden, Meinungen gezielt durch emotionale Manipulation oder Falschnachrichten zu beeinflussen.
Es muss einfach klar sein, dass man mit einem Chatbot kommuniziert, und nicht mit einem Menschen. Deshalb hilft meine Forschung letztendlich dabei, Leitlinien für den ethischen Einsatz von Chatbots zu entwickeln, sodass sie einerseits als vertrauenswürdige digitale Helfende agieren und andererseits den Schutz vor Manipulation
Was versteht man unter dem Bereich RISING bei IRIS?
Künstliche Intelligenz begleitet unseren Alltag, treibt technische Innovationen voran und hält zunehmend Einzug in die Bildungswelt. Intelligenten Systemen wird oft die Kompetenz zur objektiven Entscheidungsfindung zugeschrieben, doch zahlreiche Beispiele belegen, dass diese Systeme unter anderem unter dem Einfluss unserer bewussten und unbewussten Vorurteile entstehen. Das Lehr- und Lernforum RISING soll in allen Studiengängen und an Schulen Reflexionsprozesse anstoßen und die Lernenden für die gesellschaftlichen Implikationen von vorurteilsbelasteten intelligenten Systemen sensibilisieren.
Das Hauptziel von RISING ist eine ganzheitliche Umsetzung der kritischen Reflexion intelligenter Systeme und deren gesellschaftlicher Auswirkungen. Im Klartext bedeutet das: Welche Auswirkungen haben intelligente Systeme auf unsere Gesellschaft, woher kommen sie, wie werden sie beeinflusst und was treibt sie an? Eine zentrale Frage ist zudem, welche Rolle unbewusste Vorurteile bei künstlicher Intelligenz spielen und welche Konsequenzen sich daraus für uns ergeben.
Durch die Digitalisierung betrifft dieses Thema mittlerweile jede*n und ist zu einem unumgänglichen Aspekt unseres Alltags geworden. Deshalb wollen wir an der Universität Stuttgart nicht nur unsere Studierenden für diese Thematik sensibilisieren und sie auf eine neue Zukunft vorbereiten, sondern schon in den Schulen damit beginnen Schüler*innen zu erreichen. Sie sollen nicht nur ihren Horizont erweitern, sondern auch durch Reflexion neue Perspektiven gewinnen. Dies wird sie letztlich in ihrem späteren (beruflichen) Umfeld zielgerichtet voranbringen und eine neue, inklusive Willkommenskultur des Miteinanders, der Achtsamkeit, des Respekts und der kritischen Reflexion ermöglichen.
Welche Rolle spielt IRIS für dich persönlich – und welche Rolle spielt IRIS aus deiner Sicht für die Gesellschaft?
Bei IRIS ist mir besonders wichtig, dass wir eben nicht nur technologische Entwicklungen betrachten, sondern deren gesellschaftliche, ethische und psychologische Auswirkungen kritisch reflektieren. KI ist nicht einfach nur ein Werkzeug, sie beeinflusst unser tägliches Leben, unser Vertrauen in digitale Systeme und sogar unsere Entscheidungsfindung. Deshalb schätze ich an IRIS, dass wir nicht nur über Innovation sprechen, sondern auch kritisch hinterfragen: Was bedeutet das für die Menschen? Welche Chancen, aber auch Risiken entstehen?
Mir gefällt besonders, dass IRIS ein interdisziplinärer Raum ist, in dem nicht nur Wissenschaftler*innen aus verschiedenen Bereichen zusammenkommen, sondern Forschung, Public Engagement und Lehre miteinander verbunden sind. Dies zeigt, dass nichts in einem Vakuum geschieht, sondern jeder Bereich den anderen beeinflusst und informiert. Diese Konstellation ist äußerst selten, jedoch ein fundamentaler Kreislauf um wahre Veränderung hervorzubringen.
Letztlich bedeutet IRIS für mich, dass wir gemeinsam dazu beitragen, eine verantwortungsvolle digitale Zukunft zu gestalten – eine, in der Reflexion und Fairness im Umgang mit KI eine zentrale Rolle spielen.
Lehre in IRIS: Reflecting on Intelligent Systems In the Next Generation - RISING