Prof. Dr. Katharina Zweig
Leiterin der Arbeitsgruppe
2003 begann Katharina Zweig ihre Doktorarbeit im Bereich der Analyse komplexer Netzwerke. Komplexe Netzwerke stellen einen gängigen Weg dar, komplexe Systeme zu modellieren und zu analysieren. Daher werden ihre Ergebnisse auch oft dafür genutzt, Schlussfolgerungen über die komplexen Systeme zu ziehen - diese Ergebnisse können auch politische Konsequenzen haben. Ein augenöffnender Artikel wurde von Professor Carter Butts 2009 unter dem Titel "Revisiting the Foundations of Social Network Analysis" veröffentlicht. Zweig hatte zu diesem Zeitpunkt schon einige Algorithmen designt und verschiedene interdisziplinäre Netzwerkanalysen durchgeführt. Insbesondere war sie aber an der Frage interessiert, warum es so oft viele Maße für dieselbe Art von Fragestellung gibt, z.B. ca. 60 Maße um die Knoten eines Netzwerkes nach ihrer Wichtigkeit zu sortieren. In einem Artikel von Steve Borgatti erklärt er, dass eigentlich nicht die Struktur des (statischen) Netzwerkes untersucht werden sollten, sondern die darauf verlaufenden Prozesse: Auf einem (realen) sozialen Netzwerk können Informationen übertragen werden, Leute stecken sich gegenseitig mit der neuesten Grippe an oder sie unterstützen einander. Jeder dieser Flussprozesse bedarf anderer Zentralitätsmaße. Damit verknüpfte Borgatti die Art des Netzwerkflusses (einen sozialen Prozess) mit dem mathematischen Maß, mit dem dieser untersucht werden kann. Ohne die Kenntnis des sozialen Prozesses ist eine Interpretation eines beliebigen Zentralitätsmaßes aber nicht möglich. Zweig begann dieses Problem in seiner Allgemeinheit zu untersuchen: "Wann ist welches Maß, welcher Ansatz der Netzwerkanalyse geeignet, um eine Schlussfolgerung bezüglich der realen Welt zu ziehen?". Ihre Ergebnisse wurden im Buch Network Analysis Literacy veröffentlicht. Seitdem hat ihre Arbeitsgruppe den Ansatz auf Data Science im Allgemeinen ausgeweitet und arbeitet an verschiedenen Fragen im Bereich der Algorithm Accountability. Um das auch in der Benennung der Gruppe darzustellen, wurde sie 2017 in das "Algorithm Accountability Lab" umbenannt. Die Gruppe arbeitet an Fragen zur Messung der Qualität und der Fairness von algorithmischen Entscheidungssystemen (ADM Systems), an Black-Box-Methoden zur Überwachung von ADM-Systemen, an theoretischen Fragen zur Robustheit von Methoden des maschinellen Lernens und denken auch über die beste Art der Regulierung von ADM Systemen nach.
Als Mitglied der Enquete Kommission Künstliche Intelligenz (2018-2020), Mitglied des ITA Beraterkreise des BMBF (seit 2014), der Plattform Lernende Systeme (AG3, UG Ethik und Recht) trägt Katharina Zweig ihre Forschung auch in die Gesellschaft.
Federführend hat sie zudem den Studiengang Sozioinformatik gestaltet, der 2013 akkreditiert wurde. Für diese Gestaltung dieses deutschlandweit bisher einzigartigen Studiengangs bekam sie 2017 den Ars legendi-Fakultätenpreis in den Ingenieurwissenschaften und der Informatik.
Im Moment interessiert sich Katharina Zweig im Besonderen für die Schnittstelle zwischen Philosophie und KI.
Wissenschaftlicher Werdegang
- Jun. 2023
Ernennung zur W3-Professorin, Lehrstuhl 'Algorithm Accountability Lab'
- Nov. 2020
Gründung des "Center for Ethics and the Digital Society", zusammen mit Karen Joisten und Georg Wenzelburger
- Feb. 2019
Gründung der Trusted AI GmbH zusammen mit Winfried Zweig und Tobias Krafft
- Seit Okt. 2018
Mitglied des Koordinierungsgremium des Netzwerks Verbraucherforschung des Bundesministerium der Justiz und für Verbraucherschutz(BMJV)
- Seit Sep. 2018
Mitglied der Enquete Kommission Künstliche Intelligenz zur Beratung des Bundestages
- Seit Apr. 2018
Mitglied der Plattform Lernende Systems des BMBF in der Arbeitsgruppe 3, "Ethik und Recht"
- Mai 2016
Mitbegründerin der Bürgerinitiative Algorithm Watch, aktiv bis März 2018
- Seit Nov. 2014
Mitglied des ITA Beraterkreises des Bundesministerium für Bildung und Forschung(BMBF)
- Seit Apr. 2012
W2-Professorin an der TU Kaiserslautern
- Sep. 2009 - Apr. 2012
Nachwuchsgruppenleiterin an der Universität Heidelberg, IWR
- Apr. 2008 - Aug. 2009
Postdoc an der ELTE University, Budapest, Ungarn
(Postdoc-Stipendiatin der Nationalen Akademie der Wissenschaften Leopoldina)- Jul. 2007 - Mrz. 2008
Postdoc in der Arbeitsguppe "Paralleles Rechnen" bei Prof. Michael Kaufmann, Universität Tübingen
- Jan. 2003 - Jul. 2007
Doktorandin in der Arbeitsguppe "Paralleles Rechnen" bei Prof. Michael Kaufmann, Universität Tübingen
- Okt. 1998 - Sep. 2006
Diplom in Bioinformatik, Universität Tübingen
- Apr. 1996 - Jul. 2001
Diplom in Biochemie, Universität Tübingen
Auszeichnungen
- 2024
Auszeichnung mit dem GDD-Datenschutzpreis
- 2021
Auszeichnung mit dem "Distinguished Teaching Award" der TU Kaiserslautern.
- 2021
Auszeichnung mit dem Abt Jerusalem-Preis der Evangelisch-lutherischen Landeskirche in Braunschweig, der Technischen Universität Braunschweig und der Braunschweigischen Wissenschaftlichen Gesellschaft für herausragende wissenschaftliche Beiträge zum Dialog der Geistes-, Natur- und Technikwissenschaften, 2021 - aus Pandemiegründen verliehen 2022.
- WiSe 20/21
Lehrpreis der Fachschaft Informatik für die beste Lehre im Grundstudium.
- 2020
Ernennung zur KI-Botschafterin des Landes Rheinland-Pfalz (zusammen mit Prof. Dr. Andreas Dengel)
- 2019
Das Buch "Ein Algorithmus hat kein Taktgefühl" steht für 11 Wochen in der Spiegel-Bestsellerliste Paperback Sachbuch; es wird auf Koreanisch und Englisch übersetzt.
- 2019
Ausgezeichnet mit dem Communicator-Preis 2019
- 2018
Ausgezeichnet für die Mitgründung von AlgorithmWatch mit der Theodor-Heuss-Medaille
- 2017
Ausgezeichnet mit dem Ars legendi-Fakultätenpreis in den Ingenieurwissenschaften und der Informatik
- 2016
Ausgezeichnet mit dem Outreach Award für herausragende Öffentlichkeitsarbeit von der SPP 1736 - Algorithms for Big Data
- 2014
Digitaler Kopf 2014 (im Rahmen des Wissenschaftsjahres "Die digitale Gesellschaft")
- 2013 - 2018
Gesellschaft für Informatik e.V. (GI) Junior Fellow
Best Paper Awards
- Mareike Bockholt and Katharina A. Zweig. Process-driven betweenness centrality measures. In 4th European Network Intelligence Conference. Lecture Notes on Social Networks, Springer, 2017.
Ausgezeichnet von der ENIC - Brugger, C.; Grigorovici, V.; Jung, M.; Weis, C.; Schryver, C. D.; Zweig, K. A. & Wehn, N. : A Custom Computing System for Finding Similarities in Complex Networks. Proceedings of the IEEE Computer Society Annual Symposium on VLSI, 2015.
Ausgezeichnet von der SPP 1736 - Algorithms for Big Data und der IEEE Computer Society Annual Symposium on VLSI - K.A. Lehmann, Michael Kaufmann: "Evolutionary Algorithms for the Self-Organized Evolution of Networks", Proceedings of the Genetic and Evolutionary Computation Conference (GECCO'05), 2005.
Ausgezeichnet von der GECCO
Literaturliste
- A Socioinformatic Analysis of Community-based Fact-Checking - Why Community Notes is not as effective as X claims.
The Paris Journal on AI & Digital Ethics, (2025)
DOI: 10.65701/k1q7n3p8t0 - Black-Box Testing and Auditing of Bias in ADM Systems.
Minds and Machines, Vol. 34, Nr. 2, S. 15. (2024-05-25)
DOI: 10.1007/s11023-024-09666-0
https://doi.org/10.1007/s11023-024-09666-0 - A Socioinformatic Approach to xAI.
Erscheint in: Proceedings of the ECML PKDD International Workshop on eXplainable Knowledge Discorvery in Data Mining, (2024) - Overview of transparency and inspectability mechanisms to achieve accountability of artificial intelligence systems.
Data & Policy, Vol. 5, S. e36. (2023)
DOI: 10.1017/dap.2023.30
https://www.cambridge.org/core/product/C9E75DB736CAAEA00158D8F0ACD595D6 - Using Assurance Cases to assure the fulfillment of non-functional requirements of AI-based systems - Lessons learned.
2023 IEEE international conference on software testing, verification and validation workshops (ICSTW), (2023)
DOI: 10.1109/ICSTW58534.2023.00040 - Fairness by awareness? On the inclusion of protected features in algorithmic decisions.
Computer Law & Security Review, Vol. 44, S. 105658. (2022) - How to regulate algorithmic decision-making: A framework of regulatory requirements for different applications.
Regulation & Governance, Vol. 16, Nr. 1, (2022)
DOI: 10.1111/rego.12369 - Promises and pitfalls of algorithm use by state authorities.
Philosophy & Technology, Vol. 35, Nr. 2, (2022)
DOI: 10.1007/s13347-022-00528-0 - A systematic evaluation of assumptions in centrality measures by empirical flow data.
Social Network Analysis and Mining, Vol. 11, Nr. 1, (2021) - Assuring fairness of algorithmic decision making.
2021 IEEE international conference on software testing, verification and validation workshops (ICSTW), (2021) - Crucial challenges in large-scale black box analyses.
International workshop on algorithmic bias in search and recommendation, (2021) - Data donations for mapping risk in Google search of health queries: a case study of unproven stem cell treatments in SEM.
2020 IEEE symposium series on computational intelligence (SSCI), (2020) - Diversity, fairness, and data-driven personalization in (news) recommender system (dagstuhl perspectives workshop 19482).
Dagstuhl Reports, Vol. 9, Nr. 11, (2020) - How to regulate algorithmic decision-making: A framework of regulatory requirements for different applications.
Regulation & Governance, (2020) - Quantitative analysis of automatic performance evaluation systems based on the h-index.
Scientometrics, Vol. 123, Nr. 2, (2020) - The crucial role of sensitive attributes in fair classification.
2020 IEEE symposium series on computational intelligence (SSCI), (2020) - The rise of AI-based decision-making tools in the criminal justice: Implications for judicial integrity.
Commonwealth Judicial Journal, Vol. 25, Nr. 2, (2020) - Towards a process-driven network analysis.
Applied Network Science, Vol. 5, Nr. 1, (2020) - Why do we need to be bots? what prevents society from detecting biases in recommendation systems.
International workshop on algorithmic bias in search and recommendation, (2020) - Addictive features of social media/messenger platforms and freemium games against the background of psychological and economic theories.
International journal of environmental research and public health, Vol. 16, Nr. 14, S. 2612. (2019) - What did you see? A study to measure personalization in Google's search engine.
EPJ Data Science, Vol. 8, Nr. 1, S. 38. (2019) - Why we need a process-driven network analysis.
International conference on complex networks and their applications, (2019) - A concept for productivity tracking based on collaborative interactive learning techniques.
ARCS workshop 2018; 31th international conference on architecture of computing systems, (2018) - Analysis of human problem solving drafts: a methodological approach on the example of Rush Hour..
CogSci, (2018) - Collaborative interactive learning.
Informatik-Spektrum, Vol. 41, Nr. 1, (2018) - On chances and risks of security related algorithmic decision making systems.
European Journal for Security Research, Vol. 3, Nr. 2, (2018) - Process-driven betweenness centrality measures.
Network Intelligence Meets User Centered Social Media Networks, (2018)
DOI: 10.1007/978-3-319-90312-5_2 - Wer sieht was? Personalisierung, regionalisierung und die frage nach der filterblase in googles suchmaschine.
Kaiserslautern: Algorithm Watch. https://www. blm. de/files/pdf2/bericht-datenspende—wer-sieht-was-auf-google. pdf, (2018) - Ein Faktencheck - Ließ ein Algorithmus Trump triumphieren?.
Informatik Spektrum, Vol. 40, Nr. 4, (2017 (in print)) - A memory centric architecture of the link assessment algorithm in large graphs.
IEEE Design & Test, Vol. 35, Nr. 1, (2017) - Algorithmen und meinungsbildung - eine grundlegende einführung.
Informatik Spektrum, Vol. 40, Nr. 4, (2017) - Analyzing multiple rankings of influential nodes in multiplex networks.
Complex networks & their applications V; proceedings of the international workshop on complex networks and their applications 2016, Vol. V, (2017) - Clustering of paths in complex networks.
Complex networks & their applications V, (2017) - Fuzzy centrality evaluation in complex and multiplex networks.
Complex networks VIII, (2017) - Process-driven betweenness centrality measures.
European network intelligence conference, (2017) - Robustness of plant-insect herbivore interaction networks to climate change in a fragmented temperate forest landscape.
Bulletin of Entomological Research, (2017) - Stochastic modeling of the decay dynamics of online social networks.
Complex networks VIII, (2017) - Überprüfbarkeit von algorithmischen Entscheidungen.
digma - Zeitschrift für Datenrecht und Informationssicherheit, Vol. 2, (2017) - Assessing low-intensity relationships in complex networks.
Plos One, (2016)
DOI: http://dx.doi.org/10.1371/journal.pone.0152536 - Digitale gesellschaft und big data: Thesen zur zukunft der soziologie.
Berliner Debatte Initial, (2016) - Increasing sampling efficiency for the fixed degree sequence model with phase transitions.
Social Network Analysis and Mining, (2016) - Lifelong learning and collaboration of smart technical systems in open-ended environments - opportunistic collaborative interactive learning.
IEEE international conference on autonomic computing (ICAC 2016), (2016) - Most central or least central? How much modeling decisions influence a node's centrality ranking in multiplex networks.
Proceedings of the third european network intelligence conference (ENIC 2016), (2016) - A custom computing system for finding similarties in complex networks.
IEEE computer society annual symposium on VLSI, (2015) - Analyzing the activity of a person in a chat by combining network analysis and fuzzy logic.
Advances in social networks analysis and mining (ASONAM), 2015 IEEE/ACM international conference, (2015) - Are we really friends? Link assessment in social networks using multiple associated interaction networks.
Proceedings of the 6th international workshop on modeling social media - behavioral analytics in social media, big data and the web, (2015) - Different flavors of randomness.
Social Network Analysis and Mining, Vol. 5, S. eid: 36. (2015) - Exploiting phase transitions for the efficient sampling of the fixed degree sequence model.
Proceedings of the advances of social network analysis and mining (ASONAM'15), (2015) - Influence of the null-model on motif detection.
Proceedings of the 2015 IEEE/ACM international conference on advances in social network analysis and mining, (2015) - Interactions Around Social Networks Matter: Predicting the social network from associated interaction networks.
Proceedings of the 2014 IEEE/ACM international conference on advances in social networks analysis and mining (ASONAM 2014), (2015) - Social network analysis and gaming: Survey of the current state of the art.
Proceedings of the 1st joint international conference on serious games, (2015) - Von der theoretischen Informatik zur Sozioinformatik — und zurück.
Informatik Spektrum, Vol. 1, (2015) - Why is this so hard? Insights from the state space of a simple board game.
Proceedings of the 1st joint international conference on serious games, (2015) - Constructing social networks from semi-structered chat-log data.
Proceedings of the 2014 IEEE/ACM international conference on advances in social networks analysis and mining (ASONAM 2014), (2014) - A fixed degree sequence model for the one-mode projection of multiplex bipartite graphs.
Social Network Analysis and Mining, Vol. 4, S. 164. (2013) - A network-based method to assess the statistical significance of mild co-regulation effects.
PLOS ONE, Vol. 8, Nr. 9, S. e73413. (2013) - SICOP: identifying significant co-interaction patterns.
Bioinformatics (Oxford, England), Vol. online first, S. tba. (2013) - Global miRNA regulation of a local protein network: Case study with the EGFR-driven cell cycle network in breast cancer.
Molecular Systems Biology, Vol. 8, S. 570. (2012) - One plus one makes three (for social networks).
PLoS ONE, Vol. 7, Nr. 4, S. e34740. (2012) - One-mode projections of multiplex bipartite graphs.
Proceedings of the 2012 IEEE/ACM international conference on advances in social networks analysis and mining (ASONAM 2012 ), (2012) - The trilemma of social network analysis.
Proceedings of the 2012 IEEE/ACM international conference on advances in social network analysis and mining, istanbul, (2012) - Understanding human navigation using network analysis.
TopiCS - Topics in Cognitive Science, Vol. 4, Nr. 1, (2012) - You are who knows you: Predicting links between non-members of Facebook.
Proceedings of the european conference on complex systems, (2012) - A network analysis approach to understand the human-wayfinding problem.
Proceedings of the 33rd annual meeting of the cognitive science society, (2011) - A systematic approach to the one-mode projection of bipartite graphs.
Social Network Analysis and Mining, Vol. 1, Nr. 3, (2011) - Good versus optimal: Why network analytic methods need more systematic evaluation.
Central European Journal of Computer Science, Vol. 1, (2011) - Drawing trees in a streaming model.
Proceedings of the 17th international symposium on graph drawing (GD09), Vol. 5849, (2010) - How to forget the second side of the story: a new method for the one-mode projection of bipartite graphs.
Proceedings of the 2010 international conference on advances in social networks analysis and mining ASONAM 2010, (2010) - What makes a phase transition? Analysis of the random satisfiability problem.
Physical Review A, Vol. 389, (2010)
DOI: 10.1016/j.physa.2009.12.051
https://doi.org/10.1016/j.physa.2009.12.051 - Breaking the hierarchy - a new cluster selection mechanism for hierarchical clustering methods.
Algorithms for Molecular Biology, Vol. 4, Nr. 1, S. 12. (2009) - Cycle bases in graphs: characterization, algorithms, complexity, and applications.
Computer Science Review, Vol. 3, Nr. 4, (2009)
DOI: DOI: 10.1016/j.cosrev.2009.08.001
http://www.sciencedirect.com/science/article/B8JDG-4X9632T-1/2/4ab91d5dd863cc02e05d76d475c7b9b8 - To cluster or not to cluster - a meta–analytic approach.
Proceedings of the 5th european conference on complex systems (ECCS'08), (2008) - Wanderer between the worlds – self-organized network stability in attack and random failure scenarios.
Proceedings of the second IEEE international conference on self-adaptive and self-organizing systems (SASO'08), (2008) - Patent citation and corporate market value – a study using social network analysis.
4th conference on applications of social networks analysis (ASNA), (2007) - (Un)berechenbar? Algorithmen und automatisierung in staat und gesellschaft.
57518, - A Custom Hardware Architecture for the Link Assessment Problem.
Algorithms for Big Data: DFG Priority Program 1736,
DOI: 10.1007/978-3-031-21534-6_4
https://doi.org/10.1007/978-3-031-21534-6_4 - A technical framework for investigating the impact of design elements in the wild: Using instagram as an example.
Mensch und computer 2021, - Algorithmics of large and complex networks.
Springer Verlag - Algorithmische entscheidungen: Transparenz und kontrolle.
Konrad-Adenauer-Stiftung - An optimal microarchitecture for finding similarities in complex networks based on optimal memory hierarchies.
- Artificial intelligence and private law: Global perspectives.. What is AI?.
DOI: 10.1017/9781009072168.005 - Automated determination of networks motifs.
- Dein Algorithmus - Meine Meinung.
- Die KI war´s! - Von absurd bis tödlich: Die Tücken der künstlichen Intelligenz.
1. Auflage, Wilhelm Heyne Verlag - Diversity in news recommendation.
DOI: \url{https://doi.org/10.4230/DagMan.9.1.43} - Ein Algorithmus hat kein Taktgefühl: Wo künstliche Intelligenz sich irrt, warum uns das betrifft und was wir dagegen tun können.
Heyne Verlag - Entertainment computing and serious games.
Springer Verlag, Heidelberg, Germany - Filterblase geplatzt? Kaum raum für personalisierung bei google-suchen zur bundestagswahl 2017.
https://algorithmwatch.org/wp-content/uploads/2017/09/1_Zwischenbericht__final.pdf - Friedkin (1983): Horizons of observability and limits of informal control in organizations.
Schlüsselwerke der netzwerkforschung, - Grade Prediction is not Grading.
KI-Realitäten,
DOI: 10.14361/9783839466605
https://www.transcript-verlag.de/media/pdf/8e/a3/27/oa97838394666053R6PY4HqAKI6d.pdf - Handbook of research on artificial intelligence in human resources.
- Kontinuierliches A-B-Testing zur Optimierung von Spielerbindung und Monetarisierung bei “Freemium”-Spielen.
Paradoxien des verbraucherverhaltens, - Künstliche Intelligenz und Recht.
- Manipuliert google die suchergebnisse zuungunsten von trump?.
https://www.handelsblatt.com/unternehmen/it-medien/ki-expertin-zweig-zu-trumps-vorwuerfen-manipuliert-google-die-suchergebnisse-zuungunsten-von-trump/22971980.html?share=twitter&ticket=ST-1264770-aoceIKsObVcgdTFX2dI0-ap2 - Milo et al.(2002): Network motifs: Simple building blocks of complex networks.
Schlüsselwerke der netzwerkforschung, - Modeling and Designing Real-World Networks.
Algorithmics of Large and Complex Networks, - Multiplex networks.
Encyclopedia of social network analysis and mining,
DOI: 10.1007/978-1-4939-7131-2_25
https://doi.org/10.1007/978-1-4939-7131-2_25 - Network representations of complex data.
Encyclopedia of Social Network Analysis and Mining,
DOI: 10.1007/978-1-4939-7131-2_12
https://doi.org/10.1007/978-1-4939-7131-2_12 - On local behavior and global structures in the evolution of complex networks.
- Paths in complex networks.
Encyclopedia of social network analysis and mining,
DOI: 10.1007/978-1-4939-7131-2_110183
https://doi.org/10.1007/978-1-4939-7131-2_110183 - Proceedings of the first workshop on “Socioinformatics” 2013.
- Schlüsselwerke der netzwerkforschung.
- Towards a theoretical framework for analyzing complex linguistic networks.
- Transparenz und nachvollziehbarkeit algorithmischer entscheidungssysteme - ein regulierungsvorschlag.
- Wo Maschinen irren können.
