Künstliche Intelligenz (KI) gestaltet soziale, wirtschaftliche und rechtliche Lebensbereiche neu und wirft dringende Fragen nach Rechenschaftspflicht, Fairness und dem Schutz der Grundrechte auf. Die Europäische Union hat mit der Datenschutz-Grundverordnung (DSGVO) und dem neu verabschiedeten Gesetz über künstliche Intelligenz (KI-Verordnung) eine führende Rolle übernommen, während die Vereinigten Staaten mit dem Algorithmic Accountability Act (AAA) einen Gesetzesentwurf vorgelegt haben, dessen legislativer Werdegang noch ungewiss ist. Dennoch bleibt umstritten, inwieweit diese Rechtsinstrumente zur Regulierung KI-gestützter Entscheidungsprozesse tatsächlich ausreichen. Diese Arbeit untersucht kritisch, in welchem Umfang diese Instrumente Risiken automatisierter Entscheidungsfindung abfedern. Sie analysiert die dogmatischen Grundlagen der DSGVO, die risikobasierten Verpflichtungen der KI-Verordnung sowie das auf Folgenabschätzungen beruhende Modell des AAA und verortet sie zugleich in den übergeordneten ethischen Prinzipien von Transparenz, Verantwortlichkeit und Menschenwürde. Anhand von Fallstudien zu Rekrutierungsalgorithmen, Kredit-Scoring und biometrischer Überwachung werden die Ansätze der EU und der USA verglichen und Gemeinsamkeiten wie Unterschiede herausgearbeitet. Die Untersuchung kommt zu dem Ergebnis, dass DSGVO und KI-Verordnung zwar starke Rechte und Verbote verankern, ihre Wirksamkeit jedoch durch Unklarheiten etwa in Bezug auf Artikel 22 DSGVO und durch Vollzugsunsicherheiten eingeschränkt wird. Der AAA hingegen eröffnet mit seinen verpflichtenden Folgenabschätzungen ein vielversprechendes Modell prozeduraler Verantwortlichkeit, leidet jedoch unter begrenztem Anwendungsbereich, schwachen Durchsetzungsmechanismen und politisch unsicherem Fortgang. Die Arbeit argumentiert, dass diese Regelwerke nur teilweise adäquat sind: Sie adressieren zentrale Risiken, lassen aber wesentliche Lücken im Bereich der Durchsetzung, des Rechtsschutzes und des Schutzes vulnerabler Gruppen. Um diese Lücken zu schließen, wird vorgeschlagen, die Definitionen von „Hochrisiko-“ und „automatisierten Entscheidungssystemen“ zu präzisieren, stärkere Transparenzpflichten (einschließlich aussagekräftiger Offenlegung von Datennutzung) vorzuschreiben, Stakeholderbeteiligung einzubetten und die internationale regulatorische Zusammenarbeit zu fördern. Unter Einbeziehung einer vulnerabilitätsorientierten Perspektive entwickelt die Arbeit einen neuartigen komparativen Rahmen und zeigt, dass eine wirksame KI-Governance nicht nur rechtliche Harmonisierung, sondern auch ethische Verpflichtungen zu Fairness, Autonomie und Menschenwürde erfordert.

Artificial intelligence (AI) is rapidly reshaping social, economic, and legal life, raising urgent questions about accountability, fairness, and protecting fundamental rights. While the European Union’s General Data Protection Regulation (GDPR) and the newly adopted Artificial Intelligence Act (AI Act) constitute the most ambitious attempts worldwide to regulate AI, their adequacy in practice remains contested. Across the Atlantic, the United States has proposed the Algorithmic Accountability Act (AAA) as a procedural mechanism for algorithmic oversight, yet its uncertain legislative fate and fragmented state-level rules reveal significant governance gaps. This thesis critically examines the extent to which these frameworks provide adequate safeguards for AI-powered decision-making. It analyses the doctrinal foundations of the GDPR, the AI Act’s risk-based obligations, and the AAA’s impact-assessment model, situating them within broader ethical principles such as transparency, fairness, accountability, and human dignity. The study highlights both convergences and divergences through a comparative analysis of EU and U.S. approaches, supported by case studies on recruitment algorithms, credit scoring, and public-sector surveillance. It shows that while the GDPR and AI Act enshrine strong rights and prohibitions, ambiguities in provisions such as Article 22 GDPR and AI Act enforcement uncertainty limit their effectiveness. Conversely, the AAA offers a promising model of procedural accountability but suffers from a narrow scope, weak enforcement, and legislative fragility. The thesis argues that existing frameworks remain only partially adequate: they address key risks but leave persistent gaps in enforcement, redress, and protection for vulnerable groups. To close these gaps, it recommends harmonising definitions of “high-risk” and “automated decision systems,” mandating stronger transparency obligations (including data disclosure), embedding stakeholder participation, and fostering international regulatory cooperation. By situating its analysis within the broader debate on digital humanism, the thesis underscores that effective AI governance requires robust legal frameworks and ethical commitments to fairness, autonomy, and human dignity.