Dark Patterns und die innere Sphäre der Grundrechte : Grundrechtlicher Schutz vor dem Ausnutzen von Rationalitätsdefiziten

Cover
Titel
Vorwort
Inhaltsübersicht
Inhaltsverzeichnis
Abkürzungsverzeichnis
Einleitung: Einem neuen Steuerungsmittel auf der Spur
	A. Entscheidungsumgebungen – Ein wirkmächtiges Steuerungsmittel
		I. Einsatz durch den Staat: Widerspruchslösung bei Organspende
		II. Einsatz durch Private: Dark Patterns
	B. Steuerungsmittel losgelöst von seinem Zweck
	C. Forschungsfrage und Aufbau der Arbeit
Erster Teil: Das Ausnutzen von Rationalitätsdefiziten als Steuerungsmittel
	§ 1 Einfassung des Steuerungsmittels
		A. Entscheidungslenkung aus verhaltensökonomischer Sicht
			I. Ökonomisches Modell rationalen Entscheidens
				1. Rational Choice und Expected Utility Theory
				2. Rationalitätserwartung
			II. Verhaltensökonomische Rationalitätsdefizite – Begrenzte Rationalität
				1. Rationale Irrationalität (Bounded Rationality i. e. S.)
				2. Rationalitätsdefizite (Bounded Rationality i. w. S.)
					a) Empirische Widerlegung des RCT-Modells
					b) Rationalitätsdefizite: Urteils- und Entscheidungsfehler
						aa) Urteilsfehler
						bb) Entscheidungsfehler
					c) Präferenzen
					d) Weitere Rationalitätsdefizite
				3. ‚Interne‘ und ‚externe‘ Kritik der Kritik
			III. Entscheidungslenkung: Ausnutzen von Rationalitätsdefiziten
				1. Ausnutzen durch Vorhersehbarkeit („Predictably Irrational“)
				2. Konzept des Ausnutzens
				3. Ausnutzen in der Praxis
					a) Staatliches Ausnutzen – Beispiel Organspende
					b) Privates Ausnutzen – Beispiel Vertrags- und Preisgestaltung
			IV. Abgrenzung zu anderen Steuerungsmitteln
				1. Zwang und Umweltveränderung
				2. Anreiz, insbesondere Normbefehl
				3. Information und Ausnutzen von Rationalitätsdefiziten
					a) Information
					b) Ausnutzen von Rationalitätsdefiziten
			V. Entscheidungslenkung am Beispiel „Dark Patterns“
				1. Definition von Dark Patterns
				2. Dark Patterns im verhaltensökonomischen Licht
					a) Dark Patterns und Rationalitätsdefizite
					b) Möglichkeit des Ausnutzens – Gezieltes Testen
					c) Wirksamkeit
		B. Entscheidungslenkung, Autonomie und Paternalismus
			I. (Prozess-)Autonomie
				1. Maßstab: Ideale Autonomie
				2. Bestimmung idealer Autonomie
					a) Konsequentialistischer, insbesondere utilitaristischer, Kompetenzansatz
					b) Deontologischer Authentizitätsansatz
				3. Ausnutzen und Autonomie
					a) Nach dem Kompetenzansatz
					b) Nach dem Authentizitätsansatz
			II. Paternalismus
				1. Definition von Paternalismus
				2. Harter, weicher und liberaler Paternalismus
					a) Unterscheidung nach Zweck: Hart und weich
					b) Unterscheidung nach Mittel: Liberal und anti-liberal
				3. Ausnutzen und Paternalismus
		C. Marktversagen und Rationalitätsdefizite
			I. Der Marktmechanismus
			II. Marktversagen aus ökonomischer Sicht
				1. Vorliegen eines Marktversagens bei Dark Patterns
					a) Ineffiziente Verteilung
					b) Keine Bereinigung durch den Markt
				2. Kein klassischer Fall von Marktversagen – „Behavioral Market Failure“
			III. Marktversagen und Regulierung
				1. Effizienz als ökonomische Rechtfertigung von Regulierung
				2. Regulierung des behavioristischen Marktversagens
		D. Zusammenschau des § 1
Zweiter Teil: Grundrechtlicher Rahmen
	§ 2 Abwehrrecht für die innere Sphäre der Grundrechte
		A. Vorab: Freiheitsrechte als Abwehrrechte (status negativus)
		B. Schutz des Entscheidungsprozesses (innere Sphäre)
			I. Hintergrund: Menschenbild des Grundgesetzes
				1. Ideelles Menschenbild des Grundgesetzes
					a) Individuelle Komponente
					b) Kollektive Komponente
					c) Menschenbild als ideelles Bild
				2. (Verhaltens-)Ökonomische Reflexion
				3. Zwischenergebnis
			II. Abwehrrechtlicher Schutz der inneren Sphäre
				1. Grundsätzlich: Äußere Sphäre als Schutzgegenstand
				2. Schutz der inneren Sphäre?
					a) Schutz nur im Rahmen einzelner Kontexte?
					b) Genereller Schutz
				3. Zwischenergebnis
			III. Rechtliche Verortung des Schutzes der inneren Sphäre der Grundrechte
				1. Verortung in einem speziellen Grundrecht?
					a) In der Menschenwürde (Art. 1 Abs. 1 GG)?
					b) Im allgemeinen Persönlichkeitsrecht (Art. 2 Abs. 1 i. V. m. Art. 1 Abs. 1 GG)?
					c) In der freien Entfaltung (Art. 2 Abs. 1 GG)?
					d) In einheitlichem, neuem Grundrecht?
				2. Schutz durch jedes (Freiheits-)Grundrecht
					a) Die Innendimension der (Freiheits-)Grundrechte
					b) Schutz „i. V. m. Art. 1 Abs. 1 GG“?
				3. Zwischenergebnis
			IV. Inhalt und Umfang des Rechts
				1. Präferenzautonomie: Recht auf Werte und Überzeugungen
				2. Prozessautonomie: Recht auf Entscheidungsfindung
					a) Verfassungsrechtliche Herleitung
					b) (Verhaltens-)ökonomische Einordnung
				3. Zwischenergebnis: Schutz der Unbeeinflusstheit, nicht der Rationalität!
			V. Grenzen des Schutzes
				1. Extern: Einbettung und Gemeinschaftsbezogenheit
				2. Intern: Voraussetzungen der Schutzwürdigkeit
					a) Notwendigkeit voller Autonomie/Rationalität?
					b) Voraussetzung innerer Autonomie: Natürlicher Wille
					c) Teilweise anders: BVerfG zu Suizidhilfe?
				3. Zwischenergebnis
			VI. Abgrenzungen
				1. Äußere Freiheit
				2. Integritätsinteressen
			VII. Ergebnis
		C. Eingriffe in die innere Sphäre der Grundrechte
			I. Nach dem klassischen Eingriffsbegriff ?
			II. Nach dem modernen Eingriffsbegriff
				1. Moderner Eingriff(-sbegriff )
				2. Direkter Eingriff in die innere Sphäre
					a) Grundsätzlich
					b) Im Einzelnen
						aa) Ausnutzen von Rationalitätsdefiziten
						bb) Information
				3. Einwirken als Zugewinn an Freiheit?
					a) Individuelle Freiheitserweiterung nach Schutzgut der inneren Sphäre?
					b) Überindividueller Ordnungszielansatz?
						aa) Vorhandene Ansätze
						bb) Kritik
				4. Zwischenergebnis
			III. Einschränkungen des weiten, modernen Eingriffsverständnisses?
				1. Allgemeine Einschränkungen?
					a) Ausschluss ‚offener‘ Einflüsse?
					b) Unvermeidbarkeit von Steuerung?
				2. Für finale Eingriffe
					a) Finalität genügt für Eingriff
					b) Vorliegen von Finalität
				3. Für nicht-finale Eingriffe: Wirkungsschwelle
					a) Intensitätsschwelle?
						aa) Grundsätzliche Einwände gegen Intensitätsschwelle
						bb) Besonderheiten bei dem Ausnutzen von Rationalitätsdefiziten?
					b) Steuerungswirkung zur Eingriffsermittlung
						aa) Das Wissensproblem
						bb) Quantitativ: Empirische Steuerungsermittlung
						cc) Qualitativ: Typisierende Steuerungsermittlung
						dd) Annahmenbildung
				4. Zwischenergebnis
			IV. Ergebnis
		D. Rechtfertigung
			I. Zentral: Betrachtung des Mittels, nicht des Zwecks
			II. Rechtfertigbarkeit von Eingriffen in die innere Sphäre
				1. Grundsätzliche Rechtfertigbarkeit
				2. Ausnahmen – Absoluter Schutz der inneren Sphäre?
					a) Durch die Menschenwürde (Art. 1 Abs. 1 GG)
						aa) Objektformel
						bb) (Objekt-)Subjektformel
					b) Durch die Wesensgehaltsgarantie (Art. 19 Abs. 2 GG)
					c) Nur ausnahmsweise absoluter Schutz
			III. Materielle Rechtfertigung
				1. Verhältnismäßigkeit
					a) Legitimität des Zwecks und Ziels
					b) Geeignetheit
					c) Erforderlichkeit
						aa) Keine pauschale Beurteilung
						bb) Inter-sphärischer Mittelvergleich
					d) Angemessenheit
				2. Vorbehalt des Gesetzes
			IV. Formelle Rechtfertigung
			V. Ergebnis
		E. Zusammenschau des § 2
	§ 3 Schutzpflicht für die innere Sphäre der Grundrechte
		A. Vorab: Freiheitsrechte als Leistungsrecht
			I. Schutzpflicht (status positivus libertatis)
			II. (Echtes) Leistungsrecht (status positivus socialis)
			III. Bereitstellungspflicht (status activus)
			IV. Einordnung
		B. Schutzpflicht für den Entscheidungsprozess
			I. Schutz der äußeren Sphäre der Grundrechte
				1. Schutz vor Zwang/Umweltveränderung
				2. Schutz vor Anreiz
					a) Grundsätzlich zur Schutzpflicht
					b) Einordnung: Rechtskreisbewahrend oder -erweiternd?
					c) Ökonomisch: Marktversagen als Schutzpflichtaktivierung
				3. Zwischenergebnis
			II. Schutz der inneren Sphäre der Grundrechte
				1. Begründung der Schutzpflicht
					a) Herleitung
					b) Inhalt: Schutz vor Fremdbestimmung, nicht zur Rationalität
				2. Ökonomisch: Schutzpflicht bei „Behavioral Market Failure“
			III. Ergebnis
		C. (Weitere) Grundrechte auf Seite der Nutzer:innen
			I. Von Schutz betroffene Schutzbereiche
			II. Eingriff durch Schutz
				1. Eingriff hinsichtlich aller Nutzer:innen: Allgemeine negative Effekte
				2. Sonderfall: Überschießende Wirkung (False Positives)
				3. Anscheinend anders das BVerfG
			III. Ergebnis
		D. Zusammenschau des § 3
	§ 4 Grundrechtsschutz für Übergriffe in die innere Sphäre der Grundrechte
		A. Grundrechtsschutz von Entscheidungsarchitekturen
			I. Allgemeine Einschränkung des Schutzbereichs?
				1. Gemeinwohlklausel?
				2. Gewaltverbot
				3. Menschenwürde
				4. Zwischenergebnis
			II. Schutzbereichseröffnung im Einzelnen
				1. Meinungsfreiheit (Art. 5 Abs. 1 S. 1 GG)
					a) Inhalt: „Meinung“
					b) Medium: „Wort, Schrift, Bild“
					c) Mittel: „äußern und verbreiten“
						aa) Schutz innerer Wirkungen
						bb) Grenzen der inneren Wirkungen
						cc) Erfasste Dark Patterns
				2. Berufsfreiheit (Art. 12 Abs. 1 GG)
				3. Allgemeine Handlungsfreiheit, inklusive Vertragsfreiheit (Art. 2 Abs. 1 GG)
			III. Ökonomische Bewertung
			IV. Ergebnis
		B. Eingriff durch Unterbindung sowie durch De-Biasing
			I. Direkt durch Unterbindung
			II. Indirekt durch De-Biasing
				1. Staatliche Information als Grundrechtseingriffe für indirekt Betroffene
				2. Staatliches De-Biasing als Grundrechtseingriff für indirekt Betroffene
			III. Ergebnis
		C. Rechtfertigung
			I. Besondere Voraussetzungen einzelner Grundrechte
				1. Meinungsfreiheit (Art. 5 Abs. 2 GG)
					a) Nicht gegen bestimmte Meinung gerichtet
					b) Legitimes Schutzziel
				2. Berufsfreiheit (Art. 12 Abs. 1 S. 2 GG)
				3. Allgemeine Handlungsfreiheit, inklusive Vertragsfreiheit (Art. 2 Abs. 1 GG)
			II. Verhältnismäßigkeit
			III. Ergebnis
		D. Zusammenschau des § 4
Dritter Teil: Konkordanzbildung mit Blick auf Dark Patterns
	§ 5 Kontrollnorm: Untermaß des Schutzes der inneren Sphäre der Grundrechte
		A. Konkordanz als Kontrollnorm
		B. Auslösen der Kontrollnorm
			I. Erfordernis hinreichender Gefährdungslage
			II. Auslösen mit Blick auf Dark Patterns
		C. Bestimmung des Mindestschutzmaßes für die innere Sphäre der Grundrechte
			I. Allgemeine Erwägungen
			II. Skala des Grads der Entscheidungsautonomie
				1. Unterer Schutzbereich
				2. Mittlerer Schutzbereich
				3. Oberer Schutzbereich
			III. Ergebnis
		D. Erreichen des Mindestschutzmaßes in einzelnen Regelungsbereichen
			I. Datenschutzrecht (DSGVO, TTDSG)
				1. Mindestschutzmaß im Datenschutzrecht
				2. Überprüfung des Datenschutzrechts
					a) Einwilligungsvoraussetzungen (Art. 4 Nr. 11 DSGVO [i. V. m. § 25 Abs. 1 S. 2 TTDSG])
						aa) Freiwilligkeit
						bb) Informiertheit
						cc) Unmissverständlichkeit
					b) Widerrufsrecht (Art. 7 Abs. 3 DSGVO [i. V. m. § 25 Abs. 1 S. 2 TTDSG])
					c) Data Protection by Default und Data Protection by Design (Art. 25 Abs. 2 und Abs. 1 DSGVO)
				3. Verhaltensökonomisch informierte Auslegung des Datenschutzrechts
			II. Lauterkeitsrecht (UWG, UGP-RL)
				1. Mindestschutzmaß im Lauterkeitsrecht
				2. Überprüfung des Lauterkeitsrechts
					a) Irreführungsverbot (§ 5 UWG)
					b) Verbot der aggressiven geschäftlichen Handlung (§ 4a UWG)
				3. Verhaltensökonomisch informierte, verfassungskonforme Auslegung des Lauterkeitsrechts
			III. Allgemeines Vertragsrecht – insbesondere § 123 Abs. 1 BGB
				1. Mindestschutzmaß im Vertragsrecht
				2. Überprüfung des Vertragsrechts
				3. Verhaltensökonomisch informierte, verfassungskonforme Auslegung des Vertragsrechts
			IV. Exkurs: Gesetze über digitale Dienste (DSA) und über digitale Märkte (DMA)
				1. Gesetz über digitale Dienste (DSA)
				2. Gesetz über digitale Märkte (DMA)
				3. Weiter gehende Implikationen des Gesetzes über digitale Dienste
		E. Kritik des Regelungsmodells
		F. Zusammenschau des § 5
	§ 6 Handlungsnorm: Optimierung des Schutzes der inneren Sphäre der Grundrechte
		A. Konkordanz als Handlungsnorm
		B. Zu optimierende Grundrechtspositionen
			I. Übergriff in die innere Sphäre – Schutzrecht der Betroffenen
			II. Schutzeingriff – Grundrechte der Verwender:innen
			III. Eingriff durch Schutzmaßnahmen – Abwehrrechte der Geschützten
			IV. Ergebnis
		C. Verfassungsökonomische Bewertung
			I. Modell zur Bewertung des Erwartungsnutzens einer Intervention
				1. Ausgangslage: Entscheidung unter stark wirkenden Dark Patterns
					a) Voll-präferenzgerechte Entscheidungen
					b) Einfluss starker Dark Patterns
				2. Eliminieren einer Option: Verbot von Cookies
				3. Erweiterung: Symmetrische und asymmetrische Erschwerung einer Option
				4. Frustrations- und Interventionskosten
				5. Gesamtnutzen der Intervention
			II. Bewertung
				1. Grundsätzlich zur verfassungsökonomischen Bewertung
				2. Hilfreiche Ableitungen
		D. Anwendung auf den Schutz vor Dark Patterns
			I. ‚Klassischer‘ Kanon: Strategien im Umgang mit Rationalitätsdefiziten
				1. Äußere Strategien
				2. Innere Strategien
				3. Bewertung
			II. Neuer Kanon: Strategien gegen das Ausnutzen von Rationalitätsdefiziten
				1. Transparenz
				2. Verbot von Dark Patterns bzw. des Ausnutzens von Entscheidungsschwächen
					a) Gestaltungsvarianten
					b) Bewertung
				3. Weitere Vorgaben zur Entscheidungsgestaltung
					a) Gewisse Designs unterbinden bzw. vorgeben
					b) Begrenzung der Wirkungsstärke
					c) Begrenzung der Einwirkungsrichtung
					d) Neutralitäts- bzw. Fairness-by-Design-Pflicht
					e) Bewertung
				4. Vorfeldschutz
					a) Begrenzung von A/B-Tests; Test-Repositorien; Informationsanspruch
					b) Regulierung verwendeter KI-Systeme
				5. Aufhebung der Entscheidung
			III. Handlungsempfehlungen für den Schutz vor Dark Patterns
		E. Zusammenschau des § 6
Zusammenfassung
	A. (Verhaltens-)Ökonomische Einordnung des Ausnutzens von Rationalitätsdefiziten
	B. Abwehrrecht für die innere Sphäre der Grundrechte
	C. Schutzpflicht für die innere Sphäre der Grundrechte
	D. Grundrechtsschutz für Übergriffe in die innere Sphäre der Grundrechte
	E. Kontrollnorm: Kein hinreichender gesetzlicher Schutz vor Dark Patterns
	F. Handlungsnorm: Empfehlungen für den Schutz vor Dark Patterns
	G. Conclusio
Literaturverzeichnis
Stichwortregister