Google Play: Richtlinie für nutzergenerierte Inhalte und was deine App braucht
Die Google-Play-Richtlinie für nutzergenerierte Inhalte ist konkreter als Apples Guideline 1.2: Sie sagt je nach App-Typ, ob du Melden, Blockieren oder beides brauchst. Hier steht, was gilt, was bei gelegentlichen sexuellen Inhalten dazukommt und wie sich die Regel von Apple unterscheidet.
Wer eine App mit Kommentaren, Chats oder Profilen bei Google Play einreicht, muss die Richtlinie Von Nutzern erstellte Inhalte erfüllen. Sie gilt für alle Inhalte, die Nutzer beitragen und die mindestens ein Teil der anderen Nutzer sehen kann. Auch Apps, die nur als Client auf eine solche Plattform führen, fallen darunter.
Google Play ist eine Marke von Google LLC.
Die drei Kernanforderungen
Google verlangt eine „robuste, wirksame und dauerhafte“ Moderation. Konkret nennt die Richtlinie vier Punkte, die sich auf drei Anforderungen verdichten lassen:
1. AGB vor dem ersten Inhalt. Nutzer müssen die Nutzungsbedingungen oder Nutzerrichtlinien der App akzeptieren, bevor sie Inhalte erstellen oder hochladen. Diese Bedingungen definieren anstößige Inhalte und anstößiges Verhalten im Einklang mit den Google-Play-Programmrichtlinien und verbieten sie.
2. Moderation mit Melden und Blockieren in der App. Die Moderation muss zur Art der Inhalte passen. Dazu gehört ein System in der App zum Melden und Blockieren von anstößigen Inhalten und von Nutzern, und Maßnahmen gegen Inhalte oder Nutzer, wo nötig.
3. Keine Fehlanreize durch Monetarisierung. Du brauchst Absicherungen, damit In-App-Monetarisierung kein unangemessenes Verhalten fördert. Ein Beispiel für einen Verstoß aus der Richtlinie: kostenpflichtige Funktionen, die vor allem das Teilen anstößiger Inhalte fördern.
Die Richtlinie nennt außerdem typische Verstöße: fehlende Schutzvorkehrungen gegen Drohungen, Belästigung oder Mobbing, besonders gegenüber Minderjährigen, und Apps, die Beschwerden über anstößige Inhalte wiederholt nicht bearbeiten.
Was je nach App-Typ gilt
Anders als Apple sagt Google ausdrücklich, dass unterschiedliche Apps unterschiedlich viel Moderation brauchen:
| App-Typ | Beispiel | Pflicht in der App |
|---|---|---|
| Geschlossene Nutzergruppe, durch Verifizierung oder Offline-Registrierung bestimmt | App nur für eine Schule oder ein Unternehmen | Inhalte und Nutzer melden |
| Funktionen für 1:1-Kontakt mit bestimmten Nutzern | Direktnachrichten, Markieren, Erwähnen | Nutzer blockieren |
| Öffentlich zugängliche Inhalte | soziale Netzwerke, Blog-Apps | Inhalte und Nutzer melden, Nutzer blockieren |
| Augmented Reality | AR-Inhalte an Orten verankert | Moderation auch für anstößige AR-Inhalte und heikle Ankerorte |
Hat deine App mehrere dieser Funktionen, etwa einen öffentlichen Feed und Direktnachrichten, gelten alle passenden Zeilen.
Child Safety Standards für Social, Dating und anonyme Chats
Anonyme und zufällige Chat-Apps sowie Apps in den Kategorien Social und Dating müssen zusätzlich die Child Safety Standards erfüllen: veröffentlichte Standards gegen sexuellen Missbrauch und Ausbeutung von Kindern (CSAE), einen Feedback-Weg in der App, Umgang mit Darstellungen sexuellen Kindesmissbrauchs (CSAM), Einhaltung der Kinderschutzgesetze und eine benannte Kontaktperson für Kinderschutz. Das gilt laut Google auch für Apps, die nur für Erwachsene gedacht sind. Unabhängig vom Store gilt für Online-Plattformen, die Minderjährige nutzen können, Art. 28 DSA, siehe Jugendschutz nach Art. 28 DSA.
Gelegentliche sexuelle Inhalte: Filter und Altersprüfung
Google erlaubt in Apps mit überwiegend nicht sexuellen Inhalten „nebensächliche“ sexuelle Inhalte, wenn die App sie nicht aktiv bewirbt oder empfiehlt. Dann müssen alle drei Bedingungen erfüllt sein:
- Die Inhalte sind standardmäßig hinter Filtern verborgen, die sich nur mit mindestens zwei Nutzeraktionen vollständig abschalten lassen, etwa ein verschleierndes Zwischenbild oder eine SafeSearch-Einstellung.
- Kinder im Sinne der Familienrichtlinie sind über eine Altersabfrage ausdrücklich ausgeschlossen, etwa eine neutrale Altersabfrage oder ein nach geltendem Recht geeignetes System.
- Du beantwortest die Fragen zu Nutzerinhalten im Fragebogen zur Altersfreigabe korrekt.
Illegale sexuelle Inhalte und Inhalte, die Kinder gefährden, gelten nie als „nebensächlich“ und sind verboten. Apps, deren Hauptzweck anstößige Nutzerinhalte sind, die vor allem dafür genutzt werden oder dafür einen Ruf haben, entfernt Google aus dem Store.
Vergleich mit Apple 1.2
Wer für beide Stores entwickelt, baut am besten einmal die strengere Variante. Die Unterschiede im Überblick:
| Google Play | Apple 1.2 | |
|---|---|---|
| AGB vor dem Posten | ausdrücklich verlangt | in veröffentlichten Ablehnungen verlangt, nicht im Wortlaut |
| Filter vor dem Posten | nicht allgemein, nur für gelegentliche sexuelle Inhalte | verlangt |
| Melden | in der App, je nach App-Typ | verlangt, mit zeitnaher Reaktion |
| Blockieren | in der App, bei 1:1-Kontakt und öffentlichen Inhalten | verlangt |
| Kontaktdaten | nicht in dieser Richtlinie (Kinderschutz-Kontakt bei Social und Dating) | verlangt |
| Monetarisierung | Schutz vor Fehlanreizen verlangt | nicht in 1.2 |
| Reaktionszeit | keine Frist genannt | „timely“, in Ablehnungen 24 Stunden |
| Kontolöschung | eigene Richtlinie | Guideline 5.1.1(v) |
Die Details zu Apple stehen im Ratgeber zur App Store Guideline 1.2.
Kontolöschung
Lässt deine App Nutzer ein Konto anlegen, verlangt Google nach der Richtlinie zur Kontolöschung einen Weg in der App, um das Konto und die zugehörigen Daten zu löschen, und zusätzlich einen Weblink, über den Nutzer die Löschung auch ohne App beantragen können. Gelöscht werden die mit dem Konto verbundenen Nutzerdaten. Daten, die du etwa zur Betrugsabwehr oder aus rechtlichen Gründen behalten musst, darfst du begrenzt aufbewahren, wenn du das offenlegst. Für Sperren und Moderationsentscheidungen ist das wichtig: Plane, welche Moderationsdaten du nach einer Löschung noch brauchst, zum Beispiel für Beschwerden, und für wie lange.
Und der DSA?
Für Apps in der EU gilt zusätzlich der Digital Services Act. Melden und Entscheiden decken sich weitgehend mit dem Melde- und Abhilfeverfahren nach Art. 16 und der Begründung nach Art. 17. Wie du das umsetzt, steht im Ratgeber zur Meldung nach Art. 16 DSA. Wie Sperren in deinem Backend technisch greifen, zeigen die Ratgeber zu Melden und Sperren mit Flutter und Firebase und zum Sperren in Supabase.
So setzt du das mit Limenia um
Die Store-Checkliste in Limenia deckt je App die Google-Play-Richtlinien zu Nutzerinhalten und zur Kontolöschung ab. Was Limenia selbst erkennt, etwa eingehende Meldungen, einen aktiven Webhook, Rechtsbehelfe und Richtlinien, zeigt die Checkliste von sich aus an. Den Rest, zum Beispiel Blockieren und Kontolöschung, hakst du selbst ab. Mehr auf der Seite zum DSA-Meldeverfahren.
Quellen
- Google Play Console-Hilfe: Von Nutzern erstellte Inhaltesupport.google.com
- Google Play Console-Hilfe: Child Safety Standards (englisch)support.google.com
- Google Play Console-Hilfe: Anforderungen an die Kontolöschungsupport.google.com
- Apple: App Review Guidelines, 1.2 User-Generated Contentdeveloper.apple.com