Loading...
© Stephanie Hilgarth/Amnesty International

Big Data und Menschenrechte

Wie wurde aus unseren Daten ein Geschäftsmodell?

Die entscheidende Ressource des digitalen Zeitalters sind Daten. Menschen, die sich im Internet bewegen oder ein Smartphone nutzen, hinterlassen überall kleinstteilige digitale Spuren, die von Anbieter*innen digitaler Dienstleistungen gespeichert und ausgewertet werden: von der Suchhistorie über das Browsing-Muster bis zu den Standortdaten von Einzelpersonen. Sie nutzen diese Daten für präzisere Online-Werbung oder für die Entwicklung neuer digitaler Services. Um damit verdienen zu können, müssen auch wir Menschen zunehmend digital erfasst werden – diesen Prozess der fortschreitenden digitalen Erfassung aller Lebensbereiche nennt man „Datafication“.  Da Online-Plattformen immer mehr Daten sammeln und immer geschickter darin werden, aus diesen Daten Rückschlüsse auf unser Verhalten, unsere Vorlieben und unsere Ansichten zu ziehen, laufen wir Gefahr, die Kontrolle über unsere Privatsphäre völlig zu verlieren. Die Plattformen können immer mehr Rückschlüsse daraus ziehen, wer wir sind. Sie kennen unsere Konsumgewohnheiten, politischen Ansichten oder sexuelle Orientierung.



Wie unsere Daten gewonnen werden: Was machen Algorithmen?

Ausgewertet werden Daten mithilfe von Algorithmen. Ein Algorithmus ist eine Handlungsanleitung zur Lösung eines Problems. Mathematiker*innen lösen mit Algorithmen Rechenaufgaben, indem sie Schritt für Schritt die Lösungsmethode befolgen.

Die moderne Form der Algorithmen durchsucht Datensatz für Datensatz und überprüft, ob diese bestimmten definierte Merkmale erfüllen und sucht dabei nach Mustern in den Daten. In den letzten Jahrzehnten wurden zunehmend komplexe Algorithmen entwickelt, die aus riesigen Datenmengen sogar selbst lernen können, also z.B. Personen auf Bildern erkennen können.

Mehr dazu: Künstliche Intelligenz

Wer zieht Nutzen aus unseren Daten?

Die größten Unternehmen im Big Data-Bereich sind Facebook und Google. Sie verweisen darauf, dass alle ihre Services auf der Zustimmung der Nutzer*innen beruht. Das stimmt jedoch nur teilweise, denn die großen Plattformen haben ihre Marktdominanz missbraucht und ihre Dienste für Milliarden von Menschen unentbehrlich gemacht.

Das Internet ist für die Wahrnehmung zahlreicher Rechte unentbehrlich geworden. Milliarden von Menschen haben keine andere Wahl, als diesen öffentlichen Raum zu den von Facebook und Google vorgegebenen Bedingungen zu nutzen.

Annemarie Schlack, Geschäftsführerin von Amnesty International Österreich

Gleichzeitig haben die Unternehmen versucht, die Nutzer*innen über das Ausmaß dieser Verletzung der Privatsphäre zu täuschen. Google und Facebook nutzen ihre enorme Reichweite zudem auch, um Informationen über Menschen außerhalb ihrer Dienste zu sammeln. So erstellt Facebook beispielsweise "Schattenprofile" von Personen, die sich nie bei Facebook anmelden, auf der Grundlage der von ihren Kontakten und Freunden geteilten Informationen.

Doch nicht nur Google und Facebook sind an dieser Entwicklung interessiert. Wenn du Carsharing nutzt, stimmst du zu, dass dein Fahrverhalten elektronisch überwacht wird. „Drive Now“ holt sich die Einwilligung „Daten zur Beschleunigung“, „Daten zum Fahrmodus“ und „Daten zu den Bremsvorgängen“ zu sammeln. Neben Autos werden auch in viele andere Dinge des täglichen Lebens Sensoren eingebaut, die Daten über unser Verhalten übermitteln. Diese Entwicklung wird als „Internet der Dinge“ bezeichnet. Die Datafication schreitet damit weiter fort und umfasst inzwischen fast alle Lebensbereiche. Der nächste Schritt ist das Anbringen von Sensoren und Kameras im öffentlichen Raum.

Datenkartell: Wie Google und Facebook unser digitales Leben kontrollieren

70%

aller Social Media User sind Facebook-User*innen

75%

der Messenger User*innen nutzen Facebooks WhatsApp oder den Facebook Messenger

90%

aller Suchanfragen im Internet laufen über die Google-Suche

Was die massenhafte Sammlung unserer Daten für unsere Rechte bedeutet

Im Bericht Surveillance Giants zeigte Amnesty auf, dass das auf Überwachung basierende Geschäftsmodell von Facebook und Google per se unvereinbar ist mit dem Recht auf Privatsphäre. Es bedroht außerdem die Rechte auf Meinungs- und Gedankenfreiheit sowie das Recht auf Gleichberechtigung und Nichtdiskriminierung.

Um im digitalen Zeitalter unsere menschlichen Grundwerte zu schützen – also Würde, Selbstbestimmung und Privatsphäre –, braucht es einen radikalen Wandel in der Arbeitsweise der Tech-Giganten. Wir brauchen ein Internet, dessen zentraler Algorithmus die Menschenrechte sind.

Die vollständige digitale Erfassung menschlichen Verhaltens ist nicht nur unvereinbar mit Grundrechten wie Privatsphäre und Meinungsfreiheit sondern kann sich auf viele andere Rechtsbereiche erstrecken.

Big Data hat die Bildung eines globalen Marktes für Verhaltenserkenntnisse vorangetrieben: die Fähigkeit, Menschen zu kennen, ihr Verhalten vorherzusagen und ihre Entscheidungen in einem bisher ungeahnten Ausmaß zu beeinflussen.

gruppe-handy-zukunft-menschen-rechte-illu | © Stefanie Hilgarth/Amnesty International

Beispiel Privatsphäre anhand von „Smart Cities“

Viele Städte wollen derzeit zur „Smart City“ werden. Die Smart City bietet viele sinnvolle Möglichkeiten, etwa Verkehrsstaus zu vermeiden. Gleichzeitig stellen sich Fragen zur Kontrolle der gesammelten Daten und der Vermeidung von Missbrauch dieser Daten. Hier geht es um das Grundrecht auf Privatsphäre. In einer Stadt voller Sensoren und Kameras kann sich jede*r Einzelne von uns nicht mehr aussuchen, ob er oder sie erfasst wird. Selbst wer noch immer Smartphones verweigert, wird in einer vernetzten Stadt greifbar.

Beispiel Privatsphäre anhand Facebooks „Free Basics“

Facebook bietet mit "Free Basics" in allen Teilen des Globalen Südens facebook.com als „kostenloses“ De-Facto-Internet für Millionen von Menschen an. Den Nutzer*innen wird die moralisch fragwürdige Wahl zwischen einem Internet mit einer vollständigen Überwachung oder gar keinem Internet angeboten.

Beispiel Meinungsfreiheit anhand des Falls Cambridge Analytica

Cambridge Analytica hat auf Facebook personenbezogene (Verhaltens-) Daten von Millionen von Menschen angezapft. Das Ziel: Verhaltensdaten zu nutzen, um Einstellungen und psychologische Eigenheiten von Menschen auszuwerten und die Persönlichkeitsstruktur basierend auf Likes erkennen zu können – etwa ob ein Menschen extrovertiert, aufgeschlossen, pflichtbewusst oder neurotisch ist. Die Daten wurden in Wahlkämpfen genutzt, um Wähler*innen zielgerichtet bestimmte Nachrichten und Wahlwerbungen anzuzeigen und so ihr Wahlverhalten zu beeinflussen. Doch was bedeutet es für unsere Meinungsfreiheit, wenn ein Mensch nur noch Nachrichten im Netz sieht, die auf sein bisheriges Verhaltensprofil angepasst wurden?

Amnesty fordert

  • Regierungen müssen mit Gesetzen sicherstellen, dass der Zugang zu und die Nutzung von wesentlichen digitalen Diensten und Infrastrukturen nicht von einer allgegenwärtigen Überwachung abhängig gemacht wird.
  • Technologieunternehmen und ihre Geschäftsmodelle müssen vollumfänglich die Menschenrechte respektieren und dürfen nicht auf massenhafter Überwachung basieren.
  • Unternehmen dürfen den Zugang zu ihren Diensten nicht davon abhängig machen, dass Personen der Erfassung, Verarbeitung oder Weitergabe ihrer personenbezogenen Daten für Marketing- oder Werbezwecke "zustimmen".
  • Regierungen müssen strenge Datenschutzgesetze erlassen und durchsetzen (das ist in der EU mit der DSGVO bereits der Fall). Sie müssen auch sicherstellen, dass unabhängige Datenschutzbehörden über angemessene Ressourcen verfügen, um Verstöße von großen Technologieunternehmen sinnvoll zu untersuchen und zu sanktionieren.
  • Regierungen sollten Technologieunternehmen gesetzlich dazu verpflichten, eine Due-Diligence-Prüfung („Human rights due diligence“) durchzuführen, um die Auswirkungen ihrer Tätigkeiten auf die Menschenrechte zu identifizieren und zu beheben.

Welche Chancen und Gefahren die Digitalisierung für Menschenrechte bringt

Mehr dazu

Corona-Krise: Lassen wir niemanden zurück!

Jetzt spenden