Was bedeutet digitale Entmenschlichung?
Maschinen sehen uns nicht als Menschen, sondern nur als ein weiteres Stück Code bzw. Daten, die verarbeitet werden müssen. Die Technologien, über die wir uns Sorgen machen sollten, reduzieren lebende Menschen auf Datenpunkte. Unsere komplexen Identitäten, unsere körperlichen Merkmale und unser Verhalten werden analysiert, mit Mustern abgeglichen und in Profile einsortiert. Maschinen treffen Entscheidungen über uns, je nachdem, in welches vorprogrammierte Profil wir „passen“.
Das hat sehr reale Folgen, vor allem für bereits marginalisierte oder gefährdete Gemeinschaften. Denn Technologie, die mit menschlichen Vorurteilen programmiert und trainiert wird, zementiert oft bereits bestehende Vorurteile über Menschen ein, anstatt sie in Frage zu stellen. Stereotype werden durch automatisierte Entscheidungsfindung verfestigt.
Autonome Systeme, die auf Menschen zielen, zuzulassen, würde bedeuten, dass diese Systeme bestehende Strukturen der Ungleichheit verstärken oder verschärfen können. Die Vorurteile in unserer Gesellschaft leben in unseren Datensätzen, unseren Kategorien, unseren Kennzeichnungen und unseren Algorithmen. Problematische neue Technologien werden auch oft zuerst an marginalisierten Communities getestet und eingesetzt. Wir sollten Strukturen der Ungleichheit in Frage stellen und sie nicht in teils tödliche Waffensysteme einprogrammieren.
Killer-Roboter tauchen nicht einfach auf – wir erschaffen sie. Nur weil wir eine Technologie entwickeln können, heißt das noch lange nicht, dass wir es auch tun sollten. Altbekanntes Beispiel: Internationale Bemühungen gegen die Verwendung und Weiterverbreitung von Atomwaffen. Wenn wir die Entmenschlichung durch autonome Waffen zulassen, werden wir es schwer haben, uns vor maschinellen Entscheidungen in anderen Bereichen unseres Lebens zu schützen. Mit autonomen Waffensystemen, die gegen Menschen eingesetzt werden könnten, droht ein Abgleiten in die digitale Entmenschlichung.
Wir haben die Verantwortung, Grenzen zu ziehen: Was ist akzeptabel und was ist es nicht? Wir sind in der Lage, das zu tun, unsere Menschlichkeit zu schützen und dafür zu sorgen, dass die Gesellschaft, in der wir leben und die wir jeden Tag gestalten, eine Gesellschaft ist, in der menschliches Leben wertgeschätzt und nicht zu einem Datensatz wird.