„Das halte ich für eine der größten Verrücktheiten des Jahrtausends“

von Anette Frisch // Yvonne Hofstetter, Juristin und Expertin für Künstliche Intelligenz, gilt als eine der wichtigsten und stärksten Kritikerinnen des Internets. Der ehemalige Mitherausgeber der Frankfurter Allgemeinen Zeitung, Frank Schirrmacher, bezeichnete sie als „Schlüsselfigur bei der Debatte um unsere gesellschaftliche Zukunft“.

Frau Hofstetter, wie stehen Sie zu Social Media? Nutzen Sie zum Beispiel Facebook oder Twitter?
Nein. Die Werbetechnologien amerikanischer Konzerne als „soziale Medien“ zu bezeichnen – da stimme ich der Feststellung eines deutschen Journalisten zu – ist das größte Täuschungsmanöver seit der Umbenennung des US-Kriegsministeriums in Verteidigungsministerium im Jahr 1947. Was kann ich von Werbetechnologien erwarten? Natürlich Werbung. Es wird übertrieben, weggelassen, hinzugedichtet und gelogen. Die amerikanischen Plattformen des Silicon Valley sorgen dafür, dass wir von Werbung überschüttet werden, damit wir konsumieren, als gäbe es kein Morgen mehr. Dass wir, die Bürger, die Werbeplattformen von Konzernen trotzdem zum Dreh- und Angelpunkt unserer Meinungsfreiheit erkoren haben und glauben, wir könnten uns dort seriös informieren, halte ich für eine der größten Verrücktheiten dieses jungen Jahrtausends. Die Werbetechnologien der Technologiemonopole haben nichts mit der Wirklichkeit zu tun. Folglich schlagen wir uns mit Fake News, Trollen und viralen Unwichtigkeiten wie #dressgate oder #davidafterdentist herum. Das ist nur konsequent.

Aber um ein Smartphone kommen Sie nicht herum, oder?
Noch geht das. Ich habe nicht vor, ständig einen Technologieträger für Überwachungssensoren mit mir herumzutragen, der alles misst, was ich täglich tue. Und wenn Sie glauben, aus dem Kreiselkompass, dem Lichtmesser oder dem Beschleunigungssensor Ihres Smartphones könne man nichts über Ihr Verhalten ablesen – abgesehen von den auf dem Smartphone installierten Apps, die andere Werte Ihres Lebens messen können –, unterschätzen Sie die Fähigkeiten und die Phantasie der Datenanalysten. Wissen Sie, was mir ein Silicon-Valley-Investor letzten Herbst erzählt hat? „Natürlich wollen wir so viele Daten wie möglich abgreifen. Schließlich wollen wir die Kontrolle über unsere Nutzer haben. Facebook musste den Leuten irgendetwas kostenlos geben, sonst hätten die Nutzer niemals ihre Daten herausgerückt.“

In Ihrem Buch „Das Ende der Demokratie“ schreiben Sie, dass Unternehmen wie Google oder Facebook mit unseren Freiheitsrechten Geschäfte machen. Können Sie Ihre These einmal genauer erklären?
Was halten Sie von folgendem Anspruch des amerikanischen Technologieunternehmens x.ai: „Wir wollen unsere Künstliche Intelligenz dafür einsetzen, um die Menschen umzuprogrammieren, damit sie sich besser benehmen“? Oder von Aussagen wie: „Menschen sind die ultimativen Maschinen“, „Ein Mensch ist nur ein biologistischer Algorithmus“?
Nun, hier stellt sich die Frage: Wer ist der Mensch? Offenbar nach den Vorstellungen heutiger Unternehmensgiganten ein Zwischending von Mensch und Maschine, eine Sache, die man umprogrammieren kann. Sollten wir, die Nutzer, die Gesellschaft, diese Mensch-Maschine-Unschärfe soziologisch legitimieren, weil wir alle mitmachen, es gut finden oder es uns einfach egal ist, können wir die Grundrechte und die Demokratie begraben. Denn sie basiert auf einem bestimmten Menschenbild: nämlich, dass der Mensch ein freier ist. Ein anderes Wort für Souveränität ist Menschenwürde. Wer den freien Menschen beerdigt, indem er ihn zur Sache erklärt, und den neuen Menschen, die „Menschmaschine“, schafft, ist der Totengräber unserer freiheitlich-demokratischen Gesellschaft. Dazu passt übrigens auch die Ideologie von Transhumanismus und Posthumanismus.

Ihr Unternehmen selbst arbeitet im Bereich Künstliche Intelligenz. Ist es für Sie kein Widerspruch, einerseits mit Daten zu handeln, andererseits harsche Kritik am System zu üben? Daten kaufen und verkaufen? Wir handeln nicht mit Daten. Wir analysieren nicht einmal Humandaten. Wir fassen sie nicht an. Mit unseren Technologien werden optimale Entscheidungen unter Unsicherheit berechnet. Eines meiner Teams arbeitet in Paris daran, den städtischen Lieferverkehr fließender zu machen. Das Team Logistik erfasst rohe Messdaten von Paketen, Wetterverhältnissen oder Staus und berechnet daraus optimale Lkw-Beladungen und umweltfreundliche Routen.
Die ersten Künstlichen Intelligenzen wurden tatsächlich auch in der Luftraumüberwachung in den Neunzigerjahren eingesetzt. Ohne Analyse von Radardaten, die Erstellung von Luftlagebildern und die Berechnungen von Entscheidungshilfen, was sich überhaupt in der Luft über unseren Köpfen bewegt, könnte heute niemand von uns fliegen. Vor fünfundzwanzig Jahren ist aber keiner auf den Gedanken gekommen, neoliberale Geschäftemacher könnten dieselben Technologien gegen Menschen einsetzen, um Geld umzuverteilen.

Sie schreiben auch, dass Algorithmen von Facebook klassifizieren und deshalb rassistisch sind. Wie kommen Sie darauf?
Weil schon in den Rohdaten, die von Algorithmen beziehungsweise Künstlichen Intelligenzen verarbeitet werden, unsere menschlichen Vorurteile enthalten sind. Etwa bei der vorausschauenden Polizeiarbeit in Chicago oder Kent. Wenn eine Polizeibehörde seit Jahrzehnten rassistische Vorurteile pflegt und zum Beispiel viermal mehr Afroamerikaner wegen Drogendelikten verhaftet als Weiße, dann manifestiert sich dieses Vorurteil faktisch in den Datenbanken der Polizei. Füttere ich eine Künstliche Intelligenz mit diesen Rohdaten, dann fügt sie diesen Daten nichts hinzu, sie stellt sie nur viel schärfer ein. Die Folge: Die Diskriminierung wird noch viel schlimmer, und wir sprechen von technologischem Rassismus. Uns allen muss deshalb klar sein: Maschinen entscheiden überhaupt nicht objektiver als Menschen. Im Gegenteil. Und technologische Lösungen dafür stecken maximal in den Kinderschuhen, will heißen: Noch haben die Technologen keinen Weg gefunden, Maschinen weniger rassistisch zu machen.

Ist es nicht eigenartig, dass Facebook in seinen Anfängen genau für das Gegenteil gefeiert wurde? Nämlich, dass sich Menschen über Ländergrenzen hinweg vernetzen können. Was hat Facebook falsch gemacht?
Das ist eine sehr „westliche“ Sicht auf die Dinge – dass wir an Facebook, Twitter, Pinterest & Co. festhalten, als seien sie der neue Messias. Die chinesische Regierung vertritt hier seit Anbeginn einen ganz anderen Standpunkt. Nämlich den, dass diese Technologien eben „tolle“ Überwachungstechnologien abgeben, mit denen man ein autokratisches, diktatorisches System für die Ewigkeit zementieren kann, indem man wegen der hohen Transparenz des Verhaltens der eigenen Bevölkerung und seiner Netzwerke Widerstand schon ganz im Vorfeld unterdrückt.
Facebook hat nichts falsch gemacht. Facebook ist ein Unter­nehmen, und als Unternehmen hat es zum Ziel, Umsatz und Gewinn zu machen, den Shareholder Value zu steigern und – ganz nach neoliberalistischer Manier – Wettbewerber möglichst auszuschalten.
Aber wir, die Gesellschaft, machen einiges falsch. Wir legitimieren das Verhalten von Facebook & Co. Genau das sollten wir nicht tun, jedenfalls nicht so spontan und unüberlegt. Hier ist politische Bildung wichtig, damit wir verstehen, was vor sich geht – wie und warum wir „eingefangen“ werden sollen.

Möglicherweise führt der Facebook-Skandal zu einem stärkeren Datenschutz-Bewusstsein …
Darauf würde ich meine Hoffnung nicht setzen. Die (technologischen) Kräfte der Digitalisierung sind unsichtbar, und was der Mensch nicht sieht, das versteht er nicht.

Was wäre Ihre Lösung, wie wir Eigentümer unserer Daten werden könnten?
Wir werden nie mehr „Eigentum“ an unseren Daten zurückgewinnen. Erstens weil zu einer technologischen Kraft der Digitalisierung etwas gehört, das wir „Flow“ nennen. Einmal etwas ins Internet freigesetzt, fließt es für immer durchs Netz, wird ohne Informationsverlust kopiert, vermischt oder zu neuer Information. Da gibt es nichts mehr zurückzuholen, weder von den globalen Überwachungskonzernen noch von unseren Lieferanten, unseren Arbeitgebern oder dem Staat. Daten konvergieren nämlich, das heißt, global wird früher oder später jeder Zugriff auf unser digitales Abbild haben.
Zweitens gibt es gar kein Eigentum an Daten. Das wäre ein rechtliches Konstrukt, über das man in rechtswissenschaftlicher Forschung und Gesetzgebung diskutieren müsste. Ich muss Ihnen aber gleich die Hoffnung rauben: Dateneigentum hat nicht viele Freunde. Nur wenn Ihre Daten anderen zur Verfügung stehen, kann jemand damit Geld verdienen und ist Wirtschaftswachstum garantiert. Vielleicht nicht in Ihrem eigenen Haushalt, aber global.

Wenn Sie Mark Zuckerberg ein Post-it schreiben würden, welche Botschaft würde darauf stehen?
Darf ich – frei übersetzt – meinen Berufskollegen Antonio García Martínez zitieren, der bei Facebook als Produktmanager gearbeitet hat? „Gegen das hier ist die Wall Street eine Friedensbewegung.“


Yvonne Hofstetter ist Juristin, Sachbuchautorin und Unternehmerin. Seit 2009 ist sie Geschäftsführerin eines Unternehmens, das auf den Gebieten Big Data, Künstliche Intelligenz und Industrie 4.0 arbeitet. Hofstetter ist außerdem Mitinitiatorin der Charta der Digitalen Grundrechte der Europäischen Union. Von ihr erschien zuletzt „Das Ende der Demokratie. Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt“. Am 24. April 2018 ist Yvonne Hofstetter im Rahmen der Veranstaltungsreihe Zukunftsfragen der Gesellschaft“ im Theaterhaus Stuttgart zu Gast. Für ihr demokratisches Engagement erhält die Münchnerin am 16. Juni 2018 in Stuttgart den renommierten Theodor Heuss Preis.