Wir haben den CEO von Flock nach dem Missbrauch von Überwachung gefragt. Hier ist, was er gesagt hat.

Im Jahr 2017 begann Flock Safety als Nebenprojekt in einer Garage in Atlanta.

Heute ist es ein Milliarden-Dollar-Unternehmen, das mehr als 120.000(neues Fenster) automatische Kennzeichenerfassungskameras (ALPR) in 49 US-Bundesstaaten betreibt und jeden Monat 20 Milliarden Kennzeichen für mehr als 5.000 Strafverfolgungsbehörden gelesen hat.

Flock bezeichnet sich selbst als Anbieter von Technologie für die öffentliche Sicherheit. Kritiker nennen es jedoch ein risikokapitalfinanziertes Überwachungsnetzwerk voller Missbrauch und schwacher Aufsicht.

Dutzende von Städten und Behörden haben Flock im vergangenen Jahr aufgegeben, Los Angeles ließ seinen Vertrag auslaufen(neues Fenster) aus Bedenken hinsichtlich der Bürgerrechte, und eine kalifornische Polizeidienststelle schaltete ihre Kameras ab(neues Fenster), nachdem Bundesbehörden ohne Vorankündigung auf ihre Daten Zugreifen haben.

Während der Entstehung unserer neuesten Proton-Dokumentation über Flock-Kameras willigte der CEO von Flock, Garrett Langley, in ein Interview mit unserem Moderator Richie Koch ein.

Nachfolgend findest du ein Transkript der gesamten Unterhaltung, das aus Gründen der Länge und Klarheit leicht bearbeiten wurde.

—

Richie Koch: Erste Frage. Ist es auf der gesamten Flock-Plattform, nicht nur den Kennzeichenlesern, für die Polizei möglich, nach einer Person zu suchen?

Garrett Langley: Wir verkaufen also mehrere Produkte, die darauf ausgerichtet sind, zwei Dinge richtig zu machen: Sicherheit bieten. Privatsphäre bieten. Rechenschaftspflicht fördern. Das ist das Ziel für uns, richtig? Wir haben einige Produkte, die sich auf Fahrzeuge konzentrieren, unsere Kennzeichenleser. Wir haben einige Produkte, die sich auf Audio, die Schusserkennung, konzentrieren. Und dann verkaufen wir das, was deinen Zuschauern als Schwenk-, Neige- und Zoomkameras bekannt sein dürfte. Und diese werden traditionell an Orten bereitstellen, an denen Fußgänger unterwegs sind.

Richie: Okay. Ja. Und ich habe von den Condor-Kameras gehört.

Garrett: Das ist eine PTZ.

Richie: Ja. Okay. Und dann habe ich mich gefragt, ich habe da nicht unbedingt ein klares „Ja“ oder „Nein“ bekommen. Ich habe mich also gefragt, ob du vielleicht ein wenig näher erläutern könntest, was die Condor-PTZs machen?

Garrett: Hier ist ein gutes Beispiel. Oftmals werden diese Kameras – ob von uns oder es gibt weltweit wahrscheinlich ein paar Hundert große Kamerahersteller, die Schwenk-, Neige- und Zoomkameras bauen –, also ob von uns oder jemand anderem, von Städten oft in Parks bereitgestellt. Richtig. Die Stadt gibt Dutzende Millionen Dollar aus, um einen schönen Park zu bauen. Das Letzte, was sie wollen, ist, dass dieser Park zu einem Ort wird, an dem Drogengeschäfte stattfinden, Menschen verletzt werden usw. Und wenn du dir meine eigene Heimatstadt Atlanta ansiehst, vor gerade einmal fünf Jahren gab es einen schrecklichen, schrecklichen Vorfall. Du kannst darüber lesen. Eine Frau ging mitten in der Nacht mit ihrem Hund spazieren, wurde gewaltsam getötet, ein ungelöster Fall. Weißt du warum? Es gab dort Kameras, aber sie funktionierten nicht. Wenn dort Kameras gewesen wären und funktioniert hätten, bin ich mir ziemlich sicher, dass dieser Fall nicht ungelöst wäre. Und deshalb stellen unsere Kunden unsere Produkte in diesem Fall meistens bereit, um ihre Bürger zu schützen, sei es in einem Park oder auf einer öffentlichen Straße.

Richie: Könntest du ein wenig erklären, wie die Suche funktioniert? Wir haben festgestellt, dass diese Kameras existieren, dass die Möglichkeit besteht. Wie sieht eine Suche aus?

Garrett: Für welches Produkt? … Sie sind sehr unterschiedlich, weil wir eine sehr deutliche Grenze zwischen unseren ALPR-Kameras ziehen. Du kannst nicht nach Personen suchen. Sie sind speziell dafür konzipiert, ein Nummernschild zu lesen, um Merkmale eines Fahrzeugs zu erkennen. Nun sind unsere Schwenk-, Neige- und Zoomkameras auf Menschen ausgerichtet. Weil Menschen typischerweise in Parks gehen, sie gehen typischerweise in Parks.

Richie: Könntest du einfach erklären, wie bei Schwenk, Neigung, Zoom die suchen funktionieren würde?

Garrett: Es gibt also im Grunde zwei Möglichkeiten zu suchen. Es gibt die traditionelle suchen, die du kennst, wie ich sie auf meinen Kameras zu Hause habe. Oder ich kann mir einfach eine Zeitleiste ansehen und vor- und zurückgehen. Richtig. Und das ist ein ziemlich traditioneller Scroller. Und die zweite Möglichkeit ist ein Produkt namens Freeform. Und mit Freeform kannst du nach Dingen in Klartext suchen. Was ich dazu noch hinzufügen möchte, was wichtig ist – und ich denke, das ist nicht nur bei uns so, sondern branchenweit einheitlich: Man kann eine solche Art von suchen nicht einfach ohne Berücksichtigung dessen anbieten, was wir die Verfassung nennen, richtig? Wir haben Rechte, wir haben bestimmte Einschränkungen. Und so ist in diese suchen eine Moderationsrichtlinie integriert, um jede Art von missbräuchlicher suchen zu verhindern.

Richie: Kann Flock die Funktion eines bereitstellen Produkts durch ein Software-aktualisieren ändern, ohne dass ein Stadtrat oder die Öffentlichkeit diese neue Funktion genehmigt?

Garrett: Hmmm. Ich meine, im Kern unserer Geschäftsbeziehung, richtig, ob nun mit einer Nachbarschaft, einem Unternehmen oder einer Stadt – wie du an unseren Verträgen sehen kannst – ist es ein Jahresvertrag, richtig. Und jedes Jahr müssen wir unseren Wert beweisen. Es gibt also die Erwartung unserer Kunden, dass es jeden einzelnen Tag besser wird.

Richie: Richtig. Allerdings siehst du sicher, wie dies zu einer schleichenden Funktionserweiterung führen könnte. Vor Kurzem gab es einen Bericht in 404 Media, wo deine ALPR-Kameras kurzzeitig in Live-Feed-Kameras umgewandelt wurden. Es gab einen weiteren Bericht beim EFF, in dem dein akustisches Schuss-Überwachung System kurzzeitig verwendet wurde, um nach Schreien menschlicher Notlage zu lauschen. In beiden Fällen scheint es, als wären diese Funktion ohne Vertragsnachtrag hinzugefügt worden. Ohne jegliche neue Konsultation des Stadtrats.

Garrett: Ja, ja. Ich denke also ganz allgemein, wenn man herauszoomt, sind zwei Dinge meiner Meinung nach wahr. Erstens, richtig: Wir müssen weiterhin ein besseres Produkt bauen – ein besseres Produkt bedeutet sowohl mehr Sicherheit, mehr Privatsphäre als auch mehr Rechenschaftspflicht. Womit wir uns jedoch nicht beschäftigen, ist, unseren Kunden vorzuschreiben, was sie nutzen und was nicht. Als Beispiel: Wir haben vor etwa anderthalb Monaten unser Audit-Assistenz-Tool eingeführt, richtig. Es ist eine zusätzliche Funktionalität, um potenziell missbräuchliches oder böswilliges Verhalten in unserem System zu erkennen. Wir schreiben das heute nicht vor. Mittlerweile hat es mehr als ein Drittel unserer Kunden aktiviert und wir drängen unsere Kunden: Ihr solltet das nutzen. Ihr solltet das nutzen. Aber ich glaube, es ist die Aufgabe des Stadtrats, die Aufgabe des Beauftragten, sie zu drängen, für mehr Rechenschaftspflicht zu sorgen. Und das Gleiche würde ich für die Sicherheitsseite sagen. Es ist also eher selten, dass wir unseren Kunden etwas aufzwingen, anstatt etwas zu bauen, die Welt darüber zu informieren, wie zum Beispiel Freeform. Und wenn eine Stadt sich entscheidet, es zu übernehmen, liegt es an ihr, eine Entscheidung darüber zu treffen, was angemessen ist, um es entweder mit dem Stadtrat zu teilen oder einfach fortzufahren.

Richie: Um nicht – ich möchte es nicht allgemein halten und nicht auf Einzelheiten eingehen, aber bei den gemeldeten Fällen schien es weniger so, als gäbe es eine Konsultation durch Vertreter der Stadt, den Stadtrat oder die Stadtverwaltung, sondern schlichtweg, dass die Polizeidienststelle beschlossen hat, das Kontrollkästchen zu aktivieren, um die Funktion einzuschalten. Das scheint nicht unbedingt mit deinem Prinzip der lokalen Governance übereinzustimmen.

Garrett: Gab es eine Frage?

Richie: Ich würde sagen…

Garrett: Entschuldigung.

Richie: Würdest du unterstützen, dass eine ausdrückliche, explizite Genehmigung der Öffentlichkeit erforderlich ist, bevor eine wesentlich neue Überwachungsfunktion für eine Technologie aktiviert werden kann, die in der Gemeinschaft bereits eingesetzt wird?

Garrett: Zu 100 %. Ich bin der festen Überzeugung, dass Polizeidienststellen nur ein Teil einer Kommunalverwaltung sind und diese Kommunalverwaltungen Richtlinien haben, und die meisten dieser Kommunalverwaltungen haben Richtlinien nicht nur bezüglich Überwachung, sondern auch bezüglich Haushaltsposten. Richtig. Wenn ich mir das also ansehe, sage ich: Es gibt ein bestehendes System, und wir sollten uns weiterhin auf unsere lokal gewählten Vertreter verlassen, um diese Abwägungen darüber zu treffen, wie wir die Gemeinschaft schützen.

Richie: Okay. Das würde also – ohne dir etwas in den Mund legen zu wollen –, so aussehen, als würdest du das tun. Wenn du bereit bist, dies zu Support, würde das bedeuten, dass man eventuell vor der Einführung einer neuen Funktion zum Stadtrat geht und sie nicht einfach ausrollt. Sie herausbringt. Ist das korrekt?

Garrett: Ich sehe das folgendermaßen: Wenn eine Dienststelle, wenn eine Polizeidienststelle sich entscheidet, eine Funktion hinzuzufügen, muss ich mich auch darauf verlassen können, dass dieser Kunde seine Gemeinschaftswerte, seine Richtlinien, seine Verfahren kennt. Und weißt du, wir haben an diesem Punkt fast 7000 Polizeidienststellen, Städte, mit denen wir zusammenarbeiten. Sie sind alle sehr individuell. Cleveland unterscheidet sich stark von Cincinnati, von Toledo. Und da haben wir Ohio noch nicht einmal verlassen. Ziehst du weiter in meinen Heimatbundesstaat Georgia oder nach Kalifornien oder Washington. Und der Punkt ist, dass sie alle unterschiedliche Beschaffungsregeln haben. Sie haben unterschiedliche Überprüfungen von Richtlinien, all das existiert auf einer sehr lokalen Ebene. Auf hoher Ebene gedacht, zu 100 %: Ich glaube nicht, dass Polizeidienststellen wirklich irgendeine neue Richtlinie übernehmen, entfernen sollten, ob es nun meine Produkte oder die eines meiner Konkurrenten sind oder selbst eine solche Uniformänderung – das sollte Sache der Stadt sein, von Stadt zu Stadt zu entscheiden, welches Maß an Überprüfung erforderlich ist.

Richie: Es gab mehrere Fälle, in denen Polizeibeamte Flock angeblich missbraucht haben, um Personen zu stalken. Wenn das passiert, welche Verantwortung übernimmt Flock selbst?

Garrett: Jedes Ausmaß an Missbrauch über Null ist unakzeptabel und macht mich krank. Wir haben ein Produkt gebaut. Ich habe ein Unternehmen gegründet, um Menschen sicherer zu machen. Ich habe drei kleine Kinder. Ich sehe es als meine Hauptpflicht als ihr Vater an, für ihre Sicherheit zu sorgen. Und wenn ich sehe, wie Einzelne sehr schlechte Entscheidungen treffen, um unsere Produkte in einer Weise zu nutzen, für die sie nicht gedacht waren, ist das frustrierend. Und wir wussten vor neun Jahren, dass dies ein Risiko ist. Deshalb haben wir, deshalb sind wir auf Audit-Protokolle gekommen. Weißt du, wenn man in die Zeit vor Flock zurückgeht, sprechen wir über LPR. LPR gab es schon immer. Es gab keine Datenaufbewahrung.

Richie: Ja.

Garrett: Richtig? Es wurde kommerziell verkauft. Wird es immer noch. Richtig. Abschleppwagen Drive herum und verkaufen die kommerziellen Daten. Und dann war keine Rechenschaftspflicht darin eingebaut. Und so ist es für mich keine Überraschung, dass wir, während wir dies weiterleiten. Richtig. Und da wir jetzt die Audit-Assistenz hinzugefügt haben, in dieser Sache weiter Druck machen werden. Für mich sehe ich es als unsere Aufgabe an, ein Produkt zu bauen, bei dem es nahezu unmöglich, so schwierig ist, es außerhalb seines vorgesehenen Zwecks zu nutzen. Und ich denke – das mag eigentlich unlogisch klingen –, ich finde es toll, wenn ich das Ausmaß der Medienaufmerksamkeit sehe, denn ich möchte, dass die Beamten wissen: Wenn du versuchst, Flock zu nutzen, wirst du zur Rechenschaft gezogen, wenn du versuchst, es auf missbräuchliche Weise zu nutzen. Und es gibt andere Systeme, die, wie du weißt, nicht nachverfolgt werden. Und ich denke, das ist schlecht.

Richie: Du scheinst in dieser Sache sehr entschieden zu sein. Wie viele Verträge mit Polizeidienststellen hat Flock also wegen systemischen Missbrauchs ausgesetzt oder gekündigt? Wegen zügellosem Missbrauch durch Beamte und dein System?

Garrett: Ja, ich denke, das ist eine wirklich, wirklich interessante Frage. Und sie ist interessant, weil ich zum Beispiel jeden Tag mindestens drei, wenn nicht vier Erfolgsgeschichten sehe, in denen ein entführtes Kind nach Hause zurückgebracht wird. Ich sehe Hunderte bis Tausende von Verbrechen, die aufgeklärt werden. Wenn ich in einer Stadt leben würde, deren Polizeidienststelle Flock missbraucht, wäre das Letzte, was ich tun wollte, dieses System herauszureißen, das beim tatsächlichen Aufklären von Verbrechen so effektiv ist. Und so ist der Missbrauch, von dem du sprichst, außergewöhnlich selten. Nun zu meinem Punkt: Alles über Null ist unakzeptabel. Aber du sprichst von Hunderttausenden von Polizeibeamten, die Flock jeden einzelnen Tag nutzen, bei einer einstelligen Anzahl, Dutzenden, die es potenziell missbrauchen. Ich denke nicht, dass du die gesamte Stadt für die schlechten Entscheidungen von nur wenigen verantwortlich machen solltest.

Richie: Wenn ich aus dieser Antwort Schlussfolgerungen ziehen darf, würde ich sagen, die Zahl ist Null.

Garrett: Ich möchte eine Antwort nicht falsch darstellen, also habe ich nicht geantwortet. Ich möchte dir nicht eine Sache erzählen und dann ist es…

Richie: Okay. Das ist fair. Wir belassen es dabei, dass es ein außergewöhnlich seltener Fall ist, und machen weiter.

Richie: Gibt es ein Ausmaß an Missbrauch, das dich zu der Entscheidung veranlassen würde, dass eine Behörde nicht mehr auf deine Technologie Zugreifen darf? Gibt es einen Schwellenwert?

Garrett: Ja. Ich denke also, was du beschreibst, ist für den Fall, nennen wir es so, dass der gesamten Polizeidienststelle nachgewiesen wird, dass sie Missbrauch betreibt, und wahrscheinlich nicht nur bei Flock, sondern bei vielen anderen Dingen. Und in diesen Fällen gibt es ein Bundesverfahren zur Handhabung. Typischerweise schaltet sich die Bundesregierung ein, die Landesregierung schaltet sich ein. Und in diesen Situationen ist es unwahrscheinlich, dass sie Flock behalten, weil sie wahrscheinlich die gesamte Polizeidienststelle auflösen. Ich glaube also nicht, dass ich jemals vor dieses Problem oder diese Entscheidung gestellt würde.

Richie: Okay. Um also noch einmal eine kleine Schlussfolgerung zu ziehen und dem Ganzen das I-Tüpfelchen aufzusetzen: Es wäre ein außergewöhnlich hoher Schwellenwert, ja?

Garrett: Ja. Was denkst du? Ich bin eigentlich neugierig. Hast du einen Standpunkt dazu, wann ein Technologieunternehmen…

Richie: Meine Meinung spielt eigentlich keine Rolle. Du bist hier der CEO. Ich würde es dir gerne bei einem Bier erzählen. Du sagst, eine der Schutzmaßnahmen von Flock sei die lokale Kontrolle, aber mehrere Städte in Kalifornien behaupten, ihre Daten seien ohne ihre Erlaubnis mit externen Parteien geteilt worden, manchmal mit der Bundesregierung. Wie passt das zu deiner Behauptung, dass die Kunden ihre Daten kontrollieren?

Garrett: Ich stimme diesen Aussagen nicht zu.

Richie: Okay, ich kann dir sagen, dass ich das aus einer Behauptung aus Mountain View, Kalifornien, habe. Sie behaupten, dass Flock ohne ihre Erlaubnis eine bundesweite suchen für Polizeidienststellen aktivieren hat und Bundesbehörden dann auf die Daten Zugreifen haben. Und in ähnlicher Weise nannte South Pasadena eine unbeabsichtigte Datenweitergabe als Grund dafür, dass sie ihren Vertrag abbrechen haben. Über das eine wurde im Guardian berichtet, das andere stammte einfach von der Stadt. Du…

Garrett: Kunden kontrollieren also ihre Daten, sie kontrollieren, welche Kontrollkästchen ausgewählt werden. Wenn überhaupt, haben wir unsere Verpflichtung gegenüber unseren Kunden missverstanden, es ihnen unmöglich zu machen, Fehler zu machen. Wenn man also jemanden wie Kalifornien nimmt, sieht deren Gesetzgebung vor, dass LPR-Daten den Bundesstaat nicht verlassen dürfen. Wir sahen es vor zwei Jahren nicht als unsere Aufgabe an, das in unserem Produkt zu verankern. Nun, da wir von Kunden gehört haben, die versehentlich entweder auf eine Schaltfläche geklickt haben oder jemand auf die Schaltfläche geklickt und gesagt hat: Hey, wir wollen eigentlich die nationale Suche aktivieren, haben wir es ihnen zu einfach gemacht. Und so machen wir es jetzt im Bundesstaat Kalifornien, im Bundesstaat Washington und im Bundesstaat Virginia, wo es eine eindeutige Gesetzgebung gibt, dass LPR-Daten den Bundesstaat nicht verlassen dürfen, unmöglich, dass dies passiert. Es gibt nicht einmal ein Kontrollkästchen. Wenn überhaupt, Richie, würde ich es so beschreiben, dass die Verpflichtung von Flock in dieser Unterhaltung gestiegen ist. Ich sehe unsere Verantwortung größer, weshalb ich ein so großer Fan von Vorschriften im Allgemeinen bin. Denn jetzt gibt es an einem Ort wie Washington, wie du weißt, einen Gesetzentwurf, der besagt: So sollte LPR unserer Meinung nach in Washington funktionieren. Und wenn diese Gesetzentwürfe gut geschrieben sind – nicht unbedingt in der Substanz, sondern in der Durchsetzbarkeit –, halte ich das für eine tolle Sache. Und an einem Ort wie Kalifornien haben wir jetzt unseren Rahmen so geändert und erhöht, dass es unmöglich ist, dass das überhaupt passiert.