Vuonna 2017 Flock Safety sai alkunsa sivuprojektina atlantalaisessa autotallissa.

Nykyään se on monen miljardin dollarin yritys, jolla on käytössä yli 120 000(uusi ikkuna) automaattista rekisterikilpien lukukameraa (ALPR) 49 Yhdysvaltain osavaltiossa. Ne lukevat 20 miljardia rekisterikilpeä kuukaudessa yli 5000 lainvalvontaviranomaiselle.

Flock markkinoi itseään julkisen turvallisuusteknologian tarjoajana. Kriitikot kuitenkin kutsuvat sitä pääomasijoitteiseksi valvontaverkoksi, joka on täynnä väärinkäytöksiä ja puutteellista valvontaa.

Kymmenet kaupungit ja virastot ovat luopuneet Flockista kuluneen vuoden aikana. Los Angeles antoi sopimuksensa päättyä(uusi ikkuna) kansalaisoikeushuolten vuoksi, ja kalifornialainen poliisilaitos sammutti kameransa(uusi ikkuna) sen jälkeen, kun liittovaltion virastot käyttivät sen tietoja ilmoittamatta.

Uusimman Flock-kameroita käsittelevän Proton-dokumenttimme teon aikana Flockin oma toimitusjohtaja Garrett Langley suostui juontajamme Richie Kochin haastatteluun.

Alla on koko keskustelu litteroituna, pituuden ja selkeyden vuoksi kevyesti muokattuna.

—

Richie Koch: Ensimmäinen kysymys. Koko Flock-alustalla, ei vain rekisterikilpien lukijoissa: onko poliisin mahdollista etsiä henkilöä?

Garrett Langley: Myymme useita tuotteita, jotka keskittyvät tekemään kaksi asiaa oikein: tarjoamaan turvallisuutta ja tarjoamaan yksityisyyttä edistäen vastuullisuutta. Se on tavoitteemme, eikö niin? Meillä on tuotteita, jotka keskittyvät ajoneuvoihin, eli rekisterikilpien lukijamme. Meillä on tuotteita, jotka keskittyvät ääneen, kuten laukausten tunnistamiseen. Ja sitten myymme tuotteita, joita katselijanne saattavat tuntea nimellä panorointi-, kallistus- ja zoomauskamerat. Ne julkaistaan perinteisesti paikoissa, joissa jalankulkijat liikkuvat.

Richie: Selvä. Kyllä. Olen kuullut Condor-kameroista.

Garrett: Se on PTZ-kamera.

Richie: Niin. Selvä. Pohdin vain, en välttämättä saanut varmaa ”kyllä”- tai ”ei”-vastausta. Joten mietin, voisitteko kenties hieman tarkentaa, mitä Condor PTZ -kamerat tekevät?

Garrett: Tässä on hieno esimerkki. Usein nämä kamerat – olivatpa ne meiltä tai joltain muulta valmistajalta, maailmanlaajuisesti on varmaan pari sataa suurta kameravalmistajaa, jotka tekevät panorointi-, kallistus- ja zoomauskameroita – olipa kyseessä me tai joku muu. Kaupungit julkaisevat näitä usein puistoissa. Aivan. Kaupunki käyttää kymmeniä miljoonia dollareita kauniin puiston rakentamiseen. Viimeinen asia, jonka he haluavat, on puiston muuttuminen paikaksi, jossa käydään huumekauppaa, ihmisiä loukkaantuu jne. Ja jos katsotaan kotikaupunkiani Atlantaa, vain viisi vuotta sitten siellä tapahtui karmea tapaus. Voitte lukea siitä. Nainen oli kävelyttämässä koiraansa keskellä yötä, hänet surmattiin väkivaltaisesti, pimeä tapaus. Tiedättekö miksi? Siellä oli kameroita, mutta ne eivät toimineet. Jos kamerat olisivat olleet siellä ja toimineet, uskon melko varmasti, että tapaus ei olisi jäänyt selvittämättömäksi. Ja siksi useimmiten asiakkaamme julkaisevat tuotteemme siinä tapauksessa pitääkseen ihmisensä turvassa, olipa kyseessä puisto tai yleinen tie.

Richie: Voisitteko selittää hieman, miten haku toimii? Olemme todenneet, että nämä kamerat ovat olemassa ja että tämä ominaisuus on olemassa. Miltä haku näyttää?

Garrett: Mille tuotteelle? … Ne ovat hyvin erilaisia, koska teemme suuren eron ALPR-kameroidemme välille. Ihmisiä ei voi etsiä. Ne on suunniteltu erityisesti lukemaan rekisterikilpiä ja havaitsemaan ajoneuvon ominaisuuksia. Panorointi-, kallistus- ja zoomauskameramme taas keskittyvät ihmisiin. Koska ihmiset yleensä menevät puistoihin, he menevät yleensä puistoihin.

Richie: Voisitteko vain selittää, miten panorointi, kallistus, zoomaus – miten haku toimisi?

Garrett: Hakemiseen on siis todellisuudessa kaksi päätapaa. On niin sanottu perinteinen haku, kuten minulla on kotikameroideni kanssa, jossa voin vain katsoa aikajanaa ja liikkua edestakaisin. Se on melko perinteinen vierityspalkki. Ja toinen on tuotteemme nimeltä Freeform. Freeform avulla voit etsiä asioita pelkkä teksti -muodossa. Tähän lisäisin vielä tärkeän asian, joka ei ole ainutlaatuista vain meille, vaan se on yleistä koko alalla: tällaista hakua ei voi tarjota ilman perustuslain edustusta, eikö niin? Meillä on oikeuksia, meillä on tiettyjä rajoituksia. Siksi hakuun on rakennettu moderointikäytäntö kaikenlaisen väärinkäytöshun estämiseksi.

Richie: Voiko Flock muuttaa julkaistun tuotteen suorituskykyä ohjelmistopäivityksen kautta ilman, että kaupunginvaltuusto tai yleisö hyväksyy uuden ominaisuuden?

Garrett: Hmmm. Tarkoitan, että liikesuhteemme ytimessä – olipa kyseessä naapurusto, yritys tai kaupunki – sopimuksemme ovat vuosisopimuksia, kuten voitte tarkistaa. Joka vuosi meidän on osoitettava arvomme. Asiakkaillamme on siis odotus, että se paranee joka ikinen päivä.

Richie: Aivan. Näette kuitenkin varmaan, miten tämä voi johtaa tehtävän laajenemiseen. Äskettäin 404 Mediassa oli raportti, jonka mukaan ALPR-kameranne muutettiin hetkellisesti suoraa kuvaa lähettäviksi kameroiksi. EFF:ssä oli toinen raportti, jossa akustista laukausten valvontajärjestelmää käytettiin hetkellisesti ihmisten hätähuutojen valvontaan. Molemmissa tapauksissa näyttää siltä, että nämä ominaisuudet lisättiin ilman minkäänlaista sopimuslisäystä. Ilman minkäänlaista uutta kuulemista kaupunginvaltuuston kanssa.

Garrett: Joo, joo. Laajemmassa mittakaavassa kaksi asiaa on mielestäni totta. Ensinnäkin meidän on jatkettava paremman tuotteen rakentamista – paremman tuotteen tarkoittaessa lisää turvallisuutta, lisää yksityisyyttä ja lisää vastuullisuutta. Mutta emme kumminkaan harjoita toimintaa, jossa määräisimme asiakkaillemme, mitä he käyttävät ja mitä eivät. Esimerkkinä mainittakoon, että julkaisimme tarkastusavustintyökalumme noin puolitoista kuukautta sitten. Se on lisätoiminto, jolla voidaan havaita mahdollista väärinkäytöstä tai haitallista käyttäytymistä järjestelmässämme. Emme edellytä sitä tällä hetkellä. Yli kolmasosa asiakkaistamme on ottanut sen käyttöön, ja kannustamme asiakkaitamme: Teidän pitäisi käyttää tätä. Teidän pitäisi käyttää tätä. Mutta uskon, että kaupunginvaltuuston ja komissaarien tehtävä on vaatia heitä pyrkimään suurempaan vastuullisuuteen. Sanoin saman turvallisuuspuolella. On siis varsin harvinaista, että pakottaisimme asiakkaillemme jotain sen sijaan, että rakentaisimme jotain ja tiedottaisimme siitä maailmalle – kuten esimerkiksi Freeformista. Jos kaupunki päättää ottaa sen käyttöön, se on heidän päätöksensä, mikä on asianmukaista joko jakaa kaupunginvaltuuston kanssa tai vain edetä.

Richie: En halua mennä liikaa yksityiskohtiin, mutta raportoiduissa tapauksissa näytti vähemmän siltä, että kaupungin edustajia, kaupunginvaltuustoa tai kaupunginhallitusta olisi kuultu, ja enemmän siltä, että poliisilaitos vain päätti valita valintaruudun ottaakseen ominaisuuden käyttöön. Tämä ei tunnu välttämättä sopivan yhteen paikallisen hallinnon periaatteenne kanssa.

Garrett: Oliko siinä kysymys?

Richie: Sanoisin, että…

Garrett: Anteeksi.

Richie: Kannattaisitteko sitä, että vaadittaisiin nimenomainen julkinen hyväksyntä ennen kuin olennaisesti uusi valvontaominaisuus voidaan ottaa käyttöön teknologiassa, joka on jo otettu käyttöön yhteisössä?

Garrett: 100-prosenttisesti. Olen vahvasti sitä mieltä, että poliisilaitokset ovat vain yksi osa paikallishallintoa, ja näillä paikallishallinnoilla on käytännöt, ja useimmilla näistä paikallishallinnoista on käytäntöjä valvontakysymysten lisäksi myös budjettikohteista. Aivan. Joten kun katson asiaa, järjestelmä on olemassa, ja meidän pitäisi edelleen luottaa paikallisesti valittuihin päättäjiimme näiden kompromissien tekemisessä siitä, miten pidämme yhteisön turvassa.

Richie: Selvä. Eli – sanoja suuhunne panematta – näyttäisi siltä, että jos olette valmis tukemaan tätä, se tarkoittaisi mahdollisesti kaupunginvaltuuston puoleen kääntymistä ennen uuden ominaisuuden esittelemistä, eikä vain sen julkaisemista. Pitääkö tämä paikkansa?

Garrett: Ajattelen asiaa näin: Jos poliisilaitos päättää lisätä ominaisuuden, minun on myös luotettava siihen, että asiakas ymmärtää yhteisönsä arvot, käytännöt ja menettelytavat. Meillä on tässä vaiheessa lähes 7000 poliisilaitosta ja kaupunkia, joiden kanssa teemme yhteistyötä. Ne ovat kaikki hyvin ainutlaatuisia. Cleveland on hyvin erilainen kuin Cincinnati tai Toledo. Enkä ole edes poistunut Ohiosta vielä. Jos siirrytään kotiosavaltiooni Georgiaan, Kaliforniaan tai Washingtoniin, pointti on se, että niillä kaikilla on erilaiset hankintasäännöt ja erilaiset käytäntöjen arvioinnit, ja kaikki tämä on hyvin paikallisella tasolla. Joten yleisellä tasolla, 100-prosenttisesti, en usko, että poliisilaitosten pitäisi ottaa käyttöön mitään uutta käytäntöä, poistaa tuotteitani tai kilpailijani tuotteita, tai edes tehdä virka-asumuutosta ilman, että kaupunki saa päättää, millainen tarkistustaso on tarpeen kaupunkikohtaisesti.

Richie: On ollut useita tapauksia, joissa poliisien väitetään käyttäneen Flockia väärin ihmisten vainoamiseen. Kun näin tapahtuu, minkä vastuun Flock itse ottaa?

Garrett: Mikä tahansa väärinkäytön taso, joka on suurempi kuin nolla, on hyväksymätöntä ja tekee minut sairaaksi. Rakensimme tuotteen. Perustin yrityksen tehdäksemme ihmisistä turvallisempia. Minulla on kolme pientä lasta. Pidän ensisijaisena velvollisuutenani isänä pitää heidät turvassa. Joten kun näen yksilöiden tekevän erittäin huonoja päätöksiä käyttää tuotteitamme tavalla, jota ei ole tarkoitettu, se on turhauttavaa. Tiesimme tämän riskin yhdeksän vuotta sitten. Siksi kehitimme tarkastuslokit. Jos palataan aikaan ennen Flockia, puhutaan ALPR:stä. ALPR oli olemassa aina. Tietojen säilytystä ei ollut.

Richie: Niin.

Garrett: Niin. Sitä myytiin kaupallisesti. Myydään edelleen. Hinausautot ajavat ympäriinsä ja myyvät kaupallista dataa. Eikä siihen ollut rakennettu minkäänlaista vastuullisuutta. Siksi minulle ei ole yllätys, että kun olemme vieneet tätä eteenpäin. Ja kun olemme nyt lisänneet tarkastusavustimen, jatkamme panostamista tähän entistä enemmän. Pidän tehtävänämme rakentaa tuote, jota on lähes mahdotonta, erittäin vaikeaa käyttää sen käyttötarkoituksen ulkopuolella. Ja mielestäni – tämä voi olla vastoin intuitiota – on hienoa nähdä median huomion taso, koska haluan poliisien tietävän, että jos yritätte käyttää Flockia väärin, joudutte vastuuseen. On muita järjestelmiä, joita ei seurata, ja mielestäni se on pahasta.

Richie: Tuntuu, että suhtaudutte tähän erittäin vakavasti. Kuinka monta sopimusta poliisilaitosten kanssa Flock on siis keskeyttänyt tai irtisanonut järjestelmällisen väärinkäytön vuoksi? Poliisien ja järjestelmänne valtaisan väärinkäytön vuoksi?

Garrett: Joo, se on mielestäni todella mielenkiintoinen kysymys. Se on mielenkiintoinen, koska näen esimerkiksi joka päivä vähintään kolme tai neljä menestystarinaa kaapatun lapsen palauttamisesta kotiin. Näen satojen tai tuhansien rikosten ratkeavan. Jos asuisin kaupungissa, jonka poliisilaitos käytti Flockia väärin, viimeinen asia, mitä haluaisin tehdä, olisi repiä irti tämä järjestelmä, joka on niin tehokas rikosten ratkaisemisessa. Puhumanne väärinkäytös on siis poikkeuksellisen harvinaista. Palaan ajatukseeni: mikä tahansa nollaa suurempi määrä on hyväksymätön. Mutta puhutte sadoista tuhansista poliiseista, jotka käyttävät Flockia joka ikinen päivä, ja yksinumeroisesta määrästä tai muutamasta kymmenestä, jotka mahdollisesti käyttävät sitä väärin. En usko, että koko kaupunkia pitäisi pitää vastuussa vain harvojen huonoista päätöksistä.

Richie: Jos voin päätellä tästä vastauksesta, sanoisin numeron olevan nolla.

Garrett: En halua antaa virheellistä kuvaa vastauksestani, joten en vastannut. En halua sanoa teille yhtä asiaa ja sitten se on…

Richie: Selvä. Tämä on reilua. Todetaan, että se on poikkeuksellisen harvinainen tapaus, ja siirrytään eteenpäin.

Richie: Onko olemassa tiettyä väärinkäytön tasoa, joka saisi Teidät päättämään, ettei virastolla pitäisi enää olla pääsyä teknologiaanne? Onko olemassa mitään kynnysarvoa?

Garrett: Joo. Luulen, että kuvailette tapahtumaa, jossa koko poliisilaitoksen todetaan syyllistyneen väärinkäytöksiin – eikä todennäköisesti vain Flockin, vaan monien muidenkin asioiden suhteen. Sellaisissa tapauksissa asian käsittelyyn on liittovaltion prosessi. Liittovaltion hallinto puuttuu yleensä asiaan, osavaltion hallinto puuttuu asiaan. Ja näissä tilanteissa on epätodennäköistä, että he pitäisivät Flockin, koska he todennäköisesti purkavat koko poliisilaitoksen. En siis usko, että joutuisin koskaan kyseisen ongelman tai päätöksen eteen.

Richie: Selvä. Eli jälleen kerran, jos vedetään vähän johtopäätöksiä ja tiivistetään, kynnys olisi poikkeuksellisen korkea, eikö niin?

Garrett: Joo. Mitä mieltä Olette? Olen itse asiassa utelias. Onko Teillä näkemystä siitä, milloin teknologiayhtiön pitäisi…

Richie: Mielipiteelläni ei ole juuri väliä, te olette toimitusjohtaja. Kertoisin teille mielelläni oluen ääressä. Sanotte, että yksi Flockin suojatoimista on paikallinen hallinta, mutta useat kaupungit Kaliforniassa väittävät, että heidän tietojaan jaettiin ulkopuolisille tahoille – joskus liittovaltion hallinnolle – ilman heidän lupaansa. Miten tämä sopii yhteen sen väitteenne kanssa, että asiakkaat hallitsevat tietojaan?

Garrett: Olen eri mieltä kyseisistä väitteistä.

Richie: Selvä, voin kertoa, että sain tämän Mountain View’n, Kalifornia, väitteestä. He väittävät, että Flock mahdollisti valtakunnallisen etsi-toiminnon poliisilaitosten kanssa ilman heidän lupaansa, ja liittovaltion virastot sitten käyttivät tietoja. Samoin South Pasadena mainitsi tahattoman tietojen jaon syynä siihen, miksi he peruuttivat sopimuksensa. Toisesta uutisoi The Guardian, toinen oli suoraan kaupungilta. Te…

Garrett: Asiakkaat siis hallitsevat tietojaan, he hallitsevat sitä, mitä valintaruutuja valitaan. Jos mitään, ymmärsimme väärin velvollisuutemme asiakkaitamme kohtaan tehdä virheiden tekemisestä heille mahdotonta. Jos ajatellaan vaikkapa Kaliforniaa, heidän osavaltiolainsäädäntönsä edellyttää, että ALPR-data ei saa poistua osavaltiosta. Emme katsoneet tehtäväksemme koodata sitä tuotteeseemme kaksi vuotta sitten. Nyt kun olemme kuulleet asiakkailta, jotka vahingossa napsauttivat painiketta tai joku napsautti painiketta ja sanoi: ‘hei, haluamme ottaa käyttöön valtakunnallisen haun’, teimme siitä heille liian helppoa. Joten nyt Kalifornian, Washingtonin ja Virginian osavaltioissa, joissa on selkeä lainsäädäntö siitä, että ALPR-data ei voi poistua osavaltiosta, teemme sen tapahtumisesta mahdotonta. Siellä ei ole edes valintaruutua. Jos jotain, Richie, kuvailisin sitä niin, että Flockin velvollisuus tässä keskustelussa on kasvanut. Pidän vastuutamme suurempana, minkä vuoksi olen niin suuri sääntelyn ystävä yleensäkin. Koska nyt Washingtonin kaltaisessa paikassa on lakiesitys, jossa sanotaan, että näin ALPR:n pitäisi toimia Washingtonissa. Ja kun nuo lakiesitykset on kirjoitettu hyvin – ei välttämättä sisällön, vaan täytäntöönpanokelpoisuuden osalta – mielestäni se on hieno asia. Joten Kalifornian kaltaisessa paikassa olemme nyt muuttaneet ja nostaneet tasoamme siten, että sen tapahtuminen on edes mahdotonta.