Em 2017, a Flock Safety começou como um projeto paralelo em uma garagem de Atlanta.

Hoje é uma empresa multibilionária operando mais de 120.000(nova janela) câmeras com leitor automático de placas (ALPR) em 49 estados dos EUA, lendo 20 bilhões de placas por mês para mais de 5.000 agências de aplicação da lei.

A Flock se apresenta como uma provedora de tecnologia de segurança pública. Críticos, no entanto, a chamam de uma rede de vigilância mantida por capital de risco cheia de abusos e com pouca fiscalização.

Dezenas de cidades e agências abandonaram a Flock no último ano, Los Angeles deixou seu contrato expirar(nova janela) devido a preocupações com direitos civis, e um departamento de polícia da Califórnia desligou suas câmeras(nova janela) depois que agências federais acessaram seus dados sem aviso prévio.

Durante a produção do nosso documentário mais recente do Proton sobre as câmeras da Flock, o próprio CEO da Flock, Garrett Langley, concordou em dar uma entrevista para o nosso apresentador, Richie Koch.

Abaixo está a transcrição da conversa completa, levemente editada para fins de extensão e clareza.

—

Richie Koch: Então, primeira pergunta. Em toda a plataforma da Flock, não apenas nos leitores de placas. É possível para a polícia pesquisar por uma pessoa?

Garrett Langley: Nós vendemos vários produtos focados em fazer duas coisas bem. Oferecer segurança. Oferecer privacidade. Promover a prestação de contas. Esse é o nosso objetivo, sabe? Temos alguns produtos focados em veículos, nossos leitores de placas. Temos alguns produtos focados em áudio, detecção de tiros. E também vendemos o que seus espectadores podem conhecer como câmeras Pan, Tilt e Zoom. E essas são tradicionalmente implantadas em locais por onde os pedestres passam.

Richie: Certo. Sim. E eu ouvi falar das câmeras Condor.

Garrett: Essa é uma PTZ.

Richie: É. Tá. E eu fiquei pensando, não recebi necessariamente um “sim” ou “não” firme ali. Então eu queria saber se você poderia talvez detalhar um pouco mais o que as PTZs Condor fazem?

Garrett: Aqui está um ótimo exemplo. Frequentemente, essas câmeras, sejam nossas ou de cerca de duas centenas de grandes fabricantes de câmeras no mundo todo que constroem câmeras pan, tilt e zoom. Seja a gente ou outro fabricante. As cidades costumam implantar essas câmeras em parques. Né. A cidade gasta dezenas de milhões de dólares para construir um parque lindo. A última coisa que querem é ver esse parque se tornar um lugar onde acontecem transações de drogas, pessoas se machucam, etc. E se você olhar para a minha própria cidade natal, Atlanta, há apenas cinco anos, houve um incidente horrível, horrível. Você pode ler sobre isso. Uma mulher estava passeando com o cachorro no meio da noite, foi morta violentamente, um caso não resolvido. Sabe por quê? Havia câmeras lá, mas não estavam funcionando. Se as câmeras estivessem lá e funcionando, gosto de pensar e tenho bastante certeza de que o caso não estaria parado. Então, na maioria das vezes, nossos clientes implantam nossos produtos nesses casos para manter suas pessoas seguras, seja em um parque ou em uma via pública.

Richie: Você poderia explicar um pouco como funciona a pesquisa? Já estabelecemos que essas câmeras existem, que a funcionalidade existe. Como é uma pesquisa?

Garrett: Para qual produto? … Eles são muito diferentes, porque fazemos uma separação bem grande entre nossas câmeras ALPR. Você não pode pesquisar por pessoas. Elas foram projetadas especificamente para ler uma placa e detectar atributos de um veículo. Agora, nossas câmeras pan, tilt e zoom são focadas em pessoas. Porque as pessoas costumam ir a parques, elas costumam ir a parques.

Richie: Você poderia apenas explicar como a pan, tilt e zoom; como a pesquisa funcionaria?

Garrett: Na verdade, existem duas formas principais de pesquisar. Tem o que chamamos de pesquisa tradicional, que você conhece, como a que tenho nas minhas câmeras em casa. Onde posso simplesmente olhar uma linha do tempo e ir para frente e para trás. Né. E esse é um recurso de rolagem bem tradicional. E a segunda é que temos um produto chamado Freeform. E o Freeform permite que você pesquise por coisas em texto sem formatação. Agora, o que eu acrescentaria a isso, e que é importante: acho que isso não é exclusivo nosso, é padrão em toda a indústria. Você não pode simplesmente fornecer esse tipo de pesquisa sem uma representação do que chamamos de Constituição, certo? Temos direitos, temos certas restrições. Por isso existe uma política de moderação embutida nessa pesquisa para evitar qualquer tipo de pesquisa abusiva.

Richie: A Flock pode alterar a capacidade de produtos implantados por meio de uma atualização de software sem que a câmara municipal ou o público aprove essa nova funcionalidade?

Garrett: Hmmm. Quero dizer, na essência do nosso relacionamento comercial, sabe. Seja com um bairro, uma empresa ou uma cidade, como você pode ver em nossos contratos, é um contrato anual, certo. E a cada ano precisamos provar nosso valor. Então existe uma expectativa dos nossos clientes de que tudo melhore a cada dia.

Richie: Certo. No entanto, você pode ver como isso levaria ao desvio de finalidade. Houve uma matéria recente no 404 Media mostrando que, por um breve período, suas câmeras ALPR foram transformadas em câmeras com transmissão ao vivo. Houve outro relatório da EFF informando que seu sistema de monitoramento acústico de disparos foi usado brevemente para monitorar gritos de socorro humano. Em ambos os casos, parece que esses recursos foram adicionados sem nenhum aditivo ao contrato. Sem nenhum tipo de nova consulta à câmara municipal.

Garrett: É, sim. Então acho que, de forma mais ampla, se você olhar o panorama geral, duas coisas são verdadeiras. Uma, né. Nós temos que continuar a construir um produto melhor, sendo um produto melhor tanto com mais segurança, mais privacidade, quanto mais prestação de contas. Mas o que não fazemos é impor aos nossos clientes o que eles usam e o que não usam. Como exemplo, sabe, lançamos nossa ferramenta de assistência de auditoria há cerca de um mês e meio, certo. É uma funcionalidade adicional para detectar comportamento potencialmente abusivo ou nefasto em nosso sistema. Não exigimos isso hoje. Agora, mais de um terço dos nossos clientes a ativaram e nós incentivamos nossos clientes: vocês deveriam usar isso. Vocês deveriam usar isso. Mas acredito que seja papel da câmara municipal, dos comissários, pressioná-los para buscar mais prestação de contas. E eu diria o mesmo do lado da segurança. Portanto, é bastante raro forçarmos algo em nossos clientes em vez de construir algo, informar o mundo sobre isso, como o Freeform, por exemplo. E se a cidade optar por adotar, cabe a ela tomar a decisão do que é apropriado compartilhar com a câmara municipal ou apenas seguir em frente.

Richie: Não para entrar… não quero manter em termos gerais, e sim entrar em detalhes, mas nos casos relatados, parecia menos que houve consulta a representantes da cidade, câmara municipal ou prefeitura, e mais simplesmente que o departamento de polícia decidiu marcar a caixa para ativar o recurso. Isso parece não bater necessariamente com o seu princípio de governança local.

Garrett: Houve uma pergunta?

Richie: Eu diria…

Garrett: Desculpe.

Richie: Você apoiaria a exigência de aprovação pública explícita, explícita, antes que um recurso de vigilância materialmente novo possa ser ativado em uma tecnologia que já foi implementada na comunidade?

Garrett: 100%. Sinto firmemente que os departamentos de polícia são apenas uma parte do governo local, e esses governos locais têm políticas, e a maioria desses governos locais tem políticas não apenas sobre vigilância, mas também sobre itens orçamentários. Né. Então, quando olho para isso, penso: existe um sistema em vigor e devemos continuar confiando nos nossos representantes eleitos localmente para fazer essas ponderações sobre como manter a comunidade segura.

Richie: Certo. Então isso, sem querer colocar palavras na sua boca, mas pareceria que você aceitaria. Se você está disposto a apoiar isso, significaria potencialmente ir à câmara municipal antes de introduzir um novo recurso e não simplesmente lançá-lo. Disponibilizá-lo. Está correto?

Garrett: É assim que eu penso sobre o assunto. Se um departamento, se um departamento de polícia opta por adicionar um recurso, eu também preciso confiar que esse cliente entende os valores, as políticas e os procedimentos de sua comunidade. E você sabe, temos quase 7000 departamentos de polícia neste momento, cidades com as quais trabalhamos. Todas são muito únicas. Cleveland é muito diferente de Cincinnati, que é diferente de Toledo. E nem saímos de Ohio ainda. Se você vai para o meu estado natal, a Geórgia, ou para a Califórnia ou Washington. O ponto é que todos eles têm regras de aquisição diferentes. Têm revisões de políticas diferentes, tudo isso existe em um nível muito local. Portanto, em termos gerais, 100%, não acho que os departamentos de polícia devam adotar na verdade nenhuma nova política, remover seja os meus produtos ou os de um concorrente, ou mesmo uma mudança de uniforme desse tipo, isso deveria caber à cidade decidir qual nível de revisão é necessário em cada cidade.

Richie: Houve vários casos de policiais supostamente abusando da Flock para perseguir pessoas. Quando isso acontece, qual é a responsabilidade assumida pela própria Flock?

Garrett: Qualquer nível de abuso maior que zero é inaceitável e me dá nojo. Nós construímos um produto. Eu comecei uma empresa para deixar as pessoas mais seguras. Tenho três filhos pequenos. Vejo como minha obrigação principal como pai mantê-los seguros. E quando vejo indivíduos tomarem decisões muito ruins ao usar nossos produtos de uma forma para a qual não foram projetados, é frustrante. E sabíamos que isso era um risco há nove anos. Foi por isso que criamos os registros de auditoria. Sabe, se você voltar ao tempo antes da Flock, vamos falar sobre LPR. O LPR sempre existiu. Não havia retenção de dados.

Richie: É.

Garrett: Né? Era vendido comercialmente. Ainda é. Certo. Caminhões de reboque rodam por aí e vendem dados comerciais. E não havia nenhuma prestação de contas embutida nisso. Portanto, não é surpresa para mim que, conforme avançamos com isso, né, e conforme adicionamos agora a assistência de auditoria, continuaremos a pressionar ainda mais nisso. Para mim, vejo como nosso dever construir um produto que seja quase impossível, tão difícil de usar fora da sua finalidade pretendida. E acho até, isso pode ser contraintuitivo, acho ótimo quando vejo o nível de atenção da mídia, porque quero que os policiais saibam que, se tentar usar a Flock, você será responsabilizado se tentar usá-la de forma abusiva. E existem outros sistemas que você sabe que não são rastreados. E acho isso ruim.

Richie: Você parece ter uma opinião muito forte sobre isso. Então, quantos contratos com departamentos de polícia a Flock suspendeu ou rescindiu por causa de abuso sistêmico? Abuso desenfreado por parte dos policiais no seu sistema?

Garrett: É, acho essa uma pergunta muito, muito interessante. E é interessante porque todos os dias, por exemplo, vejo pelo menos três, se não quatro, histórias de sucesso de uma criança sequestrada voltando para casa. Vejo de centenas a milhares de crimes sendo solucionados. Se eu morasse em uma cidade cujo departamento de polícia estivesse abusando da Flock, a última coisa que eu iria querer fazer seria arrancar esse sistema que é tão eficaz na solução de crimes. Então o abuso do qual você está falando é excepcionalmente raro. Voltando ao meu ponto: qualquer coisa maior que zero é inaceitável. Mas você está falando de centenas de milhares de policiais que usam a Flock todos os dias, com um número de um único dígito, dezenas que estão potencialmente abusando do sistema. Não acho que você deva responsabilizar a cidade inteira apenas pelas más decisões de alguns.

Richie: Se eu puder deduzir dessa resposta, eu diria que o número é zero.

Garrett: Não quero deturpar uma resposta, por isso não respondi. Não quero te dizer uma coisa e depois ser…

Richie: Certo. Justo. Vamos considerar como um caso excepcionalmente raro e seguir em frente.

Richie: Existe um nível de abuso que faria você decidir que uma agência, uma agência não deveria mais ter acesso à sua tecnologia? Existe um limite?

Garrett: É. Acho que o que você está descrevendo é uma situação em que, digamos, todo o departamento de polícia seja comprovadamente culpado de abusos, e provavelmente não apenas com a Flock, mas com muitas outras coisas. Nesses casos, há um processo federal para lidar com isso. O governo federal geralmente intervém, o governo estadual intervém. E nessas situações, é improvável que eles mantenham a Flock, porque provavelmente estão desmontando todo o departamento de polícia. Então não acho que eu me depararia com esse problema ou essa decisão.

Richie: Certo. Então, novamente, apenas para deduzir um pouco e fechar com chave de ouro, seria um limite excepcionalmente alto. Né?

Garrett: É. O que você acha? Na verdade, estou curioso. Você tem um ponto de vista sobre quando uma empresa de tecnologia deveria…

Richie: A minha opinião não importa muito. Você é o CEO aqui. Eu adoraria te contar tomando uma cerveja. Você diz que uma das salvaguardas da Flock é o controle local, mas várias cidades da Califórnia afirmam que seus dados foram compartilhados com terceiros, às vezes com o governo federal, sem a permissão delas. Como isso é coerente com a sua afirmação de que os clientes controlam seus dados?

Garrett: Discordo dessas declarações.

Richie: Certo, posso te dizer que tirei isso de uma alegação de Mountain View, Califórnia. Eles alegam que a Flock ativou a pesquisa em âmbito nacional com departamentos de polícia sem a permissão deles, e agências federais acessaram os dados em seguida. E, de forma semelhante, South Pasadena citou o compartilhamento inadvertido de dados como motivo para cancelar o contrato. Um foi noticiado no The Guardian, o outro foi simplesmente uma declaração da cidade. Você…

Garrett: Então, os clientes controlam seus dados, eles controlam quais caixas de seleção são selecionadas. Na verdade, nós mal compreendemos nossa obrigação com os clientes de tornar impossível para eles cometerem erros. Então, se você pega um estado como a Califórnia, a legislação estadual deles prevê que os dados do LPR não devem sair do estado. Não víamos como nosso dever codificar isso em nosso produto há dois anos. Agora, como ouvimos de clientes que inadvertidamente clicaram em um botão ou alguém clicou no botão e disse: ‘ei, na verdade queremos ativar a Busca Nacional’, nós facilitamos demais isso para eles. Então agora, no estado da Califórnia, no estado de Washington e no estado da Virgínia, onde há uma legislação clara de que os dados do LPR não podem sair do estado, nós tornamos impossível que isso aconteça. Não há sequer uma caixa de seleção. Portanto, se é que me entende, Richie, a maneira como eu descreveria é que a obrigação da Flock nesta conversa aumentou. Vejo nossa responsabilidade como maior, e é por isso que sou um grande fã de regulamentações em geral. Porque agora, em um lugar como Washington, sabe, há um projeto de lei que diz que é assim que achamos que o LPR deveria funcionar em Washington. E quando esses projetos de lei são bem escritos, não necessariamente no conteúdo, mas na aplicabilidade, acho que isso é ótimo. Então, em um lugar como a Califórnia, alteramos e elevamos nossos padrões para que seja impossível até mesmo acontecer isso.