Uma recente reportagem do The Washington Post deu ao público uma visão interna rara das capacidades de monitoramento da mídia social do departamento de polícia de Fresno, que está testando um controverso software chamado Beware. A peça causou bastante agitação sobre a suposta inclinação do software pelas violações das liberdades civis.
Mas como este programa é diferente de outro monitoramento de mídia social feito pela polícia? Cuidado com uma ameaça real das liberdades civis? Ou esta coisa toda está sendo exagerada? E o que você pode fazer para impedir que a polícia vasculhe suas postagens nas mídias sociais?
Uma ferramenta óbvia para os departamentos de polícia
Os policiais provavelmente têm usado a mídia social para coleta de informações desde que se tornou mainstream - mesmo em 2006, a polícia prendeu um garoto menor de idade no Colorado depois que ele postou fotos dele no MySpace com várias armas de fogo.
O uso das mídias sociais nas investigações só se tornou mais comum desde então, e há várias histórias que atestam sua eficácia. Em 2014, a polícia de Nova York apreendeu mais de 250 armas vendidas ilegalmente após uma extensa investigação que começou quando os policiais notaram que um aspirante a rapper havia postado imagens de armas em seu estúdio no Instagram.
Tem havido inúmeros relatos de estudantes sendo presos por postar bombas e outras ameaças contra suas escolas, e muitas prisões depois de postagens que defendem a violência contra a polícia. Mesmo ameaças de bomba de brincadeira Como usar o Twitter sem estragar Como usar o Twitter sem estragar Twitter pode ser um toque enigmático, e é fácil cometer erros ao longo do tempo - mesmo se você for um usuário de longa data. Aqui estão alguns erros comuns e como evitá-los. Leia mais resultaram em prisões. Isso também não se limita aos EUA; há um amplo precedente no Reino Unido por ter sido preso por dizer algo “grosseiramente ofensivo” ou ameaçador nas mídias sociais.
A mídia social se tornou um local importante para posturas e ameaças de gangues, e a polícia em cidades como Chicago e Nova York fez um número surpreendente de prisões baseadas em postagens do Facebook, YouTube e Instagram nas quais membros de gangues estão fazendo algo ilegal ou expressando intenção de fazê-lo.
Tudo somado, o monitoramento de mídia social é uma escolha óbvia para a aplicação da lei - se as pessoas estão postando suas façanhas ilegais no Facebook, onde o mundo inteiro pode vê-las, vale a pena monitorá-las.
O problema com o Beware: uma abordagem algorítmica
Então, se a polícia tem monitorado a mídia social há anos, por que a abordagem de Fresno está nas manchetes? Parte da resposta está no fato de que a Beware usa uma abordagem algorítmica para monitorar mídias sociais. Muitas ferramentas de monitoramento de mídia social simplistas (mesmo aquelas usadas por profissionais de marketing de mídia social) Seu Guia de Marketing de mídia social Seu guia para Marketing de mídia social Atualmente, há uma investida de pessoas e empresas recorrendo às mídias sociais. nenhuma empresa pode perder tempo ou dinheiro fazendo isso errado. Leia mais) procure palavras-chave ou padrões específicos nos dados, algo que policiais individuais fazem em uma escala muito menor.
Mas Cuidado, quando é dada a informação de um indivíduo, calcula uma "pontuação de ameaça" com base em, de acordo com o site da Intrado,
… Bilhões de registros comerciais [publicamente] disponíveis em questão de segundos - alertando os profissionais de resposta a situações potencialmente perigosas enquanto estão a caminho ou no local de um pedido de assistência 9-1-1.
Os bilhões de pontos de dados vêm de postagens de mídia social, prisão e outros registros públicos, bancos de dados comerciais e muitos outros tipos de dados, embora exatamente de onde eles vêm e como são traduzidos em uma classificação de ameaça verde, amarela ou vermelha. é um segredo comercial guardado pela Intrado, o fabricante do software.
Como a polícia usa esse sistema de pontuação, no entanto, é óbvio - se um visitante do 911 ou alguém envolvido na chamada tiver uma pontuação de ameaça amarela ou vermelha, os policiais ficarão mais cautelosos. O que poderia muito bem significar estar mais armado e pronto por problemas, uma mentalidade que poderia ter sérias consequências para o chamador.
Em 2007, a polícia investigou o roubo de dois consoles PlayStation em um campus universitário quando eles descobriram fotos do suspeito posando com um número de armas de fogo nas mídias sociais. Eles enviaram uma equipe da SWAT para a casa do suspeito, e outro aluno acabou morto depois que um policial confundiu os sons do aríete usado para conseguir entrar na casa para tiros. Esse é exatamente o tipo de resposta fortemente armada baseada em informações coletadas nas mídias sociais que preocupam as pessoas.
A história do Post mencionou que uma mulher que twittou sobre o jogo Rage e um homem que morava em uma casa anteriormente ocupada por uma pessoa de interesse, ambos tinham níveis elevados de ameaça. Nenhuma dessas pessoas teria sido questionada por um oficial de carne e osso, mas o software da Intrado poderia colocar os policiais no limite se eles respondessem ao telefonema de qualquer um desses cidadãos.
O que é preocupante para muitas pessoas é que cálculos de pontuação de ameaça estão sendo feitos por um algoritmo desenvolvido por uma única empresa que não vai compartilhar suas equações tão cedo - Beware é uma caixa preta total. Algoritmos já controlam porções significativas de nossas vidas 4 Algoritmos de Aprendizado de Máquina que Moldam Sua Vida 4 Algoritmos de Aprendizado de Máquina que Moldam Sua Vida Você pode não perceber, mas o aprendizado de máquina já está ao seu redor, e pode exercer um surpreendente grau de influência sobre sua vida . Não acredita em mim? Você pode se surpreender. Leia mais, mas o fato de que agora eles podem nos colocar em uma situação perigosa está começando a chamar a atenção das pessoas.
Abordagens algorítmicas para o policiamento atraíram uma grande quantidade de críticas no passado, com alguns críticos dizendo que eles são propensos a perfis raciais, e outros dizem que as ferramentas são "racistas". Pesquisas sobre o tópico são inconclusiva, com alguns estudos mostrando uma diminuição no crime de curto prazo e outros mostrando nenhum efeito significativo da tecnologia preditiva.
Um Legado de Vigilância
A análise de “bilhões” de pontos de dados traz à mente alguns programas anteriores realizados pelo governo dos EUA.
O Total Information Awareness (TIA) foi uma iniciativa do Information Awareness Office no início dos anos 2000 que coletou informações sobre compras com cartão de crédito, assinaturas de revistas, navegação na web, e-mail, notas acadêmicas, viagens, eventos jurídicos e outros tipos de informação. para armazenamento em um banco de dados central. Mesmo depois de ter sido rebatizada como Terrorist Information Awareness, a TIA foi fechada devido à indignação pública sobre a ideia francamente orwelliana.
Um dos projetos de pesquisa da DARPA Você não vai acreditar: DARPA Pesquisas futuras em computadores avançados Você não acreditará: DARPA Pesquisas futuras em computadores avançados A DARPA é uma das partes mais fascinantes e secretas do governo dos EUA. A seguir estão alguns dos projetos mais avançados da DARPA que prometem transformar o mundo da tecnologia. Leia mais olhou em um sistema semelhante chamado LifeLog que iria recolher…
… Todas as atividades e relacionamentos em que uma pessoa se envolve. Isso inclui compras com cartão de crédito, sites visitados, o conteúdo de chamadas telefônicas e e-mails enviados e recebidos, varreduras de faxes e correspondências enviadas e recebidas, mensagens instantâneas enviadas e recebidas, livros e revistas de leitura, seleções de rádio e televisão, localização física gravada através de sensores de GPS portáteis, [e] dados biomédicos capturados por meio de sensores vestíveis.
Obviamente, Beware e outras soluções de monitoramento de mídia social não são tão avançadas e não têm o mesmo potencial para violações de privacidade. No entanto, o padrão do governo dos EUA de criar softwares que violam a privacidade e que ou não são bem entendidos pelo público ou mantidos sob sigilo, tem muita gente nervosa. E o monitoramento da mídia social pela polícia parece estar se tornando um campo de batalha das liberdades civis.
Muitas pessoas já tomaram partido. O grande número de programas de monitoramento de mídia social disponíveis indica que muitos departamentos de polícia e outras organizações (incluindo escolas) estão interessados em usar essa tecnologia.
Por outro lado, grupos como a ACLU já se manifestaram contra a tecnologia, dizendo que ela poderia permitir que os departamentos de polícia “colocassem as pessoas sob suspeita simplesmente por falarem o que pensam on-line.” A postagem no blog da ACLU sobre o tema foi provocativamente intitulada “This O Surveillance Software provavelmente está espionando o #BlackLivesMatter Hashtag Activism: #powerful ou #pointless? Hashtag Activism: #powerful ou #pointless? #BringBackOurGirls, #ICantBreathe e #BlackLivesMatter tiveram ampla cobertura internacional no ano passado - mas as hashtags são um meio eficaz de ativismo? Leia mais ”, embora haja poucas evidências de que esse seja o caso.
E, é claro, todas as informações trazidas por Beware são “comercialmente disponíveis”. Exatamente o que isso significa é difícil para qualquer um saber, já que os tipos de dados que as redes sociais vendem parecem mudar o tempo todo. Como vimos no passado, não é difícil obter informações que um usuário acha que é privado Prepare sua conta Privacidade para Facebook Pesquisa de grafos [Dicas semanais no Facebook] Prepare sua conta Privacidade para Facebook Pesquisa de gráfico [Dicas semanais Facebook] Toda vez Facebook lança um novo recurso para saber mais sobre nossos amigos, muitas pessoas percebem que suas configurações de privacidade não são mais adequadas. Seu último novo recurso, o Facebook Graph Search, não é exceção ... Leia mais apenas fazendo as perguntas certas e usando as ferramentas certas.
Eu não seria a primeira pessoa a associar o Beware e outras soluções de monitoramento de mídia social com o pré-crime do Minority Report ou o crime de pensamento de 1984 .
A sofisticação de softwares como o Beware está chegando ao ponto em que provavelmente pode tirar conclusões com base nas coisas que você não diz, mas apenas implica. O Intrado e outros fabricantes não querem que seu software seja vinculado a romances de ficção científica distópicos, mas a conexão é óbvia.
Lições aprendidas
Se você está preocupado com as possíveis violações de privacidade causadas pelo software de monitoramento de mídia social nas mãos da aplicação da lei ou não, isso deve servir como um lembrete de que o que você colocar no Facebook ou no Twitter não está disponível apenas para seus amigos. Está lá para sempre e provavelmente está nas mãos de uma grande variedade de pessoas e empresas.
A melhor coisa que você pode fazer é não postar coisas estúpidas nas mídias sociais. Não faça piadas sobre fazer algo ilegal. Não defenda a violência contra a polícia ou membros do exército. Não poste fotos de si mesmo que possam ser interpretadas como ameaçadoras (especialmente com armas - apenas não poste fotos de si mesmo com armas). Muito disso é senso comum, mas Fresno e seu uso do Beware devem enfatizar a importância desses tipos de medidas de proteção.
Esta é também uma questão importante para se ter em mente em face da eleição presidencial nos EUA 6 Recursos para ajudar você a acompanhar as eleições presidenciais dos EUA 2016 6 Recursos para ajudar você a acompanhar a eleição presidencial dos EUA 2016 O direito do povo de votar determina o resultado de uma eleição. Seja um eleitor informado e leve a sério essa importante tarefa com a ajuda dessas ferramentas. Leia mais (onde a mídia social também é uma ferramenta extremamente importante Campanhas políticas estão rastreando você no Facebook, veja as campanhas políticas acompanhando você no Facebook, veja por que você já sabe que as empresas e o governo usam as mídias sociais para rastrear você. grupo que está assistindo, analisando e capitalizando cada movimento que você faz no Facebook: ativistas políticos. Leia Mais, curiosamente). Essa questão pode muito bem chegar logo depois que um novo presidente for empossado, e como isso acontece a partir daí pode depender de quem está sentado no Salão Oval. Pode parecer uma questão menor agora, mas isso pode ser um grande negócio no futuro próximo. Vale a pena ficar de olho.
O que você acha dos departamentos de polícia monitorando as mídias sociais? Você acha que eles estão justificados em usar uma abordagem algorítmica? Ou você acha que é provável que leve a um perfil racial e a julgamentos imprecisos? Deveríamos estar preocupados com a progressão deste tipo de software?
Esta é uma questão complicada, e eu nem tenho certeza de como me sinto sobre isso. Deixa muito nas mãos de um algoritmo que vigia as pessoas sem o seu conhecimento. Mas também pode ajudar a salvar a vida de policiais em situações perigosas. Ajude-me a divulgar nos comentários abaixo.
Créditos da Imagem: Scott Cornell via Shutterstock.com, Ivelin Radkov via Shutterstock.com.