Facebook, Twitter, Microsoft e YouTube anunciaram que estariam trabalhando juntos para construir um banco de dados massivo. Este banco de dados conterá imagens e vídeos usados por redes terroristas. Crime, terrorismo e segurança: O lado negro das mídias sociais Crime, terrorismo e segurança: o lado negro das mídias sociais As mídias sociais não são apenas memes de gatos e vídeos de brincadeiras. Usuários do Facebook, Twitter e Tumblr podem facilmente encontrar material mais obscuro distribuído por grupos terroristas tecnologicamente qualificados. O que você deve fazer sobre isso? Leia mais para espalhar propaganda e alcançar potenciais recrutas. O banco de dados alertará essas empresas quando algo em seu site violar seus termos de uso.
Parece uma boa ideia, certo?
Os detalhes
A partir de agora, os detalhes são um pouco incertos. Cada imagem e vídeo no banco de dados terão uma “impressão digital única” e as empresas serão alertadas quando o conteúdo aparecer em seu site. No início do programa, as empresas adicionarão apenas “as imagens e vídeos terroristas mais extremos e notórios” ao banco de dados.
A idéia é que essas imagens e vídeos serão os mais prováveis para violar os termos de uso Por que você deve ler os termos de serviço, fazer Pokemon GO ir embora ... [Tech News Digest] Por que você deve ler os termos de serviço, fazer Pokemon Vá embora ... [Tech News Digest] Todo mundo pula os Termos de Serviço, PokeGone transforma Pokemon GO em Pokémon NO, Facebook mantém suas conversas em segredo, Blizzard silencia douchebag World of Warcraft e Samuel L. Jackson explica Game of Thrones. Leia mais de todas as plataformas. Isso torna fácil a decisão de remover esse conteúdo se ele aparecer em outro lugar. Cada empresa decide quais imagens e vídeos devem estar no banco de dados. Eles também terão o poder de decidir se removerão o conteúdo se ele aparecer em seu site.
Isso é praticamente tudo que sabemos até agora. O Twitter espera que “essa colaboração leve a uma maior eficiência à medida que continuamos a aplicar nossas políticas para ajudar a conter a questão global urgente do conteúdo terrorista on-line”. Mas, na verdade, não sabemos muito até agora. Quem decidirá em qual conteúdo contribuir? As empresas criarão comitês de revisão independentes para esse tipo de coisa? Ou eles apenas adicionarão algumas coisas agora e quando sentirem isso?
Um registro ruim
É muito difícil policiar o conteúdo online. Quer se trate de desinformação, abuso, vídeos de recrutamento de terroristas Como as plataformas de mídia social batalham extremistas Como as plataformas de mídia social batalham extremistas As redes de mídia social apresentam uma ferramenta poderosa para grupos terroristas, principalmente para propaganda e recrutamento. Então, o que o Facebook e o Twitter estão fazendo sobre isso? Como as redes sociais podem combater o terrorismo? Leia mais, ou um dos muitos outros tipos de conteúdo ruim on-line, há um campo minado de questões inerentes ao processo. Quem decide quais grupos se qualificam como terroristas? Como é tomada a decisão de remover o conteúdo? As empresas sairão em busca disso ou dependerão dos usuários para denunciá-lo?
A Microsoft, em sua declaração sobre o conteúdo terrorista online, disse o seguinte:
Quando o conteúdo terrorista em nossos serviços ao consumidor hospedado é trazido à nossa atenção por meio de nossa ferramenta de relatórios on-line, nós o removeremos.
E eles fornecem um link para um formulário usado especificamente para denunciar conteúdo terrorista. Mas qual a probabilidade de alguém realmente procurar e usar essa forma? Eles também dizem que "removerão links para conteúdo relacionado a terroristas do Bing apenas quando essa remoção for exigida dos provedores de pesquisa de acordo com a lei local".
Isso ainda coloca a responsabilidade em outro lugar.
Questões de Responsabilidade
A Electronic Frontier Foundation escreveu extensivamente sobre as dificuldades de policiar esse tipo de conteúdo online. Em um post de 2014, eles criticaram o plano do Reino Unido de obrigar os ISPs a bloquear “conteúdo extremista” sem transparência e procedimentos de responsabilização. Grupos de direitos humanos também criticaram a França por ter definições muito amplas de atividade terrorista.
Twitter e Facebook têm registros ruins com conteúdo de policiamento em seus sites. Como as plataformas de mídia social batalham extremistas Como as plataformas de mídia social batalham extremistas As redes de mídia social apresentam uma ferramenta poderosa para grupos terroristas, principalmente para propaganda e recrutamento. Então, o que o Facebook e o Twitter estão fazendo sobre isso? Como as redes sociais podem combater o terrorismo? Consulte Mais informação . Embora o Twitter tenha excluído mais de 100.000 contas relacionadas ao ISIS e tenha começado a policiar grupos de discursos de ódio com mais força, eles têm uma má reputação por deixar o extremismo e o abuso correrem soltos em sua plataforma. O Facebook também parece contente em continuar usando uma abordagem sem intervenção sob a bandeira da liberdade de expressão.
Claro, é muito difícil administrar esse tipo de responsabilidade. Eu não estou dizendo que é fácil. Mas as empresas de tecnologia são adeptas de se distanciar do que sua tecnologia é usada. Isso inclui a propagação de imagens terroristas, vídeos, campanhas de recrutamento e outros conteúdos. Em agosto de 2016, um relatório britânico afirmou que o Facebook, o Twitter e o YouTube estavam “conscientemente não combatendo o uso de seus sites para promover o terrorismo e o assassinato”.
O estabelecimento de um banco de dados de imagens e vídeos não parece propenso a mudar isso. É encorajador que eles estejam agindo, mas é difícil imaginar que seja mais do que indiferente.
Isso poderia ser um problema de privacidade?
Como as empresas adicionam itens manualmente ao banco de dados depois que os usuários os relatam, não parece que haja a chance de que suas imagens ou vídeos possam entrar acidentalmente no banco de dados. O que é encorajador. No entanto, a criação de um enorme banco de dados central, repleto de conteúdo “ruim” identificado de forma única, é preocupante.
Isso ocorre principalmente porque as pessoas responsáveis no momento decidem o que conta como “ruim”. Isto é especialmente verdadeiro se houver envolvimento governamental. Você pode fazer parte da maioria um dia e, em uma minoria perseguida, no dia seguinte. A implantação desse tipo de tecnologia torna esse tipo de mudança ainda mais assustador.
É claro que não há indicação de que essas empresas usem esse banco de dados para nada além da aplicação frouxa de seus próprios termos de uso. Mas o fato de organizações privadas terem desenvolvido e implementado essa tecnologia pode ter algumas pessoas preocupadas. Os governos certamente têm tecnologia de vigilância que já é poderosa, mas a proliferação pode ser um sinal de que as corporações terão as ferramentas para coletar mais informações em um futuro próximo.
A partir de agora, não há razão para se preocupar que sua privacidade seja ameaçada pelo banco de dados de conteúdo terrorista. Mas privacidade e organizações de advocacia Quem está lutando em seu nome contra a NSA e pela privacidade? Quem está lutando em seu nome contra a NSA e pela privacidade? Existem vários grupos de ativismo na Internet que estão lutando em seu nome pela privacidade. Eles estão fazendo o melhor para educar os internautas também. Aqui estão apenas alguns deles que são incrivelmente ativos. Leia mais faria bem em manter um olho na implantação deste tipo de tecnologia em outro lugar.
Um passo a frente?
É bom ver que as empresas de tecnologia estão se intensificando e sendo proativas em relação ao conteúdo terrorista em suas plataformas. Mas seu registro é cheio de negligência e negligência intencional. Esta ferramenta ajudará a mudar isso? Parece improvável. (A menos que eles o automatizem, o que vem com uma série de outras questões.) Na minha opinião, esse banco de dados não mudará muito, e Twitter, Facebook, Microsoft e YouTube o conceberam como uma medida de relações públicas em vez de um realmente significava fazer o bem.
O que você acha? Este banco de dados ajudará a combater a disseminação de conteúdo terrorista on-line? Ou é um gesto vazio em um esforço para obter alguma admiração pública? Compartilhe seus pensamentos nos comentários abaixo!
Créditos da Imagem: Yunava1 / Shutterstock