Em 2021, um utilizador do Facebook moveu um processo judicial alegando que não estava a ter uma oportunidade justa de visualizar anúncios. Embora possa parecer estranho desejar ver anúncios, para um indivíduo de 55 anos em Washington, D.C., isso teve impactos significativos na sua vida. A pessoa queixosa argumentou que as consequências eram sérias e reais.
Então, Neuhtah Opiotennione entrou com um processo de ação coletiva contra nove empresas que administram vários edifícios de apartamentos na região de D.C., acusando-as de praticar “discriminação habitacional digital” ao excluir pessoas mais velhas – como ela – de visualizar anúncios no Facebook. Ela argumenta que, ao deliberadamente impedirem pessoas com mais de 50 anos de verem seus anúncios no Facebook, os réus a privaram da oportunidade de acessar determinados anúncios habitacionais direcionados a potenciais inquilinos mais jovens.
No desenvolvimento de um anúncio personalizado no Facebook, os anunciantes têm a capacidade de escolher a audiência com base em fatores como idade, sexo, localização e interesses. A reclamante afirmou que as empresas de aluguel utilizaram a opção de segmentação do Facebook para não incluir pessoas de determinada faixa etária, em vez de direcionar os anúncios para potenciais inquilinos mais jovens.
David Brody, conselheiro e sócio sênior para privacidade e tecnologia no Comitê de Direitos Civis dos Advogados Sob Lei, que defendeu o autor do processo, afirmou em um comunicado à imprensa que o Facebook não está atendendo às necessidades dos usuários, mas sim fornecendo o que acredita ser do interesse de um determinado grupo demográfico. Ele ressaltou que a prática de Redlining, seja online ou offline, é discriminatória e injusta, e que não devemos permitir que as empresas usem a tecnologia como desculpa para decisões prejudiciais tomadas por seus CEOs.
O juiz decidiu rejeitar o caso, pois considerou que a segmentação de anúncios on-line não prejudica os consumidores. No entanto, a firma de advocacia Ballard Spahr LLP alertou que essa decisão poderia afetar a forma como percebemos a discriminação na internet.
A empresa sugeriu que pode ser desafiador para entidades privadas iniciar processos legais sobre a segmentação de anúncios on-line em plataformas de mídia social ou por meio de estratégias como a pesquisa paga. Além disso, levantou a questão se isso também poderá dificultar a implementação de medidas regulatórias.
O processo legal Opiotennione v. Bozzuto Mgmt. é apenas um dos vários casos contra o Facebook que alegam discriminação. Já sabemos sobre os riscos dos anúncios online, que vão desde a espionagem para coleta de dados até a criação de divisões partidárias prejudiciais. No entanto, algo ainda mais prejudicial está ocorrendo com os anúncios online, especialmente na plataforma de anúncios mais ampla de todos os tempos, o Facebook. Segundo a empresa-mãe do Facebook, Meta, a plataforma tem um público total de publicidade de mais de dois bilhões de pessoas. Muitos desses indivíduos podem estar sendo excluídos de anúncios relacionados a moradia, oportunidades de crédito e outras questões cruciais que afetam a desigualdade de riqueza devido à discriminação digital. É por isso que essa questão é tão significativa.
Pode me explicar o que significa a redução digital?
Redlining convencional refere-se à prática intencional de negar empréstimos e recursos financeiros a indivíduos que residem em determinadas áreas específicas, o que geralmente acontece ao longo de linhas raciais e econômicas, contribuindo para acentuar tais disparidades. Essa prática também pode ocorrer no ambiente virtual.
Redlining digital é quando a tecnologia é utilizada para manter a discriminação, como quando empresas de internet optam por não oferecer infraestrutura de serviços, como internet de banda larga, em áreas de baixa renda por ser menos lucrativo. Isso é descrito pelo The Greenlining Institute, uma organização da Califórnia dedicada a combater o redlining digital.
Esse tipo de discriminação digital resulta em indivíduos de baixa renda precisando adotar planos pré-pagos e outras alternativas mais caras para acessar a internet, além de lidar com velocidades mais lentas comparadas àqueles em comunidades mais ricas – frequentemente de maioria branca – que possuem uma infraestrutura digital mais desenvolvida. O Greenlining Institute não é a única entidade trabalhando para corrigir essa forma de discriminação digital. A Comissão Federal de Comunicações (FCC) também está estabelecendo uma força-tarefa focada em combater a discriminação digital e promover o acesso à banda larga em todo o país.
Por outro lado, a discriminação digital também está relacionada a práticas injustas de direcionamento de anúncios. Segundo a ACLU, o direcionamento de anúncios online pode perpetuar as desigualdades presentes na sociedade, resultando na exclusão de indivíduos pertencentes a grupos historicamente marginalizados de oportunidades relacionadas a moradia, emprego e crédito.
No cenário digital atual, a discriminação digital, conhecida como redlining digital, está se tornando uma forma de discriminação cada vez mais prevalente. Plataformas de mídia social como o Facebook e anunciantes online têm utilizado dados pessoais para direcionar anúncios com base em características como raça e gênero, o que tem impactos desproporcionais em grupos marginalizados. Apesar dos esforços para implementar mudanças, a prática de redlining digital ainda persiste no Facebook.
A redlining digital não é mais prejudicial no Facebook do que em outras plataformas on-line, mas é mais comum devido ao fato de que o Facebook é um líder de mercado com uma grande fatia de mercado. O Facebook afirma que seu algoritmo trata todos de forma igual e responsabiliza seus anunciantes, que são os principais geradores de receita para a plataforma.
“Segundo Sherwin, o Facebook disponibilizar ferramentas que incentivam os anunciantes a excluir usuários com base em características específicas, como associação e classes protegidas, é extremamente prejudicial. Apesar de terem sido tomadas medidas para atenuar esses problemas e eliminar as práticas mais graves da plataforma em relação a habitação, emprego e crédito, ainda há muito a ser feito para eliminar completamente essa prática do espaço virtual.”
Muitos defensores estão de acordo que, apesar de o Facebook ter tomado medidas para lidar com suas questões de discriminação em anúncios desde o relatório da ProPublica de 2016, não foi feito o bastante.
Qual é a operação do redlining digital?
Um grupo de corretores deseja compartilhar anúncios de suas propriedades com pessoas de alta renda que residem em bairros de classe alta e pertencem a comunidades de prestígio. Da mesma forma, um restaurante pode querer divulgar uma vaga de emprego específica para candidatos determinados. Ao escolher plataformas como Google ou Facebook para veicular esses anúncios, as empresas procuram formas de direcionar sua exposição para esses grupos específicos. As ferramentas de direcionamento disponíveis nessas plataformas permitem que as empresas escolham quem terá acesso aos seus anúncios, podendo segmentar de forma precisa ou ampla. Por exemplo, no Facebook, os usuários podem optar por direcionar anúncios para um público específico, como pais em Tucson, Arizona, ou para uma audiência mais ampla com base em critérios como gênero e idade.
Após enfrentar diversas batalhas judiciais (abordaremos esse assunto em breve), habitação, emprego e crédito foram designados como categorias de anúncios especiais. Isso implica que possuem opções de segmentação limitadas no gerenciador de anúncios. Uma empresa que deseja veicular anúncios relacionados a habitação, emprego ou crédito ainda tem a possibilidade de direcioná-los a um público específico, em vez de apenas distribuí-los amplamente. No entanto, não podem fazê-lo com base em características protegidas, como idade, gênero e localização dos potenciais consumidores. Pelo menos, essa é a intenção.
O Facebook declarou em 2019 que os anúncios não serão direcionados com base em características protegidas, como raça, sexo, religião, origem nacional, deficiência física, orientação sexual e identidade de gênero. Além disso, os anunciantes não podem usar públicos semelhantes para alcançar novos potenciais clientes nessas categorias protegidas.
Será que já é o bastante?
Morgan Williams, o conselheiro jurídico da Aliança Nacional de Habitação da Feira, relatou ao Mashable que, embora o Facebook tenha feito esforços, ainda existem preocupações em relação a certos aspectos de sua plataforma. Estudos realizados em outubro de 2021, com base em registros de votação pública na Carolina do Norte, examinaram os efeitos dos anúncios do Facebook e constataram que geram discriminação.
De acordo com o relatório, isso se aplicou tanto à ferramenta Lookalike Audience quanto à ferramenta Special Ad Audience do Facebook, as quais foram desenvolvidas para não fazer uso direto de características demográficas sensíveis ao identificar usuários parecidos.
“Se você fornecer ao Facebook uma lista de contatos, como a sua lista de clientes, a plataforma direcionará anúncios para usuários com um perfil semelhante ao dos seus clientes. Ao realizar essa segmentação, havia métricas específicas de interesse relacionadas a isso, que teriam a segmentação segregada dos anúncios”, explicou Williams. “No nosso acordo, concordamos em remover alguns desses fatores de interesse e permitir que o Facebook continue a segmentação com base no uso da internet, embora ainda tenhamos preocupações a respeito disso.”
Os anunciantes no Facebook que buscam atingir audiências nos Estados Unidos com anúncios relacionados a habitação, emprego ou crédito não podem utilizar a ferramenta de segmentação semelhante, mas têm a possibilidade de criar um público de anúncios personalizado. Este público é formado com base em comportamentos online semelhantes, sem levar em conta fatores como idade, gênero ou código postal. No entanto, críticos argumentam que existem potenciais maneiras obscuras de usuários não confiáveis poderem direcionar características protegidas dentro desse tipo de público de anúncios personalizado. Por exemplo, é possível criar um público-alvo personalizado utilizando informações como listas de clientes, tráfego de sites ou aplicativos, ou engajamento no Facebook.
Os públicos de anúncios especiais permitem que os anunciantes forneçam ao Facebook um grupo inicial de usuários, e então o Facebook identifica outros usuários semelhantes a esse grupo. Dessa forma, os anunciantes não especificam diretamente as características demográficas do público-alvo, mas sim indicam que desejam alcançar pessoas semelhantes a um perfil específico, como no caso de Christianna Silva, uma pessoa de 27 anos que vive em Brooklyn.
“Claramente, se as características do seu público-alvo forem representativas de um determinado grupo demográfico, o público correspondente também será desse grupo”, explicou Sherwin. “Embora o Facebook tenha feito algumas alterações nessa ferramenta, não foram alterações substanciais o bastante. Estudos posteriores demonstraram que, em essência, os padrões discriminatórios de segmentação não mudaram.”
O algoritmo de entrega de anúncios do Facebook seleciona os usuários que correspondem a determinados critérios para ver os anúncios, com base em previsões feitas a partir de uma grande quantidade de dados do usuário, como informações sobre sua identidade, localização, interesses, atividades online e afiliações a grupos. Embora isso possa parecer inofensivo, pode resultar em discriminação, uma vez que esses dados revelam aspectos de nossa identidade que são protegidos por lei.
Isso é permitido?
Resumindo, embora seja ilegal segmentar anúncios com base em características protegidas, um estudo de 2021 descobriu que o sistema de entrega de anúncios do Facebook mostrou anúncios de emprego diferentes para mulheres e homens, mesmo quando os trabalhos requeriam as mesmas qualificações. Existe confusão sobre como as leis se aplicam ao direcionamento de anúncios on-line.
Sherwin, um advogado sênior do ACLU Women’s Rights Project, afirmou à Mashable que o Facebook tem invocado a Seção 230 em sua defesa legal. Apesar de o ACLU geralmente apoiar a Seção 230 e as salvaguardas que oferece às plataformas, sua posição é que, neste caso, “a Seção 230 não isenta o Facebook de responsabilidade, já que foi o próprio Facebook quem criou as ferramentas de segmentação”.
Houve modificações realizadas.
Para dar-lhes mérito, o Facebook implementou alterações na forma como entrega seus anúncios.
Um representante da Meta informou à Mashable que o Facebook realizou “investimentos substanciais” para prevenir a discriminação em suas plataformas de publicidade. O porta-voz destacou que os termos e políticas de publicidade da empresa sempre enfatizaram a proibição do uso da plataforma para práticas discriminatórias. No entanto, há preocupações sobre a eficácia dessas medidas, já que muitos usuários podem não ler os termos e condições. Além disso, a questão não é tanto se os usuários leem os termos, mas se o Facebook está realmente aplicando suas próprias regras. Embora a empresa afirme que sim, a plataforma tem sido criticada por não fiscalizar adequadamente suas políticas, como evidenciado pela disseminação de desinformação em sua rede.
Os publicitários não podem utilizar interesses, dados demográficos ou comportamentos para segmentar anúncios de forma discriminatória. Além disso, o Facebook emprega revisores humanos e algoritmos de aprendizado de máquina para identificar possíveis erros na classificação de anúncios relacionados a empregos, habitação e temas semelhantes, embora a eficácia desse processo não tenha sido divulgada pela Meta.
Nos Estados Unidos, Canadá e União Europeia, as pessoas responsáveis por publicar anúncios de habitação, emprego ou crédito devem utilizar categorias especiais de anúncios que possuem opções de segmentação limitadas. Isso inclui a proibição de segmentar o público-alvo por gênero, idade ou código postal. Em vez disso, devem segmentar um raio mínimo de 15 milhas de um local específico, de acordo com um representante da empresa Meta. No entanto, o Facebook ainda permite que os provedores de habitação segmentem potenciais locatários ou proprietários com base na proximidade de um local específico, o que, segundo a ACLU, pode ser considerado uma forma de discriminação racial.
As alterações realizadas são satisfatórias?
Os tribunais ordenaram que o Facebook implementasse várias alterações, porém diversos ativistas consideram que as medidas adotadas até o momento foram muito pequenas.
Em março de 2019, o Facebook desativou uma funcionalidade para anúncios relacionados à habitação, crédito e emprego devido a processos judiciais, no entanto, os algoritmos continuaram exibindo anúncios para diferentes grupos demográficos. Um estudo de 2021 revelou que anúncios de pizza da Domino eram direcionados em maior parte para homens, enquanto anúncios de entrega de supermercado do Instacart eram direcionados principalmente para mulheres. Além disso, a mesma pesquisa mostrou que anúncios de emprego para associados de vendas de carros no Facebook eram direcionados mais para homens, enquanto os anúncios para associados de vendas de joias eram direcionados mais para mulheres.
Durante um procedimento que foi rejeitado, possíveis locatários afirmaram que a ferramenta de propaganda do Facebook os impediu de receber anúncios de imóveis por conta de suas características protegidas.
“Segundo o representante da Meta, embora a classificação de anúncios nunca alcance a perfeição, continuamos a aprimorar nossos sistemas para aprimorar cada vez mais nossa capacidade de detecção e implementação com o passar do tempo.”
Em janeiro de 2022, o Facebook iniciou a remoção de opções de segmentação relacionadas a temas sensíveis, como saúde, raça, afiliação política, religião e orientação sexual, visando evitar pressuposições prejudiciais sobre grupos específicos. Essa medida abrange todos os tipos de anúncios e faz parte dos esforços do Facebook para promover a transparência, incluindo a criação de uma seção na Biblioteca de Anúncios que permite aos usuários dos EUA e do Canadá visualizarem anúncios ativos de alojamento, emprego e crédito, independentemente do público-alvo original.
Sherwin expressou que a possibilidade de buscar moradia e emprego no mercado é um avanço, pois permite aos usuários procurar ativamente oportunidades em vez de depender passivamente do que aparece no feed do Facebook.
Sherwin afirmou que é um marco significativo, porém admitiu que o Facebook não demonstrou interesse em mudar substancialmente o algoritmo de distribuição de anúncios. Isso se deve ao fato de que a maior parte da receita do Facebook vem da publicidade. No último trimestre de junho de 2021, a empresa gerou $29 bilhões em receita com a venda de anúncios.
Enquanto o interesse do Facebook permanecer o mesmo, a responsabilidade recai em ativistas e legisladores. No entanto, temos a opção de excluir nossos perfis a qualquer momento.
Anúncios
