Porquê o Facebook excluiu anúncios de roupas para pessoas com deficiência – Link

No início deste ano, uma empresa de roupas inclusivas chamada Mighty Well, que fabrica acessórios da tendência para pessoas com deficiência, fez um pouco que muitas marcas novas fazem corriqueiramente: tentou publicar um pregão de um de seus produtos mais populares no Facebook. Porém, a rede social — ou melhor, o meio de publicidade automatizado da plataforma — não gostou muito do pregão.

O resultado em questão era um moletom cinza com zíper, no valor de US$ 40, com a mensagem “Eu sou imunocomprometido — por obséquio, dê-me espaço”. O “imunocomprometido” estava escrito em um retângulo branco. A peça tem ótimas avaliações de clientes no site da empresa.

O pregão foi rejeitado por violar a política da plataforma — especificamente, a promoção de “produtos e serviços médicos e de saúde, incluindo dispositivos médicos”, embora não incluísse esses itens. A Mighty Well recorreu e, em seguida qualquer tardada, a decisão mudou.

Isso pode não parecer grande coisa. Enfim, a história terminou muito. Mas a experiência da Mighty Well é somente um exemplo de um padrão que vem acontecendo há pelo menos dois anos: os algoritmos que decidem o que pode ou não ser anunciado na secção mercantil do Facebook (assim porquê no Instagram, que pertence ao Facebook) rotineiramente identificam de modo falso a tendência inclusiva e seus produtos, bloqueando-os de suas plataformas.

Pelo menos seis outras pequenas empresas de roupas inclusivas enfrentaram os mesmos problemas que a Mighty Well — algumas em intensidade ainda maior. Uma marca tem lidado com o problema semanalmente; outra teve centenas de produtos rejeitados. Em cada caso, a empresa teve de recorrer item por item.

Numa estação em que a influência da representatividade está no meio da conversa, quando empresas em todos os lugares estão proclamando publicamente seu compromisso com a “inconstância, paridade e inclusão” e a mudança sistêmica, a luta da tendência inclusiva reflete um problema maior: os preconceitos implícitos embutidos no aprendizagem de máquina e a forma porquê eles impactam as comunidades marginalizadas. Soma-se a isso o indumentária de o Facebook estar sob escrutínio, sendo cobrado pela forma porquê suas políticas podem moldar a sociedade em universal.

“É a história não contada das consequências da classificação no aprendizagem de máquina”, disse Kate Crawford, autora do livro a ser lançado “Atlas of AI” (Atlas de IA, em tradução livre). “Todo sistema de classificação em estágio de máquina contém uma visão de mundo. Todos.”

E esse do Facebook, ela disse, sugere que “o humano padrão” — aquele que pode estar interessado em usar a tendência e o estilo porquê uma forma de se expressar — não é involuntariamente reconhecido porquê possivelmente uma pessoa com deficiência.

“Queremos ajudar as marcas de tendência inclusiva a encontrar e se conectar com os clientes no Facebook”, disse um porta-voz da empresa de Mark Zuckerberg quando contatado por e-mail a reverência do objecto. “Vários dos anúncios que chegaram até nós não deveriam ter sido sinalizados por nossos sistemas e agora foram restaurados. Pedimos desculpas por esse erro e estamos trabalhando para melhorar nossos sistemas para que as marcas não tenham esses problemas no horizonte.”

O Facebook não é o único a erguer barreiras de lucidez sintético para a participação de empresas de tendência inclusiva. TikTok e Amazon estão entre as empresas que têm tido questões semelhantes. Mas por desculpa de seus 2,8 bilhões de usuários e sua posição porquê a plataforma que representa as comunidades, o Facebook — que recentemente publicou anúncios em jornais porquê The New York Times, The Washington Post e The Wall Street Journal dizendo que estava “defendendo” os pequenos negócios — é particularmente importante para grupos de pessoas com deficiência e as empresas que as atendem. E o Instagram é a plataforma de escolha do mundo da tendência.

Tendência inclusiva

Roupas inclusivas são um nicho relativamente novo no mundo da tendência, embora esteja crescendo rapidamente. De convenção com o Meio de Controle e Prevenção de Doenças, 1 em cada 4 adultos nos Estados Unidos vive com uma deficiência, e a Coherent Market Insights projetou que o mercado global de roupas inclusivas valerá mais de US$ 392 bilhões até 2026.

Existem agora marcas que criam produtos porquê capas para fios de cateteres que parecem braçadeiras esportivas, capas para bolsas de colostomia e ostomia em cores e padrões alegres, roupa íntima que se fixa por meio de fechos laterais em vez de ter de ser puxada sobre as pernas, jeans chiques e calças sob medida para acomodar o corpo sentado com costuras que não causam irritações e camisas de botões que utilizam fechos magnéticos em vez de botões comuns. Esses e muitos outros designs foram criados para focar no quidam, não no diagnóstico.

Existem algumas grandes empresas e varejistas trabalhando no setor, incluindo Tommy Hilfiger, Nike e Aerie, mas muitas das marcas que atendem à comunidade são pequenas empresas independentes, na maioria das vezes iniciadas por quem convive com pessoas com deficiência. Frequentemente, elas incluem designers e modelos com deficiência, que também aparecem em seus anúncios e vitrines.

Maura Horton é uma das pioneiras em roupas inclusivas. Em 2014, ela criou a marca MagnaReady, que usa um sistema de botões magnéticos, depois do marido ser diagnosticado com Parkinson. Em 2019, ela vendeu sua empresa para o Global Brands Group (CBG), o gigante da tendência cujos proprietários são Sean John e Frye. No ano pretérito, Maura e o GBG criaram a JUNIPERunltd, um hub de teor, plataforma de e-commerce e comunidade voltada para o setor de pessoas com deficiência, assim porquê a Yarrow, sua própria marca de tendência inclusiva. Maura planejava publicar anúncios no Facebook e no Instagram.

Entre novembro e janeiro, ela apresentou quatro séries de anúncios que incluíam um par de calças Yarrow: um desenhado com um “ajuste de pé”, apresentando uma mulher … muito, em pé; e um projetado para uma pessoa sentada, apresentando uma jovem cadeirante (o galanteio muda dependendo do posicionamento do corpo). Todas as vezes, o pregão com a pessoa em pé era legalizado e o pregão para pessoas cadeirantes era rejeitado por não obedecer às políticas da plataforma que afirmavam: “Os anúncios não podem promover produtos e serviços médicos e de saúde, incluindo dispositivos médicos ou produtos para parar de fumar que contenham nicotina”.

No pregão do resultado para “ajuste sentado”, o sistema aparentemente se concentrou na cadeira de rodas, não no resultado usado pela pessoa na cadeira de rodas. Mas mesmo depois que Maura apelou com sucesso na primeira repudiação, o problema voltou a sobrevir. E depois de novo. Cada vez, demorava muro de 10 dias para o sistema reconhecer que havia cometido um erro.

Nenhuma das empresas de tendência inclusiva mencionadas nesta reportagem acredita que a plataforma discrimina propositalmente pessoas com deficiência. O Facebook tem sido fundamental na geração de texto mútuo para que usuários com deficiência visual possam acessar as imagens da plataforma. A empresa classificou a inclusão de pessoas com deficiência porquê “uma de nossas principais prioridades”. E, no entanto, essa forma pessoal de discriminação por negligência, sinalizada publicamente pela primeira vez em 2018, aparentemente ainda não atingiu o nível do reconhecimento de um humano.

Em vez disso, o estágio de máquina está desempenhando um papel cada vez maior na perpetuação do problema. De combinação com o porta-voz do Facebook, a lucidez automatizada do site não controla somente a porta de ingressão para o pregão e os produtos da loja, mas também controla amplamente o processo de recurso.

Histórico de mal-entendidos

Quando uma empresa faz um pregão ou cria uma loja, ela envia uma solicitação para o Facebook para aprovação – um processo automatizado. Se for uma vitrine, os produtos também podem chegar por meio de um feed e cada um deve executar as regras do Facebook. Caso o sistema sinalize uma potencial violação, o pregão ou resultado será enviado logo de volta para a empresa. Mas a termo em específico ou secção da imagem que criou o problema não é identificada, o que significa que cabe à empresa pressupor efetivamente onde está o problema.

A empresa pode negar o pregão no estado em que se encontra ou fazer uma diferença na imagem ou no texto que espera que passe nas regras do Facebook. De qualquer forma, a informação é enviada de volta pelo sistema automatizado, onde pode ser revisada por outro sistema automatizado ou por uma pessoa.

O Facebook afirma que adicionou milhares de revisores humanos nos últimos anos, mas 3 milhões de empresas anunciam no Facebook, a maioria das quais são pequenas empresas. O porta-voz do Facebook não identificou o que levaria um apelo ser revisado por um humano ou se havia um processo codificado pelo qual isso aconteceria. Frequentemente, os proprietários de pequenas empresas se sentem presos em um ciclo interminável controlado por máquinas.

“O problema que continuamos enfrentando são os canais de informação”, disse Sinead Burke, uma ativista da inclusão que presta consultoria para várias marcas e plataformas, incluindo a Juniper. “O aproximação deve valer mais do que somente aproximação do dedo. E temos de entender o que está em jogo quando esses sistemas são criados.”

O porta-voz do Facebook disse que havia funcionários com deficiência em toda a empresa, inclusive no nível executivo, e que havia uma equipe de acessibilidade que trabalhou por todo o Facebook para incorporar a acessibilidade ao processo de desenvolvimento de resultado. Mas embora não haja incerteza de que as regras que regem a política de anúncios e lojas criadas pelo Facebook foram projetadas em secção para proteger suas comunidades de falsas alegações médicas e produtos falsos, essas regras também estão, se inadvertidamente, bloqueando o aproximação de algumas dessas mesmas comunidades aos produtos criado para elas.

Faça estrondo ou desista

Foi em 3 de dezembro de 2018 que Helya Mohammadian, fundadora da Slick Chicks, uma empresa que cria roupas íntimas inclusivas vendidas por empresas porquê Nordstrom e Zappos, percebeu o problema pela primeira vez. Links para seu site postados no Facebook e Instagram direcionavam os usuários a uma página de erro e a esta enunciação: “O link que você tentou visitar vai contra os padrões da comunidade do Facebook”.

As imagens no site apresentavam embaixadores da marca e clientes modelando o resultado, embora não de forma provocativa. Ainda assim, o algoritmo parecia ter entendido o padrão com o qual se deparou porquê teor adulto.

Helya começou a recorrer da decisão por meio do serviço de suporte ao cliente, enviando aproximadamente um e-mail por dia durante três semanas. “Provavelmente enviamos muro de 30”, disse ela. Finalmente, em meados de dezembro, ela se cansou e começou uma petição no site change.org intitulada “Make Social Media More Inclusive” (Torne as redes sociais mais inclusivas, em tradução livre do inglês). Ela rapidamente recebeu murado de 800 assinaturas e as proibições foram suspensas.

Pode ter sido uma coincidência. O Facebook nunca reconheceu explicitamente a petição. Mas seus produtos não foram sinalizados novamente até março de 2020, quando uma foto de uma mulher em uma cadeira de rodas demonstrando porquê um sutiã funcionava foi rejeitada por violar a política de “teor adulto”.

A empresa de roupas inclusivas Care + Wear, que cria, entre outros produtos, camisas com lisura para pessoas que têm acessos no peito e faixas para tapar fios nos braços, passou anos sendo frustrada pela natureza irracional do processo de julgamento automatizado. Um tamanho de camisa era rejeitado pelo Facebook, enquanto a mesma camisa em outro tamanho era aceita porquê secção do feed da loja. Finalmente, em março do ano pretérito, a empresa recorreu à contratação de uma filial de publicidade externa em secção porque ela poderia realmente conseguir falar com uma pessoa do Facebook ao telefone. “Mas se você é uma pequena empresa e não pode remunerar por isso, é impossível”, disse Jim Lahren, diretor de marketing.

Alexandra Herold, a fundadora e única funcionária em tempo integral da Patti + Ricky, uma loja colaborativa online, disse que de aproximadamente 1000 produtos de tendência inclusiva dos 100 estilistas que hospeda (e queria oferecer em sua loja no Facebook), pelo menos 200 têm sido confundidos com equipamento médico, sinalizados porquê “violações de política” e envolvidos no processo de recurso. Ela está exausta com as constantes tentativas de discutir com o vazio de um algoritmo.

“Porquê podemos ensinar o mundo que roupas inclusivas” — sem falar nas pessoas que as usam – “são uma secção fundamental da tendência quando estou incessantemente tendo que fazer petições para que sejam vistas?”, questiona Alexandra. / TRADUÇÃO DE ROMINA CÁCIA