Foi assim que nasceu seu algoritmo de nudez. Quanto ao site? Pense nisso menos como um truque de salão e mais como uma ferramenta de marketing. Se o sexo vende, talvez filtrá-lo também.
“Pensamos que haveria uma aplicabilidade potencialmente muito mais ampla”, diz Daniel. “Qualquer pessoa que tente administrar uma comunidade, mas queira filtrar conteúdo questionável ou mantê-lo adequado para crianças, pode se beneficiar desse mesmo algoritmo. » Dada a natureza do conteúdo, a Algorithmia não armazena nem visualiza suas imagens; o site simplesmente chama o algoritmo de detecção de nudez e retorna um resultado.
Ao fazer isso, as contribuições para isitnude.com ajudam a refinar sua capacidade de detecção. Contudo, este progresso será fragmentário; Os padrões de privacidade que impedem a Algorithmia de ver suas fotos também significam que resultados potencialmente úteis devem ser relatados por outros canais. “As pessoas nos enviaram e-mails, tweets, dizendo que uma foto realmente não funcionava”, explica Daniel. “Usamos isso para iterar. »
Também será necessário mais do que um simples ajuste para que o algoritmo se torne infalível, mesmo que ligeiramente bronzeado. Por exemplo, ele ainda não consegue reconhecer partes individuais do corpo, o que significa que a imagem de alguém totalmente vestido, exceto as partes que você deseja mais vestidas, provavelmente ainda passaria. E porque é baseado apenas na carne, caso contrário, fotos inocentes de praia podem acabar sendo sinalizadas. Um soluço ainda maior? Como o algoritmo depende do reconhecimento do tom de pele, ele é impotente contra imagens em preto e branco.
Há também a questão mais ampla do seu alcance limitado, mesmo quando funciona perfeitamente. Existe todo um universo de conteúdo potencialmente ofensivo baseado em imagens que não tem nada a ver com skin, diz Joshua Buxbaum, cofundador da Purificador da Web, um serviço de moderação de conteúdo. “A violência”, Buxbaum dá o exemplo, “é complicada. Até obtemos detalhes o mais detalhados possível. » violência em um esporte que não é um esporte violento é violência, mas se for boxe, quem é um esporte violento, nós permitimos. Isto é só o começo; De acordo com Buxbaum, um conjunto de moderação de imagem verdadeiramente abrangente deveria potencialmente corrigir tudo, desde crimes de ódio até apetrechos para uso de drogas e gestos grosseiros, dependendo das necessidades do cliente, e abordar as áreas cinzentas dentro de cada uma dessas categorias. A solução da Algorithmia procura apenas pessoas nuas e, mesmo assim, ainda tem a difícil tarefa de determinar se são obscenas ou não. Buxbaum propõe que o algoritmo mais simples poderia filtrar algo em busca de palavrões, mas teria dificuldade em identificar discurso de ódio ou bullying – o que significa que um algoritmo de detecção de nudez poderia encontrar carne, mas teria dificuldade em distinguir se se trata de pornografia de vingança ou obras de arte.
Isso, entretanto, não torna inútil seu algoritmo de detecção de nudez; é apenas um instrumento contundente, em vez de um pudico míssil guiado por laser. Daniel também espera que esses tipos de questões sejam resolvidas ao longo do tempo, especialmente se houver um claro interesse comercial. “Continuaremos a melhorá-lo”, diz ele, “ou se um usuário do nosso sistema quiser entrar e tentar criar um algoritmo de detecção de nudez mais sofisticado, ele também poderá fazer isso. » Se um dos parceiros da Algorithmia conseguisse decifrar um código melhor, seria pago de acordo com um modelo emprestado diretamente da Apple App Store; receba uma taxa em cada chamada de algoritmo, com a Algorithmia ficando com 30% do valor.
