Dette er hvordan nakenhetsalgoritmen ble født. Når det gjelder nettsiden? Tenk på det mindre som et salongtriks og mer som et markedsføringsverktøy. Hvis sex selger, vil kanskje filtrering det også.
"Vi trodde det ville være potensielt mye bredere anvendbarhet," sier Daniel. "Alle som prøver å drive et fellesskap, men ønsker å filtrere støtende innhold eller holde det barnevennlig, kan dra nytte av denne samme algoritmen. » Gitt innholdets natur, lagrer eller viser ikke Algorithmia bildene dine; nettstedet kaller bare nakenhetsdeteksjonsalgoritmen og returnerer et resultat.
Ved å gjøre det bidrar bidrag til isitnude.com til å forbedre dets deteksjonsevne. Denne fremgangen vil imidlertid være fragmentarisk; Personvernstandarder som forhindrer Algoritmi fra å se bildene dine, betyr også at potensielt nyttige resultater må rapporteres gjennom andre kanaler. "Folk sendte oss e-poster, tweets og fortalte oss at et bilde egentlig ikke fungerte," forklarer Daniel. "Vi brukte det til å iterere. »
Det vil også kreve mer enn en enkel justering for at algoritmen skal bli idiotsikker, selv litt solbrun. For eksempel kan den ennå ikke gjenkjenne individuelle kroppsdeler, noe som betyr at et bilde av noen som er fullt påkledd bortsett fra de delene du vil ha mest kledd opp, sannsynligvis fortsatt vil passere gjennom. Og fordi det kun er basert på kjøtt, ellers kan uskyldige strandbilder ende opp med å bli flagget. En enda større hikke? Fordi algoritmen er avhengig av hudtonegjenkjenning, er den maktesløs mot svart-hvitt-bilder.
Det er også det bredere problemet med den begrensede rekkevidden, selv når den fungerer perfekt. Det er et helt univers av potensielt støtende bildebasert innhold som ikke har noe med hud å gjøre, sier Joshua Buxbaum, medgründer av WebPurifier, en innholdsmodereringstjeneste. «Vold», gir Buxbaum eksemplet, «er komplisert. Vi får til og med detaljer så detaljerte som mulig. » vold i en idrett som ikke er en voldelig idrett det er vold, men hvis det er boksing, hvem er en voldelig sport, vi tillater det. Dette er bare en start; I følge Buxbaum bør en virkelig omfattende bildemodereringspakke potensielt korrigere alt fra hatkriminalitet til narkotikautstyr til grove gester, avhengig av klientens behov, og adressere gråsonene innenfor hver av disse kategoriene. Algoritmias løsning ser bare etter nakne mennesker, og selv da har den fortsatt den skremmende oppgaven å avgjøre om de er utuktige eller ikke. Buxbaum foreslår at den enkleste algoritmen kan filtrere noe for banning, men den ville slite med å identifisere hatefulle ytringer eller mobbing – noe som betyr at en nakenhetsdeteksjonsalgoritme kan finne kjøtt, men vil ha vanskeligheter med å skille om det er hevnporno eller kunstverk.
Dette gjør imidlertid ikke nakenhetsdeteksjonsalgoritmen ubrukelig; det er bare et sløvt instrument i stedet for et snålt laserstyrt missil. Daniel forventer også at denne typen problemer løses over tid, spesielt hvis det er en klar forretningsinteresse. "Vi vil fortsette å forbedre det," sier han, "eller hvis en bruker av systemet vårt ønsker å komme inn og prøve å lage en mer sofistikert nakenhetsdeteksjonsalgoritme, kan de også gjøre det. » Hvis en av Algorithmias partnere klarte å knekke en bedre kode, ville de bli betalt etter en modell lånt direkte fra Apple App Store; motta et gebyr for hvert algoritmeanrop, der Algoritmi tar 30 % av summen.
