Sådan blev dens nøgenhedsalgoritme født. Hvad angår hjemmesiden? Tænk på det mindre som et salontrick og mere som et marketingværktøj. Hvis sex sælger, vil filtrering det måske også.
"Vi troede, at der potentielt ville være meget bredere anvendelighed," siger Daniel. "Enhver, der forsøger at drive et fællesskab, men ønsker at filtrere anstødeligt indhold eller holde det børnevenligt, kan drage fordel af denne samme algoritme. » På grund af indholdets art gemmer eller ser Algorithmia ikke dine billeder; webstedet kalder simpelthen nøgenhedsdetektionsalgoritmen og returnerer et resultat.
Ved at gøre det hjælper bidrag til isitnude.com med at forbedre dets detektionsevne. Dette fremskridt vil dog være fragmentarisk; Privatlivsstandarder, der forhindrer Algoritmi i at se dine billeder, betyder også, at potentielt nyttige resultater skal rapporteres via andre kanaler. "Folk sendte os e-mails, tweets og fortalte os, at et billede ikke rigtig virkede," forklarer Daniel. "Vi brugte det til at gentage. »
Det vil også tage mere end en simpel tweak for algoritmen at blive idiotsikker, selv let solbrændt. For eksempel kan den endnu ikke genkende individuelle kropsdele, hvilket betyder, at et billede af en, der er helt påklædt, bortset fra de dele, du ønsker mest påklædt, sandsynligvis stadig ville passere igennem. Og fordi det kun er baseret på kød, ellers kan uskyldige strandbilleder ende med at blive markeret. En endnu større hikke? Fordi algoritmen er afhængig af hudtonegenkendelse, er den magtesløs over for sort/hvide billeder.
Der er også det bredere problem med dens begrænsede rækkevidde, selv når den fungerer perfekt. Der er et helt univers af potentielt stødende billedbaseret indhold, der ikke har noget med hud at gøre, siger Joshua Buxbaum, medstifter af WebPurifier, en indholdsmodereringstjeneste. "Vold," giver Buxbaum eksemplet, "er kompliceret. Vi får endda detaljer så detaljerede som muligt. » vold i en sport, der ikke er en voldelig sport det er vold, men hvis det er boksning, hvem er en voldelig sport, vi tillader det. Dette er kun en begyndelse; Ifølge Buxbaum skulle en virkelig omfattende billedmodereringspakke potentielt korrigere alt fra hadforbrydelser til narkoudstyr til grove gestus, afhængigt af kundens behov, og adressere de grå områder inden for hver af dem. Algoritmiens løsning leder kun efter nøgne mennesker, og selv da har den stadig den skræmmende opgave at afgøre, om de er utugt eller ej. Buxbaum foreslår, at den enkleste algoritme kunne filtrere noget for bandeord, men den ville kæmpe med at identificere hadefulde ytringer eller mobning - hvilket betyder, at en nøgenhedsdetektionsalgoritme kunne finde kød, men ville have svært ved at skelne, om det er hævnporno eller kunstværker.
Dette gør dog ikke dens nøgenhedsdetektionsalgoritme ubrugelig; det er bare et stumpt instrument snarere end et forsigtigt laserstyret missil. Daniel forventer også, at disse typer problemer bliver løst over tid, især hvis der er en klar forretningsinteresse. "Vi vil fortsætte med at forbedre det," siger han, "eller hvis en bruger af vores system ønsker at komme ind og prøve at skabe en mere sofistikeret nøgenhedsdetektionsalgoritme, kan de også gøre det. »Hvis det lykkedes en af Algorithmias partnere at knække en bedre kode, ville de blive betalt efter en model lånt direkte fra Apple App Store; modtage et gebyr for hvert algoritmekald, hvor Algoritmi tager 30 % af summen.
