Så här föddes dess nakenhetsalgoritm. Vad gäller hemsidan? Se det mindre som ett salongstrick och mer som ett marknadsföringsverktyg. Om sex säljer, kanske filtrering det också.
"Vi trodde att det skulle finnas en mycket bredare tillämpbarhet", säger Daniel. "Alla som försöker driva en community men vill filtrera stötande innehåll eller hålla det barnvänligt kan dra nytta av samma algoritm. » Med tanke på innehållets karaktär lagrar eller visar inte Algorithmia dina bilder; sajten anropar helt enkelt nakenhetsdetekteringsalgoritmen och returnerar ett resultat.
Genom att göra det hjälper bidrag till isitnude.com att förfina dess upptäcktsförmåga. Dessa framsteg kommer dock att vara fragmentariska; Sekretessstandarder som hindrar Algoritmi från att se dina bilder innebär också att potentiellt användbara resultat måste rapporteras via andra kanaler. "Folk skickade mejl, tweets till oss och berättade att ett foto inte riktigt fungerade", förklarar Daniel. "Vi använde det för att iterera. »
Det kommer också att krävas mer än en enkel justering för att algoritmen ska bli idiotsäker, till och med lätt solbränd. Till exempel kan den ännu inte känna igen enskilda kroppsdelar, vilket betyder att en bild av någon som är helt klädd utom de delar du vill ha mest uppklädd förmodligen fortfarande skulle passera igenom. Och eftersom det bara är baserat på kött, annars kan oskyldiga strandfoton hamna i flaggning. En ännu större hicka? Eftersom algoritmen förlitar sig på hudtonsigenkänning är den maktlös mot svartvita bilder.
Det finns också den bredare frågan om dess begränsade räckvidd, även när den fungerar perfekt. Det finns ett helt universum av potentiellt stötande bildbaserat innehåll som inte har något med hud att göra, säger Joshua Buxbaum, medgrundare av WebPurifier, en innehållsmodereringstjänst. ”Våld”, ger Buxbaum exemplet, ”är komplicerat. Vi får till och med detaljer så detaljerade som möjligt. » våld i en sport som inte är en våldsam sport det är våld, men om det är boxning, vem est en våldsam sport, vi tillåter det. Detta är bara för att komma igång; Enligt Buxbaum skulle en verkligt omfattande bildmodereringssvit potentiellt kunna korrigera allt från hatbrott till drogtillbehör till grova gester, beroende på kundens behov, och ta itu med gråzonerna inom var och en av dessa kategorier. Algoritmilösningen letar bara efter nakna människor och även då har den fortfarande den skrämmande uppgiften att avgöra om de är oanständiga eller inte. Buxbaum föreslår att den enklaste algoritmen skulle kunna filtrera bort något för svordomar, men det skulle kämpa för att identifiera hatretorik eller mobbning – vilket innebär att en nakenhetsdetekteringsalgoritm kan hitta kött, men skulle ha svårt att skilja på om det är hämndporr eller konstverk.
Detta gör dock inte dess nakenhetsdetekteringsalgoritm värdelös; det är bara ett trubbigt instrument snarare än en försiktig laserstyrd missil. Daniel förväntar sig också att den här typen av frågor löses över tid, särskilt om det finns ett tydligt affärsintresse. "Vi kommer att fortsätta att förbättra det", säger han, "eller om en användare av vårt system vill komma in och försöka skapa en mer sofistikerad nakenhetsdetekteringsalgoritm kan de göra det också. » Om en av Algorithmias partners lyckades knäcka en bättre kod skulle de betalas enligt en modell lånad direkt från Apple App Store; få en avgift för varje algoritmsamtal, där Algoritmi tar 30 % av summan.
