Tako je rođen njegov algoritam za golotinju. Što se tiče web stranice? Shvatite to manje kao salonski trik, a više kao marketinški alat. Ako se seks prodaje, možda će ga i filtrirati.
"Mislili smo da bi potencijalno postojala mnogo šira primjenjivost", kaže Daniel. “Svatko tko pokušava voditi zajednicu, ali želi filtrirati nepoželjan sadržaj ili ga držati prilagođenim djeci, mogao bi imati koristi od ovog istog algoritma. » S obzirom na prirodu sadržaja, Algorithmia ne pohranjuje niti pregledava vaše slike; stranica jednostavno poziva algoritam za otkrivanje golotinje i vraća rezultat.
Čineći to, doprinosi isitnude.com pomažu poboljšati njegovu sposobnost otkrivanja. Međutim, taj će napredak biti fragmentaran; Standardi privatnosti koji sprječavaju Algorithmia da pregleda vaše fotografije također znače da se potencijalno korisni rezultati moraju prijaviti putem drugih kanala. "Ljudi su nam slali e-poruke, tweetove, govoreći nam da fotografija nije baš uspjela", objašnjava Daniel. “Koristili smo ga za ponavljanje. »
Također će biti potrebno više od jednostavnog podešavanja da algoritam postane siguran, čak i malo preplanuo. Na primjer, još ne može prepoznati pojedinačne dijelove tijela, što znači da bi slika nekoga tko je potpuno odjeven, osim onih dijelova koje želite da budete dotjerani, vjerojatno i dalje prolazila. A budući da se temelji samo na tijelu, inače bi nevine fotografije s plaže mogle biti označene. Još veće štucanje? Budući da se algoritam oslanja na prepoznavanje boje kože, nemoćan je protiv crno-bijelih slika.
Tu je i šire pitanje njegovog ograničenog dosega, čak i kada radi savršeno. Postoji cijeli svemir potencijalno uvredljivog sadržaja temeljenog na slikama koji nema nikakve veze s kožom, kaže Joshua Buxbaum, suosnivač WebPurifier, servis za moderiranje sadržaja. “Nasilje”, daje primjer Buxbaum, “je komplicirano. Čak dobivamo detalje što je moguće detaljnije. » nasilje u sportu koji nije nasilan sport to je nasilje, ali ako je boks, tko est nasilan sport, mi to dopuštamo. Ovo je samo početak; Prema Buxbaumu, istinski sveobuhvatan paket za moderiranje slika trebao bi potencijalno ispraviti sve, od zločina iz mržnje preko pribora za drogiranje do grubih gesta, ovisno o potrebama klijenta, te riješiti sive zone unutar svake od njih. Algorithmijino rješenje traži samo gole ljude, a čak i tada ima težak zadatak utvrditi jesu li razvratni ili ne. Buxbaum predlaže da bi najjednostavniji algoritam mogao filtrirati nešto zbog vulgarnosti, ali bi mu bilo teško prepoznati govor mržnje ili zlostavljanje - što znači da bi algoritam za otkrivanje golotinje mogao pronaći tijelo, ali bi imao poteškoća u razlikovanju radi li se o osvetničkoj pornografiji ili umjetničkim djelima.
To, međutim, ne čini njegov algoritam za otkrivanje golotinje beskorisnim; to je samo tupi instrument, a ne prpošni laserski vođeni projektil. Daniel također očekuje da će se ovakvi problemi s vremenom riješiti, osobito ako postoji jasan poslovni interes. “Nastavit ćemo ga poboljšavati,” kaže, “ili ako korisnik našeg sustava želi ući i pokušati stvoriti sofisticiraniji algoritam za otkrivanje golotinje, može i to učiniti. » Ako bi netko od Algorithmijinih partnera uspio razbiti bolji kod, bio bi plaćen prema modelu posuđenom izravno iz Apple App Storea; primaju naknadu za svaki poziv algoritma, pri čemu Algorithmia uzima 30% iznosa.
