Așa s-a născut algoritmul său de nuditate. Cat despre site? Gândește-te mai puțin la un truc de salon și mai mult la un instrument de marketing. Dacă sexul se vinde, poate și filtrarea se va face.
„Ne-am gândit că ar putea exista o aplicabilitate mult mai largă”, spune Daniel. „Oricine încearcă să conducă o comunitate, dar dorește să filtreze conținutul inacceptabil sau să-l păstreze adecvat pentru copii, ar putea beneficia de același algoritm. » Având în vedere natura conținutului, Algorithmia nu stochează și nu vă vizualizează imaginile; site-ul apelează pur și simplu algoritmul de detectare a nudității și returnează un rezultat.
Procedând astfel, contribuțiile la isitnude.com ajută la îmbunătățirea capacității sale de detectare. Cu toate acestea, acest progres va fi fragmentar; Standardele de confidențialitate care împiedică Algorithmia să vă vadă fotografiile înseamnă, de asemenea, că rezultatele potențial utile trebuie raportate prin alte canale. „Oamenii ne-au trimis e-mailuri, tweet-uri, spunându-ne că o fotografie nu funcționează cu adevărat”, explică Daniel. „L-am folosit pentru a repeta. »
Va fi, de asemenea, nevoie de mai mult decât de o simplă modificare pentru ca algoritmul să devină sigur, chiar și ușor bronzat. De exemplu, încă nu poate recunoaște părți individuale ale corpului, ceea ce înseamnă că o imagine a unei persoane care este complet îmbrăcată, cu excepția părților pe care le doriți cel mai mult îmbrăcate, ar trece probabil în continuare. Și pentru că se bazează doar pe carne, altfel fotografiile inocente de pe plajă ar putea ajunge să fie semnalate. Un sughiț și mai mare? Deoarece algoritmul se bazează pe recunoașterea tonului pielii, este neputincios împotriva imaginilor alb-negru.
Există, de asemenea, problema mai largă a acoperirii sale limitate, chiar și atunci când funcționează perfect. Există un întreg univers de conținut bazat pe imagini potențial ofensator care nu are nimic de-a face cu pielea, spune Joshua Buxbaum, co-fondatorul companiei. WebPurifier, un serviciu de moderare a conținutului. „Violența”, dă exemplul Buxbaum, „este complicată. Primim chiar și detalii cât mai detaliate posibil. » violență într-un sport care nu este un sport violent este violență, dar dacă e box, cine este un sport violent, îl permitem. Acesta este doar un început; Potrivit lui Buxbaum, o suită cu adevărat cuprinzătoare de moderare a imaginii ar trebui să corecteze orice, de la crime motivate de ură la accesorii de droguri până la gesturi grosolane, în funcție de nevoile clientului și să abordeze zonele gri din fiecare dintre aceste categorii. Soluția algoritmiei caută doar oameni goi și, chiar și atunci, încă mai are sarcina descurajantă de a determina dacă sunt lascivi sau nu. Buxbaum propune că cel mai simplu algoritm ar putea filtra ceva pentru blasfemie, dar ar avea dificultăți în identificarea discursului instigator la ură sau a agresiunii - adică un algoritm de detectare a nudității ar putea găsi carne, dar ar avea dificultăți în a distinge dacă este vorba de porno răzbunare sau opere de artă.
Acest lucru nu face, totuși, algoritmul său de detectare a nudității inutil; este doar un instrument contondent, mai degrabă decât o rachetă cu ghidaj laser. De asemenea, Daniel se așteaptă ca aceste tipuri de probleme să fie rezolvate în timp, mai ales dacă există un interes clar de afaceri. „Vom continua să o îmbunătățim”, spune el, „sau dacă un utilizator al sistemului nostru dorește să intre și să încerce să creeze un algoritm mai sofisticat de detectare a nudității, poate face și asta. » Dacă unul dintre partenerii lui Algorithmia ar reuși să spargă un cod mai bun, ar fi plătit după un model împrumutat direct din Apple App Store; primiți o taxă pentru fiecare apel de algoritm, Algorithmia luând 30% din sumă.
