È così che è nato il suo algoritmo sulla nudità. Per quanto riguarda il sito web? Consideratelo meno come un trucco da salotto e più come uno strumento di marketing. Se il sesso vende, forse lo farà anche il filtraggio.
"Pensavamo che ci sarebbe stata un'applicabilità potenzialmente molto più ampia", afferma Daniel. “Chiunque cerchi di gestire una comunità ma voglia filtrare i contenuti discutibili o mantenerli adatti ai bambini potrebbe trarre vantaggio da questo stesso algoritmo. » Data la natura dei contenuti, Algorithmia non memorizza né visualizza le tue immagini; il sito chiama semplicemente l'algoritmo di rilevamento della nudità e restituisce un risultato.
In tal modo, i contributi a isitnude.com aiutano a perfezionare la sua capacità di rilevamento. Tuttavia, questo progresso sarà frammentario; Gli standard sulla privacy che impediscono ad Algorithmia di visualizzare le tue foto significano anche che i risultati potenzialmente utili devono essere segnalati attraverso altri canali. "Le persone ci hanno inviato e-mail e tweet dicendoci che una foto non funzionava", spiega Daniel. “Lo abbiamo usato per iterare. »
Ci vorrà anche più di una semplice modifica affinché l’algoritmo diventi infallibile, anche se leggermente abbronzato. Ad esempio, non è ancora in grado di riconoscere le singole parti del corpo, il che significa che l'immagine di qualcuno che è completamente vestito, ad eccezione delle parti che desideri maggiormente vestite, probabilmente passerebbe comunque. E poiché si basa solo sulla carne, altrimenti innocenti foto sulla spiaggia potrebbero finire per essere contrassegnate. Un intoppo ancora più grande? Poiché l'algoritmo si basa sul riconoscimento della tonalità della pelle, è impotente contro le immagini in bianco e nero.
C'è anche il problema più ampio della sua portata limitata, anche quando funziona perfettamente. Esiste un intero universo di contenuti basati su immagini potenzialmente offensivi che non hanno nulla a che fare con la pelle, afferma Joshua Buxbaum, co-fondatore di WebPurificatore, un servizio di moderazione dei contenuti. “La violenza”, fa l’esempio Buxbaum, “è complicata. Otteniamo anche i dettagli più dettagliati possibile. » violenza in uno sport che non è uno sport violento è violenza, ma se è boxe, chi è uno sport violento, lo permettiamo. Questo è solo l'inizio; Secondo Buxbaum, una suite di moderazione dell'immagine davvero completa dovrebbe potenzialmente correggere qualsiasi cosa, dai crimini d'odio agli accessori legati alla droga fino ai gesti grossolani, a seconda delle esigenze del cliente, e affrontare le aree grigie all'interno di ciascuna di queste categorie. La soluzione di Algorithmia cerca solo persone nude e, anche in questo caso, ha ancora l'arduo compito di determinare se sono oscene o meno. Buxbaum propone che l'algoritmo più semplice possa filtrare qualcosa per volgarità, ma farebbe fatica a identificare l'incitamento all'odio o il bullismo, il che significa che un algoritmo di rilevamento della nudità potrebbe trovare carne , ma avrebbe difficoltà a distinguere se si tratta di vendetta porno o opere d'arte.
Ciò, tuttavia, non rende inutile il suo algoritmo di rilevamento della nudità; è solo uno strumento contundente piuttosto che un pudico missile a guida laser. Daniel si aspetta inoltre che questi tipi di problemi vengano risolti nel tempo, soprattutto se esiste un chiaro interesse commerciale. “Continueremo a migliorarlo”, afferma, “o se un utente del nostro sistema desidera provare a creare un algoritmo di rilevamento della nudità più sofisticato, potrà farlo anche lui. » Se uno dei partner di Algorithmia riuscisse a decifrare un codice migliore, verrebbe pagato secondo un modello preso in prestito direttamente dall'App Store di Apple; ricevere una commissione su ogni chiamata dell'algoritmo, con Algorithmia che prende il 30% della somma.
