Tak narodził się algorytm nagości. A jeśli chodzi o stronę internetową? Pomyśl o tym mniej jako o sztuczce salonowej, a bardziej jako o narzędziu marketingowym. Jeśli seks się sprzedaje, może filtrowanie też to zrobi.
„Myśleliśmy, że rozwiązanie będzie miało potencjalnie znacznie szersze zastosowanie” – mówi Daniel. „Każdy, kto próbuje zarządzać społecznością, ale chce odfiltrować niepożądane treści lub zachować je jako przyjazne dzieciom, może skorzystać z tego samego algorytmu. » Ze względu na charakter treści Algorithmia nie przechowuje ani nie przegląda Twoich obrazów; witryna po prostu wywołuje algorytm wykrywania nagości i zwraca wynik.
W ten sposób wpisy na stronie isitnude.com pomagają udoskonalić jej skuteczność wykrywania. Postęp ten będzie jednak fragmentaryczny; Standardy prywatności, które uniemożliwiają Algorithmii przeglądanie Twoich zdjęć, oznaczają również, że potencjalnie przydatne wyniki należy zgłaszać innymi kanałami. „Ludzie wysyłali nam e-maile i tweety, informując, że zdjęcie nie działa” – wyjaśnia Daniel. „Użyliśmy tego do iteracji. »
Aby algorytm stał się niezawodny, nawet lekko opalony, potrzeba czegoś więcej niż zwykłej zmiany. Na przykład nie rozpoznaje jeszcze poszczególnych części ciała, co oznacza, że obraz osoby całkowicie ubranej z wyjątkiem tych części, które chcesz najbardziej ubrać, prawdopodobnie nadal będzie przechodził. A ponieważ opiera się wyłącznie na ciele, w przeciwnym razie niewinne zdjęcia z plaży mogłyby zostać oznaczone. Jeszcze większa czkawka? Ponieważ algorytm opiera się na rozpoznawaniu odcienia skóry, jest bezsilny w przypadku obrazów czarno-białych.
Istnieje również szersza kwestia jego ograniczonego zasięgu, nawet jeśli działa idealnie. Istnieje cały wszechświat potencjalnie obraźliwych treści opartych na obrazach, które nie mają nic wspólnego ze skórą, mówi Joshua Buxbaum, współzałożyciel Oczyszczacz sieciowy, usługa moderowania treści. „Przemoc” – podaje przykład Buxbaum – „jest skomplikowana. Otrzymujemy nawet najbardziej szczegółowe informacje. » przemoc w sporcie, który nie jest sportem brutalnym to przemoc, ale jeśli jest to boks, to kto est brutalny sport, pozwalamy na to. To dopiero początek; Według Buxbauma naprawdę kompleksowy zestaw do moderacji zdjęć powinien potencjalnie korygować wszystko, od przestępstw z nienawiści, przez akcesoria związane z narkotykami, po prymitywne gesty, w zależności od potrzeb klienta, i uwzględniać szare obszary w każdej z nich. Rozwiązanie Algorithmii wyszukuje jedynie nagich ludzi, ale nawet wtedy nadal stoi przed nim trudne zadanie ustalenia, czy są one sprośne, czy nie. Buxbaum proponuje, że najprostszy algorytm mógłby odfiltrować coś pod kątem wulgaryzmów, ale miałby trudności z identyfikacją mowy nienawiści lub znęcania się, co oznacza, że algorytm wykrywania nagości mógłby znaleźć ciało, ale miałby trudności z rozróżnieniem, czy jest to pornografia zemsty, czy dzieła sztuki.
Nie oznacza to jednak, że algorytm wykrywania nagości jest bezużyteczny; to po prostu tępe narzędzie, a nie pruderyjny pocisk naprowadzany laserowo. Daniel oczekuje również, że tego typu problemy zostaną z czasem rozwiązane, zwłaszcza jeśli istnieje wyraźny interes biznesowy. „Będziemy go nadal udoskonalać” – mówi – „a jeśli użytkownik naszego systemu będzie chciał wejść i spróbować stworzyć bardziej wyrafinowany algorytm wykrywania nagości, również będzie mógł to zrobić. » Jeśli któremuś z partnerów Algorithmii uda się złamać lepszy kod, otrzyma płatność według modelu zapożyczonego bezpośrednio z Apple App Store; otrzymują opłatę za każde wywołanie algorytmu, przy czym Algorithmia pobiera 30% kwoty.
