Tak se zrodil jeho algoritmus nahoty. Co se týče webu? Berte to méně jako trik v salonu a více jako marketingový nástroj. Pokud sex prodává, možná i jeho filtrování.
„Mysleli jsme si, že bude potenciálně mnohem širší uplatnění,“ říká Daniel. „Každý, kdo se snaží provozovat komunitu, ale chce filtrovat nevhodný obsah nebo jej zachovat pro děti, by mohl mít prospěch ze stejného algoritmu. » Vzhledem k povaze obsahu společnost Algorithmia neukládá ani neprohlíží vaše obrázky; stránka jednoduše zavolá algoritmus detekce nahoty a vrátí výsledek.
Příspěvky na isitnude.com tak pomáhají vylepšit její schopnost detekce. Tento pokrok však bude dílčí; Standardy ochrany osobních údajů, které společnosti Algorithmia brání v prohlížení vašich fotografií, také znamenají, že potenciálně užitečné výsledky musí být hlášeny prostřednictvím jiných kanálů. „Lidé nám posílali e-maily, tweety a říkali nám, že fotka ve skutečnosti nefunguje,“ vysvětluje Daniel. „Použili jsme to k opakování. »
Bude to také vyžadovat více než jednoduché vyladění, aby se algoritmus stal spolehlivým, dokonce i mírně opáleným. Například ještě nedokáže rozpoznat jednotlivé části těla, což znamená, že obraz někoho, kdo je zcela oblečený, kromě částí, které chcete mít nejvíce oblečené, pravděpodobně stále projde. A protože je založen pouze na mase, jinak by nevinné plážové fotky mohly být označeny. Ještě větší škytavka? Protože algoritmus spoléhá na rozpoznání odstínu pleti, je proti černobílým obrázkům bezmocný.
Je tu také širší problém jeho omezeného dosahu, i když funguje perfektně. Existuje celý vesmír potenciálně urážlivého obsahu založeného na obrázcích, který nemá nic společného s pokožkou, říká Joshua Buxbaum, spoluzakladatel WebPurifier, služba pro moderování obsahu. „Násilí,“ uvádí příklad Buxbaum, „je komplikované. Dostáváme dokonce co nejpodrobnější podrobnosti. » násilí ve sportu, který není násilným sportem je to násilí, ale pokud je to box, kdo je násilný sport, dovolujeme to. Toto je jen začátek; Podle Buxbauma by skutečně komplexní sada pro moderování obrazu měla potenciálně korigovat vše od trestných činů z nenávisti přes drogové vybavení až po hrubá gesta, v závislosti na potřebách klienta, a řešit šedé oblasti v každé z nich. Řešení Algorithmia hledá pouze nahé lidi, ai tak má stále nelehký úkol určit, zda jsou oplzlí nebo ne. Buxbaum navrhuje, že nejjednodušší algoritmus by mohl filtrovat něco pro vulgární výrazy, ale těžko by identifikoval nenávistné projevy nebo šikanu – což znamená, že algoritmus detekce nahoty by mohl najít tělo, ale měl by potíže s rozlišením, zda jde o pomstu nebo umělecká díla.
To však neznamená, že jeho algoritmus detekce nahoty není k ničemu; je to spíše tupý nástroj než prudérní laserem naváděná střela. Daniel také očekává, že tyto typy problémů se časem vyřeší, zejména pokud existuje jasný obchodní zájem. „Budeme to nadále vylepšovat,“ říká, „nebo pokud chce uživatel našeho systému vstoupit a pokusit se vytvořit sofistikovanější algoritmus detekce nahoty, může to udělat také. » Pokud by se jednomu z partnerů Algorithmia podařilo prolomit lepší kód, byl by zaplacen podle modelu vypůjčeného přímo z Apple App Store; obdrží poplatek za každé volání algoritmu, přičemž Algorithmia si vezme 30 % z částky.
