Так народився його алгоритм наготи. Що стосується веб-сайту? Думайте про це не як про салонний трюк, а більше як про маркетинговий інструмент. Якщо секс продає, можливо, фільтрація також продає.
«Ми думали, що потенційно буде набагато ширше застосування», — каже Даніель. «Будь-хто, хто намагається керувати спільнотою, але хоче відфільтрувати небажаний вміст або зробити його дружнім до дітей, може скористатися цим самим алгоритмом. » Враховуючи характер вмісту, Algorithmia не зберігає та не переглядає ваші зображення; сайт просто викликає алгоритм виявлення оголеного тіла та повертає результат.
При цьому внески на isitnude.com допомагають удосконалити його майстерність виявлення. Однак цей прогрес буде фрагментарним; Стандарти конфіденційності, які забороняють Algorithmia переглядати ваші фотографії, також означають, що потенційно корисні результати потрібно повідомляти через інші канали. «Люди надсилали нам електронні листи, твіти, повідомляючи, що фотографія насправді не працює», — пояснює Деніел. «Ми використовували це для повторення. »
Також знадобиться більше, ніж просто налаштування, щоб алгоритм став надійним, навіть трохи засмаглим. Наприклад, він ще не може розпізнавати окремі частини тіла, тобто зображення людини, яка повністю одягнена, за винятком тих частин, які ви хочете одягнути найбільше, ймовірно, усе одно пройде. І оскільки він заснований лише на тілі, інакше невинні фотографії з пляжу можуть опинитися поміченими. Ще більша гикавка? Оскільки алгоритм покладається на розпізнавання тону шкіри, він безсилий проти чорно-білих зображень.
Існує також ширша проблема його обмеженого охоплення, навіть якщо він працює ідеально. Існує цілий всесвіт потенційно образливого контенту на основі зображень, який не має нічого спільного зі шкірою, каже Джошуа Буксбаум, співзасновник WebPurifier, служба модерації вмісту. «Насильство, — наводить приклад Буксбаум, — це складно. Ми навіть отримуємо деталі якомога докладніше. » насильство у виді спорту, який не є жорстоким це насильство, але якщо це бокс, то хто Est насильницький вид спорту, ми це дозволяємо. Це тільки початок; За словами Буксбаума, справді всеосяжний пакет модерації зображень потенційно повинен виправляти все, від злочинів на ґрунті ненависті до засобів вживання наркотиків і грубих жестів, залежно від потреб клієнта, і усунути сірі зони в кожній із цих категорій. Рішення Algorithmia шукає лише оголених людей, і навіть тоді воно все ще має складне завдання визначити, чи є вони непристойними чи ні. Буксбаум припускає, що найпростіший алгоритм міг би відфільтрувати щось на предмет нецензурної лексики, але йому було б важко ідентифікувати мову ненависті чи залякування, тобто алгоритм виявлення оголеного тіла міг би знайти тіло, але йому було б важко розрізнити, порно це помста чи твори мистецтва.
Однак це не робить його алгоритм виявлення наготи марним; це просто тупий інструмент, а не скромна ракета з лазерним наведенням. Деніел також очікує, що ці питання будуть вирішені з часом, особливо якщо є явний діловий інтерес. «Ми продовжуватимемо вдосконалювати її, — каже він, — або, якщо користувач нашої системи захоче зайти й спробувати створити складніший алгоритм виявлення оголеного тіла, він теж зможе зробити це. » Якби одному з партнерів Algorithmia вдалося зламати кращий код, вони отримували б оплату відповідно до моделі, запозиченої безпосередньо з Apple App Store; отримувати комісію за кожен виклик алгоритму, причому Algorithmia бере 30% від суми.
