Так родился его алгоритм обнажения. Что касается веб-сайта? Думайте об этом не как о салонном трюке, а скорее как о маркетинговом инструменте. Если секс продается, возможно, его фильтрация тоже поможет.
«Мы думали, что потенциально это может иметь гораздо более широкое применение», — говорит Дэниел. «Любой, кто пытается управлять сообществом, но хочет фильтровать нежелательный контент или сделать его удобным для детей, может извлечь выгоду из этого же алгоритма. » Учитывая характер контента, Algorithmia не сохраняет и не просматривает ваши изображения; сайт просто вызывает алгоритм обнаружения наготы и возвращает результат.
При этом вклад в isitnude.com помогает усовершенствовать его возможности обнаружения. Однако этот прогресс будет фрагментарным; Стандарты конфиденциальности, которые не позволяют Algorithmia просматривать ваши фотографии, также означают, что о потенциально полезных результатах необходимо сообщать по другим каналам. «Люди присылали нам электронные письма и твиты, сообщая, что фотография не очень удалась», — объясняет Дэниел. «Мы использовали его для итерации. »
Чтобы алгоритм стал надежным, даже слегка усовершенствованным, потребуется нечто большее, чем простая настройка. Например, он пока не может распознавать отдельные части тела, а это означает, что изображение человека, который полностью одет, за исключением тех частей, которые вы хотите одеть больше всего, вероятно, все равно пройдет. А поскольку в его основе лежит только плоть, в противном случае невинные пляжные фотографии могут быть помечены. Еще больший сбой? Поскольку алгоритм основан на распознавании цвета кожи, он бессилен против черно-белых изображений.
Существует также более широкая проблема его ограниченного охвата, даже если он работает идеально. Существует целая вселенная потенциально оскорбительного контента на основе изображений, который не имеет ничего общего с кожей, говорит Джошуа Буксбаум, соучредитель Веб-очиститель, служба модерации контента. «Насилие, — приводит пример Буксбаум, — сложно. Мы даже получаем максимально подробную информацию. » насилие в спорте, который не является жестоким видом спорта это насилие, но если это бокс, то кто является жестокий вид спорта, мы это разрешаем. Это только начало; По мнению Буксбаума, по-настоящему комплексный пакет модерации изображений потенциально должен исправить все: от преступлений на почве ненависти до принадлежностей для употребления наркотиков и грубых жестов, в зависимости от потребностей клиента, и устранить серые зоны внутри каждой из этих категорий. Решение алгоритма ищет только обнаженных людей, и даже тогда перед ним стоит непростая задача — определить, непристойны они или нет. Буксбаум предполагает, что самый простой алгоритм мог бы отфильтровать что-либо на предмет ненормативной лексики, но ему будет сложно идентифицировать разжигание ненависти или издевательства — то есть алгоритм обнаружения наготы может найти плоть, но ему будет трудно отличить, является ли это порноместью или произведениями искусства.
Однако это не делает его алгоритм обнаружения наготы бесполезным; это просто грубый инструмент, а не ханжеская ракета с лазерным наведением. Дэниел также ожидает, что подобные проблемы со временем будут решены, особенно при наличии явного делового интереса. «Мы продолжим ее совершенствовать», — говорит он, — «или, если пользователь нашей системы захочет прийти и попытаться создать более сложный алгоритм обнаружения наготы, он тоже сможет это сделать. » Если одному из партнеров «Алгоритмии» удастся взломать более качественный код, ему будут платить по модели, заимствованной непосредственно из Apple App Store; получать комиссию за каждый вызов алгоритма, причем «Алгоритмия» забирает 30% от суммы.
