So entstand der Nacktheitsalgorithmus. Was die Website betrifft? Betrachten Sie es weniger als einen Salontrick, sondern eher als Marketinginstrument. Wenn sich Sex verkauft, hilft vielleicht auch das Filtern.
„Wir dachten, dass es möglicherweise eine viel breitere Anwendbarkeit geben würde“, sagt Daniel. „Jeder, der versucht, eine Community zu betreiben, aber anstößige Inhalte filtern oder kinderfreundlich halten möchte, könnte von demselben Algorithmus profitieren. » Aufgrund der Art des Inhalts speichert oder betrachtet Algorithmia Ihre Bilder nicht; Die Site ruft einfach den Nackterkennungsalgorithmus auf und gibt ein Ergebnis zurück.
Auf diese Weise tragen Beiträge zu isitnude.com dazu bei, seine Erkennungsfähigkeiten zu verbessern. Dieser Fortschritt wird jedoch fragmentarisch sein; Datenschutzstandards, die Algorithmia daran hindern, Ihre Fotos anzuzeigen, bedeuten auch, dass potenziell nützliche Ergebnisse über andere Kanäle gemeldet werden müssen. „Die Leute haben uns E-Mails und Tweets geschickt und uns gesagt, dass ein Foto nicht wirklich funktioniert hat“, erklärt Daniel. „Wir haben es zum Iterieren verwendet. »
Es bedarf außerdem mehr als einer einfachen Anpassung, damit der Algorithmus narrensicher, sogar leicht gebräunt, wird. Es kann beispielsweise noch keine einzelnen Körperteile erkennen, was bedeutet, dass ein Bild von jemandem, der bis auf die Teile, die Sie am meisten angezogen haben möchten, vollständig bekleidet ist, wahrscheinlich immer noch durchscheinen würde. Und weil es nur auf Fleisch basiert, könnten unschuldige Strandfotos sonst am Ende markiert werden. Ein noch größerer Schluckauf? Da der Algorithmus auf der Hauttonerkennung basiert, ist er gegen Schwarzweißbilder machtlos.
Hinzu kommt das allgemeinere Problem der begrenzten Reichweite, selbst wenn es perfekt funktioniert. „Es gibt ein ganzes Universum potenziell anstößiger bildbasierter Inhalte, die nichts mit Haut zu tun haben“, sagt Joshua Buxbaum, Mitbegründer von WebPurifier, ein Content-Moderationsdienst. „Gewalt“, nennt Buxbaum das Beispiel, „ist kompliziert. Wir erhalten sogar so detaillierte Informationen wie möglich. » Gewalt in einem Sport, der kein Gewaltsport ist Es ist Gewalt, aber wenn es Boxen ist, wer? wurde ein gewalttätiger Sport, wir lassen ihn zu. Dies ist nur ein Anfang; Laut Buxbaum sollte eine wirklich umfassende Bildmoderationssuite möglicherweise alles korrigieren, von Hassverbrechen über Drogenutensilien bis hin zu groben Gesten, abhängig von den Bedürfnissen des Kunden, und die Grauzonen innerhalb jeder dieser Kategorien angehen. Die Lösung von Algorithmia sucht nur nach nackten Menschen und hat selbst dann noch die gewaltige Aufgabe, festzustellen, ob sie unanständig sind oder nicht. Buxbaum schlägt vor, dass der einfachste Algorithmus etwas nach Schimpfwörtern filtern könnte, aber es wäre schwierig, Hassrede oder Mobbing zu identifizieren – das heißt, ein Nacktheitserkennungsalgorithmus könnte Fleisch finden, aber Schwierigkeiten haben, zu unterscheiden, ob es sich um Rachepornos oder Kunstwerke handelt.
Dies macht den Nacktheitserkennungsalgorithmus jedoch nicht unbrauchbar; Es ist nur ein stumpfes Instrument und keine prüde lasergelenkte Rakete. Daniel geht auch davon aus, dass solche Probleme im Laufe der Zeit gelöst werden, insbesondere wenn ein klares Geschäftsinteresse besteht. „Wir werden es weiter verbessern“, sagt er, „oder wenn ein Benutzer unseres Systems vorbeikommen und versuchen möchte, einen ausgefeilteren Algorithmus zur Nacktheitserkennung zu entwickeln, kann er das auch tun.“ » Sollte es einem Partner von Algorithmia gelingen, einen besseren Code zu knacken, würde er nach einem Modell bezahlt, das direkt aus dem Apple App Store übernommen wurde; erhalten für jeden Algorithmusaufruf eine Gebühr, wobei Algorithmia 30 % der Summe übernimmt.
