こうして、そのヌードアルゴリズムが誕生しました。ウェブサイトについてはどうでしょうか？これをホールのトリックとしてではなく、マーケティング ツールとして考えてください。セックスが売れるなら、フィルタリングも売れるかもしれない。
「私たちは、潜在的にはるかに幅広い適用可能性があると考えました」とダニエルは言います。 「コミュニティを運営しようとしているが、不快なコンテンツをフィルタリングしたい、または子供向けに保ちたいと考えている人は、この同じアルゴリズムの恩恵を受けることができます。 » コンテンツの性質上、Algorithmia は画像を保存したり表示したりしません。サイトはヌード検出アルゴリズムを呼び出して結果を返すだけです。
その際、isitnude.com への貢献は、その検出能力を向上させるのに役立ちます。ただし、この進歩は断片的なものになるでしょう。アルゴリズミアがあなたの写真を閲覧できないようにするプライバシー基準は、潜在的に有用な結果を他のチャネルを通じて報告する必要があることも意味します。 「人々は私たちに電子メールやツイートを送ってきて、写真が実際には機能しなかったと言いました」とダニエルは説明します。 「私たちはそれを反復するために使用しました。 »
また、たとえわずかに日焼けしていても、アルゴリズムを確実に実行できるようになるには、単純な調整以上の効果が必要です。たとえば、体の個々の部分をまだ認識できないため、最もドレスアップしたい部分を除いて完全に服を着ている人の画像はおそらく依然として通過する可能性があります。そして、それは肉体のみに基づいているため、そうでなければ無実のビーチの写真がフラグを立てられる可能性があります。さらに大きなしゃっくりが？このアルゴリズムは肌の色調認識に依存しているため、白黒画像に対しては無力です。
また、完全に機能する場合でも、到達範囲が限られているというより広範な問題もあります。肌とは何の関係もない、潜在的に攻撃的な画像ベースのコンテンツが世の中に溢れている、と共同創設者のジョシュア・バックスバウム氏は言う。 ウェブピュリファイアー、コンテンツモデレーションサービス。バックスバウムは「暴力は複雑だ」と例を挙げている。可能な限り詳細な情報も入手します。 » 暴力的なスポーツではないスポーツにおける暴力 それは暴力だけど、ボクシングなら誰がやるの？ 東 暴力的なスポーツですが、私たちはそれを許可します。これはまだ始めたばかりです。 Buxbaum 氏によると、真に包括的な画像モデレーション スイートは、クライアントのニーズに応じて、ヘイトクライムから麻薬道具、下品なジェスチャーに至るまであらゆるものを潜在的に修正し、それぞれのカテゴリ内のグレーゾーンに対処する必要があります。 Algorithmia のソリューションは裸の人々だけを探しますが、それでも、彼らがわいせつであるかどうかを判断するという困難な作業が残っています。 Buxbaum 氏は、最も単純なアルゴリズムで冒涜的なものをフィルタリングできるが、ヘイトスピーチやいじめを特定するのは難しいだろうと提案しています。つまり、ヌード検出アルゴリズムは肉体を見つけることはできますが、それがリベンジポルノなのか芸術作品なのかを区別するのは難しいでしょう。
ただし、これによってヌード検出アルゴリズムが役に立たなくなるわけではありません。それはまともなレーザー誘導ミサイルではなく、単なる鈍器です。ダニエル氏はまた、特にビジネス上の明確な利益がある場合には、この種の問題は時間の経過とともに解決されると期待しています。 「私たちはそれを改善し続けます」と彼は言います。「あるいは、私たちのシステムのユーザーが参加して、より洗練されたヌード検出アルゴリズムを作成したい場合は、それを行うこともできます。 » Algorithmia のパートナーの 30 人がより優れたコードを解読できた場合、Apple App Store から直接借用したモデルに基づいて報酬が支払われます。アルゴリズム呼び出しごとに料金を受け取り、アルゴリズムが合計の XNUMX% を受け取ります。
