Google社のHuman Rights by Designを取り入れた製品開発

2019年10月30日

Dunstan Allison-Hope

Senior Advisor, BSR

Dunstan Allison-Hope

, BSR

San Francisco
Hannah Darnton

Director, Technology and Human Rights, BSR

Hannah Darnton

, BSR

San Francisco
Michaela Lee

, BSR

BSRは、以前よりテクノロジー産業におけるHuman Rights by Design（人権を配慮した設計）の重要性を強調してきましたが、米Google社はこのアプローチを採り入れたメディア及びエンターテインメント業界向け「新セレブリティ顔認識アプリケーション・プログラム・インターフェイス（API）」を発表しました。このAPIにより、Google社の顧客企業は、Google社がライセンスを取得したセレブリティ画像のデータベースを使用して、フレーム単位またはシーン単位でコンテンツ内の個人を識別することが可能になります。

Google社は、APIの潜在的な人権への影響を見極めながらリスク防止と軽減に向けた開発を進める中で、BSRに製品の人権アセスメントの実施を依頼しました。これは、製品設計のプロセスに人権への配慮を計画的に取り入れるためのベスト・プラクティスといえるでしょう。もちろん、すべての人権侵害リスクを排除することは不可能ですが、このコラボレーションよって、人権侵害リスクのプロファイルが大幅に軽減されたAPIが開発されました。

Google社とBSRは協力して、セレブリティ認識製品分野にもたらされる可能性のある問題、課題、ジレンマを洗い出しました。それらの課題について、BSRは、プライバシー、表現の自由、安全性、子どもの権利、差別の禁止、文化へのアクセスなどの観点から、人権に与える影響の分析を行いました。その後、BSRは懸念される影響に対処するための方策を提言し、Google社はそれをAPI開発の重要な要素として取り入れました。

BSRによって提言され、Google社が製品ラウンチに先立ち採択した項目には次のようなものがあります。

「サービスに関する固有の条件」を適用し、セレブリティ顔認識APIの使用を、顧客が所有する、または使用許可を得ているプロフェッショナルが撮影したメディア・コンテンツ（ユーザーによって制作されたコンテンツではない）に制限する
セレブリティ・データベースへの登録者を、公共メディアの注目を集めることに意図的に関わる職業に携わる個人に限定する
セレブリティがGoogle社が管理するセレブリティ・データベースからの削除を要請した場合の対応ポリシーを施行する
承認された業界（エンターテインメント、メディア、スポーツ）に所属し、使用事例を申告して、プロが撮影したメディアのみを使用することに同意するという条件を満たすホワイトリストのみを顧客とするためのプロセスを確立する

BSRは、これらの対策を組み合わせることによって、APIの潜在的な悪影響を防止、回避、軽減し、Google社に人権に対するリスク軽減のための強固な基盤を提供できると考えました。

このコラボレーションの結果、人権リスクの可能性が大幅に軽減されたAPIが開発されたのです

BSRからの提言には、Google社の採択したアクションに加えて、他に重要な２つの業界が行動を起こすべきとしています。Google社以外のセレブリティ認識ツールのプロバイダーとメディア・エンターテインメント業界です。

Google社は、現在セレブリティ認識ツールを提供している1社にすぎませんが、Google社のみならず業界全体が人権への影響に対処するアプローチを展開することが重要です。 BSRは、これらのアプリケーション・ツールによる潜在的な人権リスクを軽減するため、業界全体のアプローチ（業界の原則や規格など）や公共政策、規制が必要であることを結論づけました。

BSRによるアセスメント結果は、APIの責任ある使用のために、メディアとエンターテインメント企業が果たすべき重要な役割を明確にしました。このためBSRは、セレブリティ認識製品やその他の顔認証ツールを使用する企業は、それぞれが独自の人権デュー・デリジェンスを実施することを推奨します。このことは、AIを搭載した製品のユーザーは、その影響をより深く理解する必要があるというBSRの見解に基づいたものです。

Google社が製品ラウンチに先立って、商品設計と開発の段階で、人権に関する計画的な配慮を行ったことは、優れたケース・スタディになりました。BSRは他の企業も自社製品を開発する際に、同様の実践を行うことを奨励します。

Google社のセレブリティ顔認識API開発における人権アセスメント評価のエグゼクティブ・サマリー（第一章）

プロジェクトの概要と方法論
セレブリティ顔認識製品に関わる潜在的人権問題とその影響
Google社が採択したBSRの提言とアクション
ビジネス・システム全体に関わる改革

1.プロジェクトの概要と方法論

Google社は、セレブリティ顔認識アプリケーション・プログラム・インターフェイス（API）の開発にあたり、メディア及びエンターテイメント（M&E）業界の顔認識製品の使用についての人権アセスメントをBSRに依頼しました。このAPIにより、M&E業界の顧客企業は、クラウドAI商品ポートフォリオとして提供されるGoogle社が認可を得ているセレブリティ画像のデータベースを使用しながら、フレーム単位またはシーン単位でコンテンツ内の個人を識別することができます。

顧客企業は、この機能によって権利を所有するコンテンツから、より効率よくビジネス価値を創出することができます。頻繁に使用されるアプリケーションには、人による閲覧の支援、顧客企業とその視聴者双方が望む検索とインデックス機能、既存コンテンツのクリエイティブな再利用の促進などがあります。

今回Google社に依頼された評価の目的は次の通りです。

製品の使用により生じるリスクと機会の現実的、潜在的な人権への影響を洗い出し、優先順位を付ける
洗い出されたリスクを回避、防止、軽減し、機会を最大化するための方策を提言する
権利保有者と利害関係者間の建設的な対話を促進させる
Google社内のさまざまなチームの対応力を向上させることで、Google社の人権管理機能を強化する

BSRは、潜在的に影響を受ける利害関係者との協議、独立した専門家との対話、弱者や疎外されるリスクが高い人々への特別な配慮などに加えて、「国連ビジネスと人権に関する指導原則（UNGP）」に基づく方法を使用してこのアセスメントを実施しました。

BSRは、Googleクラウド AIのAPI製品チームと部門を跨ぐAIプリンシプルチームの協力のもとにこの評価を行い、Google社はBSRの提言をAPI開発の重要な要素として採択しました。このように人権への配慮を製品の設計段階に計画的に取り入れることはベスト・プラクティスといえます。すべての人権リスクを排除することは不可能ですが、このコラボレーションによって人権侵害のリスクプロファイルが大幅に軽減されたAPIが誕生したのです。

このレポートは、BSRによる人権アセスメントのエグゼクティブ・サマリーです。今回の評価はGoogle社からの資金提供によって行われましたが、BSRはその内容に対する編集上の監督責任を保持しています。今回の評価には、APIのパフォーマンス・データに関するレビューは含まれていません。BSRは、これを別のレビュー・プロセスの対象とするべきだと考えています。

＊本抄訳は、第一章「プロジェクトの概要と方法論」のみを訳しています。続く二章以降は、オリジナルの英文記事をお読みください。