今後10年を決める人権アセスメント：テクノロジー業界に学ぶ

iStockphoto / Vit_Mar

2020年2月11日

Dunstan Allison-Hope

Senior Advisor, BSR

Dunstan Allison-Hope

, BSR

San Francisco

本記事は、テクノロジー業界の人権アセスメント（人権影響評価）に関する2回シリーズ記事の前編です。後編（英文）では、ここで提起された課題に対処する方法についてご紹介しています。

BSRチームはこれまで10年間にわたり、テクノロジー業界の会員企業に対し多くの人権アセスメントを実施してきました。その多くは非公開ですが、一部「Facebookのミャンマーでの事業Facebook in Myanmar」、「Googleのセレブリティ顔認識アプリケーション・ツールGoogle’s Celebrity Recognition tool」、「テリア社のユーラシアからの撤退Telia Company’s exit from Eurasia」、「Facebookの監視委員会Facebook’s proposed Oversight Board」などは概要が公開されています。

BSRの人権アセスメントは、さまざまなトピックに焦点をあててきました。地域特有の課題に重点を置いた評価もあれば、新製品、サービス、技術を中心としたもの、さらに人権アプローチを意思決定プロセスに統合する方法に的を絞ったものなどもあります。それらすべてに共通する課題は、これまでとは大きく環境が異なる今日のテクノロジーを前提として、どのように伝統的な人権問題に取り組んでいくかということでした。

国連人権はこの課題をよく認識しており、技術分野における「国連ビジネスと人権に関する指導原則」（UNGP）の実施レベルを向上させるためのガイダンスと支援プロジェクトに着手しています。このプロジェクトの計画が的確に指摘している通り、「国連ビジネスと人権に関する指導原則」（UNGP）を実践的に運用する方法と、そのアプローチが国際標準と整合していることを確認する方法を明確にしなければなりません。今後BSRは、このプロジェクに積極的に関わっていくつもりです。

「国連ビジネスと人権に関する指導原則」（UNGP）の実践的な運用方法と、そのアプローチが国際標準と整合していることを確認する方法を明確にしなければなりません

人権アセスメントは、「国連ビジネスと人権に関する指導原則」（UNGP）が推進する包括的な人権デューデリジェンスのアプローチの一部ですが、企業が人権への影響に対処する方法の特定、防止、軽減、および処理報告の全体的アプローチを設計する上で重要な意味を持っています。BSRはテクノロジー産業の人権影響評価を担ってきた過去10年間の実績から、今後10年先に向けて新たなテクノロジーの開発、導入、採用のための人権デューデリジェンス・フレームワークを設計する際に、考察すべき課題を以下のように提起します。

ユーザー側の役割
人権への影響を評価する際の重要な課題は、テクノロジー企業による製品の開発設計と、個人、顧客企業、政府による実際の製品使用との相互作用です。テクノロジー企業自体が人権侵害の原因でないとしても、ユーザーによる製品やサービスの使用過程で生じる問題の一因となったり、人権侵害に関与するリスクがあるため、製品の使用方法に制限を設けることが一般的になっています。しかし、ユーザーのプライバシーを尊重しながら、ユーザーによる問題行為を特定するのは容易ではありません。なぜなら多くの場合、テクノロジー企業は、違法使用を見分けるための必要なデータを把握することができないからです。私たちはテクノロジー企業の人権アセスメントの結論として、往々にして開発設計している当事者企業だけでなく、そのテクノロジーのユーザーに対しても同様の評価を行うべきだと結論付けざるを得ないのです。
代替性の問題
「我々がこの製品を悪用するユーザーに販売しなくても、他の誰かがそうするだろう」というのは特定の業界に限ったことではありませんが、テクノロジー産業においてこの課題は特別な意味をもたらします。顔認識に関する今日の懸念がまさにそのことを示しています。責任ある企業が悪意をもった顧客へのサービス提供を拒否したとしても、別の企業が提供することを選択すれば、全体として人権の改善は実現しません。世界を見渡せば、人権を尊重する企業がやらないと決めた分野に踏み込むことをいとわないテクノロジー企業が溢れているのです。
システム全体に向けたアプローチの必要性
人権アセスメントは通常、企業単位で実施しますが、テクノロジー産業では、多くの場合、導き出されたソリューションをシステムレベルで対応する必要があります。行き過ぎた監視などを例に取ると、政府がデータにアクセスし、それを利用して人権を侵害するリスクは、1社が単独で対処できるものではありません。そのためグローバル・ネットワーク・イニシアチブなどのコラボレーションによって、個々の企業の見識をまとめて共同で対処するための取り組みが不可欠です。多くの場合、基準の設定、複数の利害関係者による取り組みと政府による規制は、人権への負の影響に効果的に対処するために最も重要です。
ローカル・コンテクスト（地域ごとの事情）による差異の重要性
世界中のユーザーは、新しいテクノロジー製品、サービス、プラットフォームとそれらの機能を即時に採用し使用を開始することができますが、人権に関しての重要性は地域ごとの状況で大きく異なります。そのため、影響をタイムリーに確認する事、そして全世界約200か国及び国内の様々な地域の実情に対してグローバルポリシーを適用する事、という2つの課題が生じます。企業はリスクの高い地域に優先順位を付けますが、ここでの留意点は、欧米メディアなどの報道対象となる国、地域、コミュニティがそうでない地域に比べて常に優先されやすいという問題です。
規模の大きさの課題
ローカル・コンテクストの重要性に関連して、私たちは技術の利用を通した影響の範囲や規模を過小評価すべきではありません。最近のFacebook監視委員会の人権レビュー human rights review of Facebook’s proposed Oversight Boardに取り上げられているように、他の業界では地理的範囲や使用言語を特定した上で権利保有者の人権ニーズを満たす対策を検討することができますが、 Facebookは、あらゆる言語を話す世界の数十億人の権利保有者（ユーザーと非ユーザーの両方）のニーズを満たすようなアプローチを検討する必要があるのです。
テクノロジーの民主化の影響
BSRは近年いくつかの人権評価において、製品の誤用を回避、防止するためには「許可リスト」と「ブロック・リスト」を整備し、リスクの高いシナリオをもとにして製品使用を許可するか、しないかを見極めることを推奨してきました。一方、このアプローチには、閉鎖された社会を民主化し、開放するというテクノロジー本来の約束事に対して、だれが、どこで、いつ、どのようにその使用を決めることが正しいのかという基本的な課題があることも事実です。
政府の問題
「国連ビジネスと人権に関する指導原則」（UNGP）は、政府には人権を保護する義務があると明確に述べています。しかし、実際には政府は往々にしてこの義務を十分に果たさず、技術、データ、規制を利用して権利を保護するどころか侵害することさえあるのです。産業全般を取り巻く状況は、法律そのものはそれなりに良いけれど十分に施行されていないことが多いでしょう。一方、テクノロジー業界では、法律は往々にして悪い上に過剰に施行されているといえます。システム全体のアプローチが必要なのに、システムの主要なプレーヤーの協力が得られない、あるいは彼らが問題の原因である場合、有効な対応はできません。具体的にいえば、顔認識ソリューションには規制が必要ですが、規制当局は多くの場合、人権を侵害して顔認証を行う顧客でもあるのです。
不確実性についての評価
新製品、サービスまたは性能に関する人権アセスメントは、使用時の人権侵害を特定、回避、防止し軽減することに焦点を当てる必要があります。ところが、それらが使用される場所、使用方法あるいは使用するユーザーがよくわからないという困難に直面することが多くみられます。私たちは人権デューデリジェンスの一環として、未来に向けた戦略的方法を展開してきましたが、これによりすべての不測の事態を予測できると考えていません。この課題は、人権アセスメントの研究と開発が進むにつれて拡大化していくでしょう。

人権への悪影響を回避するために新製品の使用を制限することは、科学の進歩と技術の進化の恩恵を分かち合うという人権の最重要事項を妨げるのでしょうか？

総じてこれらの課題は、複雑な倫理的問いとジレンマの組み合わせです。どの段階で企業は製品の使用方法の是非を定義するべきで、また政府や社会はいつそれに従うべきでしょうか。人権への悪影響を回避するために新製品の使用を制限することは、科学の進歩と技術の進化の恩恵を分かち合うという人権の最重要事項を妨げるのでしょうか？企業は製品をどのように使用するかについて、権利所有者にどの程度の主体性を与え、その主体性はどの程度まで制限されるべきでしょうか？プラットフォーム・プロバイダー、サービス・プロバイダー、インフラストラクチャーの階層などインターネットのさまざまなレベルにおいて、それぞれの異なったアクションで対応するのは正しいことでしょうか？

これらの問いの背後にあるのは、インターネットの仕組みを定義する国際基準設定機関の役割や、インターネットが地理的、政治的、商業的境界で分断化されてしまうリスク、そして政府の暗号化に制限を設ける必要性など、インターネットの未来を構想する基本的な議論でもあります。

「国連ビジネスと人権に関する指導原則」（UNGP）をはじめとするさまざまな人権の原則、基準や方法論は、これらの課題対処のための道筋を示すために構築されましたが、今後とるべき方向を明確にするためには更に多くの作業が必要とされます。 BSRは、人権アセスメントはテクノロジーの人権への影響を理解するための道のりの一端にすぎないと考えています。評価結果を公開して、これらの課題についての対話を促進することに貢献いただいた企業の皆さまに感謝いたします。そしてこの記事の後編（英文）では、ここで提起された課題に対処のためのソリューションについて掘り下げていますので、ぜひあわせてお読みください。