iStockphoto / metamorworks
2019年5月15日
-
Dunstan Allison-Hope
Senior Advisor, BSR
-
Michaela Lee
, BSR
-
Hannah Darnton
Director, Technology and Human Rights, BSR
企業、政府や市民社会が、AI（人工知能）の使用によって生じる人権への影響や倫理的問題への取り組みを加速させる中で、BSRは、もう一人の非常に重要な関係者がより積極的に参加する必要があると考えています。それは、AIを事業活動、戦略、計画に取り入れる「非技術系企業」です。
非技術系企業の参加がなければ、AIと人権に関する対話はAIの開発に関わる議論に終始してしまい、AIを実際に運用する企業への十分な配慮を欠いてしまいます。 ここではその理由について説明いたします。
昨年8月、BSRはAIの開発、展開及び使用に関して、人権に基づくアプローチをとることの重要性を示す3つのレポートを発表しました。 それ以降、私たちはこのアドバイスをアメリカ、アジア、ヨーロッパのBSRメンバー企業との共同作業で実践し、AIと人権に関するポリシーの策定や、市民社会団体と連携してAIの利用が及ぼす人権への影響の精査を行っています。
この間私たちは、アルゴリズムによる意思決定、顔認識、感情分析などのさまざまなシナリオや、小売業、国家安全保障、人事管理、交通システムなど広範囲のアプリケーションについて検討する機会を得ることができました。急速に進化し続けるテクノロジーから想像される通り、驚くほど多くを学習することができました。
そして、この研究から、テクノロジー企業が自社の製品やサービスから生じる人権への影響にどのように配慮し、責任を果たすことができるか、いくつかの重要な仮定を確認することができました。さまざまな条件のもと、私たちの提案はいくつかの共通テーマにまとめられています。トレーニング・データの質の精査、製品やサービスの販売先を調べ、それらを悪用する可能性が高い企業への販売を拒否すること、製品やサービスの使用制限に関する受容可能なポリシーの設定、などです。また、権利を保護する法律や規制の提唱、情報開示と透明性の向上、ユーザーへのベストプラクティスのためのガイダンスの提供など、システム全体に関わるアプローチも提言しました。
これらすべては、テクノロジー企業が抱える重要な責務であり、回避することはできません。しかしこれらの提言に共通することとして、テクノロジー企業は製品、サービス、テクノロジーの悪用を防ぐために、他社の企業行動に影響を与え、その影響力を駆使すべきですが、一方でどれ程の努力がなされても、成功の保証はないということも分かってきました。
今日行われるAIの使用と展開に関する決定は、今後長期間にわたって人権の実現に重大な影響をもたらすことになるでしょう。
これらの観察結果は、私たちに一つの簡単な問いをもたらしました：他者の行動に対して働きかけをすることに加えて、私たちはAI自体を直接活用している企業、政府や組織とより一層直接的に手を組むべきではないか？ ということです。ビジネスと人権に関する国連の指導原則の観点からは、原因を引き起こしている（cause）可能性の高い企業とよりも、人権への影響に寄与し、直接関係している（direclty linked）企業との作業に多くの時間を費やすべきではないでしょうか？
- 小売業界では店舗が盗難防止のためにAIを活用しており、特に弱い立場にいる人々や限定的な集団に対して、新たなプライバシー、セキュリティや差別へのリスクを生み出しています。
- 運輸業界においては、航空会社と空港が搭乗と審査の過程で顔認識を採用し、同意を得ることや差別を行わないことに関して重要な問題を提起しています。
- 自動車業界では、自動車会社がこれまで以上に多くの位置データを収集し、政府と共有しているため、自動車会社が法執行機関関係への報告書を発表する際、テクノロジー企業と連携すべきかどうかについて新たな疑問が生じています。
- ホテル業界では、チェックインの手続きを容易にするために顔認識技術が使用されており、移動の自由などに対する権利に影響を与えています。
これらの業界の企業は、ビジネス上でのAI使用に関して、人権に基づくアプローチを試みるべきと考えます。
昨年BSRが発行した、AIに対して人権を配慮したアプローチの重要性を示す3つのレポートの2番目は、これらの課題を予測したものでした。 このレポートの中で、私たちは金融サービス、ヘルスケア、小売、運輸、農業、そして資源採掘産業におけるAIの使用から生じる人権リスクと状況を洗い出し、それぞれの産業別にセクター全体の影響を調査することを提案しました。 1年後の現在、私たちは先日のスコール・ワールド・フォーラム（Skoll World Forum）、サステナブル・ブランド・パリ（Sustainable Brands Paris）、そして私たち自身が行ったBSRコネクトイベント（BSR Connect events）を通じて、この見解の重要性が倍増したことを認識しています。
今日、AIの展開について下される決定は、将来にわたって人権の実現に重大な影響をもたらすでしょう。これは、すべての業界がAIについて精査することが緊急の課題であり、先送りできるものではないことを意味します。 そのため、私たちはこの5月にパートナーシップ・オン・AI （Partnership on AI）に参画しました。今後はAIの使用から生じる人権への影響を精査するために、様々な業界のBSRメンバー企業と密接に協力しながら対応を進めていきたいと考えています。
Let’s talk about how BSR can help you to transform your business and achieve your sustainability goals.
