中国正義オブザーバー

中司观検査

英語アラビア語中国語(簡体字)オランダ語フランス語ドイツ語ヒンディー語イタリア語日本語韓国語ポルトガル語ロシア語スペイン語スウェーデン語ヘブライ語インドネシア語ベトナム語タイ語トルコ語マレー語

中国はアルゴリズムによる意思決定においてプラットフォームの説明責任にどのように取り組んでいますか?

28年2021月XNUMX日日曜日
カテゴリー: インサイト
エディタ: ShuaiHuang黄帅

アバター

 

主な要点

  • 中国の立法者は、インターネットプラットフォームの運用におけるアルゴリズムの中心的な役割を認識し、20年2021月XNUMX日に制定された個人情報保護法(PIPL)で、このテクノロジーを初めて規制する「自動意思決定」と定義しました。
  • PIPLの下では、プラットフォームは事前にアルゴリズムの影響を評価し、その後の意思決定の結果に対して責任を負います。
  • PIPLは、プラットフォームユーザーを知る権利を拡大し、プラットフォームがユーザーへのアルゴリズムによるパーソナライズされた推奨によって作成された「情報の繭」を破ることを要求します。


中国の個人情報保護法(TT人信息保护法)は、2021年XNUMX月に制定され、アルゴリズムを通じて自動化された意思決定を行うインターネットプラットフォームの境界線を引きます。

Ⅰ。 バックグラウンド

中国のインターネットプラットフォーム(通常はByteDanceのTopBuzzとTikTok)は、推奨アルゴリズムを広範囲に使用して、コンテンツと製品をユーザーにプッシュしています。

しかし、そのようなアルゴリズムは、ユーザーの自由な決定の権利を妨害し、したがってモラルハザードを生み出したとされており、一般市民や規制当局から疑問視されています。

中国の立法者は、このようなプラットフォームの運用におけるアルゴリズムの中心的な役割を認識し、20年2021月XNUMX日に制定された個人情報保護法(以下「PIPL」)でこのテクノロジーを規制する「自動意思決定」と定義しました。初めて。

PIPLに従って、自動化された意思決定とは、コンピュータープログラムを介して個人の行動習慣、趣味、または財務、健康、信用の状態を自動的に分析および評価し、それを決定する活動を指します。 (第73条)

それ以前は、自動化された意思決定に対するプラットフォームの責任について意見が分かれていました。 たとえば、一部の人々は、プラットフォームは、本質的に一種の中立的なテクノロジーである自動化された意思決定アルゴリズムの結果に対して責任を負わないはずだと信じていました。 ただし、PIPLはその反対を明確にしています。

Ⅱ。 プラットフォームの制限

1.規制当局はアルゴリズムを直接レビューします

プラットフォームは、個人情報処理者として、個人情報の処理が法律および行政規則に準拠しているかどうかを定期的に監査するものとします。 (第54条)

これには、プラットフォームがアルゴリズムによる自動化された意思決定やその他の情報処理活動を定期的に監査する必要があります。

規則によれば、規制当局は、プラットフォームの行為とその結果のみに対する外部の監督の代わりに、プラットフォームのアルゴリズムの運用に関する内部監査を実施することもできます。

したがって、規制当局はアルゴリズムを直接規制対象として作成し、規制当局が自動化された意思決定の技術と詳細に介入できるようにします。

2.プラットフォームは、アルゴリズムの影響を事前に評価します 

プラットフォームは、個人情報処理者として、事前に個人情報保護の影響評価を実施し、自動意思決定に個人情報を使用する場合は処理情報を記録するものとします。 (第55条)

プラットフォームによる評価は、以下をカバーするものとします。

A.個人情報の処理の目的、方法、またはその他の側面が合法であり、合法であり、必要であるかどうか。

B.個人の権利と利益およびリスクのレベルへの影響。 と

C.講じられたセキュリティ保護措置が合法で、効果的で、リスクのレベルに見合ったものであるかどうか。

したがって、プラットフォームは、自動化された意思決定のアルゴリズムが稼働する前に、事前評価を実施する必要があります。 リスク評価には、アルゴリズムによる自動意思決定の正当性と必要性​​、およびその影響とリスクが含まれます。

プラットフォームからの欠陥のあるアルゴリズムによる自動意思決定は、公益や国家安全保障にさえ、市民の財産や個人の権利に害を及ぼす可能性があります。

したがって、悪影響は何千人ものユーザーに影響を与える可能性があります。 その時点で、プラットフォームに責任がありますが、すでに行われた損害を回復することは難しいかもしれません。

このような状況を防ぐために、法律は、事前にアルゴリズムに介入しようとして、プラットフォームのアルゴリズムの事前評価システムを確立しています。

3.プラットフォームは、その後の意思決定の結果に対して責任を負います

プラットフォームは、自動化された意思決定の結果に対して以下の義務を負うものとします(第24条)。

A.プラットフォームは、結果が公正かつ公平であることを保証するものとします。

個人情報処理者が個人情報を用いて自動意思決定を行う場合、意思決定の透明性と結果の公平性および公平性を確保し、取引価格やその他の取引条件に関して個人に不当な差別的扱いを与えてはなりません。

B.プラットフォームは、ユーザーの個人的な特性を対象としない自動化された意思決定オプションを提供するものとします。

個人へのプッシュベースの情報配信または商業マーケティングが自動化された意思決定によって行われる場合、個人の個人的特性を対象としないオプションまたは受信を拒否する簡単な方法が同時に個人に提供されるものとします。

C.プラットフォームは、意思決定の結果を説明するものとします。

個人の権利と利益に重大な影響を与える決定が自動化された意思決定によって行われる場合、個人は、個人情報処理者に説明を求める権利、およびその決定を拒否する権利を有するものとします。自動化された意思決定のみによる個人情報処理者による決定。

この規則は、以下を含む自動化された意思決定の結果に対して責任を負うプラットフォームを保持します。

A.このルールは、プラットフォームで使用されてきた「テクノロジーの中立性」の防御を認識していません。 プラットフォームは、アルゴリズムによる自動化された意思決定の結果に責任を負い、結果が公正かつ合理的であることを保証する必要があります。

B.ルールは、プラットフォームユーザーを知る権利を拡大します。 ユーザーは、「重大な影響」が発生した場合に、自動化された意思決定結果の透明性とプラットフォームからの説明を要求できます。

C.このルールでは、プラットフォームがユーザーへのアルゴリズムによるパーソナライズされた推奨によって作成された「情報の繭」を破ることを要求し、プラットフォームがユーザーの知る権利を保護することを要求します。

III。 私たちのコメント

中国は、自動化された意思決定のプラットフォームのアルゴリズムに法的規則を追加することにより、PIPLに飛躍的な進歩を遂げました。 ただし、それでもさらに洗練する必要があります。 たとえば、法律は次のことを明確にしていません。

A.プラットフォームがアルゴリズム評価を開始するための条件。

B.プラットフォームがアルゴリズムを評価した後、評価レポートが公開されるかどうか、またどの程度公開されるか、および 

C.アルゴリズムによる自動化された意思決定によって引き起こされた損害に対してプラットフォームがどのように責任を負うべきか。

中国の規制当局は、PIPLをさらに実施するために一連の特定の規制を制定する可能性をまだ模索していると思います。

 

による写真 ラージとのロードトリップ on Unsplash

 

 

 

 

 

貢献者: GuodongDu杜国栋

PDFとして保存

中国法ポータルの関連法

あなたはおそらくそれも好きでしょう

ケーススタディ:顔認識の行政処分

400件を超える行政処分事件の調査は、顔認識に対する中国政府の現在の態度に光を当て、事件が今日発生した場合に中国の個人情報保護法がどのように適用されるかを評価するシナリオを提供します。

中国の訴訟法は何と言っていますか?

当番弁護士とは何ですか? 誰が法的援助要員を務めますか? どのような法律サービスを提供できますか? 中国の訴訟法を知るために答えるべき重要な質問があります。

中国の労働安全法(2021)

労働安全法(安全生生産法)は29年2002月2009日に公布され、2014年、2021年、1年にそれぞれ改正されました。 最新の改訂は2021年XNUMX月XNUMX日に発効しました。