中国正義オブザーバー

中司观検査

英語アラビア語中国語(簡体字)オランダ語フランス語ドイツ語ヒンディー語イタリア語日本語韓国語ポルトガル語ロシア語スペイン語スウェーデン語ヘブライ語インドネシア語ベトナム語タイ語トルコ語マレー語

中国はアルゴリズムによる意思決定においてプラットフォームの説明責任にどのように取り組んでいますか?

28年2021月XNUMX日日曜日
カテゴリー: 分析
エディタ: ShuaiHuang黄帅

アバター

 

主な要点

  • 中国の立法者は、インターネットプラットフォームの運用におけるアルゴリズムの中心的な役割を認識し、20年2021月XNUMX日に制定された個人情報保護法(PIPL)で、このテクノロジーを初めて規制する「自動意思決定」と定義しました。
  • PIPLの下では、プラットフォームは事前にアルゴリズムの影響を評価し、その後の意思決定の結果に対して責任を負います。
  • PIPLは、プラットフォームユーザーを知る権利を拡大し、プラットフォームがユーザーへのアルゴリズムによるパーソナライズされた推奨によって作成された「情報の繭」を破ることを要求します。


中国の個人情報保護法(TT人信息保护法)は、2021年XNUMX月に制定され、アルゴリズムを通じて自動化された意思決定を行うインターネットプラットフォームの境界線を引きます。

Ⅰ。 バックグラウンド

中国のインターネットプラットフォーム(通常はByteDanceのTopBuzzとTikTok)は、推奨アルゴリズムを広範囲に使用して、コンテンツと製品をユーザーにプッシュしています。

しかし、そのようなアルゴリズムは、ユーザーの自由な決定の権利を妨害し、したがってモラルハザードを生み出したとされており、一般市民や規制当局から疑問視されています。

中国の立法者は、このようなプラットフォームの運用におけるアルゴリズムの中心的な役割を認識し、20年2021月XNUMX日に制定された個人情報保護法(以下「PIPL」)でこのテクノロジーを規制する「自動意思決定」と定義しました。初めて。

PIPLに従って、自動化された意思決定とは、コンピュータープログラムを介して個人の行動習慣、趣味、または財務、健康、信用の状態を自動的に分析および評価し、それを決定する活動を指します。 (第73条)

それ以前は、自動化された意思決定に対するプラットフォームの責任について意見が分かれていました。 たとえば、一部の人々は、プラットフォームは、本質的に一種の中立的なテクノロジーである自動化された意思決定アルゴリズムの結果に対して責任を負わないはずだと信じていました。 ただし、PIPLはその反対を明確にしています。

Ⅱ。 プラットフォームの制限

1.規制当局はアルゴリズムを直接レビューします

プラットフォームは、個人情報処理者として、個人情報の処理が法律および行政規則に準拠しているかどうかを定期的に監査するものとします。 (第54条)

これには、プラットフォームがアルゴリズムによる自動化された意思決定やその他の情報処理活動を定期的に監査する必要があります。

規則によれば、規制当局は、プラットフォームの行為とその結果のみに対する外部の監督の代わりに、プラットフォームのアルゴリズムの運用に関する内部監査を実施することもできます。

したがって、規制当局はアルゴリズムを直接規制対象として作成し、規制当局が自動化された意思決定の技術と詳細に介入できるようにします。

2.プラットフォームは、アルゴリズムの影響を事前に評価します 

プラットフォームは、個人情報処理者として、事前に個人情報保護の影響評価を実施し、自動意思決定に個人情報を使用する場合は処理情報を記録するものとします。 (第55条)

プラットフォームによる評価は、以下をカバーするものとします。

A.個人情報の処理の目的、方法、またはその他の側面が合法であり、合法であり、必要であるかどうか。

B.個人の権利と利益およびリスクのレベルへの影響。 と

C.講じられたセキュリティ保護措置が合法で、効果的で、リスクのレベルに見合ったものであるかどうか。

したがって、プラットフォームは、自動化された意思決定のアルゴリズムが稼働する前に、事前評価を実施する必要があります。 リスク評価には、アルゴリズムによる自動意思決定の正当性と必要性​​、およびその影響とリスクが含まれます。

プラットフォームからの欠陥のあるアルゴリズムによる自動意思決定は、公益や国家安全保障にさえ、市民の財産や個人の権利に害を及ぼす可能性があります。

したがって、悪影響は何千人ものユーザーに影響を与える可能性があります。 その時点で、プラットフォームに責任がありますが、すでに行われた損害を回復することは難しいかもしれません。

このような状況を防ぐために、法律は、事前にアルゴリズムに介入しようとして、プラットフォームのアルゴリズムの事前評価システムを確立しています。

3.プラットフォームは、その後の意思決定の結果に対して責任を負います

プラットフォームは、自動化された意思決定の結果に対して以下の義務を負うものとします(第24条)。

A.プラットフォームは、結果が公正かつ公平であることを保証するものとします。

個人情報処理者が個人情報を用いて自動意思決定を行う場合、意思決定の透明性と結果の公平性および公平性を確保し、取引価格やその他の取引条件に関して個人に不当な差別的扱いを与えてはなりません。

B.プラットフォームは、ユーザーの個人的な特性を対象としない自動化された意思決定オプションを提供するものとします。

個人へのプッシュベースの情報配信または商業マーケティングが自動化された意思決定によって行われる場合、個人の個人的特性を対象としないオプションまたは受信を拒否する簡単な方法が同時に個人に提供されるものとします。

C.プラットフォームは、意思決定の結果を説明するものとします。

個人の権利と利益に重大な影響を与える決定が自動化された意思決定によって行われる場合、個人は、個人情報処理者に説明を求める権利、およびその決定を拒否する権利を有するものとします。自動化された意思決定のみによる個人情報処理者による決定。

この規則は、以下を含む自動化された意思決定の結果に対して責任を負うプラットフォームを保持します。

A.このルールは、プラットフォームで使用されてきた「テクノロジーの中立性」の防御を認識していません。 プラットフォームは、アルゴリズムによる自動化された意思決定の結果に責任を負い、結果が公正かつ合理的であることを保証する必要があります。

B.ルールは、プラットフォームユーザーを知る権利を拡大します。 ユーザーは、「重大な影響」が発生した場合に、自動化された意思決定結果の透明性とプラットフォームからの説明を要求できます。

C.このルールでは、プラットフォームがユーザーへのアルゴリズムによるパーソナライズされた推奨によって作成された「情報の繭」を破ることを要求し、プラットフォームがユーザーの知る権利を保護することを要求します。

III。 私たちのコメント

中国は、自動化された意思決定のプラットフォームのアルゴリズムに法的規則を追加することにより、PIPLに飛躍的な進歩を遂げました。 ただし、それでもさらに洗練する必要があります。 たとえば、法律は次のことを明確にしていません。

A.プラットフォームがアルゴリズム評価を開始するための条件。

B.プラットフォームがアルゴリズムを評価した後、評価レポートが公開されるかどうか、またどの程度公開されるか、および 

C.アルゴリズムによる自動化された意思決定によって引き起こされた損害に対してプラットフォームがどのように責任を負うべきか。

中国の規制当局は、PIPLをさらに実施するために一連の特定の規制を制定する可能性をまだ模索していると思います。

 

による写真 ラージとのロードトリップ on Unsplash

 

 

 

 

 

貢献者: GuodongDu杜国栋

PDFとして保存

中国法ポータルの関連法

あなたはおそらくそれも好きでしょう

中国の裁判官は国境を越えた訴訟手続きについてこう語った: 2023 年民事訴訟法改正に関する中国最高裁判所の裁判官からの洞察 (2)

2023年民事訴訟法は問題志向のアプローチを採用しており、効率性を高める広範な取り組みを反映して、チャンネルを拡大し、非本籍地当事者に対する公示期間を60日に短縮することで、外国関連事件の手続き送達における困難に対処している。法的手続きを国際訴訟の複雑さに適応させます。

北京裁判所、国民の個人情報侵害に関する報告書を発表

北京高等人民法院が2009年2016月に発行した極めて重要な白書は、2021年の刑法改正から2023年のサイバーセキュリティ法、そしてXNUMX年の個人情報保護法に至る中国のデータ保護情勢の進化を図示し、データ保護法施行における中国の裁判所の役割を強調している。ネットワークオペレーターに対する厳格なルールと国民の個人情報の保護。

中国、個人情報の海外への転送に関するガイドラインを発行

2023 年 XNUMX 月、中国サイバースペース管理局 (CAC) は「個人情報のアウトバウンド転送に関する標準契約書の提出に関するガイドライン (第 XNUMX 版)」を発行し、標準契約書を提出するための方法、手順、資料に関する具体的な要件を規定しました。個人情報の送信のため。

中国の少年犯罪歴封印制度

中国の刑法では、少年が犯罪を犯した時点で18歳に達し、XNUMX年以下の有期懲役またはそれより軽い刑に処せられた場合、当該犯罪記録は保存のために封印されることになっている。

中国、生成型 AI を規制へ: 生成型 AI サービスの行政措置草案を検討

ChatGPT は世界中で最もホットなトピックの XNUMX つとなっています。 このような AI システムは「生成 AI」と呼ばれ、ユーザーがインポートまたは要求したものに応じて、アルゴリズム、モデル、ルールに基づいてテキスト、画像、音声、メディア、コード、その他の素材を生成できます。