JILPTリサーチアイ 第60回
EUの新AI規則案と雇用労働問題

去る4月21日、EUの行政府たる欧州委員会は新たな立法提案として「人工知能に関する規則案」（COM（2021）206）^[注1]を提案した。同提案は早速世界中で大反響を巻き起こしているが、本稿では必ずしも日本のマスコミ報道で焦点が当てられていない雇用労働関係の問題について紹介し、政労使の関係者に注意を促したい。

EUのAIに対する政策は過去数年にわたって着実に進められてきた。2018年4月にはAIに関するコミュニケーションでその姿勢を示し、同年12月にはAIに関する協調計画を策定した。2020年2月にはAI白書をとりまとめて一般協議に付した。同協議への各界の意見を踏まえて、今回AI規則案を提案するに至ったのである。EU法制において、規則は指令と異なり、加盟国の法律に転換する必要なく直接EU域内に適用される。適用対象はEU企業やEU市民に限られない。EU域内に関わりを持つ限り、日本企業も中国企業もすべて適用されるのである。

本規則案では、AIをそのリスクによって4段階に分けている。最も上位にあるのが基本的人権を侵害する可能性の高い「許容できないリスク」であり、潜在意識に働きかけるサブリミナル技術、政府が個人の信用力を格付けする「ソーシャルスコアリング」、そして法執行を目的とする公共空間での生体認証などが含まれる。これらは中国では政府が先頭に立って全面的に展開されているものであるが、EUはその価値観からこれらを拒否する姿勢を明確にしている。規則案の公表以来、世界中のマスコミが注目しているのもこれら最上位のリスクを有するAIに対する禁止規定である。

しかしながら、その次の「ハイリスク」に区分されているAI技術の中には、雇用労働問題に深く関わるものが含まれている。ハイリスクのAIは利用が可能であるが、本規則案に列挙されているさまざまな規制がかかってくるのである。まずは、本規則案附則別表Ⅲに列挙されているハイリスクAIのうち、雇用労働に関わるものを示そう。

3　教育訓練

• (a) 自然人の教育訓練施設へのアクセスまたは割り当ての目的で用いられるAIシステム
• (b) 教育訓練施設における受講生の評価及び受入のために広く用いられる試験への参加者の評価のために用いられるAIシステム

4　雇用、労働者管理及び自営へのアクセス

• (a) 自然人の採用または選抜、とりわけ求人募集、応募のスクリーニングまたはフィルタリング、面接または試験の過程における応募者の評価、のために用いられるAIシステム
• (b) 労働に関係した契約関係の昇進及び終了に関する意思決定、課業の配分、かかる関係にある者の成果と行動の監視及び評価に用いられるAIシステム

とりわけ4は、入口から出口まで雇用管理の全局面にわたってAIを用いて何らかの意思決定をすることが本規則の適用対象に入ってくることがわかるだろう。こういったハイリスクAIを用いる場合には、本規則案に規定されているさまざまな規制がかかってくるのである。まず、リスクマネジメントシステムを設定しなければならず（第9条）、データガバナンスを確立しなければならない（第10条）。設置前に技術的ドキュメンテーションを行い（第11条）、運用中は常に記録（ログ）がなされ（第12条）、ユーザーへの透明性と情報提供が求められ（第13条）、そして人間による監視（human oversight）が要求される（第14条）。これは、AIシステムが用いられている間ずっと自然人により監視されているべきということで、安全衛生や基本的人権へのリスクを最小限にするためのものである。

本規則案ではさらに、ハイリスクAIシステムのプロバイダーに対しても、クオリティマネジメントシステム（第17条）、技術的ドキュメンテーション（第19条）、適合性評価（第19条）、自動生成ログ（第20条）、是正措置（第21条）、通知義務（第22条）、当局への協力（第23条）が課せられており、また販売業者、輸入業者、利用者その他の第三者などの責任も規定されている。規定ぶりは詳細を究めており、ここではいちいち紹介しきれないが、関心のある向きは是非EUのホームページで規則案を一瞥していただきたい。

本規則案はもちろん、EUで経済活動している日本企業にとっては重要なものであるが、それだけではなく、急激に発展するAIに対してどのように対応すべきかを考える上で、日本の政労使の関係者にとってもきわめて示唆的な内容であろう。周知の通り、2019年8月、募集情報等提供事業であるリクナビを運営するリクルートキャリアが、募集企業に対し、募集に応募しようとする者の内定辞退の可能性を推定する情報を作成提供したと報じられ、厚生労働省が業界団体に対して注意喚起するという事件があった。これ自体は新卒一括採用という日本独自の雇用慣行がもたらしたものであるが、上記別表4の各号列記の雇用管理事項についても、すでにかなりの企業でAIの利用が進んでいると言われており^[注2]、現時点ではなんら規制の網はかぶせられていない状況である。

これからのAI時代の労働法規制のあり方を考える上でも、今回のEU規則案は絶対に目が離せない内容である。今後、欧州議会での審議の状況も含めて、随時その進展を報告していきたい。