米ワシントン州・オレゴン州がAIチャットボット安全法案を可決──子どものAI利用規制の最前線

米ワシントン州とオレゴン州の議会が、AIチャットボットの安全性に関する法案をそれぞれ可決した。両法案は特に未成年者のAIチャットボット利用に焦点を当てており、AI企業に対して年齢確認の義務化、有害コンテンツのフィルタリング強化、利用時間の制限機能の実装を求めている。チャットボットの安全規制という新たな領域での立法が加速している。

法案の具体的内容

ワシントン州の法案は、18歳未満のユーザーがAIチャットボットを利用する際、企業に以下の義務を課す。AIが人間ではないことの明示、自傷・暴力的なコンテンツの生成防止、1日あたりの利用時間の上限設定、保護者への利用状況通知機能の提供だ。オレゴン州の法案はさらに踏み込み、AIチャットボットが未成年者と「感情的な関係」を形成することを禁止する条項が含まれている。Character.aiで未成年者が依存的な関係に陥った事例を受けた措置とみられる。

テック企業の反応と課題

テック業界の反応は分かれている。Meta、Google、Microsoftは子どもの安全に取り組む姿勢を示しつつも、州ごとに異なる規制への対応コストを懸念している。一方、スタートアップ企業からは、年齢確認技術の導入負担が大きすぎるとの声も上がっている。技術的には、正確な年齢確認をプライバシーを侵害せずに実現することは依然として難題だ。

AITAKE編集部の見方

AIチャットボットの子ども向け安全規制は、今後世界的に広がる流れだろう。SNSの規制で後手に回った反省から、AIについてはより早い段階で手を打とうという意識が立法者の間で共有されている。ただし、規制の実効性には疑問も残る。年齢確認の回避は技術的に容易であり、「規制があるから安全」という誤った安心感を生むリスクもある。本質的には、AI literacy教育と技術的セーフガードの両輪が必要だ。日本でもこの議論は避けられず、教育現場でのAI利用ガイドラインの整備が急務である。