放送メディア通信審議委員会がアクセスの遮断を要請したわいせつ物が掲載されたサイトの85％以上で、実際には閲覧できる状態が続いていたことが、監査の結果でわかりました。
 
監査院は5日、このような内容を骨子とする、AIへの対策に関する実態監査の結果を公表しました。
 
それによりますと、放送メディア通信審議委員会は、被害者からの申告や捜査機関からの通報を受け、生成AIなどで実在する子どもの性的な画像を作り出す「性的ディープフェイク」の被害を防ぐため、削除要請とあわせて、9つの通信事業者にアクセスの遮断を求めてきました。
 
しかし、2024年に遮断を要請したおよそ2万3000件のサイトのうち、無作為に抽出して確認した結果、およそ85％にあたる854件のサイトが、1つから3つの通信網を通じて閲覧できる状態だったことが分かりました。
 
このうち20％は、遮断対象のリスト自体が通信会社に伝えられておらず、残りは、遮断を迂回するアクセス技術によって閲覧できていました。
 
これについて監査院は、迂回したうえでのアクセスを想定した対策や、情報の送受信プロセスの改善が必要だと指摘しています。
 
一方、公共部門で使われている人工知能システムについても、学習データが不十分なことなどから性能の低下が確認されたということです。
 
監査院は、生命や安全、基本的な権利に重大な影響を及ぼすおそれがあるAIを指す「高影響AI」について、分類の基準や認証の仕組みが現実を十分に反映できていないと明らかにしました。
 
今回の監査は、22日に施行される「人工知能基本法」を前に、公共部門での活用実態を実証的に分析した初めての事例です。
 
人工知能基本法は、技術の振興と安全の確保を同時に目指す、韓国で初めてのAI関連法で、AIの社会全体での活用基準を示すものです。