プロキシが作る偽りの影 代理指標が世界を歪める時 2025年12月

プロキシが作る偽りの影 代理指標が世界を歪める時 2025年12月
プロキシバイアスとは、本来測定すべき対象の代わりに近似する別の指標を用いることで生じる偏りである。AIは代理指標に潜む社会的背景を理解できず、数値をそのまま学習するため、過去の偏見や不平等を拡大してしまう危険がある。代表例が米国の再犯予測モデルCOMPASであり、犯罪傾向の代わりに逮捕歴を指標としたことで黒人が不当に高いリスク評価を受けやすい構造が生まれた。
金融分野では郵便番号を信用リスクの代理にした結果、地域格差がそのまま個人評価に転化する問題が報告されている。医療分野でも医療費支出を健康需要の代理としたアルゴリズムが人種間格差を助長した例がある。これらはいずれも代理指標が目的変数を正しく表さないことが原因である。
EUのAI ActやOECDのAI原則では、データの因果的妥当性と関連性を重視し、不適切な代理指標の使用を重大なリスクとして扱っている。プロキシバイアスの本質は指標選択の誤りであり、概念の定義とデータの妥当性を見極めることが公正なAI設計の基盤となる。