命の尺度を問い直す時 目的関数が静かに線を引く場所 2025年12月

命の尺度を問い直す時 目的関数が静かに線を引く場所 2025年12月
AIに判断を委ねる時、私たちはしばしば目的関数という一本の物差しを差し出す。しかしその物差しが示す方向が、必ずしも公平や正義と一致するとは限らない。例えば医療分野で用いられる救われる命の年数を最大化するという目的関数は、一見すると合理的で資源の最適配分にも適しているように見える。だがこの数式の内側には、年齢、所得、居住環境、人種、既往歴といった社会条件が静かに入り込み、特定の集団を不利な位置へ追いやる力が潜む。
米国の医療保険アルゴリズムに関する研究では、医療費支出を健康需要の代理に用いた結果、黒人患者が本来必要とする医療サービスを十分に受けられない構造的偏りが明らかになった。支出額は医療アクセスの結果であり健康状態そのものではない。それでも目的関数は支出の少なさを需要の低さと解釈し、不公平を制度に組み込んでしまった。
目的関数は数式以上に社会的で倫理的な意味を帯びる。何を最大化し何を無視するのかという取捨選択は、誰を優先し誰を犠牲にするかという判断と表裏一体である。公平性研究では目的関数のわずかな変更が出力格差を大きく変えることも分かっており、差別はしばしば目的設定の段階で生まれる。
このためEUのAI ActやOECDのAI原則では、アルゴリズムの透明性だけでなく目的の妥当性そのものを検証する重要性が強調されている。目的を立てるという行為そのものが未来の価値の方向性を決めるため、AIに判断を委ねる前に倫理的観点から問い直す姿勢が不可欠になる。