命の尺度を問い直す時 目的関数が静かに線を引く場所 2025年12月

命の尺度を問い直す時 目的関数が静かに線を引く場所 2025年12月
AIに判断を委ねる際、中心となるのが目的関数である。これは何を最大化し何を最小化するかを決める基準だが、その設定は中立的な数学ではなく深い価値判断を含んでいる。例えば医療アルゴリズムにおける救われる命の年数を最大化するという目的関数は、一見合理的で資源の効率的利用に適しているように見える。しかしこの尺度は若年層を優先し、高齢者や慢性疾患を抱える人を後回しにする構造を持ち得る。さらに生活環境や人種、所得によって健康状態が左右される社会では、健康年数の最大化という目標そのものが不公平を拡大する方向へ働くことがある。
米国の医療保険アルゴリズムで医療費支出を健康需要の代理として用いた事例では、黒人患者が実際よりも低い医療ニーズと判定される偏りが発生した。これは支出額が健康状態ではなく医療アクセスの差を反映していたためだ。目的関数が不適切な代理指標と結びついたことで、不公平がAIを通じて強化された典型例である。
こうした問題を背景に、EUのAI ActやOECDのAI原則では目的の妥当性を重要な要件として位置づけている。何を最大化するかの選択は社会がどの価値を優先するかという倫理的判断であり、AIの公平性や安全性は目的設定の段階ですでに方向づけられてしまう。目的関数は単なる数式ではなく社会の価値観と未来の優先順位を映す鏡であり、その設定を慎重に検証する姿勢が欠かせない。