教養学部報
第676号 
ACM FAccT Best Paper Honorable Mentionを受賞して
楊 明哲、馬場雪乃
このたび、二〇二六年六月にカナダ・モントリオールで開催された国際会議ＡＣＭ ＦＡｃｃＴ ２０２６において、私たちの論文「Do User-Aligned Explanations Steer Human Decisions? Context-Dependent Influence and Ethical Implications」（楊明哲・香川璃奈・馬場雪乃）が、Best Paper Honorable Mentionを受賞しました。共著者である筑波大学の香川璃奈先生をはじめ、日頃からご指導・ご支援くださっている皆様に、この場をお借りして厚く御礼申し上げます。
ＦＡｃｃＴ（Conference on Fairness, Accountability, and Transparency）は、ＡＩや情報システムが社会に与える影響を、公平性・説明責任・透明性の観点から扱う国際会議です。二〇一八年に始まった比較的若い会議ですが、計算機科学に加えて法学、社会学、哲学、政策研究など多様な分野の研究者が集まる学際性を特徴とし、この分野で最も重要な会議の一つとされています。今年は三二五本の採択論文の中から最優秀論文三本と、それに次ぐ優秀論文五本が選ばれ、私たちの論文はその一つに選んでいただきました。
受賞論文のテーマは、ＡＩによる意思決定支援における「ＡＩ説明」です。医療診断の支援や再犯リスクの評価など、人間の判断が重要な場面でＡＩが助言を行う際、ＡＩはなぜその助言をするのかという説明を添えることが一般的になっています。近年は大規模言語モデルの発展により、説明を利用者一人ひとりの考え方に合わせて生成することも容易になりました。分かりやすく納得しやすい説明は、一見よいことばかりに思えます。しかし私たちが着目したのは、その裏側にある危うさです。人は自分の考えに合う情報を受け入れやすいという確証バイアスを持っています。もしＡＩが利用者の判断基準に合わせて説明を調整すれば、その説明がＡＩの実際の判断根拠と異なっていても、利用者は気づかないまま受け入れ、ＡＩの助言に従ってしまうのではないか。これが本研究の問いです。
この問いに答えるため、私たちは説明と利用者自身の判断基準との一致度を段階的に操作できる実験の枠組みを構築し、一六七名の参加者を対象にオンライン実験を行いました。課題には、正解が存在する年収予測、結果が重大な再犯予測、主観的な好みが基準となるデート予測の三種類を用いました。その結果、説明が利用者の判断基準に近づくほど、正解のある課題や主観的な課題ではＡＩの助言に同意する割合が高まりました。一方、再犯予測のような重大な課題では、判断そのものはあまり変わらないにもかかわらず、ＡＩへの信頼や満足度だけが上昇しました。判断の質が向上していないのに納得感だけが高まる状況は、失敗の許されない領域ではとりわけ見過ごせない問題です。参加者は、こうした調整を重大な課題では受け入れがたいと評価する一方で、調整の有無は開示されるべきだと広く考えていました。これらの知見から私たちは、説明を分かりやすく心地よいものにするだけでは責任ある個人化とは言えず、調整前の判断根拠を確認・照会できる仕組みや、調整の開示と組み合わせるべきだと主張しています。
私たちはこれまで一貫して、ＡＩと協働する人間の意思決定をよりよくするにはどうすればよいか、というテーマに取り組んできました。最初の研究では、偏った判断をしがちな人に対して公平性を考慮したＡＩが支援を行うことで、判断を公平な方向に導けるかを検証しました（ＣＨＩ ２０２４）。続いて、ＡＩの説明の「口調」が人の判断に与える影響を調べました（ＣＨＩ ２０２５）。これらはＡＩが人の判断をよい方向へ動かす可能性を探るものでしたが、同じ力は望ましくない方向にも働き得ます。今回の論文はまさにその裏面に着目し、ＡＩによる誘導を定量的に測ることで、安全に使うための条件を明らかにしようとしたものです。人間の側に注目してＡＩとの協働を研究するというアプローチは、これらの研究を通して構築したものであり、今回の受賞はその積み重ねを評価していただいたものと感じています。
モントリオールでの会議では、技術者だけでなく法学者や社会科学者からも多くの質問やコメントをいただき、この分野の研究が社会から求められていることを実感しました。今後も、人間とＡＩがよりよく協働できる仕組みの実現を目指して、研究を続けてまいります。
（広域システム科学）
（広域システム／情報・図形）
〇関連情報
【受賞】広域科学専攻の学生らがACM FAccT 2026で優秀論文賞を受賞
https://www.c.u-tokyo.ac.jp/info/news/awardsandbook/20260715150000.html
無断での転載、転用、複写を禁じます。
