AI News JAPAN

世界のAIニュースを最速で把握できるメディア

Advertisement

LLMは出身大学の「格」で候補者を差別的評価——arXiv論文が3実験で実証

30秒サマリー

  • LLMが採用・評価タスクでMITなど高名校出身者を体系的に高く評価することが実験で確認された
  • 出身国よりも機関の格が評価に影響し、掲載誌の権威はその約5.7倍の効果を持つ
  • 低威信プロファイルの候補者ほど評価のばらつきが大きく、平均値だけでは見えないリスクがある

何が起きたか

Maikel Leyva-VazquezとFlorentin Smarandacheは2026年6月、LLM(大規模言語モデル)が採用候補者を評価する際に機関の「格」や地理的出身に基づく体系的バイアスを持つかを検証した論文をarXivに投稿した。4つのLLM、5つの職業領域を対象に計4,320回のAPIコールを用いた3つの実験を報告している。

実験1(3×4設計)では、機関ティアが高いほど評価スコアが統計的に有意に上昇することが示された(10点満点で+0.297点、95%ブートストラップCI:+0.175〜+0.422)。一方、応募者の氏名の民族的起源による効果は軽微で統計的に有意ではなかった。実験2(威信×出身国の2×2設計)では威信効果(+0.185)が出身国効果(+0.126)を約1.5倍上回ることが示された。

実験3(掲載誌×機関の2×2設計)では、Nature誌掲載という「誌の権威」の効果(+1.937)が機関の格の効果(+0.341)を約5.7倍上回ることが判明した。また「救済効果」として、Nature誌に掲載されることで低名声機関(エクアドルのグアヤキル大学)出身者がMIT出身者より大きく評価を底上げされることも確認された(それぞれ+2.127対+1.745)。

分析にはNeutrosophic Bias Index(NBI)を用いており、低威信プロファイルの候補者では評価の一貫性が特に低いことが示されている。この「不確実性の高さ」は平均値のみによる指標では捉えられないリスクだと著者らは指摘している。なお本論文はarXivへの投稿であり、査読付き学術誌への掲載は原文では確認できない。

原典ハイライト

機関ティアが高いと評価スコアが+0.297上昇(統計的に有意)。誌の権威効果は機関の格の5.7倍(+1.937 vs +0.341)。氏名の民族的起源効果は有意でなく、地理的出身より機関の格が1.5倍影響する。低威信プロファイルほど評価ばらつき(I成分)が大きく、平均だけでは見えない格差が存在する。

出典: arXiv cs.CL(論文)

So What?(なぜ重要か)

LLMを採用・人事評価に活用する場合、モデルは応募者の学歴や所属機関の「ブランド力」を実力とは独立したバイアス源として引き込む可能性が実験的に示された。特に、掲載論文誌や所属機関の知名度がスコアを大きく左右する構造は、研究職や専門職採用で深刻な公平性問題につながりかねない。また、低威信プロファイルに対する評価のばらつきの大きさは、AIの判定を鵜呑みにした場合のリスクの読みにくさを意味する。

日本企業への示唆

日本企業がAIを採用・人事評価ツールとして導入する際には、大学や機関ブランドへの感度をブラインド化する前処理や、AI評価スコアの監査プロセスの整備が急務となる。特に研究開発・専門職採用で論文・学歴情報をLLMに渡す設計は要注意。また、評価スコアの平均値だけでなく「ばらつき(不確実性)」を指標に加えることで、隠れたバイアスリスクの把握が可能になる。自社のAI採用ツール選定・カスタマイズの際は、この種の公平性検証実験を実施したベンダーかどうかを確認する視点が有効だ。

背景・経緯

LLMの採用・評価用途への活用が広がる中、モデルが訓練データに含まれる社会的偏見を内在化しているリスクが研究上の関心を集めている。本論文はスペイン語で2026年に発表された2実験版の拡張英語版であり、実験3(掲載誌×機関の威信)とブートストラップ信頼区間の分析を追加している。arXiv投稿論文であり、査読済み学術誌への掲載は原文では言及されていない。