概要

AIの目標や振る舞いを、意図した価値観・規則・利用方針に沿わせること。
指示追従・正確さ・安全性など、誰の意図に合わせるかが常に論点になる。
RLHF などの学習手法と、ガードレールや人による監督などの運用制御の両方で支える。
整っていることと、実害が出ないことは同義ではない、という整理もある。

関連

Contents