概要 AIの目標や振る舞いを、意図した価値観・規則・利用方針に沿わせること。 指示追従・正確さ・安全性など、誰の意図に合わせるかが常に論点になる。 RLHF などの学習手法と、ガードレールや人による監督などの運用制御の両方で支える。 整っていることと、実害が出ないことは同義ではない、という整理もある。 関連 RLHF ガードレール Contents