#safety

ジェイルブレイク

AIにかけられた安全のブレーキを、言葉の工夫で外そうとする行為のことです。

レッドチーミング

AIにわざと意地悪な質問をぶつけ、危ない答えを引き出して弱点を先に見つける検査のことです。

憲法AI

AIに守るべき原則の一覧を渡し、AI自身に答えを直してもらう学習のやり方です