安全性判定が揺れる画像生成の扱い方と、実際に確認できた挙動

Azure AI Studio で画像生成と安全性判定を試していると、同じ入力でも結果が安定しない場面があった。今回扱ったのは、淡い色調で描かれたキャラクターで、線が細く輪郭も弱いタイプのデザイン。モデルの解釈が揺れやすいものをあえて選んで試した。何度か繰り返すうちに、仕組み自体が特定の判定ライン付近でふらついているだけだと分かってきた。

安全性の判定は、画像と文章の特徴量を統合して確率的に評価し、そのあとフィルタが固定の基準値で許可か停止かを決める。利用者側ではこの基準値を調整できないため、モデルの確率出力がその付近で上下すると、同じ入力でも結果が分かれる。淡い色調のキャラクターは、内部で抽出される特徴量の位置が毎回わずかにずれやすく、結果として判定ラインの近くに置かれやすい。

入力を整理して語彙を絞ったり、画像の余計な要素を削ると、特徴量のばらつきが抑えられ、反応しやすい分類が落ち着いてくる。生成前後の判定結果を並べてみると、どの特徴が不安定な領域に入りやすいのかが見えてきて、モデルの判断 → フィルタの基準 → 許可か停止か、という流れの中で、どこが揺れているのかが分かりやすくなる。

確率で判断する仕組みなので、出力の揺れは構造的に避けられない。輪郭が弱いデザインは判定ライン付近に寄りやすいため、曖昧さを減らした入力に寄せることが結果の安定につながる──今のところはそんな理解に近い。