用語集 / 評価・安全性 レッドチーミングとは レッドチーミングとは、AIに意図的に問題のある入力や意地悪な質問を試し、弱点や危険な挙動を事前に洗い出す検証手法です。開発者自身が「攻撃者役」になってAIの限界を確認する取り組みとも言えます。 01なぜ実施するのか AIサービスをリリースする前に、想定外の入力に対してどんな挙動をするかを確認しておかないと、公開後に危険な出力や誤った情報が発覚するリスクがあります。レッドチーミングは、そうした問題を事前に見つけて対策するためのプロセスです。 見つかった弱点は、ガードレールの設計やバイアスの是正といった対策に反映されます。個人開発でも、公開前に意地悪な入力を自分で試してみることは有効な習慣です。