責任ある AI

モデルは過去のデータから学ぶので、データに偏りがあれば、判断も偏ります。たとえば、過去の採用で男性ばかり採っていた会社のデータで学習すると、性別に関係する特徴（使う言葉・学校）を通して、同じ偏りを再現することがあります。性別などの列を取り除いても、他の列から推し量れてしまう（代理変数）ので、それだけでは防げません。

公平性の指標：全体の精度だけでなく、属性（性別・年齢層・地域など）ごとに性能を測るのが出発点です。

これらの指標は一般に同時には満たせないので、どれを重視するかは用途と法律・社内の方針に合わせて、事業や法務の担当と一緒に決めます。

対策の例：

• データ：少ないグループのデータを集める・重みを付ける。ラベル自体に偏りがないか見直す。
• 学習：公平性の条件を入れて学習する手法を使う。
• 後処理：グループごとにしきい値を調整する（ただし、それが許されるかは用途と規制によります）。
• 運用：人の確認を挟む・異議を申し立てられる窓口を作る。リリースの前だけでなく、本番でも属性ごとの性能を定期的に測ります。

説明の手法：「なぜこの判断になったか」を説明できると、利用者の納得・誤りやリークの発見・規制への対応に役立ちます。

注意点として、これらは「モデルがどう計算したか」の説明であり、「現実の原因」ではありません。相関の強い特徴量がある場合は、重要度が分散して読みにくくなります。LLM の場合は、根拠の文書を引用して示すのが現実的な説明になります。

個人情報の扱い：

• 必要な分だけ集める：予測に要らない個人情報は学習データに入れない。氏名やメールアドレスは、ID に置き換える（仮名化）。
• ログに残さない：推論のリクエストや LLM のプロンプトのログに個人情報が入りやすいので、保存の前にマスクし、保存期間を決めます。
• モデルから漏れることがある：大きなモデルは学習データの一部を覚えて出力することがあります。特に LLM のファインチューニングに個人情報を入れないようにします。
• 利用目的と同意：集めたときの目的の範囲で使っているか、削除の依頼にどう応えるか（学習済みのモデルへの扱いも含めて）を、法務と確認します。外部の API に送る場合は、送った情報が学習や保存に使われない設定・契約かを確認します。

人に影響するモデルを出すときは、「何のためのモデルで、どこまで使ってよいか」を文書にして残します。代表的な形がモデルカードです。

EU の AI 規則（AI Act）のように、用途のリスクの高さに応じて義務を課す規制もあり、日本でも政府の指針が出ています。採用・与信・医療のような影響の大きい用途では、リリースの前に事業・法務と一緒にリスクを評価し、人の確認を残すかどうかを決めます。

モデルそのものも攻撃の対象になります。代表的なものを知っておき、影響の大きい用途では対策を検討します。