AI 機能の体験設計

AI（大規模言語モデルなど）を使った機能は、同じ入力でも答えが変わり、もっともらしく間違えることがあります。そのため、間違える前提で体験を設計します。

AI を人のように見せすぎると、実際以上に信頼されてしまいます。名前や口調で親しみを出す場合も、間違えることがある点ははっきり伝えます。

デザイナーが AI の仕組みを細かく知る必要はありませんが、体験に影響する性質は知っておきます。

AI の機能の多くは、エンジニアが AI に渡す指示（プロンプト）や、渡す資料の選び方で結果が大きく変わります。画面だけでなく、「AI に何を渡して、何を返してもらうか」の設計にもデザイナーの視点が役立ちます。

ストリーミングの表示：AI の回答は、全部できるまで数秒〜数十秒かかることがあります。そこで、できた部分から少しずつ文字を表示する（ストリーミング）のが一般的です。待ち時間が短く感じられる一方、デザインで決めることが増えます。

• 最初の文字が出るまでの表示（考え中であることが分かる動き）
• 途中で止めるボタン（回答の向きが違うとすぐ止められる）
• 自動のスクロール：ユーザーが上にスクロールして読んでいるときは、勝手に下へ動かさない
• 文字が増えるたびに周りのレイアウトが跳ねないようにする。表やコードなどが途中の形で表示されることも想定する
• 調べもの・ツールの実行など時間がかかる処理は、いま何をしているかを段階で見せる
• 途中で通信が切れたときの表示と、やり直し

AI の回答が正しいかを、ユーザーが確かめられるようにするのが根拠の表示です。社内の資料などから関係する部分を探してから答える仕組み（RAG：検索拡張生成）では、使った資料を出典として見せられます。

出典を付けても、ユーザーが毎回確かめるとは限りません。金額・期限・規約のように間違えると困る内容は、出典を目立たせる、もとの文章を引用する、などの工夫を足します。

AI の機能には、これまでの機能にはない失敗のしかたがあります。それぞれの表示を決めておきます。

「良い・悪い」の評価のボタンは、エンジニアが AI の質を改善するための大事なデータになります。悪いを押したときに理由を選べる（不正確・役に立たない・不適切など）と、改善に使いやすくなります。評価の内容がどう使われるかも、分かるように示します。

AI が操作を任されている間は、いま何をしているかを段階で見せ、途中で止められるようにします。実行した後は、何をしたかを一覧で残し、取り消せるものは取り消しのボタンを出します。AI に渡す権限（どのデータを読み、何を変えてよいか）も、ユーザーが分かる形で示します。

確認が多すぎると、ユーザーは中身を読まずに「はい」を押すようになります。影響の小さい操作は任せ、大きい操作にだけ確認を集中させるのがこつです。

AI は、デザインの作業そのものにも使われるようになっています。便利な一方で、気をつけることもあります。

会社の情報や、ユーザーの個人の情報を AI のサービスに入れてよいかは、会社のルールで決まっていることが多いです。使う前に確かめます。