先日、当社の社内チャットにいるAI秘書「さくら」とAI SE「アヤメ」という2人の”AI社員”をご紹介しました。
AIに仕事を任せるとき、多くの方が不安に思うのが「AIが勝手なことをしたらどうしよう」という点ではないでしょうか。間違ったメールを送ってしまう。大事なデータを消してしまう。そうした心配は、もっともです。
AIは頼めば速くこなしてくれますが、ときには間違えます。だからこそ当社では、AIを信じ切るのではなく、「間違えても大丈夫な仕組み」を先に決めています。今回は、そのルールを3つご紹介します。
ルール1:取り返しのつかない操作は、必ず人が承認する
次のような操作は、AIが自分の判断で実行することはありません。必ず人が内容を確認し、承認してから行います。
・社外への送信や公開
・データの削除や、大量の書き換え
・本番環境(実際に使われているシステム)への反映
・パスワードや権限の変更
ポイントは、「どこで人が判断するか」を先に決めておくことです。決まっていないと、毎回「これはAIに任せていいのかな」と迷うことになります。決まっていれば、それ以外の作業は安心して任せられます。
ルール2:重要な仕事は、別のAIがダブルチェックする
人の職場でも、大事な書類は別の人がチェックします。当社では、AIの仕事にも同じ考え方を取り入れています。
新しいツールの開発や、システムの大事な修正をするときは、アヤメが作ったものを別のAIがレビューします。レビュー役のAIは「読むだけ」で、内容を勝手に書き換えることはできません。指摘を受けたアヤメは、その指摘が本当に正しいかを自分でも確かめてから修正します。
それでも解決しない場合は、AI同士で何度もやり取りを続けません。人に状況を報告して判断を仰ぎます。「AI同士で延々と相談して、よく分からない結論が出る」ことを防ぐためです。
ルール3:始める前と終わった後に、必ず報告する
AI社員は、仕事を始めるときに「何を、どれくらいの時間でやるか」をチャットで報告します。終わったときには、次の内容をまとめて報告します。
・何をしたか
・チェックで何を指摘されたか
・どこを直したか
・人が判断すべきことが残っていないか
途中で人の操作が必要になったときや、予定より時間がかかりそうなときも、その都度報告します。
これは、人の新入社員に「報連相」を教えるのと同じです。報告があることで、頼んだ側は「今どうなっているか」が分かります。後から「AIが何をしたのか」も確認できます。
ルールがあるから、任せられる
ルールを決めると、AIの自由度が下がって効率が落ちるのでは、と思われるかもしれません。実際は逆でした。
人が判断する場所がはっきりしているので、それ以外の作業は気兼ねなく任せられます。報告がそろっているので、確認する側の負担も少なくて済みます。
まとめ
・取り返しのつかない操作は、必ず人が承認する
・重要な仕事は、別のAIがダブルチェックする
・始める前と終わった後に、必ず報告する