AIに仕事をどこまで任せるか、「責任」で線を引く

AI は間違えるのに、仕事に使って大丈夫なのか。どこまで任せていいのか。毎月の手作業に AI を使えないかと考えたときに、引っかかるのはこのあたりだと思います。

この記事では、私がどこまで任せるかを決めるときの線の引き方を書いていきます。読み終わったときに、自分の毎月の作業のどこを AI に任せてどこを人に残すかに印を付けられるのが目標です。

AI はどこまでできるか

技術的には、パソコンの中でできる作業なら全部 AI にもできると私は考えています。

書類を読む・文章を書く・分類する・要約するといった事務の作業はもちろんです。画面を見てマウスとキーボードを動かす AI も出ていて、ブラウザを開いてサイトを操作することもできます。ネットバンキングの振込だって、画面の操作としてはできてしまいます。 ChatGPT のエージェント機能は、振込のような危ない操作はあえて断るように訓練されているそうです。もちろん私もおすすめしません。それに、間違えることもあります。

私はエンジニアで、自分の開発では判断と確認以外は AI にやらせています。「AI にできるか」で線を引くと全部任せることになり、線になりません。

線は「責任」で引く

私は「責任」で線を引いています。 AI は間違えても、謝りに行けないからです。

間違った催促のメールを取引先に送ってしまったら、謝りに行くのは人です。間違えたら人が謝りに行くことになる作業かどうか。それで分けると、任せる範囲が決まります。

AI の答えは、下書きとして受け取る

任せるときに1つだけ守っていることがあります。 AI の答えを、そのまま確定にしないことです。

AI が書いた文面も書類から読み取った日付や金額も、全部下書きとして受け取ります。たとえばメールなら、書くのは AI で確かめて送るのは人です。

人が確かめるなら自分で書いたほうが早いのでは、と思うかもしれません。私の感覚では、確かめるだけなら書くより早く済むことが多いです。ゼロから文面を考えるのとできた文面を読んで直すのとでは、かかる時間がだいぶ違います。

AI に日付や金額を読み取らせるときは、書類のどこから読んだかも一緒に書くように頼みます。どこから読んだかが分からないと人は元の書類を探し直すことになり、確かめずに通してしまいやすいからです。

人に残すのは、間違えたら戻せない作業

人に残すのは、間違えると相手に届いてしまい自分だけでは戻せない作業です。取引先に送る・金額を確定する・お金を動かす・契約を結ぶ、の4つです。 AI にやらせることはできても、やらせません。

ここで気をつけたいのは、「人が送るつもり」では足りないことです。メールなどとつながずにチャットの画面で文面を作ってもらうだけなら、AI が勝手に送ることはありません。ただ同じチャットの画面でもメールや銀行の操作まで AI ができる設定にしていると、AI が間違えたりだまされたりしたときに送れてしまうことがあります。送信や振込は AI ができない設定にしておいて、初めて線が引けます。

逆に人があとで確かめる下書きまでなら、AI に任せていいと私は考えています。書類を読んで何の書類か見分ける・台帳と突き合わせる・文面を下書きする・届いた問い合わせを振り分ける、といった作業です。「人が目で見て判断しているから AI には無理」と思っていた作業も、ここに入ります。

入れていい情報は、先に決めておく

ここまでは「どの作業を任せるか」の話でした。もう1つ、「どの情報を入れるか」は別に決めておく必要があります。

AI に書類を読ませると、書類の中身は AI の会社に送られます。学習に使わない契約や設定にしていても、送った内容はしばらく保存されることがあります。たとえば ChatGPT を出している OpenAI は、自社のシステムに組み込んで使う契約（API）でも最長30日保存すると書いています。不正な使い方を見張るためです。法律で求められたときなどは、それより長く残すとも書いています。

顧客の個人情報を入れるときは、個人情報保護法に沿う必要があります。個人情報保護委員会は、利用目的の範囲に収まるかと AI の会社が入れた内容を学習などに使わないかを十分に確かめるよう呼びかけています。守秘義務のある情報を入れてよいかは、業界の決まりと使う AI の規約で変わります。社員がそれぞれ無料の AI に貼り付け始める前に、何を入れないかを会社で決めておくのがいいと思います。

入れる情報を減らす工夫もできます。文面を書く作業なら、名前や金額は「〇〇様」「△△円」のように伏せたまま AI に書かせます。あとから人が埋めれば済みます。

自分の業務に当てはめる手順

ここまでの線の引き方を、自分の業務で試すときの手順です。

毎月の作業を、工程ごとに書き出す。「書類を受け取る」「何の書類か見分ける」「台帳と突き合わせる」「催促の文面を作る」「催促を送る」のように動詞で分けます。送る・確定するところは、その手前の作業と別の工程にします
送る・確定する・お金を動かす・契約する工程に印を付ける。ここは人に残します。迷ったら、間違えたときに社外の人に届いてしまうかで決めます
残った工程が、AI に任せられる候補です
候補の工程で AI に渡す書類や情報を見て、顧客の名前や金額など伏せられるものに別の印を付ける
人に残す工程も、その手前の文面や一覧までは AI に作らせられます。そのぶん人の手は、確かめて送る・確定するところだけになります

「この3つの工程を AI に渡したい」と工程の名前で言えれば、自分で試すときも人に相談するときもそのまま使えます。一緒に考えたい方は、サイトからご相談ください。