人の介入Human in the Loop

取り消せる作業と取り消せない作業

AIに任せる作業のほとんどは取り消せます。下書きを書かせて気に入らなければまたやらせればよく、資料を分類させて間違っていれば移せばよいです。こうした場面に確認を掛けると、速さだけが落ちて得るものがありません。

取り消せない作業は性格が違います。メールを送る作業、お金が出る作業、ファイルを消す作業、外部へ公開する作業、予約を確定する作業がここに入ります。自分で何段階も進める道具が増えるにつれ、こうした地点が自然に多くなりました。

だから最近の道具は流れを二種類に分けています。自動で進む区間と、立ち止まって人に尋ねる区間です。どこに敷居を置くかが、その道具の性格をほぼ決めます。

人がすることは三つに分かれます

一つ目は止めることです。そのまま出してよいかだけを判断し、はいかいいえで答えます。最もよくあり最も速いですが、判断する材料が画面になければただ「はい」を押すだけになります。

二つ目は選ぶことです。AIが二、三の案を出し、人が一つを取ります。何が違うか目に見えるので判断が実際に起きます。代わりに案を作るのに時間が余計にかかります。

三つ目は直すことです。結果を人が手直しして出します。最も手間がかかりますが、残るものがあります。人が直した部分は次の学習や規則の手入れに使える材料になるからです。

どれを選ぶかは作業の性格で決まります。件数が多く判断が単純な場面では止める形が向き、選択肢を比べる価値がある場面では選ぶ形が向きます。書き直す手間そのものに意味がある場面だけ、直す形を選ぶ理由があります。

確認が名前だけ残るとき

人は機械が出した答えを疑わない方向に傾きます。前に九十九回合っていたなら百回目も合っているだろうと思うようになります。人を立たせておいても事故が起きる状況は、たいていここから生まれます。

ここに量が重なると確認は完全に崩れます。一日に数百件上がってきてほとんどが問題なければ、画面をめくる動作だけが残ります。根拠が一緒に見えないともっと悪くなります。結論だけあってなぜそうなのかがなければ、人はつかまるところがありません。

断りにくい雰囲気も一役買います。差し戻すと仕事が増え、説明しなければならず、みんな待っているとなれば、人は通す方向に傾きます。確認を生かすには、違うと言うほうが損にならないようにしなければなりません。

確認を実際に働かせるには

一つ目は量を減らすことです。すべての件を人に送らず、あいまいなものだけを上げます。AIが自分で付けた確信度が低いもの、いつもと違うもの、金額が大きいものといった基準を決めてふるい分けるのです。

二つ目は根拠を一緒に映すことです。何を見てそう判断したか、どんな資料を根拠にしたかが同じ画面にあってこそ人は見返せます。三つ目は取り消す余地を残すことです。送ったあと少しの間取り消せる時間を置けば、確認そのものの負担が減ります。

四つ目は、違うと答えたときの手間を軽くすることです。差し戻す理由を細かく書かせるほど、人は面倒がって通す方を選びやすくなります。理由を選ぶだけで済むようにしておくと、確認が実際に機能する場面が増えます。