人の介入Human in the Loop

1取り消せる作業と取り消せない作業

AIに任せる作業のほとんどは取り消せます。下書きを書かせて気に入らなければまたやらせればよく、資料を分類させて間違っていれば移せばよいです。こうした場面に一件ずつ確認を掛けると、速さは落ちるのに得るものは少ないことが多いです。

取り消せない作業は性格が違います。メールを送る作業、お金が出る作業、ファイルを消す作業、外部へ公開する作業、予約を確定する作業がここに入ります。自分で何段階も進める道具が増え、こうした地点も自然に多くなりました。貸付、採用、医療のように人への影響が大きい判断は、形の上では取り消せても人の確認を置くことが多いです。どこに人の確認を置くべきかは、国や分野によって規則が違います。

だから最近の道具は流れを二種類に分けています。自動で進む区間と、立ち止まって人に尋ねる区間です。どこに敷居を置くかが、その道具の性格をほぼ決めます。

2人がすることは大きく三つに分けて見られます

一つ目は止めることです。そのまま出してよいかだけを判断し、はいかいいえで答えます。最もよくあり最も速いですが、判断する材料が画面になければただ「はい」を押すだけになります。

二つ目は選ぶことです。AIが二、三の案を出し、人が一つを取ります。何が違うか目に見えるので判断が実際に起きます。代わりに案を作るのに時間が余計にかかります。

三つ目は直すことです。結果を人が手直しして出します。最も手間がかかりますが、残るものがあります。人が直した部分は次の学習や規則の手入れに使える材料になるからです。

3確認が名前だけ残るとき

人は機械が出した答えを疑わない方向に傾きます。前に九十九回合っていたなら百回目も合っているだろうと思うようになります。人を立たせておいても事故が起きる状況で、よく挙げられる原因がここです。

ここに量が重なると確認は大きく弱まります。一日に数百件上がってきてほとんどが問題なければ、画面をめくる動作だけが残ります。根拠が一緒に見えないともっと悪くなります。結論だけあってなぜそうなのかがなければ、人はつかまるところがありません。

断りにくい雰囲気も一役買います。差し戻すと仕事が増え、説明しなければならず、みんな待っているとなれば、人は通す方向に傾きます。確認を生かすには、違うと言うほうが損にならないようにしなければなりません。

4確認を実際に働かせるには

一つ目は量を減らすことです。すべての件を人に送らず、あいまいなものだけを上げます。AIが自分で付けた確信度が低いもの、いつもと違うもの、金額が大きいものといった基準を決めてふるい分けるのです。

二つ目は根拠を一緒に映すことです。何を見てそう判断したか、どんな資料を根拠にしたかが同じ画面にあってこそ人は見返せます。三つ目は取り消す余地を残すことです。送ったあと少しの間取り消せる時間を置けば、確認そのものの負担が減ります。