AI規制AI Regulation

1規制の話が出る場所

AIが使われる場所の大半では、規則の話は大きくなりません。写真の背景を消したり会議録を要約したりする作業で間違いがあっても、やり直せば済みます。話が大きくなる場所は別にあります。

一つ目は結果が人の生活を分ける場所です。採用するかしないか、貸すか貸さないか、さらに調べる人かどうかを分ける判断がここに入ります。二つ目は当事者が自分では防げない場所です。自分の顔や声で作られた偽物、自分が与えたことのない情報でできた判断には、個人があらかじめ手を打つ方法がありません。

三つ目は元に戻しにくい場所です。誤って広まった話は訂正記事よりずっと遠くまで届き、一度漏れた情報は取り戻せません。規則を先に定めておこうという話は、たいていこの三つのどれかから始まります。

2どんな方法が議論されているか

規則を置ける場所は複数あります。出す前に置く方法は、試験と確認を通してこそサービスを開けるようにします。危険を先に取り除けますが時間がかかり、通す費用を負担できる側に有利になります。

事が起きた後に置く方法は、先に止めない代わりに問題が起きたとき責任をはっきり問います。新しい試みを妨げませんが、被害が大きく元に戻せない種類なら遅すぎる処方になります。

表示させる方法は、AIが関わった事実を知らせます。作ること自体は止めずに、受け取る側が判断できる材料を渡します。ただし表示を外しやすいと力が弱まります。作る側どうしの取り決めは最も早く作られますが、守らなくても法的な罰がない場合が多いです。実際の議論はこのうちどれか一つを選ぶより、複数を重ねる方向に向かいます。

3危険が大きい側に細かく

複数の場所で共通して出てくる考えがあります。AI全体に同じ物差しを当てる代わりに、使われる場所の危険度によって違って見ようというものです。写真フィルターと採用審査に同じ基準を当てるのはおかしいという感覚です。

この方式の良い点は、危険度が低い側の負担を減らせることです。難しい点はどこに線を引くかです。同じ顔認識技術でも、写真アルバムを整理するのに使えば危険は小さく、人を選り分けるのに使えば大きくなります。品物だけでなく置かれる場所も見るべきだという意味ですが、その場所はサービスが始まってから見えてくることが多いです。

4何が難しいのか

一つ目は速さです。規則を作るには何年もかかりますが、技術はその間に姿を変えます。議論を始めたときに問題だったものが、規則が仕上がる頃には別の問題に変わっていることもあります。

二つ目は国境です。サービスはどこからでも接続できますが、規則は地域ごとに違います。ある場所で禁じられたことが別の場所では開かれていれば、規則の緩い場所へ動くこともあります。三つ目は言葉の境界です。どこまでを規制の対象とするAIと見るかから合意が簡単ではありません。広く取れば普通の統計プログラムまで含まれ、狭く取れば抜け道ができます。

四つ目は負担の偏りです。守るべきことが多くなれば、専任の人員を置ける大きな所は対応でき、小さな所はできません。安全を高めようとした規則が、市場を数か所に集める結果になることもあります。この四つはどちらの立場に立っても残る宿題として語られます。