AI倫理のジレンマAI Ethics Dilemma

1なぜ意見が割れるのか

三人の言い分は、それぞれ違うものさしから出ています。第一のものさしは結果の大きさです。全体で見て良いことが多くなるほうを選ぼうという考えです。数えやすく説得力がありますが、少数に集中した損害が合計の中に埋もれてしまう弱点があります。

第二のものさしは守るべき一線です。結果がどうであれ、越えてはいけないものがあるという考えです。人を手段としてだけ扱わない、同意なしに情報を使わないといった原則がここに入ります。揺らがない代わりに、一線どうしがぶつかると答えが行き詰まります。

第三のものさしは公平な分け前です。誰が得をし誰が負担を負うのか、いつも同じ側が後回しにされていないかを見ます。一度の選択では見えにくく、何度も積み重なった結果から現れます。多くの議論はどのものさしを先に置くかで分かれ、相手が悪意を持っているから分かれることはまれです。

2その場で選ぶことと、あらかじめ書いておくこと

人がぶつかるジレンマは、たいていその場で判断されます。状況を見て、迷って、選んで、あとで後悔することもあります。判断が毎回少しずつ違うことは欠点とみなされません。

AIにはそれができません。何を優先するか前もって決めておかなければならず、決めておかなければ学習データに含まれた傾向のまま流れていきます。決めないことも、決めることになってしまいます。

あらかじめ書いておいた基準には良い点があります。何を選んだか外から見ることができ、問いただすことができ、直すことができます。その場の判断はあとで振り返りにくいですが、書いておいた方針は残ります。ジレンマを文章に移すことは不便に見えても、議論を可能にするほうなのです。

3一度の選択が何百万回も繰り返される

人が百人、同じ状況を判断すると答えは散らばります。ある人はこちらへ、ある人はあちらへ傾き、その散らばりが一方向に偏るのをある程度防いでくれることもあります。

機械は違う動き方をします。一度決まった基準がすべての場合にそのまま適用されます。その基準が少し傾いていれば、その傾きが何百万回も同じように繰り返されます。一人の偏りはその人が下す判断にとどまりますが、システムの偏りはそのシステムが届くあらゆる場所に広がります。

だからAIの倫理問題は「この選択は正しいか」だけでなく、「この選択をこの規模で繰り返してよいか」まで問うことになります。一度なら受け入れられる判断も、百万回繰り返されると別の話になります。

4答えの代わりに決められること

何が正しいかに全員が同意するのは難しいです。それでも決められることがあります。この基準を誰が決めるか、決めるときに影響を受ける人が声を上げる場があるか、何を選んだか外に明らかにするか、です。

ここに二つ加わります。基準が間違っていたと分かったときにどんな手順で変えるか、そして基準でうまく扱えない例外をどこへ送るかです。ジレンマを完全になくすことはできませんが、選び間違えたときに戻れる道は作っておけます。