AI 윤리 딜레마AI Ethics Dilemma

1왜 갈리는지 들여다보기

세 사람의 말은 각각 다른 잣대에서 나와요. 첫째 잣대는 결과의 크기예요. 전체로 봐서 좋은 일이 더 많아지는 쪽을 고르자는 생각이에요. 셈하기 쉽고 설득력이 있지만, 소수에게 몰린 손해가 합계 속에 묻히는 약점이 있어요.

둘째 잣대는 지켜야 할 선이에요. 결과가 어떻든 넘지 말아야 할 것이 있다는 생각이에요. 사람을 수단으로만 다루지 않는다거나, 동의 없이 정보를 쓰지 않는다는 원칙이 여기에 들어가요. 흔들리지 않는 대신 선끼리 부딪히면 답이 막혀요.

셋째 잣대는 공평한 몫이에요. 누가 이득을 보고 누가 부담을 지는지, 늘 같은 쪽이 뒤로 밀리지는 않는지를 봐요. 한 번의 선택으로는 잘 안 보이고 여러 번 쌓인 결과에서 드러나요. 대부분의 논쟁은 어느 잣대를 앞에 두느냐에서 갈리고, 상대가 나쁜 뜻을 품어서 갈리는 경우는 드물어요.

2그때그때 고르는 것과 미리 적어 두는 것

사람이 부딪히는 딜레마는 대개 그 자리에서 판단돼요. 상황을 보고, 망설이고, 고르고, 나중에 후회하기도 해요. 판단이 매번 조금씩 달라지는 것이 흠으로 여겨지지 않아요.

AI는 그럴 수가 없어요. 무엇을 우선할지 미리 정해 두어야 하고, 정해 두지 않으면 학습 데이터에 담긴 흐름대로 흘러가요. 정하지 않는 것도 정하는 것이 돼요.

미리 적어 둔 기준에는 좋은 점이 있어요. 무엇을 골랐는지 밖에서 볼 수 있고, 따져 물을 수 있고, 고칠 수 있어요. 그 자리 판단은 나중에 되짚기 어렵지만 적어 둔 방침은 남아요. 딜레마를 글로 옮기는 일이 불편해 보여도, 논의를 가능하게 만드는 쪽이에요.

3한 번의 선택이 수백만 번 되풀이돼요

사람 백 명이 같은 상황을 판단하면 답이 흩어져요. 어떤 이는 이쪽으로, 어떤 이는 저쪽으로 기울고, 그 흩어짐이 한쪽으로 쏠리는 것을 어느 정도 막아 주기도 해요.

기계는 다르게 움직여요. 한 번 정해진 기준이 모든 경우에 그대로 적용돼요. 그 기준이 조금 기울어 있으면 그 기울기가 수백만 번 똑같이 반복돼요. 사람 한 명의 편향은 그 사람이 내리는 판단에 머물지만, 시스템의 편향은 그 시스템이 닿는 모든 곳으로 퍼져요.

그래서 AI의 윤리 문제는 "이 선택이 옳은가"만이 아니라 "이 선택을 이 규모로 되풀이해도 되는가"까지 묻게 돼요. 한 번은 받아들일 만한 판단이 백만 번 반복되면 다른 이야기가 되기도 해요.

4답 대신 정할 수 있는 것들

무엇이 옳은지에 모두가 동의하기는 어려워요. 그래도 정할 수 있는 것들이 있어요. 이 기준을 누가 정할지, 정할 때 영향을 받는 사람들이 목소리를 낼 자리가 있는지, 무엇을 골랐는지 바깥에 밝힐지가 그것이에요.

여기에 두 가지가 더 붙어요. 기준이 틀렸다고 드러났을 때 어떤 절차로 바꿀지, 그리고 기준으로 잘 다뤄지지 않는 예외를 어디로 보낼지예요. 딜레마를 완전히 없앨 수는 없지만, 잘못 골랐을 때 되돌아올 길은 만들어 둘 수 있어요.