AI 규제AI Regulation

1규제 이야기가 나오는 자리

AI가 쓰이는 곳 대부분에서는 규칙 이야기가 크게 나오지 않아요. 사진 배경을 지우거나 회의록을 요약하는 일에 잘못이 있어도 다시 하면 그만이에요. 이야기가 커지는 자리는 따로 있어요.

첫째는 결과가 사람의 삶을 가르는 자리예요. 뽑을지 말지, 빌려줄지 말지, 더 살펴볼 사람인지 아닌지를 가르는 판단이 여기에 들어가요. 둘째는 당한 사람이 스스로 막을 수 없는 자리예요. 내 얼굴이나 목소리로 만든 가짜, 내가 준 적 없는 정보로 이뤄진 판단은 개인이 미리 손쓸 방법이 없어요.

셋째는 되돌리기 어려운 자리예요. 잘못 퍼진 이야기는 정정 기사보다 훨씬 멀리 가고, 한번 새어 나간 정보는 다시 거둬들일 수 없어요. 규칙을 미리 정해 두자는 말은 대개 이 세 가지 가운데 하나에서 시작해요.

2어떤 방식들이 논의되나

규칙을 둘 자리는 여러 곳이에요. 내놓기 전에 두는 방식은 시험과 확인을 통과해야 서비스를 열 수 있게 해요. 위험을 미리 걸러 내지만 시간이 걸리고, 통과 비용을 감당할 수 있는 쪽에 유리해져요.

일이 난 뒤에 두는 방식은 미리 막지 않는 대신 문제가 생겼을 때 책임을 분명히 물어요. 새로운 시도를 막지 않지만, 피해가 크고 되돌릴 수 없는 종류라면 뒤늦은 처방이 돼요.

표시하게 하는 방식은 AI가 관여했다는 사실을 알리게 해요. 만드는 일 자체는 막지 않으면서 받는 사람이 판단할 재료를 줘요. 다만 표시를 떼어 내기 쉬우면 힘이 빠져요. 만드는 쪽끼리의 규약은 가장 빠르게 만들어지지만 지키지 않아도 법적인 벌이 없는 경우가 많아요. 실제 논의는 이 가운데 하나를 고르기보다 여러 개를 겹쳐 쓰는 쪽으로 가요.

3위험이 큰 쪽에 촘촘하게

여러 곳에서 공통으로 나오는 생각이 있어요. AI 전체에 같은 잣대를 대는 대신, 쓰이는 자리의 위험에 따라 다르게 보자는 거예요. 사진 필터와 채용 심사에 같은 기준을 대는 것이 이상하다는 감각이에요.

이 방식의 좋은 점은 낮은 위험 쪽의 부담을 덜어 준다는 거예요. 어려운 점은 어디에 선을 그을지예요. 같은 얼굴 인식 기술이라도 사진첩을 정리하는 데 쓰면 위험이 작고, 사람을 가려내는 데 쓰면 커져요. 물건만이 아니라 놓인 자리도 봐야 한다는 뜻인데, 자리는 서비스가 열린 뒤에야 드러날 때가 많아요.

4무엇이 어려운가

첫째는 속도예요. 규칙을 만드는 데는 여러 해가 걸리는데 기술은 그 사이에 모양이 바뀌어요. 논의를 시작할 때 문제였던 것이 다 만들어질 즈음에는 다른 문제로 바뀌어 있기도 해요.

둘째는 국경이에요. 서비스는 어디서든 접속할 수 있는데 규칙은 지역마다 달라요. 한쪽에서 금지된 일이 다른 쪽에서는 열려 있으면 규칙이 헐거운 곳으로 옮겨 가기도 해요. 셋째는 말의 경계예요. 어디까지를 규제 대상 AI로 볼지부터 합의가 쉽지 않아요. 넓게 잡으면 평범한 통계 프로그램까지 걸리고, 좁게 잡으면 빠져나갈 구멍이 생겨요.

넷째는 부담의 쏠림이에요. 지켜야 할 것이 많아지면 전담 인력을 둘 수 있는 큰 곳은 감당하고 작은 곳은 못 해요. 안전을 높이려던 규칙이 시장을 몇 곳에 몰아 주는 결과가 되기도 해요. 이 네 가지는 어느 쪽 입장에 서든 남는 숙제로 이야기돼요.