회사에서 직원을 채용할 때 인공지능을 사용한다면, 혹시 모를 차별이 개입할 것인지 고려해야만 한다. 기술이 사람에게 직접 적용될 때는 항상 문제가 뒤따를 수 있기 때문이다. 아마존에서 여성 지원자를 차별하는 채용 시스템을 폐기한 건 이런 이유 때문이다. 심지어 차별적 요소와 관련된 내용을 익명-가명 처리하더라도 이 문제가 쉽게 해소되지는 않는다. 다른 단서들을 조합해서 성별, 연령, 지역, 인종 등의 요소가 재구성될 수 있기 때문이다.
그런데 기술이 사람에게 직접 적용되지 않고, 사물에 적용되어 편리함과 이익을 증가시킨다면 어떨까? 인공지능이 공산품의 불량을 판별하는 데 쓰인다면, 사회적으로 특별히 우려할 일은 없는 것 같다. 이 경우 기술은 윤리적-사회적으로 가치 중립적이며, 경제적 생산성을 높이는 결과를 가져온다.
통행료를 징수하는 데 인공지능을 사용하면 어떨까? 카메라와 시각 인식 인공지능으로 처리한 후, 자동차에 정기적으로 부과되는 세금이나 보험료와 연동해서 통행료를 분기별로 납부하게 하면, 하이패스 같은 물리적 장비를 추가로 설치하지 않아도 되니 편리함과 비용감소라는 두 마리 토끼를 모두 잡는 것 아니겠는가?
공학적 관점에서는 별 문제가 없어 보인다. 하지만 사회적으로는 어떨까? 공학자가 이런 인공지능 시스템을 설계할 때 보통 고려하지 않는 지점이 사회적 영향이다. 인공지능 통행료 징수 시스템의 경우, 시스템 외적으로 고려해야만 할 두 가지 요인이 있다. 하나는 하이패스 같은 물리적 요소이고, 다른 하나는 수납원 같은 인적 요소이다. 물리적 요소의 경우엔 더 발전한 기술에 자리를 내어주는 것이 당연하겠지만, 인적 요소가 해당될 때 사람을 그냥 해고하는 것이 능사일까?
우리는 이 물음에 대한 정답을 당장 제시하라고 요구하는 건 아니다. 물음이 던져진 이상, 사회적 논의를 통해 문제를 풀어가는 몇 가지 해결책이 만들어질 수 있을 것이다. 중요한 건, 공학자 또는 개발자가 인공지능을 설계할 때 해당 기술을 ‘사람과 사회’라는 관점에서 고려하는 과정을 포함해야 하며, 이 과정이 왜 필요한지 이해하는 일이다. 사람과 사회에 미칠 영향은 일단 개발이 끝난 후에 실용 단계에서 고려할 사안이 아니다. 그건 개발을 시작하는 단계부터 필수로 고려해야 한다.
왜 개발자가 이런 것까지 미리 고민해야 하는가? 잘 작동하는 물건을 뚝딱 만들면 다 아닌가? 게다가 남보다 빨리 만들어서 팔려면 시간 비용을 줄여야 하지 않는가? 그러나 앞으로는 사회적 영향에 대한 고려가 글로벌 규범이 될 것이기 때문에, 미리 대비해야 한다. 여기서 ‘규범’이라 함은 윤리적 권고사항이라는 뜻이 아니라 따라야만 하는 법규라는 뜻이다. 그러니 어린시절부터 개발자는, 아니 꼭 개발자에게만 해당되는 건 아니지만, 매사에 사회적 영향을 고려하도록 훈련해야 한다. 그것이 21세기 세계시민의 덕목이다.
이는 코딩 또는 프로그래밍의 외연을 넓혀야 한다는 의미이다. 지금까지 개발자는 제한된 범위의 문제를 해결하는 알고리즘을 만들어왔다. 앞의 사례를 놓고 보면, 개발자는 시각 인식 알고리즘을 적절하게 응용해서 통행료 징수를 위해 사용할 것인지 고민하면 충분했다. ‘기술적 알고리즘’이 중요했다. 이제 사회적 영향까지 고려하게 되면, 코딩은 완성된 알고리즘이 사회 속에서 어떻게 작동할 것인지도 포함하도록 확장되어야 한다. 이를 ‘사회적 알고리즘’이라고 부를 수 있을 것이다. 기술적 알고리즘은 사회적 알고리즘의 부분집합이다. 개발자는 사회가 잘 작동할 수 있도록 코딩해야 한다.
인공지능은 다른 기술과 달리 사람의 ‘머리’를 대신하는 경우가 많다. 단순 반복적이더라도 사람의 인지 작용이 필요했던 단순 수납에서부터 판단의 자동화, 시스템의 최적화, 대상의 분류, 패턴 찾아내기, 예측과 추천 등 지금까지는 반드시 사람이 결정해야 했던 일까지 많은 것이 인공지능에게 떠넘겨지고 있다. 말하자면, 사람의 ‘머리’가 점점 줄어들고 있다. 그리하여 사람의 자리도 사라지고 있다. 사람에 대한 고민은 지금까지 공학자의 몫이 아니었다. 이제 시절이 바뀌어 사람살이도 공학의 영역으로 끌어안을 때가 왔다.
(2020.7.8. 페이스북 포스팅. 일부 내용은 《AI 빅뱅》에 담았다.)
Comments