AI는 정말 중립적일까? - Anthropic과 autism 진단 AI가 보여준 것
같은 시기에 나온 뉴스 네 개를 나란히 보게 됐습니다. 하나는 AI가 전쟁의 판도를 바꾸고 있다는 이야기였습니다. 공습 과정에서 사람이 하는 일이 어느 쪽 버튼을 누르느냐 수준으로 줄었다는 대목이 나왔고, AI가 청소년의 자살이나 범죄를 돕는 사례가 늘어 미국에서 소송이 진행 중이라는 이야기도 붙었습니다. 그 흐름에서 우리 정부가 인공지능 윤리 원칙을 새로 내놨다고 했습니다. 나머지 셋은 전부 자폐 스펙트럼 장애 이야기였습니다. 뇌 영상에서 어떤 부위가 자폐와 관련 있는지 분석하는 기술, 영유아가 영상을 보는 동안의 반응을 AI가 읽어 조기에 선별하는 기술, 그리고 말수가 적은 자폐 아동과 부모 사이의 대화를 AI가 이어 주는 시스템이었습니다. 마지막 뉴스에 어머니 인터뷰가 하나 실려 있었습니다. "저한테 엄마라고 호명을 안 했거든요. 근데 이렇게 보면서 아 엄마구나, 그리고는 저한테 엄마 아빠 이렇게." 같은 기술입니다. 한쪽에서는 사람을 죽이는 판단에 들어가 있고, 다른 쪽에서는 아이가 처음으로 엄마를 부르게 만들고 있습니다. 이걸 보고 가장 자연스럽게 나오는 결론이 있습니다. 기술 자체에는 선악이 없고, 그걸 쓰는 사람과 기관과 국가가 방향을 정한다는 것입니다. 저도 오래 그렇게 생각했습니다. 그런데 이 네 개를 같이 놓고 며칠 들여다보니 그 결론이 편한 쪽으로 반쯤 잘려 있다는 생각이 들었습니다. 가장 많이 인용되면서 가장 많이 잘리는 문장 기술사학자 멜빈 크란츠버그가 1986년에 남긴 문장이 있습니다. 기술을 이야기할 때 거의 관용구처럼 쓰입니다. "기술은 선하지도 악하지도 않다. 그러나 중립적이지도 않다." 인용될 때 대개 앞쪽 절반만 옵니다. 선하지도 악하지도 않다는 말은 듣기 좋고, 논쟁을 끝내 주고, 무엇보다 우리를 편하게 해 줍니다. 크란츠버그가 정말 하고 싶었던 말은 뒤쪽입니다. 선악이 없다는 것과 중립이라는 것은 다른 말입니다. 이게 왜 다른 말인지를 그는 이렇게 설명했습니다...
