AI는 정말 중립적일까? - Anthropic과 autism 진단 AI가 보여준 것

같은 시기에 나온 뉴스 네 개를 나란히 보게 됐습니다.

하나는 AI가 전쟁의 판도를 바꾸고 있다는 이야기였습니다. 공습 과정에서 사람이 하는 일이 어느 쪽 버튼을 누르느냐 수준으로 줄었다는 대목이 나왔고, AI가 청소년의 자살이나 범죄를 돕는 사례가 늘어 미국에서 소송이 진행 중이라는 이야기도 붙었습니다. 그 흐름에서 우리 정부가 인공지능 윤리 원칙을 새로 내놨다고 했습니다.

나머지 셋은 전부 자폐 스펙트럼 장애 이야기였습니다. 뇌 영상에서 어떤 부위가 자폐와 관련 있는지 분석하는 기술, 영유아가 영상을 보는 동안의 반응을 AI가 읽어 조기에 선별하는 기술, 그리고 말수가 적은 자폐 아동과 부모 사이의 대화를 AI가 이어 주는 시스템이었습니다.

마지막 뉴스에 어머니 인터뷰가 하나 실려 있었습니다.

"저한테 엄마라고 호명을 안 했거든요. 근데 이렇게 보면서 아 엄마구나, 그리고는 저한테 엄마 아빠 이렇게."

같은 기술입니다. 한쪽에서는 사람을 죽이는 판단에 들어가 있고, 다른 쪽에서는 아이가 처음으로 엄마를 부르게 만들고 있습니다. 이걸 보고 가장 자연스럽게 나오는 결론이 있습니다. 기술 자체에는 선악이 없고, 그걸 쓰는 사람과 기관과 국가가 방향을 정한다는 것입니다.

저도 오래 그렇게 생각했습니다. 그런데 이 네 개를 같이 놓고 며칠 들여다보니 그 결론이 편한 쪽으로 반쯤 잘려 있다는 생각이 들었습니다.

가장 많이 인용되면서 가장 많이 잘리는 문장

기술사학자 멜빈 크란츠버그가 1986년에 남긴 문장이 있습니다. 기술을 이야기할 때 거의 관용구처럼 쓰입니다.

"기술은 선하지도 악하지도 않다. 그러나 중립적이지도 않다."

인용될 때 대개 앞쪽 절반만 옵니다. 선하지도 악하지도 않다는 말은 듣기 좋고, 논쟁을 끝내 주고, 무엇보다 우리를 편하게 해 줍니다. 크란츠버그가 정말 하고 싶었던 말은 뒤쪽입니다. 선악이 없다는 것과 중립이라는 것은 다른 말입니다.

이게 왜 다른 말인지를 그는 이렇게 설명했습니다. 기술이 사회와 맞물리는 방식은, 그 기술이 원래 의도했던 목적을 훨씬 넘어서는 환경적·사회적·인간적 결과를 만들어 낸다는 것입니다. 망치는 못을 박으라고 만들었지만 망치가 흔해진 세계는 못으로 짜 맞추는 세계가 됩니다. 아무도 그렇게 하자고 결정한 적이 없는데 그렇게 됩니다.

그러니까 "쓰는 사람에 따라 달라진다"는 말은 틀린 게 아니라 범위가 좁습니다. 쓰는 사람이 고를 수 있는 선택지가 몇 개인지, 그 선택지가 어떻게 생겼는지는 쓰는 사람이 정하지 않습니다. 그건 훨씬 앞에서 정해집니다.

이걸 추상적으로만 말하면 그럴듯한 소리로 끝납니다. 그래서 실제로 무엇이 앞에서 정해지는지를 두 가지 사례로 보려고 합니다. 하나는 올해 미국에서 실제로 법정까지 간 다툼이고, 다른 하나는 지금 국내 연구실에서 만들어지고 있는 자폐 진단 AI입니다.

중립이라면 싸울 일이 없습니다

올해 초 미국에서 벌어진 일입니다. Anthropic은 2025년 7월에 국방부와 2년, 2억 달러 규모의 계약을 맺었습니다. 프런티어 모델을 기밀 네트워크의 실제 업무에 넣은 첫 사례였고, Palantir와의 협력을 통해 기밀 등급의 군사·정보 업무에 쓰였습니다.

2026년 2월 24일, 국방장관이 최후통첩을 보냅니다. 2월 27일 오후 5시 1분까지 "모든 적법한 목적"에 모델을 제한 없이 쓸 수 있도록 하라는 것이었습니다. Anthropic이 원한 것은 하나였습니다. 완전 자율무기와 국내 대규모 감시에는 쓰지 않는다는 보장을 계약에 남기는 것.

회사는 물러서지 않았습니다. 2월 27일 대통령이 연방기관에 제품 사용 중단을 지시했고, 국방부는 Anthropic을 국가안보 공급망 위험으로 지정했습니다. 미국 기업에 이 지정이 적용된 첫 사례였습니다. 보안 사고가 있어서가 아니라, "어떤 적법한 용도로든" 쓸 수 있게 하라는 계약 조항을 거부했기 때문입니다. 3월 26일 법원이 가처분으로 이 조치를 막았고, 8월에도 블랙리스트 지정을 차단하는 결정이 이어졌습니다.

이 사건을 뉴스로만 보면 "기업이 윤리를 지켰다" 정도로 읽힙니다. 그런데 제가 걸린 것은 다른 쪽입니다.

기술이 정말 중립이라면 이 다툼 자체가 성립하지 않습니다.

중립론이 맞다면 판단은 전부 사용 시점에 있어야 합니다. 그러면 Anthropic 입장에서는 모델을 넘기고 나서 "우리는 이렇게 쓰이는 데 반대한다"고 성명을 내면 됩니다. 모델 쪽에는 애초에 뺄 것도 넣을 것도 없으니까요. 국방부 입장에서도 굳이 계약서 문구를 놓고 최후통첩을 보낼 이유가 없습니다. 어차피 쓰는 쪽이 정하는 것이라면 문구는 장식입니다.

양쪽 다 그렇게 행동하지 않았습니다. 한쪽은 제한을 남기려고 미국 정부 전체와의 거래를 걸었고, 다른 쪽은 그 제한을 떼려고 전례 없는 지정까지 동원했습니다. 양쪽 모두 제한이 어디에 박히느냐가 실제 결과를 바꾼다고 믿고 행동했습니다. 이건 기술 중립성에 대한 철학적 논증보다 훨씬 강한 증거입니다. 걸려 있는 게 2억 달러짜리 계약과 국가 조달 자격이었으니까요.

여기서 굳어지는 것은 문서가 아니라 배포 형태입니다. 어떤 용도를 거부하도록 만들어진 모델과 그렇지 않은 모델은 다른 물건입니다. 같은 가중치에서 출발했어도 그렇습니다. 그리고 그 차이는 쓰는 사람이 만들지 않습니다. 쓰는 사람에게는 이미 만들어진 것이 도착합니다.

저는 이 구조를 AI 안전 표준기구 이야기를 쓰면서 한 번 다뤘습니다. 그때 결론은 검사 결과를 검사받는 쪽이 직접 쓸 수 있으면 그건 검문소가 아니라 서류 확인이라는 것이었습니다. 이번 건은 그 반대편입니다. 검사받는 쪽이 스스로 제한을 남기겠다고 했더니, 제한을 요구할 줄 알았던 쪽이 그걸 떼라고 했습니다.

좋은 목적으로 만든 것 안에도 결정은 들어 있습니다

무기 이야기는 사실 쉬운 예시입니다. 누구나 거기에 판단이 들어간다는 걸 압니다. 제가 진짜 보고 싶었던 것은 반대쪽입니다. 아무도 의심하지 않는 선한 목적의 기술 안에서도 같은 일이 일어나는가.

자폐 진단 AI가 그 시험대로 적당합니다. 여기에는 나쁜 의도가 들어갈 구석이 잘 보이지 않습니다. 진단이 빨라지면 개입이 빨라지고, 개입이 빨라지면 아이의 발달에 도움이 됩니다. 실제로 진단까지 2년에서 6년이 걸리는 경우가 많았다고 하니, 이걸 줄이는 일에 반대할 이유를 찾기가 어렵습니다.

한국전자통신연구원이 분당서울대병원 정신건강의학과 유희정 교수팀과 함께 만든 기술이 그렇습니다. 42개월 이하 영유아 3,531건의 데이터를 바탕으로, 아이에게 사회적 상호작용을 유도하는 콘텐츠를 보여주고 6분 이내의 영상으로 반응을 분석합니다. 어린이집이나 발달센터, 나아가 가정에서도 쓸 수 있게 설계했다고 합니다.

여기서 AI가 읽는 것이 무엇인지가 공개돼 있습니다. 흥미 대상 제시에 대한 반응, 이름을 불렀을 때의 반응, 모방 행동, 가리키기, 눈 맞춤입니다.

이 목록을 다시 보면 좀 이상한 데가 있습니다. 이건 기술 명세가 아닙니다. 무엇을 사회성으로 셀 것인지에 대한 결정입니다.

눈 맞춤을 지표에 넣는 순간, 눈을 맞추지 않는 것은 결핍으로 기록됩니다. 그런데 자폐 당사자들이 오랫동안 해 온 이야기가 있습니다. 눈을 피하는 것이 사회성의 부재가 아니라 감각 과부하에 대한 대응일 수 있다는 것입니다. 상대의 눈을 보면서 동시에 말을 듣는 일이 어떤 사람에게는 두 가지를 한꺼번에 하는 일이고, 그래서 시선을 떼는 쪽이 오히려 대화에 집중하는 방법이라는 이야기입니다.

이 주장이 맞는지 아닌지를 제가 판정할 수는 없습니다. 제가 말하려는 건 그게 아닙니다. 어느 쪽이 맞든, 그 판단은 이미 끝난 상태로 어린이집에 도착한다는 것입니다.

카메라를 설치하는 원장 선생님은 눈 맞춤을 지표로 쓸지 말지를 고르지 않습니다. 부모도 고르지 않습니다. 그 결정은 데이터셋을 라벨링하고 지표를 고르던 시점에 내려졌고, 배포된 뒤에는 그냥 결과로만 보입니다. 의료진은 그 결과를 참고 자료로 받습니다. 여기 어디에도 악의는 없습니다. 그런데도 결정은 확실하게 들어가 있습니다.

정확도 98%는 무엇에 대한 98%인가

몇 년 사이 자폐 선별 검사가 쏟아져 나왔습니다. 6분짜리 영상을 보여주고 반응을 분석하는 방식, 손에 센서를 달아 움직임을 추적하는 방식, 상호작용 검사가 어려운 영유아를 위해 뇌 영상을 분석하는 방식이 있습니다. 홍보 문구도 비슷한 모양입니다. 15분 만에 진단한다, 정확도가 98%다.

이 검사들이 공통으로 쓰는 방법이 있습니다. 기존 자폐 아동의 사례와 비교하는 것입니다.

여기에 순환이 하나 있습니다. 기존 사례는 기존 진단 기준으로 모인 것입니다. 그러니까 정확도 98%라는 말은 "기존 진단 기준과 98% 일치한다"는 뜻입니다. 기준 자체가 무언가를 놓치고 있다면, 이 시스템은 그것을 정확하게 놓칩니다. 오히려 더 빠르고 더 일관되게 놓칩니다. 기준이 여자아이의 자폐를 덜 잡아내는 쪽으로 기울어 있다면, 학습한 모델도 같은 방향으로 기울어 있고, 그 기울기는 이제 어린이집 수천 곳에 동시에 배포됩니다.

흥미로운 건, 이 문제를 가장 날카롭게 지적한 사람이 이 분야 안에 있다는 것입니다. 뉴스에 나온 전문가 발언이 이랬습니다.

"지금 현재는 증상을 가지고, 증상 증후의 특성만 가지고 진단하게 되어 있어요. 이 진단은 사실은 원인, 치료, 예후를 예측하는 데는 도움이 안 돼요."

이건 기술 비판이 아닙니다. 지금 있는 진단 체계 자체에 대한 진단입니다. 빨라지고 정확해진 것은 맞는데, 그 정확도가 향하고 있는 목표물이 원래 원했던 것이 아닐 수 있다는 말입니다.

서울대병원 소아청소년정신과 김붕년 교수팀과 KIST 뇌과학연구소, 멜버른대 연구팀이 올해 8월 국제 학술대회에서 발표한 연구가 이 지점을 정면으로 건드립니다. 이들이 만든 것은 더 정확한 진단기가 아닙니다. fMRI에서 AI가 학습한 정보가 실제 뇌의 생물학적·구조적 특성을 얼마나 반영하는지를 검증하는 틀입니다. 감각 정보를 통합하는 하두정소엽과 감각을 중계하는 시상을 중심으로 한 연결 감소를 확인했고, 환자마다 증상이 천차만별인 만큼 증상별로 뇌의 연결성이 어떻게 다른지를 추가로 볼 계획이라고 합니다.

정확도를 올리는 대신 정확도의 의미를 물은 것입니다. 저는 이 선택이 이 이야기에서 가장 중요한 대목이라고 봅니다. 같은 데이터, 같은 fMRI, 같은 AI 기법으로 두 팀이 완전히 다른 물건을 만들 수 있습니다. 한쪽은 판별 성능을 올리고, 다른 쪽은 그 성능이 무엇을 재고 있는지를 검사합니다. 둘 다 정당한 연구이고, 둘 다 선의에서 출발합니다. 그런데 결과물이 사회에서 하는 일은 전혀 다릅니다.

이 차이를 만든 것은 응용 주체의 도덕성이 아닙니다. 연구 설계 단계에서 무엇을 목표로 잡을지 정한 판단입니다.

유병률이 측정 도구의 함수일 때

한 걸음 더 들어가면 더 불편한 것이 나옵니다.

미국 질병통제예방센터가 2025년에 발표한 자료에 따르면, 8세 아동 31명 중 1명이 자폐 스펙트럼 장애로 확인됐습니다. 직전 조사에서는 36명 중 1명이었습니다. 숫자만 보면 자폐가 빠르게 늘고 있는 것처럼 보입니다.

보고서를 쓴 사람들이 증가의 원인으로 든 것은 자폐 자체의 증가가 아닙니다. 자폐에 대한 이해가 나아졌고 선별 검사가 늘었기 때문이라는 것입니다.

이 문장을 뒤집어 보면 이렇게 됩니다. 유병률이라는 숫자는 그 사회가 얼마나 촘촘하게 재고 있는지를 함께 담고 있습니다. 재는 도구를 바꾸면 숫자가 바뀝니다. 아이들은 그대로인데 숫자가 바뀝니다.

이제 여기에 AI 선별 기술을 넣어 보겠습니다. 6분짜리 영상 한 편이면 되고, 특별한 장비가 필요 없고, 어린이집과 보육시설과 발달센터에서 쓸 수 있습니다. 좋은 일입니다. 진단까지 몇 년씩 걸리던 아이들이 훨씬 빨리 도움을 받게 됩니다.

동시에 벌어지는 일이 있습니다. 경계선에 있던 아이들이 대량으로 경계 안쪽으로 들어옵니다. 이건 부작용이 아니라 기술이 하는 일 그 자체입니다. 촘촘하게 재라고 만든 도구니까요.

그래서 따라오는 질문이 있습니다. 경계 안쪽으로 들어온 아이에게 무엇이 준비되어 있는가. 치료와 지원이 준비돼 있다면 조기 선별은 축복입니다. 준비된 것이 진단명뿐이라면, 그 아이는 도움 없이 이름표만 얻습니다. 한국의 발달 지원 인프라가 늘어날 수요를 감당할 수 있는지는 기술 쪽에서 답할 수 있는 문제가 아닙니다.

그런데도 그 수요의 크기는 기술이 정합니다. 어느 어린이집 원장도, 어느 부모도, 어느 정책 담당자도 "우리 사회의 자폐 판정 기준을 이만큼 넓히자"고 결정하지 않았는데 그렇게 됩니다. 이게 크란츠버그가 말한 뒤쪽 절반입니다. 원래 의도했던 목적을 훨씬 넘어서는 결과가 나온다는 것.

키오스크가 고용을 줄인 대신 남은 사람의 근로시간을 늘린 이야기를 쓴 적이 있습니다. 그때도 구조가 같았습니다. 주문을 받는 일을 기계가 대신했는데, 줄어든 것은 사람 수였고 늘어난 것은 남은 사람이 처리해야 할 예외 상황이었습니다. 아무도 그걸 목표로 삼지 않았습니다.

같은 기술을 쥐고 다른 물건을 만든 팀

그래서 저는 마지막 뉴스를 다시 봤습니다.

KAIST 산업디자인학과 홍화정 교수팀이 네이버 AI Lab, 도담김 아동발달센터와 함께 만든 AACessTalk입니다. 말수가 적은 자폐 아동과 부모 사이의 대화를 돕는 시스템이고, 지난해 요코하마에서 열린 ACM CHI 2025에서 최우수논문상을 받았습니다.

작동 방식은 이렇습니다. AI가 두 사람의 대화를 실시간으로 분석해서 아이에게는 맥락에 맞는 어휘 카드를 추천하고, 부모에게는 대화를 이어갈 가이드를 줍니다. 기존 보완대체의사소통 도구가 고정된 카드 묶음을 쓰던 것과 달리, 아이의 기분과 상황에 따라 카드가 계속 바뀝니다. 그래서 새로운 단어를 접할 기회가 생기고 어휘가 늘어납니다.

여기까지는 성능 이야기입니다. 제가 진짜 눈여겨본 것은 따로 있습니다. 이 시스템에는 아이가 먼저 물어볼 수 있는 버튼과 대화를 시작하고 끝내는 버튼이 들어 있습니다.

이 버튼이 왜 중요한가. 보완대체의사소통 도구의 통상적인 구조에서 아이는 대답하는 위치에 있습니다. 어른이 묻고 아이가 카드를 눌러 답합니다. 대화의 시작과 끝, 주제 선택은 전부 어른 쪽에 있습니다. 성능을 올리는 방향으로만 개발한다면 이 구조를 건드릴 이유가 없습니다. 오히려 아이가 대화를 마음대로 끝낼 수 있으면 데이터 수집이 어려워지고 평가 지표도 나빠집니다.

그런데 이 팀은 그 버튼을 넣었습니다. 아이를 측정 대상이 아니라 대화의 주체로 두기로 한 것입니다.

이건 응용 단계의 선택이 아닙니다. 어린이집에서 이 앱을 깔면서 "우리는 아이에게 주도권을 주는 방향으로 쓰겠다"고 결정할 수 있는 성질의 것이 아닙니다. 버튼이 없으면 없는 것이고, 있으면 있는 것입니다. 설계 시점에 이미 끝난 문제입니다.

그리고 같은 팀이 같은 기술을 쓰면서 다른 목표를 잡았다면 전혀 다른 물건이 나왔을 겁니다. 이를테면 아이의 발화 시도 횟수를 자동으로 집계해서 부모에게 주간 리포트를 보내 주는 시스템 같은 것 말입니다. 나쁜 제품이 아닙니다. 부모가 원할 만한 기능이고, 치료 효과 측정에도 쓸모가 있습니다. 그 제품 안에서 아이는 다시 측정 대상으로 돌아갑니다.

어머니가 인터뷰에서 한 말이 "정확도가 높아졌다"가 아니라 "처음으로 진짜 대화를 나눴다"였다는 것은 우연이 아닙니다. 무엇을 만들지 정할 때 이미 그쪽으로 정해져 있었습니다.

그렇다고 설계가 전부를 정한다는 쪽으로 가면 또 틀립니다

여기까지 쓰고 보니 제 주장이 한쪽으로 기울 위험이 보입니다. "기술에는 정치가 내장돼 있다"는 쪽으로 밀어붙이면 그것도 과장이 됩니다.

이 분야에서 가장 유명한 주장이 랭던 위너가 1980년에 쓴 「인공물은 정치를 갖는가」입니다. 간판 사례가 로버트 모지스의 다리입니다. 뉴욕의 도시계획을 수십 년간 주도한 그가 롱아일랜드의 고가도로를 일부러 낮게 지어서 버스가 지나가지 못하게 만들었고, 그 결과 버스를 타야 했던 저소득층과 흑인들이 존스비치에 접근할 수 없었다는 이야기입니다. 콘크리트로 만든 인종 필터라는 것입니다.

강력한 사례라서 지금도 여기저기 인용됩니다. 문제는 이 이야기가 1999년에 정면으로 반박됐다는 것입니다. 사회학자 베른바르트 요르게스가 사실관계를 따져 보니 맞지 않았습니다. 버스가 다닐 수 있는 다른 경로가 있었고, 애초에 그 도로는 상업용 차량 통행을 금지하는 종류의 도로였습니다. 널리 퍼진 이야기가 연구에서 나온 것처럼 보였지만 실은 경건한 우화에 가까웠다는 지적입니다.

그러니 저는 위너를 그대로 들고 오지 않겠습니다. 제가 말하려는 건 그보다 약하고, 대신 훨씬 확실한 것입니다.

다리 높이가 인종을 겨냥해 정해졌는지는 알 수 없습니다. 그러나 일단 지어지고 나면 버스는 못 지나갑니다. 의도가 무엇이었든 선택지는 좁아집니다. 그리고 그걸 되돌리려면 다리를 다시 놓아야 합니다.

자폐 진단 AI도 그렇습니다. 눈 맞춤을 지표에 넣은 사람이 자폐 당사자의 목소리를 무시했다고 말할 생각은 없습니다. 임상에서 오래 쓰여 온 기준이고, 실제로 유의미한 지표이기도 합니다. 제가 말하는 것은 의도가 아니라 결과입니다. 일단 그 기준으로 학습이 끝나고 배포가 되면, 현장에서 그 기준을 바꿀 방법은 없습니다.

늦게 규제되는 분야와, 덜 늦은 분야

이 이야기는 결국 규제 쪽으로 이어집니다.

데이비드 콜링리지가 1980년에 정리한 딜레마가 있습니다. 기술을 통제하려는 시도는 언제나 이중 구속에 걸린다는 것입니다. 기술이 초기일 때는 바꾸기 쉽지만 어떤 결과가 나올지 모릅니다. 결과가 분명해질 무렵에는 이미 사회와 경제에 깊이 박혀 있어서 바꾸기 어렵습니다. 아는 것과 바꿀 수 있는 것이 시간상 어긋나 있습니다.

한국은 올해 1월 22일 인공지능 기본법을 전면 시행했습니다. 법을 만든 순서로는 두 번째지만, 개별 분야 규제가 아니라 포괄적인 상위 법률로 AI를 규정한 것은 세계에서 처음이고, 전면 시행 시점도 가장 이릅니다. 생성형 AI 결과물에 워터마크를 붙이게 했고, 의료·채용·대출 심사처럼 생명이나 기본권에 중대한 영향을 주는 고영향 AI 사업자에게는 위험 관리와 이용자 보호 방안을 만들게 했습니다.

그리고 8월 21일 제12회 과학기술관계장관회의에서 「대한민국 인공지능 윤리원칙」이 의결됐습니다. 3대 가치는 인간의 존엄성, 사회의 공공선, 인류의 지속가능성입니다. 7대 원칙은 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성입니다. AI 기본법 제27조에 근거를 두되 법적 구속력은 없는 자율 규범이고, 기업이 스스로 이행 수준을 점검할 자율 점검표를 배포할 계획이라고 합니다.

이번 개정에서 달라진 점으로 언급된 것이 하나 있습니다. 6년 전 처음 윤리 기준을 만들 때와 달리 AI가 이미 생활 속에 널리 파고들었다는 것입니다.

저는 이 문장이 성과 보고가 아니라 자백에 가깝다고 읽었습니다. 콜링리지가 말한 두 번째 뿔에 들어갔다는 뜻이니까요. 무엇이 문제인지 이제 알겠는데, 알게 된 시점에는 이미 빼기가 어려워졌습니다. 하네스에서 가드레일을 넣는 일보다 빼는 일이 훨씬 어렵다는 이야기를 쓴 적이 있는데, 그건 개인 도구 수준의 이야기였고 사회 전체에서는 훨씬 심하게 작동합니다.

여기서 흥미로운 비교가 하나 생깁니다. 자폐 진단 AI는 덜 늦었습니다.

이유는 기술이 더 안전해서가 아닙니다. 의료라는 분야에 이미 규제 틀이 있었기 때문입니다. 임상시험을 거쳐야 하고, 의료기기 인허가를 받아야 하고, 진단 결과에 대한 책임 소재가 정해져 있고, 학회에서 검증을 받아야 합니다. KIST와 서울대병원 팀이 정확도 대신 생물학적 타당성을 검증하는 틀을 만든 것도 이 문화 안에서 나온 선택입니다. 의료에서는 "잘 맞히는 것"과 "맞는 이유로 맞히는 것"을 구분해야 한다는 규범이 오래 있었습니다.

반대로 챗봇이 청소년과 나누는 대화에는 그런 틀이 없었습니다. 그래서 소송이 먼저 오고 규범이 나중에 왔습니다.

여기서 나오는 결론이 조금 김빠지는 것이라도 적어 두겠습니다. 콜링리지 딜레마가 완화되는 경우는 규제가 기술보다 먼저 있던 분야뿐입니다. 새 기술을 위해 새 규범을 만드는 일은 거의 항상 늦습니다. 반면 그 기술이 들어가는 영역에 이미 규범이 있으면, 그 규범이 기술을 붙잡습니다. AI 윤리 원칙 하나로 모든 영역을 덮으려는 시도가 어려운 이유가 여기 있습니다. 붙잡는 힘은 일반 원칙이 아니라 그 분야가 오래 쌓아 온 실무에서 나옵니다.

망분리 20년 동안 법이 요구한 적 없는 목록이 관행으로 굳어 있던 이야기를 쓰면서 비슷한 것을 봤습니다. 실제로 사람들의 행동을 바꾼 것은 법 조문이 아니라 현장에 쌓인 목록이었습니다.

자율 점검표에 대해서는 기대가 크지 않습니다

윤리 원칙과 함께 나온 자율 점검표에 대해서는 솔직히 기대가 크지 않습니다.

제 경험이 그쪽을 가리킵니다. 저는 제 블로그 자동화 도구에 감시 훅을 열두 개 걸어 두고 넉 달을 돌렸는데 한 번도 발화하지 않았습니다. 처음에는 아무 문제가 없다는 뜻인 줄 알았습니다. 아니었습니다. 검사하는 쪽과 검사받는 쪽이 같으면, 통과하기 쉬운 항목만 남습니다. 의도적으로 느슨하게 만든 것도 아니었습니다. 스스로 점검할 항목을 고를 때 사람은 자기가 통과할 수 있는 것을 고릅니다.

법적 구속력이 없는 자율 규범에 같은 구조가 있습니다. 기업이 스스로 항목을 대조하고 스스로 이행 수준을 적습니다. 그 결과를 검증할 외부 기관이 따로 붙지 않으면, 점검표는 무엇이 문제인지 알려 주는 문서가 아니라 무엇을 이미 하고 있는지 정리하는 문서가 됩니다.

그렇다고 원칙이 무의미하다고 말하려는 건 아닙니다. 이번 개정에서 설계자의 책임이 강조됐고, 실질적인 피해 구제를 해야 한다는 문구가 들어간 것은 방향이 맞습니다. 특히 책임의 무게를 사용 단계가 아니라 설계 단계에 실었다는 점이 그렇습니다. 지금까지 쓴 이야기가 전부 그 방향을 가리킵니다.

다만 원칙이 실제로 힘을 갖는 순간은 그것이 분야별 실무 규범으로 번역될 때입니다. "공정성·포용성"이라는 단어가 자폐 선별 AI 앞에 놓였을 때 실제로 무엇을 요구하는지가 정해져야 합니다. 여자아이 데이터가 충분히 들어갔는지를 묻는 것인지, 눈 맞춤 지표의 타당성을 당사자 단체에 검토받으라는 것인지, 경계선 판정을 받은 아이에게 후속 지원이 연결되는지를 확인하라는 것인지. 이 번역이 없으면 원칙은 읽기 좋은 문장으로 남습니다.

그래서 무엇을 봐야 하는가

처음 질문으로 돌아가겠습니다. AI의 발전을 사회는 어떻게 받아들여야 할까.

제가 며칠 들여다보고 도달한 것은 이 정도입니다. "누가 쓰느냐"를 보는 것은 늦습니다. 그때는 이미 선택지가 몇 개로 좁혀져 있고, 좁힌 사람은 그 앞에 있습니다. 그러니 봐야 할 것은 쓰는 사람이 아니라 그 앞에서 내려진 결정입니다.

구체적으로는 두 가지를 묻게 되는 것 같습니다.

무엇을 측정 대상으로 정했는가. 눈 맞춤을 사회성으로 셀 것인지, 정확도를 기존 진단과의 일치로 잴 것인지, 발화 시도 횟수를 성과로 볼 것인지. 이 결정이 그 기술이 사회에서 하게 될 일의 대부분을 정합니다. 그리고 이건 기술 문서 안에 공개돼 있는 경우가 많아서, 마음만 먹으면 볼 수 있습니다.

누구에게 주도권을 줬는가. 대화를 끝낼 수 있는 버튼이 아이에게 있는지 어른에게 있는지. 모델에 용도 제한이 남아 있는지 없는지. 점검표를 쓰는 사람과 검사받는 사람이 같은지 다른지. 전부 같은 질문입니다.

이 두 가지는 "이 기술은 선한가"보다 훨씬 답하기 쉽습니다. 그리고 답이 훨씬 구체적입니다.

기술이 쓰는 사람에 따라 달라진다는 말은 여전히 맞습니다. 다만 그 말이 성립하는 범위가 생각보다 좁다는 것을, 저는 네 개의 뉴스를 나란히 놓고서야 알았습니다. Anthropic과 국방부가 2억 달러를 걸고 다툰 것도, 아이가 대화를 끝낼 수 있는 버튼도, 결국 같은 곳에 있었습니다. 쓰기 훨씬 전에 끝나 있는 결정들입니다.

---

참고한 자료 — 아래 링크는 전부 2026-09-20 확인일 기준입니다.

• 「대한민국 인공지능 윤리원칙」 제정, 과학기술정보통신부·정보통신정책연구원, 2026-08-21 제12회 과학기술관계장관회의 의결 (서울신문)
• Melvin Kranzberg, "Technology and History: Kranzberg's Laws", Technology and Culture 27:3 (1986)
• Langdon Winner, "Do Artifacts Have Politics?", Daedalus (1980) / Bernward Joerges, "Do Politics Have Artefacts?", Social Studies of Science (1999)
• David Collingridge, The Social Control of Technology (1980)
• Anthropic-국방부 분쟁 경과 (TechPolicy.Press 타임라인, CNBC 2026-08-28)
• ETRI·분당서울대병원 유희정 교수팀, AI 기반 사회적 상호작용 인지 기술 (파퓰러사이언스)
• 서울대병원 김붕년 교수팀·KIST·멜버른대, fMRI 기반 자폐 뇌영상 AI 검증 프레임워크, ACM SIGKDD 2026 (서울신문)
• KAIST 홍화정 교수팀·네이버 AI Lab·도담김 아동발달센터, AACessTalk, ACM CHI 2025 최우수논문상 (EurekAlert)
• 미국 질병통제예방센터 ADDM 자폐 유병률 보고 (2025년 발표, 2022년 기준 8세 아동 31명 중 1명) (AAP News)