라벨이 AI 자동응답 한계인 게시물 표시

AI는 정말 중립적일까? - Anthropic과 autism 진단 AI가 보여준 것

이미지
같은 시기에 나온 뉴스 네 개를 나란히 보게 됐습니다. 하나는 AI가 전쟁의 판도를 바꾸고 있다는 이야기였습니다. 공습 과정에서 사람이 하는 일이 어느 쪽 버튼을 누르느냐 수준으로 줄었다는 대목이 나왔고, AI가 청소년의 자살이나 범죄를 돕는 사례가 늘어 미국에서 소송이 진행 중이라는 이야기도 붙었습니다. 그 흐름에서 우리 정부가 인공지능 윤리 원칙을 새로 내놨다고 했습니다. 나머지 셋은 전부 자폐 스펙트럼 장애 이야기였습니다. 뇌 영상에서 어떤 부위가 자폐와 관련 있는지 분석하는 기술, 영유아가 영상을 보는 동안의 반응을 AI가 읽어 조기에 선별하는 기술, 그리고 말수가 적은 자폐 아동과 부모 사이의 대화를 AI가 이어 주는 시스템이었습니다. 마지막 뉴스에 어머니 인터뷰가 하나 실려 있었습니다. "저한테 엄마라고 호명을 안 했거든요. 근데 이렇게 보면서 아 엄마구나, 그리고는 저한테 엄마 아빠 이렇게." 같은 기술입니다. 한쪽에서는 사람을 죽이는 판단에 들어가 있고, 다른 쪽에서는 아이가 처음으로 엄마를 부르게 만들고 있습니다. 이걸 보고 가장 자연스럽게 나오는 결론이 있습니다. 기술 자체에는 선악이 없고, 그걸 쓰는 사람과 기관과 국가가 방향을 정한다는 것입니다. 저도 오래 그렇게 생각했습니다. 그런데 이 네 개를 같이 놓고 며칠 들여다보니 그 결론이 편한 쪽으로 반쯤 잘려 있다는 생각이 들었습니다. 가장 많이 인용되면서 가장 많이 잘리는 문장 기술사학자 멜빈 크란츠버그가 1986년에 남긴 문장이 있습니다. 기술을 이야기할 때 거의 관용구처럼 쓰입니다. "기술은 선하지도 악하지도 않다. 그러나 중립적이지도 않다." 인용될 때 대개 앞쪽 절반만 옵니다. 선하지도 악하지도 않다는 말은 듣기 좋고, 논쟁을 끝내 주고, 무엇보다 우리를 편하게 해 줍니다. 크란츠버그가 정말 하고 싶었던 말은 뒤쪽입니다. 선악이 없다는 것과 중립이라는 것은 다른 말입니다. 이게 왜 다른 말인지를 그는 이렇게 설명했습니다...

키오스크가 줄인 고용, 늘린 근로시간

이미지
어제 마트 계산 줄에 서서 앞사람 손을 보고 있었습니다. 예순쯤 되어 보이는 분이었는데 폰을 단말기에 툭 대고 삼성페이로 결제하는 데 3초도 안 걸렸습니다. 저는 거기서부터 머릿속으로 세대 이야기를 만들기 시작했습니다. 이분들이 인터넷 보급기를 통과한 세대니까 디지털 전환이 상대적으로 수월했던 거라고. 60대와 70대가 리니지 오토를 돌리는 것도 같은 맥락이라고. 꽤 그럴듯하게 조립됐습니다. 그리고 그날 저녁 저는 통신사 ARS에서 상담원을 못 찾아 같은 메뉴를 세 바퀴 돌았고, 그 가설은 필요가 없어졌다… 세대로 설명하려던 문제가 세대와 무관한 데서 저를 붙잡은 겁니다. 제가 헤맨 건 학습 부족이 아니었습니다. 그 시스템에는 제가 가려는 곳으로 가는 길이 아예 없었습니다. 세대는 변수가 아니었습니다 먼저 제가 틀린 부분을 정확히 해두자. 2026년 기준 X세대는 1965년에서 1980년 사이에 태어난 46세부터 61세까집니다. 마트에서 본 예순 남짓한 분은 X세대 끝단이 아니라 베이비붐 세대에 더 가깝습니다. 리니지 오토를 돌리는 60대와 70대도 대부분 붐 세대입니다. 이 구분을 뭉개면 아무 얘기도 못 합니다. 그런데 구분을 정확히 해도 설명이 안 되는 게 남습니다. 젊은 사람도 키오스크에서 막힙니다. 저는 하루의 절반을 터미널에서 보내는 사람인데, 처음 보는 무인 주문기 앞에서 뒷사람 눈치를 본 적이 여러 번 있습니다. 화면 어디를 눌러야 다음으로 가는지 몰라섭니다. 세대가 진짜 원인이라면 이런 일은 안 생겨야 합니다. 그래서 시니어 얘기를 원인에서 빼기로 했습니다. 시니어는 이 시스템의 결함이 가장 먼저, 가장 크게 드러나는 쪽입니다. 증상이 제일 선명한 곳이 원인은 아닙니다. 번호가 매번 바뀌는 ARS 유튜브에 돌아다니는 ARS 풍자 영상 의 대본을 하나 읽었습니다. 가상의 에어컨 회사 고객센터에 전화해서 상담원을 찾아가는 코미디 스케치인데, 웃다가 중간에 등이 서늘해졌습니다. 과장은 됐지만 과장의 방향이 정확했습니다. 대본에서 벌어지...