라벨이 AI 거품인 게시물 표시

AI는 정말 중립적일까? - Anthropic과 autism 진단 AI가 보여준 것

이미지
같은 시기에 나온 뉴스 네 개를 나란히 보게 됐습니다. 하나는 AI가 전쟁의 판도를 바꾸고 있다는 이야기였습니다. 공습 과정에서 사람이 하는 일이 어느 쪽 버튼을 누르느냐 수준으로 줄었다는 대목이 나왔고, AI가 청소년의 자살이나 범죄를 돕는 사례가 늘어 미국에서 소송이 진행 중이라는 이야기도 붙었습니다. 그 흐름에서 우리 정부가 인공지능 윤리 원칙을 새로 내놨다고 했습니다. 나머지 셋은 전부 자폐 스펙트럼 장애 이야기였습니다. 뇌 영상에서 어떤 부위가 자폐와 관련 있는지 분석하는 기술, 영유아가 영상을 보는 동안의 반응을 AI가 읽어 조기에 선별하는 기술, 그리고 말수가 적은 자폐 아동과 부모 사이의 대화를 AI가 이어 주는 시스템이었습니다. 마지막 뉴스에 어머니 인터뷰가 하나 실려 있었습니다. "저한테 엄마라고 호명을 안 했거든요. 근데 이렇게 보면서 아 엄마구나, 그리고는 저한테 엄마 아빠 이렇게." 같은 기술입니다. 한쪽에서는 사람을 죽이는 판단에 들어가 있고, 다른 쪽에서는 아이가 처음으로 엄마를 부르게 만들고 있습니다. 이걸 보고 가장 자연스럽게 나오는 결론이 있습니다. 기술 자체에는 선악이 없고, 그걸 쓰는 사람과 기관과 국가가 방향을 정한다는 것입니다. 저도 오래 그렇게 생각했습니다. 그런데 이 네 개를 같이 놓고 며칠 들여다보니 그 결론이 편한 쪽으로 반쯤 잘려 있다는 생각이 들었습니다. 가장 많이 인용되면서 가장 많이 잘리는 문장 기술사학자 멜빈 크란츠버그가 1986년에 남긴 문장이 있습니다. 기술을 이야기할 때 거의 관용구처럼 쓰입니다. "기술은 선하지도 악하지도 않다. 그러나 중립적이지도 않다." 인용될 때 대개 앞쪽 절반만 옵니다. 선하지도 악하지도 않다는 말은 듣기 좋고, 논쟁을 끝내 주고, 무엇보다 우리를 편하게 해 줍니다. 크란츠버그가 정말 하고 싶었던 말은 뒤쪽입니다. 선악이 없다는 것과 중립이라는 것은 다른 말입니다. 이게 왜 다른 말인지를 그는 이렇게 설명했습니다...

내 커밋 92%는 남의 데이터센터 위에 있다

이미지
빅테크가 데이터센터를 빚으로 짓는다는 얘기를 올해 초부터 계속 봤는데, 볼 때마다 제 일과 무슨 상관인지가 잘 안 붙었습니다. 주식 얘기로 읽히니까 넘겼습니다. 그런데 어제 숫자 하나를 보고 생각이 바뀌어서, 제가 쓰는 추론 비용과 그 부채가 어디서 만나는지 종이에 그려봤습니다. 만나는 데가 네 개 나왔고 넷 다 제 워크플로우 안이었습니다. 여기까진 예상한 결론이었습니다. 같이 나온 게 제 의존도였습니다. 회사 레포에서 제 커밋을 월별로 세보니 3월에 49%였던 게 5월부터 92%에서 안 내려오고 있었습니다. 그 숫자를 저는 모르고 있었습니다. 장부 밖에 얼마가 서 있나 숫자부터 봅니다. 니케이가 7월 23일에 알파벳과 마이크로소프트, 아마존, 메타, 오라클 다섯 곳의 장부 밖 부채를 1조 6,500억 달러로 집계했다 . 4년 만에 여덟 배입니다. 이 숫자가 의미를 갖는 건 비교 대상이 있을 때입니다. 같은 다섯 회사가 장부에 올려둔 부채는 약 1조 3,500억 달러입니다. 장부 밖이 장부 안보다 큽니다. 메타 한 곳이 4,200억 달러를 장부 밖에 두고 있습니다. 어떻게 장부 밖에 두나. 데이터센터를 직접 짓지 않고 특수목적법인을 세웁니다. 그 법인이 채권을 발행하거나 사모 대출을 받아 돈을 빌리고, 빅테크는 그 법인과 장기 임대 계약을 맺어 컴퓨팅 용량만 받습니다. 빌린 돈은 그 법인 장부에 잡히고 빅테크 장부에는 임대료만 남습니다. 자본적 지출이 아니라 임차료로 기록되니까 감가상각 흐름도 달라집니다. 메타가 텍사스에 짓는 1기가와트급 데이터센터가 이 방식입니다. 125억 달러가 들어가는데 그 시설을 소유한 회사를 따로 세우고 사모 신용 펀드가 지분 대부분을 가져갑니다. 위험이 사라진 게 아니라 이동합니다. 그 법인에 돈을 댄 채권 투자자와 보험사, 연기금이 위험을 듭니다. 빅테크는 계약상 일정 대가를 치르고 그 구조에서 빠져나올 선택권을 갖는 경우가 많습니다. 구조가 2008년 이전의 부채담보부증권과 겉모습이 닮았다는 지적이 여기서 나옵니다...