라벨이 AI 도입 리스크인 게시물 표시

같은 봉제인형 프롬프트를 넣었는데 ChatGPT는 원본을, Gemini는 프롬프트를 따랐습니다

이미지
오전에 당근 모임 대화방에 그림 두 장이 올라왔습니다. 저는 대화에 끼지 않고 읽기만 하고 있었습니다. 하나는 한옥 마당에서 버섯 바구니를 든 주황색 고양이였고, 다른 하나는 시장 골목에서 장바구니를 든 가지와 당근이었습니다. 둘 다 펠트로 만든 인형처럼 생겼고, 표면에 보풀이 일어난 게 폰 화면으로도 보일 정도였습니다. 바로 밑에 누가 물었습니다. 제미나이로 만든거에요? 올린 분 답은 이랬습니다. 아뇨 인스타에서 찾은거 걍 인형같던데... 대화는 "으흠 신기하네용"으로 끝났는데, 저는 "걍 인형같던데"에서 좀 오래 멈춰 있었습니다. 그 말이 딱 그 그림이 노린 반응이라서요. 진짜 인형을 찍은 사진이면 굳이 나올 말이 아닙니다. 보는 사람이 한 번은 헷갈려야 나오는 말이죠. 가지가 쓴 동그란 안경은 실로 수놓은 것처럼 보이는데, 손바닥만 한 인형에 안경테를 저렇게 고르게 수놓는 건 손으로 하기엔 꽤 성가신 일입니다. 배경이 전부 적당히 흐려져 있고 햇빛이 인형 털 끝에서만 반짝이는 것도 그렇고요. 제 눈에는 AI 쪽으로 보였습니다. 그래서 그 두 장을 뜯어보고 프롬프트로 옮겨 봤습니다. 인스타에 올린 사람이 어떤 프롬프트를 썼는지는 모릅니다. 그림에서 보이는 걸 거꾸로 적어 내려간 것이고, 그렇게 만든 프롬프트에 가지고 있던 사진 몇 장을 넣어 봤습니다. 그림 두 장을 문장으로 옮기면서 거꾸로 적어 내려간다는 게 말은 쉬운데, 해 보면 그림에서 뭘 볼지부터 정해야 합니다. 제가 먼저 본 건 얼굴이었습니다. 고양이 눈은 반쯤 감긴 선 두 줄이고, 가지 얼굴도 눈과 입이 가는 선 몇 개로 끝납니다. 펜으로 그린 선이 아니라 실로 박음질한 선처럼 보였고, 이게 눈, 눈썹, 코, 입은 프린트가 아니라 embroidery나 felt applique로 만든다는 문장이 됐습니다. 다음은 표면이었습니다. 크게 키워 보면 고양이 털 가장자리가 햇빛을 받아 하얗게 빛나는데, 매끈한 3D 렌더링과 제일 다른 부분이 여...

AI에게 도메인을 이해시키면 그 지식은 어디에 남나

이미지
AI가 도메인을 이해한다는 말에서 자연스럽게 따라오는 결론이 있습니다. “그러면 그 도메인을 아는 사람이 굳이 필요 없지 않나.” 기업 입장에서 이 논리는 꽤 매력적으로 들립니다. 고액 연봉의 도메인 전문가를 유지하는 대신 AI를 쓰면 된다는 말이니까. 법률팀, 의료 자문, 금융 분석가, 20년 경력의 시니어 개발자 — AI가 그 지식을 흡수했다면 그 사람들의 일자리가 위태로워집니다. 근데 이 논리엔 전제가 하나 빠져 있습니다. AI가 도메인을 이해하려면, 누군가 그 도메인을 AI에게 먹여야 합니다. 그 먹이는 과정에서 무슨 일이 생기는지를 제대로 따져본 사람이 별로 없습니다. AI는 스스로 배우지 않습니다 오해가 많은 부분입니다. ChatGPT나 Claude 같은 모델이 법률을 안다, 의학을 안다, 금융을 안다 — 이건 사전 학습(pre-training) 단계에서 인터넷에 공개된 텍스트를 대규모로 학습한 결과입니다. 공개된 법률 문서, 의학 논문, 금융 보고서들이 학습 데이터에 들어가 있으니까 그 수준의 지식은 갖고 있습니다. 근데 회사 내부 도메인은 다릅니다. 키움증권의 반대매매 발동 기준이 인터넷에 공개돼 있지 않습니다. 특정 병원의 원무 처리 프로세스가 GitHub에 올라가 있지 않습니다. 어느 제조업체의 불량품 판정 기준이 논문으로 나온 적 없습니다. AI가 사전 학습으로 흡수할 수 있는 도메인은 공개된 것까집니다. 각 조직이 수십 년 동안 쌓아온 내부 지식은 AI의 기본 장착 범위 밖입니다. 그러니까 “AI에게 우리 도메인을 이해시키겠습니다”는 말은 반드시 이 작업을 수반합니다. 내부 문서, 정책, 프로세스, 규칙을 AI에게 입력해야 합니다. RAG(Retrieval-Augmented Generation) 파이프라인을 구축해서 내부 데이터를 검색 소스로 연결하거나, 파인튜닝을 통해 모델 자체에 조직 특화 지식을 녹여넣거나, 아니면 매 프롬프트마다 관련 내부 문서를 컨텍스트로 붙여서 보내거나. 어떤 방식이든 내부 정보가 외부 ...