현장에서 검증된 AI 도입 전략과 운영 원칙.
"작년에 전 직원 AI 교육을 했는데, 효과가 있었느냐고 물으면 만족도 점수밖에 없습니다." "교육 예산을 늘리자고 하려면 숫자가 필요한데 무엇을 재야 합니까?" AI 리터러시 교육 ROI를 찾는 HR·교육 담당자는 대개 이 두 질문에서 막힙니다.
"어떤 생성형 AI를 도입하면 되나요?", "ChatGPT를 전사에 깔면 되나요?", "경쟁사는 벌써 쓴다는데 우리는 뭘 사야 하나요?" AX 전략 회의는 대개 이런 질문으로 시작합니다. 세 질문의 주어가 모두 제품이라는 점이 문제입니다.
"AI 도구는 다 열어줬는데 왜 쓰는 사람만 계속 쓰나요?", "전 직원 교육을 했는데 왜 현업에 안 남나요?", "그럼 교육을 한 번 더 해야 하나요?" AI 확산 조직을 고민하는 기업에서 반복해서 나오는 질문입니다.
AI 도구는 회사가 사줬는데 부서마다 쓰는 모습이 다릅니다. 어떤 팀은 보고서 초안을 AI로 뽑아 쓰고, 어떤 팀은 계정만 열어둔 채 그대로입니다. 막히면 IT팀에 물어보라고 안내했는데 IT팀은 "그 업무를 우리가 몰라서 답을 못 준다"고 합니다. 그래서 나오는 질문이 "부서마다 AI 담당을 한 명씩 둬야 하나?"입니다. 이 글은 AI 담당자가 실제로 무슨…
AI 리터러시 교육을 검토하는 담당자는 견적서를 받기 전에 대개 세 가지를 묻습니다. "1인당 얼마입니까?", "전 직원을 다 시켜야 합니까?", "교육하고 나면 실제로 달라집니까?" 이 세 질문은 묻는 순서를 바꿔야 답이 나옵니다.
"우리 직원들 AI 리터러시가 어느 수준인가요?" 이 질문에 숫자로 답할 수 있는 회사는 드뭅니다. 교육을 몇 시간 돌렸는지, ChatGPT 계정을 몇 개 샀는지는 아는데 정작 "무엇이 부족한가"는 모릅니다. 그래서 교육을 마쳐도 어디가 나아졌는지 경영진에게 설명하지 못합니다.
"이 업무도 AI로 해볼 수 있지 않나요?" "ChatGPT에 한번 물어보면 되지 않나요?" 요즘 회의에서 이런 말이 자주 나옵니다. 그런데 막상 실무자는 손이 멈춥니다. 무엇을 물어봐야 하는지, 나온 답을 믿어도 되는지, 회사 자료를 넣어도 괜찮은지 판단하기 어렵습니다. 여기서 나오는 말이 AI 리터러시 입니다. 이 글에서는 AI 리터러시가 왜 지금 필요…
"AI 도구는 전 직원에게 깔아줬는데 왜 쓰는 사람만 쓸까요?" "교육을 한 번 돌렸는데 왜 현업에서는 안 쓰죠?" "누구는 민감한 자료까지 넣고 누구는 아예 안 쓰는데, 이걸 어떻게 정리해야 하나요?" 상담에서 반복해서 듣는 질문입니다. 같은 도구를 같은 날 같은 조건으로 열어줬는데 3개월 뒤 결과는 부서마다, 사람마다 완전히 다릅니다. 이 상태를 직원…
AI 도입을 검토하다 보면 비슷한 단어가 반복해서 등장합니다. AX, AI 전환, 생성형 AI, 자동화, AI 거버넌스, AI 리터러시 같은 용어입니다. 이 단어들은 서로 연결되어 있지만 같은 뜻은 아닙니다. 용어를 정확히 이해하지 못하면 "툴을 몇 개 도입하면 AI 전환이 되는 것인지", "교육부터 해야 하는지, 시스템 구축부터 해야 하는지" 판단하기 어…
AI 도입을 검토하는 회사는 대개 비슷한 자리에서 출발합니다. 임직원은 이미 ChatGPT를 켜 두고 쓰지만 그 사용이 회사 차원의 성과로 모이지는 않습니다. 부서마다 자동화 도구를 하나씩 실험하는데 보안, 데이터, 비용 기준은 정리되지 않은 채 흩어져 있습니다. 경영진은 "어디부터 손대야 ROI가 나오나"를 묻고, 실무 리더는 "이게 우리 업무에 실제로…
AI 도입을 검토하는 기업이 가장 먼저 마주하는 문제는 기술 자체가 아닙니다. 많은 조직에서 이미 일부 구성원은 ChatGPT나 생성형 AI 도구를 개인 업무에 활용합니다. 반면 어떤 구성원은 보안이 걱정되어 AI 사용을 피하고, 어떤 팀은 AI 결과물을 어떻게 검토해야 할지 몰라 기존 방식으로 돌아갑니다. 경영진은 “AI를 도입해야 한다”고 말하지만, 현…
채용 공고 작성, 면접 질문 정리, 교육 안내문 작성, 사내 공지 초안, 평가 코멘트 정리까지 HR 담당자의 업무는 늘 “글”과 “판단” 사이에 놓입니다. 문제는 단순히 문서를 많이 쓴다는 데 있지 않습니다. 같은 내용도 대상자별로 다르게 표현해야 하고, 민감한 개인정보와 조직 맥락까지 함께 고려해야 합니다. 그래서 많은 인사팀이 ChatGPT를 써보고 싶…
"우리 현장은 변수가 너무 많은데 AI가 되겠습니까?", "BIM도 겨우 돌리는데 AI까지 봐야 합니까?", "대형사나 하는 것 아닙니까?" 건설·플랜트·조선·중공업 기업에서 가장 자주 나오는 질문입니다. 건설 AI는 현장 전체를 자동화하는 기술이 아니라 안전·공정·품질·문서처럼 판단 기준이 반복되고 데이터가 이미 쌓인 업무부터 사람의 판단을 돕는 방식으로…
"사내 RAG를 만들었는데 왜 제품 코드를 정확히 입력할수록 엉뚱한 문서를 찾을까?", "규정 번호로 물으면 못 찾는데 이건 모델 문제인가?", "검색 방식을 바꿔야 하나, 모델을 더 좋은 것으로 바꿔야 하나?" 사내 문서 검색이나 RAG PoC를 운영하는 팀에서 반복해서 나오는 질문입니다.
배송 지연이 반복되고 창고에는 재고가 쌓이는데, 정작 어디에서 문제가 시작되는지 짚어내기 어려운 상황이 있습니다. 이때 물류·SCM 담당자가 던지는 질문은 대체로 세 가지입니다. "수요예측부터 해야 하나요?", "기존 ERP와 WMS를 그대로 두고 AI를 붙일 수 있나요?", "여러 과제 중에서 무엇을 먼저 해야 하나요?"
"프롬프트를 열 번 넘게 고쳤는데 결과가 매번 다릅니다. 이제 파인튜닝을 해야 하는 것 아닌가요?" "우리 회사 내부 문서를 AI가 모르는데, 그럼 파인튜닝으로 학습시키면 되나요?" "파인튜닝을 하면 데이터가 몇 건이나 필요한가요?" AI 도입 상담에서 반복해서 듣는 질문입니다.
"업무마다 가장 큰 모델을 쓰는 게 맞나요?" "모델을 사내에 두면 보안 문제는 정말 해결되나요?" "작은 모델로 바꾸면 비용이 실제로 줄어드나요?" 기업 AI 도입을 검토하는 자리에서 반복해서 나오는 질문입니다.
병원 경영 회의에서 이런 질문이 반복됩니다. “우리도 이제 AI를 도입해야 하지 않습니까?”, “어떤 제품이 제일 낫습니까?”, “환자 데이터를 넣어도 법적으로 문제가 없습니까?” 세 질문 모두 타당하지만 순서가 뒤집혀 있습니다.
"API 비용을 줄이려면 오픈소스 LLM을 사내 서버에 올리면 되지 않나요?" "무료로 내려받은 모델을 우리 제품에 넣어 팔아도 법적으로 괜찮은가요?" "자체 서버에 올리면 사내 데이터는 정말 밖으로 안 나가나요?" 기업 AI 도입을 검토하는 자리에서 반복해서 나오는 질문입니다.
"AI를 업무에 써보자"는 이야기가 나오면 실무는 늘 같은 지점에서 멈춥니다. 보고서 초안을 만들고 사내 문서를 요약하고 고객 문의를 정리하려면 결국 회사 자료를 AI가 읽어야 하기 때문입니다.
사내 문서를 연결해 AI 챗봇을 만들었는데 엉뚱한 자료를 가져옵니다. 질문 표현을 조금만 바꾸면 방금 찾던 문서가 사라집니다. "우리 회사도 벡터 데이터베이스가 필요한 걸까요?"라는 질문은 대개 이 두 증상에서 출발합니다.
"지난번 제안서에 이 내용이 있었던 것 같은데, 어디에 뒀지?" "고객사에서 같은 질문을 받았을 때 정리한 자료가 분명히 있었는데 안 나오네." 사내 지식 검색은 문서가 부족해서 막히지 않습니다. 문서가 있는데도 필요한 순간에 꺼내지 못해서 막힙니다. 이 글은 사내 지식 검색 시스템이 어떤 4단계로 움직이는지, 도입 전에 무엇부터 정해야 하는지를 기술 용어…
회사에 문서는 이미 충분히 쌓여 있습니다. 업무 매뉴얼은 드라이브에, 제품 정보는 데이터베이스에, 지난 보고서와 회의록은 폴더별로 정리돼 있습니다. 그런데 이 자료를 AI가 참고하게 만들려고 하면 "문서는 다 있는데 왜 질문과 관련된 내용을 못 찾지?", "검색어를 조금만 바꿔도 결과가 달라지는데 이게 정상인가?", "데이터베이스가 이미 있는데 뭘 또 만들…
매뉴얼 서너 개를 넣었을 때는 사내 문서 AI가 곧잘 답합니다. 여기에 규정집, 업무 매뉴얼, 보고서, 회의록까지 붙이려는 순간 담당자에게 질문이 생깁니다. "문서가 이렇게 많아지면 검색도 느려지지 않나?", "파일이 늘수록 엉뚱한 답이 나오는 것 아닌가?", "그러면 도입을 조금 미루는 게 안전한가?"
