2020년대 중반을 향해 가면서, 다양한 기업들이 생성 AI를 도입해 업무 효율성을 높이고 반복적이고 힘든 작업을 줄이려는 노력을 하고 있어요. 이제는 어떤 형태로든 생성 AI 애플리케이션이나 어시스턴트를 갖추는 것이 ‘있으면 좋다’에서 ‘반드시 있어야 한다’로 바뀌고 있습니다. 그렇다면 이러한 혜택을 누리기 위해 필요한 최소한의 인프라는 무엇일까요?
데이터의 중요성
효과적인 생성 AI 시스템의 기초는 데이터입니다. 특히, 회사의 데이터나 회사의 비즈니스와 목표에 관련된 데이터가 가장 중요해요. 구글의 Gemini, OpenAI의 ChatGPT, Anthropic Claude와 같은 대형 언어 모델(LLM)을 이용하면 회사 데이터를 입력하지 않고도 특정 업무를 도울 수 있습니다. 그러나 회사 데이터를 입력하지 않으면 LLM이 제공할 수 있는 완전한 혜택을 누릴 수 없어요.
데이터의 종류
구조화된 데이터와 비구조화된 데이터가 있습니다. 구조화된 데이터는 보통 데이터베이스와 스프레드시트형태로 조직되어 있으며, 명확하게 정의된 필드가 있어요. 예를 들어, 금융 기록이나 고객 데이터가 이에 해당합니다. 비구조화된 데이터는 일관된 형식이 없고 미리 정의된 방식으로 조직되지 않아서 분석하기 더 어렵습니다. 이메일, 비디오, 소셜 미디어 게시물 등이 이에 해당합니다.
AI 통합 사례
가구를 만드는 ‘의자 회사’를 예로 들어볼게요. 이 회사는 직원들이 자주 묻는 질문에 답할 수 있는 내부 챗봇을 만들고 싶어 합니다. 이 회사는 이미 구글 클라우드, 마이크로소프트 애저, AWS와 같은 클라우드 서비스에 파일을 저장하고 있을 가능성이 높아요. 많은 기업에게 AI 기능을 기존 클라우드 플랫폼에 직접 통합하는 것이 배포 과정을 크게 간소화할 수 있습니다.
비용 및 리소스
기본 챗봇 개발 비용은 약 15,000달러에서 30,000달러, 더 복잡한 AI 솔루션은 150,000달러 이상일 수 있어요. 또한, AI 시스템은 개발 후에도 정기적인 유지보수와 업데이트가 필요합니다. 유지보수 비용은 시스템의 복잡성과 상호작용량에 따라 월 5,000달러부터 시작됩니다.
출처: VentureBeat
