치열해지는 클라우드 및 SaaS 시장··· 오라클의 생성형 AI 전략

반응형

 

오라클이 클라우드 서비스 제공업체와 경쟁하기 위한 본격적인 준비에 나섰다. 오라클의 새로운 전략 핵심에는 OCI 슈퍼클러스터, 코히어(Cohere)와의 파트너십, SaaS용 생성형 AI 기능이 있다.

 

ⓒ IDG

 

마이크로소프트, AWS, 구글 클라우드, IBM 같은 클라우드 업체가 이미 자신들만의 생성형 AI 서비스를 적극적으로 내놓는 상황에서 경쟁 업체인 오라클은 AI 전략에 대해 대부분 침묵을 지키고 있다. 그렇다고 대비를 안하는 것이 아니다. 오라클은 서둘러 경쟁 제품을 출시하는 대신에 일명 ‘3 티어’ 접근방식을 준비하고 있다

 

오라클의 OCI(Oracle Cloud Infrastructure) 부문 부사장 카란 바타는 “오라클의 전략은 3단 케이크와 비슷하다. 각 티어는 필요에 따라 다양한 기업 고객을 대상으로 삼는다”라고 말했다.

 

바타에 따르면 일단 첫 번째 티어는 OCI 슈퍼클러스터(Supercluster) 서비스로 구성되어 있다. 주요 고객층은 LLM(Large Language Model)을 개발하고 있는 코히어(Cohere)나 허깅 페이스(Hugging Face) 같은 기업이다.

 

OCI의 슈퍼클러스터에는 OCI 컴퓨트 베어 메탈(OCI Compute Bare Metal)이 포함됐다. OCI 컴퓨트 베어 메탈은 지연 시간이 짧은 RoCE(Converged Ethernet) 클러스터를 통해 초저지연 원격 직접 액세스 메모리(RDMA)를 제공하고 다양한 고성능 컴퓨팅 스토리지 옵션을 지원한다.

 

오라클에 따르면 OCI의 슈퍼클러스터는 수만 개의 엔비디아(Nvidia) A100 GPU를 통해 수천 개의 OCI CBM 인스턴스를 이용한다. 이를 통해 대규모 병렬 애플리케이션을 처리할 수 있다.

 

또한 OCI의 슈퍼클러스터는 엔비디아의 BNM(BioNeMo)와 엔비디아 피카소(Nvidia Picasso) 등 엔비디아의 파운데이션 모델과 함께 AI 훈련 및 거버넌스 프레임워크가 함께 제공된다.

 

경쟁 클라우드 서비스 업체인 마이크로소프트와 구글 등도 엔비디아와 협력하고 있으며, 특히 엔비디아의 DGX 클라우드(DGX Cloud)를 활용하고 있다. DGX 클라우드는 오픈AI(OpenAI)의 챗GPT(ChatGPT)에서 이용하는 기반 서비스이기도 하다.

 

한편, AWS는 LLM 훈련 및 생성형 AI 애플리케이션 개발을 위해 엔비디아 H100 텐서 코어(Tensor Core) GPU에 기반한 아마존 EC2(Amazon Elastic Compute Cloud) P5를 제공하고 있다.

 

새로운 생성형 AI 서비스의 개발

바타에 따르면, 오라클의 두 번째 티어는 OCI 고객을 포함한 기업 고객을 공략하고 있다. 자체 데이터를 활용해 생성형 AI를 개발하려는 기업에게 특히 유용한 기술이다. 다만 해당 서비스명은 아직 정해지지 않았으며, 기술 대부분은 아직 계획 단계 수준에 머물러 있다. 오라클은 캐나다 생성형 AI 기업인 코히어에게 투자를 하겠다고 6월에 밝혔는데, 그 직후 코히어의 파운데이션 모델이 오라클의 AI 서비스에 들어간다는 소식이 전해졌다.

 

하지만 오라클이 계획 중인 생성형 AI 서비스의 기본 구조나 개념은 퍼블릭 클라우드 서비스 제공업체의 제품과 크게 다르지 않는 것으로 보인다. 다시 말해, 해당 기술은 고객이 데이터를 학습할 수 있도록 기초 모델, 신속한 엔지니어링 도구, 거버넌스 프레임워크 등의 도구 패키지를 제공하는 수준이다.

 

바타는 “오라클의 새로운 서비스는 자체적인 생성형 AI 애플리케이션 또는 AI 비서를 개발할 수 있도록 돕는다. 이때 커넥터를 사용하여 기업 데이터 소스에 접근하고 지식 그래프를 생성하여 데이터를 LLM 임베딩(Embedding)을 거쳐 의미를 이해한 후 LLM 모델로 가져와 AI 답변을 생성한다”라고 설명했다.

 

바타는 오라클의 AI 기술이 데이터 보호를 중시할 것이고 강조했다. 그는 “기업 사용자가 자연어로 질문하면 생성형 AI 비서 또는 프롬프트가 벡터 검색을 실시한다. 그다음 벡터 검색 결과가 기업 서버 또는 위치에 저장된 후 답변을 생성하기 위해 LLM에 대한 API 호출이 이루어진다”라고 설명했다.

 

아직 확정되지는 않았지만 바타는 의료 및 공공 안전 등의 산업 부문을 위한 새로운 파운데이션 모델이 앞으로 오라클의 AI 서비스에 추가될 것이라고 밝혔다.

 

타사 생성형 AI 서비스와 다른 점

AWS, 구글 클라우드, 마이크로소프트, IBM은 AI 서비스의 작동 방식을 공개했지만, 대부분의 서비스는 현재 프리뷰 단계에 있다.

 

가령 AWS는 생성형 AI 기반 서비스 아마존 베드락(Amazon Bedrock)을 통해 파운데시녀 모델을 제공하고 있으며, 마이크로소프트는 애저 오픈AI(Azure OpenAI) 서비스를 통해 GPT 모델을 위한 API를 지원 중이다.

 

IBM은왓슨X(Watsonx)로 구글은 버텍스 AI(Vertex AI)로 서비스 형태로 파운데이션 모델을 선보이고 있다. 여기에 IBM과 구글 클라우드는 기업들이 모델을 미세 조정할 수 있도록 튜닝 스튜디오(Tuning Studio)와 제너레이티브 AI 스튜디오(Generative AI Studio)라는 이름의 로우코드(Low Code) 플랫폼을 제공하고 있다.

 

반면에 오라클이 만드는 서비스는 어떻게 데이터에 접근하고 모델을 조정할 수 있을지에 대한 방안을 제시하지 않았다.

 

다만 바타에 따르면 오라클은 비 기술 사용자에게 ‘처음부터’ 로우코드 또는 노코드 경험을 제공하는 것을 고려하고 있지 않다. 그보다는 데이터 엔지니어와 사이언티스트 등의 기술 전문 사용자를 공략해 프로그래밍 방식을 활용할 계획이다.

 

바타는 “오라클의 생성형 AI 서비스는 SQL 쿼리 편집기 대신에 프롬프트 도구를 갖출 가능성이 높다”라며 “올해 말 서비스를 출시하기 전에는 다양한 요소를 살펴보며 서비스 구성요소를 변경할 수도 있다”라고 덧붙였다.

 

오라클은 또한 자체 데이터 센터에 데이터와 애플리케이션을 보유한 기업을 대상으로 서비스를 확장할 계획이다.

 

퓨전 클라우드 및 넷스위트를 위한 생성형 AI 비서

세 번째 티어에서 오라클은 코히어의 파운데이션 모델을 SaaS 제품에 내장하여 퓨전 클라우드(Fusion Cloud) 애플리케이션 및 넷스위트(NetSuite) 애플리케이션 포트폴리오 전체에 생성형 AI 기능을 추가할 계획이다.

 

이러한 애플리케이션에서 나온 메타데이터는 파운데이션 모델과 결합돼 애플리케이션 내부에 생성형 AI 비서를 제공한다. 이를 통해 직원 생산성을 높일 계획이다. 바타는 이런 AI 비서를 마이크로소프트의 클리피(Clippy)와 유사하다고 설명했다.

 

바타는 “애플리케이션으로부터 얻은 메타데이터는 언어 모델이 특정 SaaS 제품에서 트렌드를 확인하고 패턴을 파악하는 데 도움이 될 것”이라고 설명했다.

 

실제로 오라클은 지난달 퓨전 클라우드 HCM(Human Capital Management) 스위트에 비슷한 생성형 AI 기능을 추가했다. 이런 기능에는 자동 보조 작성, 추천, 요약이 포함된다.

 

오라클에 따르면, 보조 작성 기능은 HR 관리자가 짧은 프롬프트를 사용하여 직무 설명 및 기타 HR 관련 콘텐츠를 작성하는 데 도움이 된다. 요약 기능은 직원 성과 분석과 같은 작업에 활용할 수 있다. 추천 기능은 설문조사 질문 제공 등 다양한 작업에서 도입할 수 있다.

 

한편 SaaS 애플리케이션 시장에서 오라클은 AWS, 세일즈포스, 서비스나우, 마이크로소프트 같은 기업과 치열하게 경쟁하고 있다.

 

지난 주 AWS는 여러 SaaS 애플리케이션에서 통합된 생성형 AI 경험을 제공하는 ‘앱패브릭(AppFabric)’이라는 새로운 서비스를 출시했다. 세일즈포스는 6월 번들형 생성형 AI 제품 AI 클라우드(AI Cloud)를 선보였다. 서비스나우도 지난달 자사의 생성형 AI 비서를 개선했다. 바타는 “오라클도 데이터베이스 포트폴리오에 생성형 AI 기능을 추가할 것”이라고 설명했다.

 

데이터 웨어하우스 및 데이터 레이크하우스 분야에서도 자체적인 생성형 AI 기능이 나오고 있다. 가령 스노우플레이크는 스노우파크 컨테이너 서비스(Snowpark Container Services)로, 데이터브릭스는 레이크하우스 AI(Lakehouse AI) 같은 툴박스 형태로 AI 기능을 선보였다.

ciokr@idg.co.kr