오라클이 ‘오라클 클라우드 인프라스트럭처 생성형 AI(Oracle Cloud Infrastructure Generative AI)’ 서비스를 제한적으로 출시한다. 이 서비스는 대규모 언어 모델(LLM)을 지원해 기업의 엔드투엔드 비즈니스 프로세스 자동화, 의사 결정 과정 개선, 고객 경험 향상 및 안전한 데이터 보호를 지원한다.
기업용 AI 플랫폼 제공 업체인 코히어(Cohere)와의 협업을 통해 OCI상에 구축된 OCI 생성형 AI 서비스는 사용자가 가용한 API를 통해 LLM을 자체 애플리케이션에 통합할 수 있도록 지원하는 관리형 서비스다.
정식 출시 이후 해당 서비스와 코히어 모델은 사전 학습된 LLM과 독점 비즈니스 데이터를 결합하여 더 높은 정확도로 응답을 제공하는 생성형 AI 기술 ‘검색 증강 생성(RAG: Retrieval Augmented Generation)’을 제공하는 오라클 데이터베이스 23c(Oracle Database 23c)의 기능인 AI 벡터 검색(AI Vector Search)과 원활하게 연동된다.
또한, OCI 생성형 AI 서비스는 오라클 퓨전 클라우드 애플리케이션 제품군, 오라클 넷스위트(NetSuite) 등 오라클의 서비스형 소프트웨어 애플리케이션 제품군과 오라클 서너(Oracle Cerner) 등 산업용 애플리케이션 전반에 내장될 생성형 AI 기능의 기반이 될 예정이다.
한편, OCI는 고객이 코히어의 모델을 기업용 사용 사례에 특화된 관리형 서비스로써 활용할 수 있게 지원할 방침이다. OCI 생성형 AI 서비스를 사용하는 고객은 오라클의 AI 수퍼클러스터 아키텍처 기반 전용 인프라스트럭처에서 워크로드를 실행할 수 있다.
새로운 OCI 생성형 AI 서비스에는 다음과 같은 모델이 포함된다:
- 명령(Command): 명령 모델은 사용자의 요청(prompt)을 바탕으로 텍스트를 생성한다. 두 가지 크기로 제공되는 명령 모델은 텍스트 생성, 텍스트 요약, RAG, 채팅 등 비즈니스 사용 사례에 따라 고도의 맞춤 설정이 가능하다.
- 요약(Summarize): 요약 모델은 텍스트 요약을 수행하며, 사용자가 다양한 매개변수를 사용해 그 결과를 구성하여 고유의 사용 사례를 지원할 수 있게 한다. 예를 들어, 법무팀을 위해서는 복잡한 문서를, 고객 서비스 담당자들을 위해서는 기술 지원 문서를, 바쁜 직원들을 위해서는 긴 이메일 내용을 요약한다.
- 임베드(Embed): 텍스트를 표현하는 임베드 모델은 텍스트를 모델이 이해할 수 있는 숫자 벡터로 전환한다. 해당 기능은 시맨틱 검색, 텍스트 분류, RAG용 검색 엔진, 레거시 검색 개선 등을 포함한 광범위한 사용 사례를 위한 영어 및 100개 이상의 다국어 모델을 제공한다.
