구글, 제미나이 3.6 플래시 공개…토큰 사용량 17% 절감

구글이 인공지능 서비스 구동 비용을 절감한 차세대 경량화 모델을 공개했다.
드루이드라이프는 지난 7월 21일(현지시각) 구글이 코딩과 지식 작업, 다중감각 처리를 수행하는 제미나이 3.6 플래시를 발표했다고 보도했다.



구글은 제미나이 3.6 플래시가 기존 3.5 플래시보다 17% 적은 토큰을 소비하도록 설계했다. 토큰 사용량이 17% 줄면 동일 작업 기준 응용 프로그램 프로그래밍 인터페이스(API) 호출 비용과 서버 가동 부담이 동시에 내려간다.

구글은 이번 모델의 코드 수정 정확도를 높여 불필요한 오류 발생을 줄였다. 구글은 인공지능이 스스로 판단해 과업을 수행하는 에이전트 주요 지표에서도 이전 버전 성능을 넘어섰다고 밝혔다.

IT 서비스 업계는 분당 수만 건 이상 인공지능을 호출하는 기업이 동일 트래픽 기준 인프라 비용을 10% 안팎 줄일 수 있다고 평가한다. IT 서비스 업계는 동일한 예산으로 요청 처리량을 대폭 늘리는 시나리오도 가능하다고 본다.


글로벌 인공지능 시장 전문가들은 제미나이 3.6 플래시를 최고 성능보다 가격 대 효율성에 초점을 맞춘 모델로 진단한다. 시장 전문가들은 제미나이 3.6 플래시의 토큰 효율과 응답 지연 시간이 개선됐으나, 복잡한 추론이나 정밀 코딩 영역의 절대 성능은 앤스로픽 클로드 상위 라인업이나 오픈AI GPT 최신 시리즈에 미치지 못한다고 분석한다.

구글은 최상위 프로 모델 출시 전까지 검색과 문서 처리, 대량 호출 영역을 우선 공략하는 전략을 선택했다. 구글은 제미나이 3.6 플래시와 함께 제미나이 3.5 플래시 라이트, 제미나이 3.5 플래시 사이버를 이날 동시에 선보이며 경량화 라인업을 늘렸다.


증권가 분석가들은 구글이 저비용 검색용 모델을 앞세워 생태계 선점을 노린다고 본다. 증권가 분석가들은 구글이 검색 트래픽과 안드로이드 플랫폼에 인공지능 응답을 결합해 트래픽 체류 시간과 클라우드 사용량을 동시에 끌어올리는 수익 구조를 구축한다고 진단한다.

구글은 지난 21일 발표에서 역대 가장 큰 규모의 사전 학습에 들어갔다며 차세대 모델 제미나이 4 개발을 공식화했다. 구글은 제미나이 4의 구체적인 출시 시점을 명시하지 않았다.

개발자는 구글 AI 스튜디오와 안드로이드 스튜디오의 제미나이 API, 구글 안티그래비티에서 제미나이 3.6 플래시를 사용할 수 있다. 기업 고객은 제미나이 엔터프라이즈 에이전트 플랫폼과 엔터프라이즈 앱을 통해 해당 모델을 도입할 수 있다. 일반 사용자는 제미나이 앱에서 이용이 가능하며, 구글은 3.5 플래시 라이트를 구글 검색 서비스에 순차 적용한다.

글로벌 시장조사업체 연구원들은 인공지능 상용화 추이를 보려면 토큰당 호출 단가와 무료 할당량 변화를 확인해야 한다고 조언한다. 시장조사업체 연구원들은 주요 빅테크 기업의 코딩 벤치마크 점수와 차세대 모델 사전 학습 가동 현황, 온디바이스 인공지능과의 역할 분담 구조를 함께 관찰해야 한다고 제안한다.


김주원 글로벌이코노믹 기자 park@g-enews.com