- 향상된 함수 호출
- JSON 모드
- 재현 가능한 출력
- 시사
- 3배 더 비용 효율적
Microsoft의 클라우드 개발자 컨퍼런스에서 회사 CEO Satya Nadella는 업데이트된 생성 AI 모델 출시를 언급했습니다. Azure 오픈 서비스가 곧 출시됩니다.
이번 주부터 Azure OpenAI 서비스 고객은 이제 GTP-4 및 GPT-3.5 Turbo 1106을 통해 OpenAI 사전 생성 모델의 가장 발전된 버전을 활용할 수 있습니다.
Microsoft는 이전 기존 시장에 새 모델을 출시하는 동시에 노르웨이 동부, 인도 남부 및 미국 서부를 포함한 3개의 새로운 지역에 채널을 개방했습니다. Azure OpenAI 서비스는 이제 총 14개의 글로벌 지역에서 사용할 수 있습니다.
새로운 모델, 특히 GTP4 Turbo는 2023년 4월까지의 세계 이벤트와 128L에 대한 지식을 제공합니다. 개발자가 이제 검색 증강 생성을 활용할 수 있는 사용자 정의 데이터 입력을 생성할 수 있는 컨텍스트 창 (조각).
새 모델의 토큰 가격은 GTP-4 Turbo 가격이 입력의 경우 $0.01/1000 토큰이고 출력의 경우 $0.03/1000 토큰입니다. 입력 및 출력 모델을 기반으로 Azure OpenAI 서비스용 GPT-4 터보는 “3배 더 비용 효율적입니다. 사용되는 일반 GPT-4 모델과 비교할 때 입력 토큰 및 출력 토큰의 경우 2배 더 비용 효과적입니다. 지금.
가격 개선 외에도 GPT-4 Turbo를 사용한 기능 호출과 같은 개선된 기능도 있어 여러 기능과 도구를 병렬로 호출하여 애플리케이션을 더욱 효율적으로 만들 수 있습니다. GPT-4에는 올바른 형식의 JSON 출력을 위한 JSON 모드도 도입되었습니다. 재현 가능한 출력도 가능해지며 확률적인 결과를 가져옵니다.
GPT-3.5 Turbo 1106의 경우 GPT-4 Turbo와 동일한 업데이트된 기능을 많이 제공하지만 16K 컨텍스트 창과 새로운 토큰 입력/출력 가격을 갖춘 기본 Turbo 모델이 됩니다.
앞서 언급한 대로 두 가지 새로운 GPT 모델은 대부분의 고객에게 미리 보기로 제공되며 Microsoft는 프로비저닝된 처리량을 통해 더욱 광범위하게 액세스할 수 있도록 할 것을 약속합니다.
