LLM as a Service
거대 언어 모델도 서비스처럼 쉽게 사용해보자
원티드랩의 생성 AI 서비스 개발 및 운영 노하우가 집약된 구독형 생성 AI 서비스 개발 툴
- 노코드 (No-Code)
- 쉽고 빠른 프로토타입 & 서비스 개발
- 개발자 뿐만 아니라 현업 담당자도 생성AI 서비스를 쉽고 빠르게 개발하고 실시간으로 업데이트 가능합니다.
- Coverage
- 전반적인 AI Dev-Cycle 지원
- "Dev-Update-Test-Operation"
생성AI 서비스 호출을 위한 개발, 변경, 테스트 및 운영에 걸치는 전 과정을 지원합니다.
- Variable Setting
- 가변 설정
- 프롬프트에 ${가변}을 설정할 수 있도록 했습니다. 이를 통해 별도의 변수 매핑 작업을 줄이고, 테스트 절차도 더 간편하게 만들었습니다.
- Usage Monitoring
- 사용량 차트
- 생성AI 서비스를 효율적으로 운영할 수 있도록 그룹, 프로젝트, 프리셋 별로 토큰 사용량을 확인할 수 있습니다. 입력 프롬프트, 출력 프롬프트 뿐만 아니라 평균 토큰수 및 호출 횟수 등의 사용량 정보를 제공합니다.
- History & Rollback
- 프리셋 이력관리
- 배포된 프리셋별 이력을 조회할 수 있으며, 원하는 특정 버전으로 프리셋을 즉시 적용할 수 있는 롤백 기능을 제공합니다
- Test Automation
- 프롬프트 평가 자동화
- 개발한 프롬프트가 기대한 결과 수준인지를 판단하기 위해 다수의 테스트 데이터를 활용해 평가를 할 수 있습니다. 이를 통해 비용 효율적이며 고품질의 프롬프트를 지속적으로 운영할 수 있습니다.
