본문으로 건너뛰기

LaaS 시작하기

image-20241104-070152.png

예상 소요 시간: 5분


LaaS(LLM as a Service)를 빠르게 시작하는 방법을 안내합니다. 이 가이드를 통해 LaaS의 주요 개념을 이해하고, 첫 번째 AI 모델을 실행하는 방법을 배울 수 있습니다.

LaaS 무료 체험하기

1. 개요​

LaaS(LLM as a Service)는 **대규모 언어 모델(LLM)**을 활용하여 AI 기반 서비스를 쉽게 개발하고 운영할 수 있도록 지원하는 플랫폼입니다. 다양한 AI 모델을 선택하고, API를 통해 간편하게 서비스에 적용할 수 있습니다.

주요 특징

  • 다양한 LLM 지원: GPT-4o, Claude 3 등 여러 AI 모델 제공

  • 손쉬운 API 연동: 프리셋(Preset) 기반의 구조로 빠르게 모델을 활용 가능

  • 비용 절감: 필요한 만큼 사용하고, 효율적으로 관리할 수 있는 대시보드 제공

  • 팀 협업 지원: 그룹 및 프로젝트 단위의 유저 관리 기능 제공

LaaS의 사용 방법을 이해하면 챗봇, 문서 요약, 코드 생성, 데이터 분석 등 다양한 AI 기능을 손쉽게 구현할 수 있습니다.

2. 주요 개념 및 필요성​

LaaS를 효과적으로 사용하려면 아래 개념을 이해해야 합니다.

2.1 그룹 - 프로젝트 - 프리셋 구조​

  • 그룹(Group): 여러 프로젝트를 포함하는 단위로, 유저를 초대하여 협업 가능

  • 프로젝트(Project): AI 모델을 활용하는 작업 공간

  • 프리셋(Preset): 특정 AI 모델의 설정을 저장하여 일관된 결과를 제공하는 단위

2.2 프롬프트 설정​

LaaS는 프롬프트(입력 메시지)를 기반으로 AI 모델을 실행합니다.

  • 시스템 메시지: AI의 역할과 응답 스타일을 지정

  • 유저 메시지: 실제 요청 내용

  • 필터 설정: 모델, 온도(창의성), 최대 토큰 수 등 조정 가능

2.3 API 연동​

LaaS는 API를 통해 다양한 서비스와 쉽게 연동할 수 있습니다.

  • API 키 발급 후 사용 가능

  • Swagger UI를 활용한 실시간 테스트 지원

  • Function Calling 기능을 활용한 외부 API 연동 가능

3. LaaS 설정 방법​

LaaS를 시작하려면 아래 단계를 따라 설정하세요.

3.1 회원가입 및 로그인​

  1. LaaS 회원가입 후 로그인

  2. 로그인 후 대시보드에서 프로젝트를 생성

3.2 프로젝트 생성​

  1. LaaS 대시보드에서 "새 프로젝트 생성" 클릭

  2. 프로젝트 이름과 설명 입력

  3. "생성" 버튼 클릭하여 프로젝트 생성 완료

3.3 프리셋 생성​

  1. 프로젝트 내 프리셋 생성 버튼 클릭

  2. 원하는 AI 모델(GPT-4o, Claude 3 등) 선택

  3. 프롬프트 입력 후 저장 버튼 클릭

3.4 테스트 및 배포​

  1. 샌드박스에서 프리셋 테스트

  2. 원하는 결과가 나오면 API로 배포

  3. API 엔드포인트를 활용하여 서비스에 연동

LaaS 프리셋 설정 방법

4. 사용 예제​

예제 1: 간단한 챗봇 생성​

{
  "model": "gpt-4o",
  "messages": [
    { "role": "system", "content": "친절한 고객 지원 챗봇입니다." },
    { "role": "user", "content": "반품 정책이 어떻게 되나요?" }
  ]
}

응답 예시:
"제품 구매 후 30일 이내에 반품이 가능합니다. 보다 자세한 내용은 고객센터를 확인해주세요."

예제 2: API를 통한 모델 호출​

curl -X POST "https://api-laas.wanted.co.kr/api/preset/v2/chat/completions" \
-H "Content-Type: application/json" \
-H "apiKey: YOUR_API_KEY" \
-d '{
  "model": "gpt-4o",
  "messages": [{"role": "user", "content": "오늘 날씨 알려줘"}]
}'

5. 문제 해결 (FAQ)​

Q1. AI 모델이 응답을 반환하지 않습니다.
➡ API 키가 올바르게 설정되었는지 확인하세요.

Q2. 프리셋을 저장했는데 적용되지 않습니다.
➡ 프로젝트 설정에서 해당 프리셋이 활성화되어 있는지 확인하세요.

Q3. API 호출 속도가 느립니다.
➡ 요청 토큰 수를 줄이거나, 최적화된 모델을 선택하세요.

6. 관련 문서 및 다음 단계​

LaaS를 활용하여 AI 기반 서비스를 빠르게 개발해 보세요! 🚀

image-20241104-070152.png