NCE AI 교육(Expert) 과정 및 NCE AI(310) 자격증 - 2

CLOVA Studio 주요 기능 상세 설명

 

CLOVA Studio에서는 튜닝을 제공함.

튜닝에는 파인튜닝이 있음. 파인튜닝은 사전에 학습된 모델을 특정 도메인이나 작업에 맞추어 추가 학습 시키는 과정을 말함.

즉, 기존 모델(파운데이션 모델)에서 파인 튜닝을 통해서 특정 작업에 특화된 모델을 만들 수 있음.

프롬프트엔지니어링으로 비슷한 효과를 낼 수는 있지만 아래와 같은 차이점이 존재함.

---

 

파인 튜닝에는 여러 방법들이 있지만 CLOVA Studio에서는 3가지 파인 튜닝을 제공함

• PEFT

• SFT/FP

• RLHF

 

---

다음은 CLOVA Studio의 익스플로러 기능에 대한 설명임.

 

CLOVA Studio의 익스플로러는 토큰 계산, 요약, 문단 나누기, 임베딩, 번역 등 CLOVA Studio에서 제공하는 특화 도구들을 확인해볼 수 있으며 텍스트 처리 API(문단 나누기, 요약, 임베딩), RAG API 를 확인해볼 수 있음.

---

파인튜닝과 RAG의 차이점

 

---

 

 

 

• 라우터 기능 제공

사용자의 요청과 콘텐츠를 분류하고 필터링하는 기능. 입력된 요청을 적절한 도메인으로 분류하고, 설정된 필터 조건에 해당하는지 판별

EX) 내가 만들어 놓은 AI Chat Bot에 없는 query를 사용자가 할 경우 필터링 해주는 기능

 

---

[LAB 실습]

1. RAG 데모 사이트 구성

pip install -qU "langchain-chroma>=0.1.2"

pip install -U langchain

pip install -U langchain-naver

pip install langchain-community

pip install -q pypdf

pip install pymupdf

pip install tiktoken

pip install backoff

wget https://kr.object.ncloudstorage.com/material/LangChain.pdf

wget https://kr.object.ncloudstorage.com/tuning0/app3.py

vi app3.py

## 키값 변경, API키는 기존 키 사용, APP ID는 임베드 API의 Request ID 사용

NCP_CLOVASTUDIO_API_KEY , NCP_CLOVASTUDIO_APP_ID

 

2. RAG 데모 사이트 구성 - Object Storage

zilliz Cloud 가입 후 Cluster 생성

pip install pymilvus
pip install uvicorn
pip install fastapi
pip install loguru
pip install streamlit-toggle-switch
pip install bs4
pip install numpy==1.26.4
pip install langchain-text-splitters
*langchain 설치 오류 시
curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh
source $HOME/.cargo/env

mkdir demo
cd demo
wget https://kr.object.ncloudstorage.com/nce-ai/rag-demo11.zip
unzip rag-demo11.zip

vi config.ini

 

## 에러 발생

!! boto 3 발생 시

python3 -m pip install boto3

[ObjectStorage]
NCP_ACCESS_KEY_ID = UcccAve2YkxFW9Ut6sXb
NCP_SECRET_ACCESS_KEY = test
S3_ENDPOINT_URL= https://kr.object.ncloudstorage.com
S3_BUCKET_NAME = ragdemo-royal
S3_EMBEDDING_SOURCE_DIR = src/
S3_EMBEDDING_JSON_DIR = des/
NCP_REGION_NAME = kr

[HCX]
NEW_API_KEY= CLOVA Studio nv-89bc5f2e00f5476f808307c2c83c496f0H3b
HOST = clovastudio.stream.ntruss.com

[Milvus]
MILVUS_HOST = "https://in03-206f57edf98bf18.serverless.gcp-us-west1.cloud.zilliz.com"
MILVUS_PORT = "19530"
MILVUS_USER = "db_206f57edf98bf18"
MILVUS_PASSWD = " test"
MILVUS_DB_NAME= "default"

• 업로드 파일(CSV)에 네이버 증권 관련 url입력 후 RAG구성

 

3. LangGraph Chatbot 

4. LangGraph RAG

5. LangGraph Conditional Edge

6. LangGraph 를 활용한 웹 검색 에어전트 생성

7. Advanced RAG

8. 지역 관련 Skill 과 라우터 연동하기

https://developers.naver.com/

NAVER Developers

회원 가입 후 API 발

 

[코드]

{
  "info": {
    "title": "네이버 지역 검색",
    "version": "1.0.0",
    "description": "네이버 지역 서비스에 등록된 업체 및 기관을 검색하기 위한 스킬"
  },
  "paths": {
    "/v1/search/local.json": {
      "get": {
        "summary": "국내 지역 정보 검색 결과를 나열합니다.",
        "responses": {
          "200": {
            "content": {
              "application/json": {
                "schema": {
                  "type": "object",
                  "properties": {
                    "items": {
                      "type": "array",
                      "items": {
                        "type": "object",
                        "properties": {
                          "link": {
                            "type": "string"
                          },
                          "mapx": {
                            "type": "string"
                          },
                          "mapy": {
                            "type": "string"
                          },
                          "title": {
                            "type": "string"
                          },
                          "address": {
                            "type": "string"
                          },
                          "category": {
                            "type": "string"
                          },
                          "telephone": {
                            "type": "string"
                          },
                          "description": {
                            "type": "string"
                          },
                          "roadAddress": {
                            "type": "string"
                          }
                        }
                      }
                    },
                    "start": {
                      "type": "integer"
                    },
                    "total": {
                      "type": "integer"
                    },
                    "display": {
                      "type": "integer"
                    },
                    "lastBuildDate": {
                      "type": "string"
                    }
                  }
                }
              }
            },
            "description": "- **title**: 업체명\\n- **address**: 지번 주소(e.g. 서울특별시 중구 을지로3가 229-1)\\n- **roadAddress**: 도로명 주소(e.g. 서울특별시 중구 을지로15길 6-5)\\n- **category**: 카테고리(e.g. 식당, 카페, 병원, 미용실, 기업, 공공 기관)\\n- **description**: 업체에 대한 설명(e.g. 연탄불 한우갈비 전문점, 강남역 근처 분위기 좋은 카페)\\n- **link**: 홈페이지 링크"
          }
        },
        "parameters": [
          {
            "in": "query",
            "name": "query",
            "schema": {
              "type": "string"
            },
            "required": true,
            "description": "**query**: 사용자가 찾고자 하는 상점의 설명 (e.g. 정자동 근처 맛집, 강남역 근처 분위기 좋은 카페)\\n"
          },
          {
            "in": "query",
            "name": "display",
            "schema": {
              "type": "integer",
              "default": "2"
            },
            "required": true,
            "description": "요청한 쿼리에 대한 검색 결과 수 입니다. 유일한 상점이나 업체일 경우에는 결과를 1개만 보여주세요."
          },
          {
            "in": "query",
            "name": "sort",
            "schema": {
              "type": "string"
            },
            "required": false,
            "description": "검색 결과 정렬 방법\\n- **random**: 정확도순으로 내림차순 정렬(기본값)\\n- **comment**:카페, 블로그의 리뷰 개수순으로 내림차순 정렬이 필요할 때 값을 사용하세요.(e.g. 리뷰 많은 순으로 정렬해주세요. 유명한 곳을 알려주세요. 인기 많은 곳을 알려주세요.)\\n"
          }
        ],
        "description": "지역의 업체나 기관을 검색합니다.",
        "operationId": "getLocalInfo"
      }
    }
  },
  "openapi": "3.0.2",
  "servers": [
    {
      "url": "https://openapi.naver.com"
    }
  ]
}

 

[Name for model]

LocalSearch

[Description for human]

네이버 지역 서비스에 등록된 업체 및 기관을 검색한 결과를 반환합니다.

[Description for model]

네이버 지역 서비스에 등록된 업체 및 기관을 검색하기 위해서는 LocalSearch 스킬을 사용하세요. /v1/search/local.json은 업체나 기관의 이름, 주소(ex. 도로명 주소, 지번 주소)를 검색어로 입력할 때 동작합니다. 원하는 정렬 방식(ex.블로그의 리뷰 개수순, 정확도순 등)을 포함하여 검색 결과를 요청할 수 있습니다.

 

[데이터 수집]

Setting 호출옵션에서 네이버개발자 API값 입력

{
 "baseOperation": {
 "header": {
 "X-Naver-Client-Id": "xIjSWXePjCcVqx4ESxEy",
 "X-Naver-Client-Secret": "TEST"
 },
 "query": null,
 "requestBody": null
  }
}

• 데이터 수집 결과값

 

• 데이터 학습 결과 값 

 

 

• 라우터 설정

9. 유튜브 API 호출 후 Notion에 저장

pip install youtube_transcript_api
wget https://kr.object.ncloudstorage.com/nce-ai/notion.py

#Youtube API 키 생성

#Notion API 키 생성

env 파일 설정

# Clova Studio
CLOVA_API_KEY= Clova API 키
CLOVA_CHAT_URL=https://clovastudio.stream.ntruss.com # (계정/환경에 맞게 수정)
CLOVA_MODEL=HCX-005  # (사용 모델로 변경: 예 hcx-005, hcx-007 등)

# YouTube
YOUTUBE_API_KEY= Youtube에서 발급 받은 API 키
# Notion
NOTION_API_KEY= Notion의 API 키
NOTION_PAGE_ID= 해당 페이지의 링크 "-" 다음에 나오는 결과 값을 붙여 넣으면 됨

streamlit run notion.py

• 결과 값

 

• Notion 결과 값