NCE AI 교육(Expert) 과정 및 NCE AI(310) 자격증 - 1

AI 개요

• 인공지능 : 사람 처럼 학습하고 추론할 수 있는 지능을 가진 컴퓨터 시스템을 지칭
  • 머신러닝 : 명시적인 프로그래밍 없이도 시스템이 자율적으로 학습하고 개선할 수 있도록 지원합니다. 일반적으로 지도 학습, 비지도 학습, 강화 학습이라는 세 가지 모델
    • 딥러닝 : 인공 신경망을 사용하여 정보를 처리하고 분석하는 머신러닝의 하위 집합
• 지도학습 : 라벨이 지정된 학습 데이터(정형 데이터)를 사용하여 특정 입력을 출력에 매핑하는 머신러닝 모델
• 비지도 학습 : 라벨이 지정되지 않은 데이터(비정형 데이터)를 사용하여 패턴을 학습하는 머신러닝 모델
• 강화학습 : 환경을 관찰해서 행동을 실행하고 그 결과로 보상 또는 부정적인 보상에 해당하는 벌점을 받습니다. 시간이 지나면서 가장 큰 보상을 얻기 위해 정책이라고 부르는 최상의 전략을 스스로 학습
• CNN  : 최신 인공지능에서 가장 일반적으로 사용되는 신경망을 일부 포함하며, 개별적인 레이어(컨볼루셔널 레이어, 풀링 레이어)를 사용하여 이미지를 다시 합치기 전에(완전 연결 레이어에서) 이미지의 다른 부분을 필터링. RNN모델은 자연어 처리, 음성 인식, 기계 번역, 주가 예측 등의 분야에서 널리 사용됨.

• RNN : 일반적으로 시계열 데이터 또는 시퀀스와 관련된 데이터를 사용한다는 점에서 순방향 신경망과 다릅니다. 순환 신경망은 현재 레이어의 출력에 따라 이전 레이어에서 발생한 '메모리'를 보유

구분	CNN (합성곱)	RNN (순환)
주전공	이미지 인식, 사진 분류	번역, 챗봇, 음성 인식
핵심 키워드	공간 (Space), 특징 추출	시간 (Time), 순서, 기억
비유	사진 속 숨은 그림 찾기 전문가	앞 내용을 기억하며 소설 읽는 독자
약점	데이터의 순서가 바뀌는 것엔 약함	문장이 너무 길어지면 앞 내용을 까먹음

• 자연어 : 일상 생활에서 쓰이는 언어
• NLM(Neural Language Model) : 단어 임베딩, 문장 완성, 기계 번역 등의 NLP작업에 활용되는 언어모델로, 기존의 통계 기반 언어 모델보다 더 정확한 성능을 제공
• PLM(Pretrained Language Model) : 대규모 데이터 셋으로 미리 학습된(Pre-trained) 언어모델로, 전이학습(Transfer Learning)을 통해 다양한 NLP 작업에 활용. 대표적으로 BERT와 GPT가 있음
• 트랜스 포머 : 트랜스포머모델은 seq2seq의 구조인 인코더, 디코더 모델을 따르면서 논문의 이름(Attention is all you need)처럼 어텐션만으로 구현한 모델. RNN과 트랜스포머의 가장 큰 차이점은 RNN은 입력을 순차적으로 처리하나, 트랜스포머는 모든 입력을 동시에 처리. 
  • 어텐션 : 주어진 입력 데이터에 내재도니 정보들의 관계, 토큰과 토큰 사이의 유사성 같은 것들을 파악하는 역할을 수행
• 파운데이션 모델: 여러가지 다양한 문제를 해결하기 위해 범용으로 사용할 수 있도록 만든 AI 모델

 

---

NCE AI 교육은 주로 CLOVA Studio를 다루는 교육

 

CLOVA Studio에는 3가지 서비스 모델이 존재함.

• Basic : 주로 테스트에 사용하며 종량제
• Exclusive : 파인튜닝이 가능(SFT/FP/RLHF 같은 알고리즘 제공)하며, 정액제
• NeuroCloud : 하이브리드 형태이며, 고객사 IDC에 설치됨.

CLOVA Studio 기능은 크게 4가지로 나눌 수 있음.

• 플레이 그라운드 : 인공지능이나 코딩 지식이 없어도 텍스트를 기반으로 단 몇 줄의 프롬프트 입력과 간단한 파라미터 설정으로 HyperCLOVA X 모델을 원하는 형태로 만들고, API를 발급받아 서비스에 손쉽게 적용할 수 있음.
• 튜닝 : 기업이 보유한 데이터셋을 HyperCLOVA와 결합하여 특화 AI 언어 모델을 구축하고, AI 서비스를 개발할 수 있음.
• 익스플로러 : 토큰 계산, 요약, 문단 나누기, 임베딩, 번역 등 CLOVA Studio에서 제공하는 특화 도구와 API를 활용하여 손쉽게 AI를 개발할 수 있습니다. 또한, CLOVA Studio에서 제공하는 샘플을 확인하고 작업물을 보관할 수 있음.
• 스킬/Function calling :  스킬은 HyperCLOVA X와 네이버 또는 외부 서비스를 API로 연결하는 기능을, 스킬 트레이너는 이 연결 과정을 지원하는 도구를 의미합니다.스킬 트레이너를 이용하여 최신의 정확하고 전문적인 정보를 갖춘 AI 모델을 개발하고 서비스할 수 있음. Function calling 은 모델이 외부 함수나 API를 호출해 동적으로 정보를 가져오거나 작업을 수행할 수 있도록 하는 기능

---

플레이 그라운드의 주요 설정은 아래와 같음

Top P, Top K, Maximum tokens, Temperature, Repetition penalty, Stop sequences, Seed

위 설정에 따라 출력되는 결과 값이 달라짐. 위 설정 값의 자세한 설명은 링크로 대체함.

https://guide.ncloud-docs.com/docs/clovastudio-info#TopP

CLOVA Studio 개념

 

플레이 그라운드에서 제공하는 주요 모델( CLOVA 모델은 한국어에 특화된 LLM 모델임을 강조함)

• HCX-005 : Vision에 특화된 모델
• HCX-007 : 추론에 특화된 모델
• HCX-DASH : 경량화에 특화된 모델

 

위 모델들은 GPT 5.1, GPT 5.2, GPT-5.1 mini와 같은 모델명 이름이며 각 모델마다 제공하는 Token, TPM등이 다름.

아래 링크를 통해서 제공하는 Token과 TPM 등 주요 차이를 알 수 있음.

https://guide.ncloud-docs.com/docs/clovastudio-model

CLOVA Studio 모델

 

 

---

 

플레이 그라운드를 다양한 곳에서 사용할 수 있음.

---

[Lab 실습]

1. VPC 생성

2. Subnet 생성(Internet Gateway 허용)

3. ACG생성 후 규칙 설정

4.서버 생성(우분투 22.04)

5.쥬피터 설치

6. vi jupyter_notebook_config.py

⚫ 해당 파일 맨앞에 c = get_config() 삽입

## 아래 5개 라인은 주석 해제(제일 앞에 띄어쓰기(공백)이 없어야 함)

⚫ c.NotebookApp.allow_origin = '*'

⚫ c.NotebookApp.notebook_dir = '/root'

⚫ c.NotebookApp.ip = '*'

⚫ c.NotebookApp.open_browser = True

7. 쥬피터 실행( jupyter notebook --allow-root, http://공인IP:8888 )

8. Clova Studio - 플레이그라운드 실습

9. Clova Studio - API 생성 실습

• 테스트 키
• 서비스 키 
  • 실질적으로 서비스키를 발급하려면 NCP에서 상용 심사를 진행 후 발급해줍니다.
• Prompt Chaining 실습

10. Chat completion api v3 실습 (프롬프트 API 키 호출) 

{
 "messages": [
 {
 "role": "system",
 "content": "- 친절하게 답변하는 AI 어시스턴트입니다."
 },
 {
 "role": "user",
 "content": [
 {
 "type": "text",
 "text": "이 사진에 대해서 설명해줘"
 },
 {
 "type": "image_url",
 "imageUrl": {
 "url": "https://kr.object.ncloudstorage.com/material/test.png"
 }
 }
 ]
 }
  ],
 "maxTokens": 100
}

 

---

결과 값

{

    "status": {

        "code": "20000",

        "message": "OK"

    },

    "result": {

        "message": {

            "role": "assistant",

            "content": "사진 속에는 아름다운 정원이 보입니다. 정원 한가운데는 긴 직사각형 모양의 연못이 있고, 그 물 위로는 주변 풍경이 선명하게 반영되어 마치 거울처럼 보입니다. 연못 양쪽으로는 잘 다듬어진 녹색 관목이 줄지어 서 있으며, 배경에는 전통적인 건축양식의 건물이 자리 잡고 있습니다. 이 건물들은 아치형의 문과 창문으로 장식되어 있으며, 황갈색 벽면과 갈색의 지붕 타"

        },

        "finishReason": "length",

        "created": 1770133219,

        "seed": 2399348505,

        "usage": {

            "promptTokens": 1862,

            "completionTokens": 100,

            "totalTokens": 1962

        }

    }

}

 

11. chat completion API 를 활용한 메일 작성 챗봇 UI 구성하기

##서버에서 아래 커맨드 실행

pip install streamlit
pip install streamlit_chat
wget https://kr.object.ncloudstorage.com/nce-ai/app1.py

vi app1.py 

#API Key 변경

streamlit run app1.py

 

• 결과 값

 

12. Nocode AI – n8n 사용해보기 (NCP 연동)

OpenAI를 활용(호환)해서 연동해야함.

OpenAI Base URL : https://clovastudio.stream.ntruss.com/v1/openai/

• OpenAI와 호환성을 무시하기 위해서 Use Response API Disabled

• LLM 관련 Role 및 템플릿 설정

• 결과 값

 

14. Fine Tuning 랩

##변경 필요한 것들

api_key = 플레이 그라운드 API 키 

학습 알고리즘 변경

FilePath 변경(보통 Object Storage 사용)

trainingDatasheetAccessKey = Object Storage 키 ## 계정에서 확인 가능

trainingDatasheetSecretKey = Object Storage 키 ## 계정에서 확인 가능