AWS Generation AI Conference

2023년 8월 8일

Luke Anderson AI/ML Apj director, AWS

AWS에서 생성 AI가 최근 주목을 받고있다고 생각하는 이유

1. 데이터 증가
2. 컴퓨팅 파워 증가
3. ML 모델 스킬셋의 진화

이 3가지가 최적점이라고 판단

Generative AI 금융산업 경쟁력 확보방안

과거 텍스트 분석 시

워드클라우드 토픽모델을 통해 만드나 -> 요즘에는 생성모델로 요약을 함

최근 내가 직접하는것보다 Generative AI가 더 생성(영화 책만들기, 시험보기, 글쓰기, 사진만들기 등)을 잘하기 때문에 집중할 필요가 있음

금융권에서 가장 생성 모델이 활용하기 좋은 부분

• 금융상품에 대한 자문 및 콜센터 문의
• 데이터 분석 및 해석 의사결정

• 운영 효율화

• BloombertGPT

2023년 3월 게재된 논문으로 금융권에서 낸 GPT모델

왜 금융권 전용의 GPT를 만들었을가?

1. 금융 도메인 키워드가 다름
2. 다루는 문제도 일반적인 언어와 매우 다름

• 모델을 가져다 쓸지 VS 만들어서 쓸지

주요 쟁점은

1. 데이터 유출
2. 텍스트 도메인 이 다름

• 전략

• 고객 중심의 생각
• 재료(데이터의 품질)
• 실패와 도전 -> 이건 … 음… 시간을 벌 수 있을지

Generative AI 기술 특징과 접근 방향

• 여기에서 Stable Diffusion 2.0 모델을 베이스로 사용하는걸로 보임

이마트 Generative AI 활용 사례

• 키워드 찾아보기

RAG

peft : fine -tuning시에 모델에서 학습 시 필요한 부분만 양자화 해 효율적으로 학습하는 방식

lola : 파라미터를 얼마나 사용할수 있을지에대한 factor

특정 지식을 위한 LLM