Vertex AI offers enterprise-ready generative AI | Google Cloud Blog
With new offerings like Gemini 1.5 Flash and Grounding with Google Search, Vertex AI is the enterprise-ready destination for gen AI development.
cloud.google.com
Google Cloud는 Vertex AI와 Gemini를 활발히 홍보하고 있다.
Gemini 1.5는 올해 4월까지 학습한 데이터
현재 Gemini는 Multi Modality 서비스를 제공하고 있다.
- 현재 Gemini는 영상처리 능력을 겸비하고 있다. 이를 통해 Shorts 영상을 쉽게 만들거나, 영상을 Ebook콘텐츠로 전환하는 등의 활용도가 높다.
- Gemini의 이미지 처리 능력 또한 보유하고 있어, 의류 /코디네이터 로써의 서비스 구현이 가능하다.
추후에는 Imagen 3 를 출시할 예정인데 텍스트-이미지 변환 모델 제공 계획이 있습니다.
관련하여 스터디 해볼 수 있는 예시는 아래를 참고바랍니다.
https://github.com/jk1333/summit24
Generative AI로 혁신하는 하이퍼로컬 서비스. 당근마켓
- 당근의 머신러닝 활용
당근은 머신러닝 모델들은 Vertex AI를 통해 학습되고 있어요
- 당근의 Generative AI
프롬프트에 예제를 추가하는것으로도 원하는 성능을 얻을 수 있어요. 이제는 머신러닝에 대한 이해도가 없더라도 원하는 결과를 얻을수 있고, 머신러닝을 도입할때 활용하는 리소스가 획기적으로 감소하였습니다.
- Gemini AI를 통해 쉽게 원하는 성능에 맞게 모델을 선택할 수 있고, BigQuery등 Google Cloud 프로덕트에 결합되어 있어서 쉽게 활용할 수 있어요.
Use case 1) New recommendation in article detail page
어떤 포스팅 물품이 속한 카테고리, 브랜드, 키워드를 Gemini로 추출한 다음 제품추천을 받는다.
Use case 2) Improve Community User Experience
프롬프트에 사용하여 해시태그를 자동생성합니다.
Use case 3) Create Real Estate Sales Posts with a Single Imagen
이 부동산의 매물 종류를 골라주세요. 부동산의 가격을 찾아주세요. 부동산의 관리비를 찾아주세요. 등의 추가 기능을 제공
ReAct, Grounding을 통해 성능을 향상시켰음.
모든 게시글에 대해 다양한 프롬프트를 시도해보면서 성능을 향상시키고 있습니다.
Gen AI 기반 LG U+ 데이터레이크 "헬프데스크" 자동화
데이터레이크 운영에 질의 응답을 위해 필요한 챗봇 만들기
가이드 문서 내용 기반의 답변 제공, 데이터 카탈로그 검색을 통한 답변 제공, 테이블 생성 로직 정보 제공, 다양한 FAQ기반의 자동 답변
데이터 선정 및 확보 : 선정된 데이터를 CloudStorage의 BigQuery에 적재
픔질향상을 위한 노력
- 목적, 페르소나를 부여함
- 할루시네이션을 방지하기 위한 목적으로 Grounding PROMPT 적용
- 악의적인 주제로 활용하는 것을 방지하기위해 DARE PROMPT 적용
- 답변의 요약정도, 표현 매너 제어
- 사용자 질문에 포함된 개인정보 필터링
생성형 AI를 훨씬 가치있게 만드는 구글의 다양한 GROUNDING SERVICE 기술들
Generative AI는 50% 미만 정확도의 Level 1에 해당함 → 이러한 inaccuracy를 해결하기 위해 Grounding 서비스를 활용할 것
여기서 갈리는데,
1) 그라운딩 서비스를 만들것인지
구글 검색, 기업 내부 정보 검색, 시스템 연계활용이 가능합니다.
사용자 요청 → 생성형 AI (이때 구글 검색을 수행합니다) → 구글 검색 결과가 포함된 정확한 결과로 응답
2) 내가 준 정보를 기반으로 추론 결과를 생성하는 용도로 사용할 것인지
'AI * ML' 카테고리의 다른 글
| LGCNS GoogleCloud LLM Hackathon 후기 (0) | 2024.07.07 |
|---|---|
| LangChain 기본 - 검색기(Retriever) (0) | 2024.07.03 |
| LangChain 기본 - 임베딩(Embedding), 벡터저장소(VectorStore) (0) | 2024.07.03 |
| LangChain 기본 - 체인(Chains) (0) | 2024.07.03 |
| LangChain 기본 - RAG에 대해 (0) | 2024.06.30 |