Oossa

SageMaker AI Serverless, 전체 미세 조정 지원

AWS가 SageMaker AI Serverless에서 LLM 전체 미세 조정을 지원한다. GPU 클러스터를 구성하지 않고도 대규모 데이터셋으로 모델을 학습해 정확도를 높일 수 있다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

Amazon SageMaker AI Serverless Model Customization이 전체 미세 조정(FFT)을 지원한다. 사용자는 GPU를 할당하거나 클러스터를 설정하지 않고도 FFT 작업을 실행할 수 있다. 110,000개 예제로 구성된 코드 데이터셋을 사용한 테스트에서 FFT는 의미적 정확도 90%를 기록해 모든 품질 지표에서 LoRA를 앞섰다. LoRA 작업을 실행하는 코드에서 매개변수 하나만 바꾸면 FFT를 사용할 수 있다.

왜 중요한가

기업은 GPU 인프라를 관리하지 않고도 복잡한 작업에서 모델 정확도를 높여 운영 부담과 비용을 줄일 수 있다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.