Amazon SageMaker förbättrar finjustering av AI-modeller
AWS SageMaker introducerar nya metoder för att utveckla och anpassa stora språkmodeller (LLM). Lösningarna syftar till att snabba upp och effektivisera AI-finjustering för olika användningsfall.
Amazon Web Services (AWS) har lanserat nya, avancerade finjusteringsmetoder för stora språkmodeller (LLM) på sin Amazon SageMaker-plattform. Dessa metoder syftar till att göra anpassningen av AI-modeller mer effektiv och kostnadseffektiv för organisationer.
De nya metoderna fokuserar på tre kärnaspekter av LLM-utveckling: livscykelns grundläggande stadier, spektrumet av finjusteringsmetodiker och kritiska anpassningstekniker för ansvarsfull AI-implementering. Parameter-Efficient Fine-Tuning (PEFT)-metoder, som LoRA och QLoRA, möjliggör anpassning av stora modeller med mindre data och beräkningskraft, vilket gör det möjligt för organisationer av alla storlekar att skräddarsy modeller för specifika behov.
För att anpassa modellerna används även tekniker som Reinforcement Learning from Human Feedback (RLHF) och Direct Preference Optimization (DPO), vilka säkerställer att modellerna agerar i linje med mänskliga värderingar och organisationskrav. Dessutom använder knowledge distillation en lärar/elev-arkitektur där en mindre modell lär sig från en större. Mixed precision training och gradient accumulation optimerar minnesanvändning och batchbearbetning.
Genom Amazon SageMaker kan organisationer också fortsätta anpassa förtränade modeller för specifika domäner eller uppgifter. Målet är att erbjuda verktyg som minimerar kostnader och maximerar prestanda och operativ effektivitet i kritiska AI-applikationer.