LG Uplus ja OptAI kehittävät tekoälyn tokenien optimointia
Etelä-korealainen teleoperaattori LG Uplus ja tekoälymallien optimointiin erikoistunut OptAI ovat yhdistäneet voimansa kehittääkseen uutta teknologiaa. Sen tavoitteena on tehostaa tekoälyn tiedonkäsittelyä ja vähentää samalla laskentaresurssien, kuten GPU:iden, käyttöä.
Telekommunikaatioyhtiö LG Uplus on ilmoittanut strategisesta kumppanuudestaan tekoälyyn erikoistuneen OptAI:n kanssa. Yhteistyön tarkoituksena on kehittää teknologiaa, joka optimoi tekoälyn käsittelemien datatokenien tehokkuutta. Tavoitteena on parantaa tekoälyn prosessointinopeutta samalla kun vähennetään merkittävästi grafiikkaprosessorien (GPU) ja virrankulutusta.
Tokenit ovat tekoälyn perustietoyksiköitä, joita käytetään käyttäjien kyselyiden käsittelyssä ja vastausten tuottamisessa. OptAI keskittyy kehittämään kevyempiä ja nopeampia työkaluja tekoälymallien suorittamiseen, kun taas LG Uplus hyödyntää omaa tekoälypalveluoperaatiotaan uuden teknologian testaamiseen ja käyttöönottoon.
Aikaisemmissa kokeiluissa, jotka perustuivat LG AI Researchin Exaone-malliperheeseen, yritykset onnistuivat saamaan pienen kielimallin toimimaan älypuhelimien neuroprosessointiyksiköissä (NPU). Raporttien mukaan tämä saavutti CPU-pohjaisia menetelmiä vastaavan suorituskyvyn, mutta vähensi virrankulutusta 78 prosenttia ja mallin kokoa 82 prosenttia.
Nyt yritykset laajentavat tutkimustaan palvelinympäristöjen GPU-ratkaisuihin. LG Uplus arvioi, että uusi teknologia voi mahdollistaa jopa nelinkertaisen määrän tokenien prosessoinnin yhdellä GPU:lla nykyisiin menetelmiin verrattuna. Tämä voi merkittävästi parantaa datakeskusten tehokkuutta ja skaalautuvuutta tekoälysovelluksissa.