Amazon har lansert en rekke nyheter innenfor generativ AI. En av nyhetene er Amazon Bedrock, som ble annonsert i april, men som nå er tilgjengelig for alle.
Bedrock er ifølge AWS en "fully managed" tjeneste som skal gjøre det enklere for AWS-kunder å bygge applikasjoner på toppen av generative AI-modeller fra både Amazon selv og selskaper som AI21 Labs, Anthropic, Cohere, Meta og Stability AI.
AWS skriver i pressemeldingen at Bedrock skal forenkle det å lage AI-applikasjoner der sikkerhet og personvern er ivaretatt, og la kunder eksperimentere med store språkmodeller fra store aktører. Samtidig skal man kunne tilpasse dem med egne data.
Bruk Metas språkmodell i AWS
I løpet av de kommende ukene vil Bedrock-brukere få tilgang til Llama2, en åpen kildekodebasert stor språkmodell (LLM) fra Meta:
Metas nye, åpne språkmodell er gratis for kommersiell bruk
Amazon hevder Bedrock er den første fullt ut administrerte generative AI-tjenesten som tilbyr Llama 2. Tjenesten har imidlertid ifølge Techcrunch vært tilgjengelig via andre skybaserte plattformer tidligere, blant annet via Googles Vertex AI.
I en pressemelding skriver AWS at Llama 2 via Bedrock er optimalisert for å gi rask respons på AWS-infrastruktur.
«Kunder vil kunne bygge generative AI-applikasjoner drevet av 13B- og 70B-parameter Llama 2-modeller uten behov for å sette opp og administrere noen infrastruktur», heter det i pressemeldingen.
CodeWhisperer for private kodebaser
I tillegg melder Amazon at deres kodeassistent CodeWhisperer nå vil kunne tilpasses slik at man kan få kodeforslag basert på kundenes private kodebaser.
Dermed vil man altså kunne inkludere interne API-er, biblioteker og annen kode som ikke er inkludert i CodeWhisperers treningsdata. Selvfølgelig uten at man skal behøve å være redd for at noe fra bedriftens interne kodebase skal komme på avveie.
