OpenAI annonserer at selskapet nå lar tredjeparts-utviklere integrere ChatGPT i appene og tjenestene sine via et API, skriver The Verge.
Løsningen vil være betraktelig billigere enn å bruke selskapets eksiterende språkmodeller, ifølge nettavisen.
Det skjedde med internett. Det skjedde med mobiler. Nå kan det skje med AI
Ikke den samme som Bing bruker
OpenAI sier at ChatGPT API-et kan brukes til mer enn å bare lage AI-drevne chat-grensesnitt. Ifølge selskapet er den nye modellfamilien kalt "gpt-3.5-turbo", er den "beste modellen for mange tilfeller av bruk uten chat."
The Verge bemerker at modellen sannsynligvis ikke er den samme som Bings, som Microsoft kaller for neste generasjons store språkmodell.
Denne skal være raskere, mer nøyaktig og kapabel enn ChatGPT og GPT-3.5.
- AI vil drepe en haug nettsider framover, også norske, tror Ole Petter
Kan koste flere tokens
OpenAI tilbyr 1000 tokens for 0,002 dollar, noe de sier er 10 ganger billigere enn selskapets eksisterende GPT-3.5-modeller. Dette skal skyldes systemomfattende optimaliseringer.
The Verge legger til at selv om 1000 virker som mye, kan det koste flere tokens å sende en tekstbit som API-et kan besvare.
Tokens er teksblokkene som systemet deler ord og setninger inn i for å forutsi hvilken tekst det skal sende neste gang.
Hvordan sørger vi for personvern når AI bakes inn i appene våre? - Kunden må oppleve kontroll
Får dedikert instans
Ifølge The Verge tilbyr OpenAI et verktøy for å sjekke hvor mange tokens som skal til for å tolke en tekststreng. En generell tommelfingerregel er at ett token vanligvis tilsvarer ~4 tegn på engelsk.
Utviklere skal også kunne få en dedikert instans av ChatGPT hvis de kjører store mengder data gjennom API-et.
Dette skal gi deg mer kontroll over hvilken modell du bruker, hvor lang tid du vil det skal ta å svare på forespørsler, samt hvor lange samtaler med AI-en kan være.