Microsofts spesialiserte maskinvare for AI-beregning kalles Hjernebølge, og den er opprettet på en slik måte å kjøre et nevralt nettverk så raskt som mulig med minimum ventetid.
Firmaet kunngjort at siden det ble brukt Brainwave, klarte det å bli ti ganger raskere ytelse fra Bings AI. Maskinlæringsmodellen driver i utgangspunktet søkemotorens funksjonalitet.
Microsofts mål som skal oppnås via Brainwave er å gi sanntids AI-spådommer for apper som de nyeste Bing funksjoner.
Bing mottar nye funksjoner
Microsoft gir også Bing noen få nye funksjoner, og de viktigste som er verdt å nevne er å tilby flere svar til hvordan-spørsmål og støtte for å definere ord som ikke brukes så ofte når brukere holder musepekeren over dem. Disse funksjonene er drevet av Brainwave.
Microsoft bruker Intels FPGA for å drive AI-beregning
FPGA er en slags blanke lerreter som utviklere kan bruke når de vil distribuere forskjellige kretser ved å sende ny programvare. Dette innebærer en sterk blanding av ytelse og programmerbarhet.
Nå kan Microsoft gjøre mer enn å lage raskere modeller med maskinvaren; selskapet kan også bygge mer sofistikerte AI-systemer. For eksempel er Bings Turing Prototype 1 nå ti ganger mer kompleks og raskere takket være beregningskapasiteten som er lagt til via Brainwave.
FGA-ene distribuert av Microsoft har dedikerte digitale signalprosessorer ombord forbedret for kompleks AI-matematikk.
Den største fordelen med FPGAer
Den viktigste fordelen med FPGAer over GPU-ene (som ble det foretrukne valget for AI-beregning) er at de ikke krever omfattende bruk av batchberegninger.
En viktig innovasjon gjør det mulig for Microsoft å få slike vellykkede resultater via FPGAer, er bruken av 8 og 9-biters flytende punkt datatyper som radikalt øker ytelsen.
Intels FPGA-brikker lar Bing raskt lese og analysere milliarder av dokumenter over hele nettet og gi det beste svaret på spørsmålet ditt på mindre enn en brøkdel av et sekund. […]
Faktisk har Intels FPGA-er gjort det mulig for oss å redusere ventetiden til modellene våre med mer enn 10 ganger, mens vi også øker modellstørrelsen med 10 ganger.
Bruken av FPGAer for å akselerere AI-beregning dateres tilbake til 2012
Microsoft begynte å bruke FPGAer for å øke hastigheten på AI-beregning for mer enn seks år siden da Bing-teamet begynte å bruke sjetongene. Alt dette er også gode nyheter for Intel. Selskapet kjøpte Altera, en FPGA-produsent i 2015, og avtalen på 16,7 milliarder dollar ga Intel den nødvendige kraften til å drive Microsofts behov frem til i dag.
Vi gleder oss til å se Brainwave tilgjengelig via Microsoft Azure for å tilby kundene muligheten til å distribuere modellene sine.
RELATERTE HISTORIER FOR Å KONTROLLERE:
- Microsofts nye tjenesteavtale gjør at brukerne føler seg urolige
- Søk "Deaktiver Windows 10-oppdatering" på Bing og vitne magi
- Microsofts nye tjenesteavtale gjør at brukerne føler seg urolige
