De gespecialiseerde hardware van Microsoft voor AI-berekening heet Hersengolf, en het is zo gemaakt om een neuraal netwerk zo snel mogelijk te laten draaien met minimale latentie.
Het bedrijf aangekondigd dat sinds het gebruik van Brainwave, het erin is geslaagd om tien keer snellere prestaties van Bing's AI. Het machine learning-model stuurt in feite de functionaliteit van de zoekmachine aan.
Het doel van Microsoft dat via Brainwave moet worden bereikt, is om realtime AI-voorspellingen te bieden voor apps zoals de nieuwste Bing Kenmerken.
Bing krijgt nieuwe functies
Microsoft geeft Bing ook een paar nieuwe functies, en de belangrijkste die het vermelden waard zijn, bieden meer antwoorden naar instructievragen en ondersteuning voor het definiëren van woorden die niet zo vaak worden gebruikt wanneer gebruikers de muisaanwijzer erop houden hen. Deze functies worden gevoed door Brainwave.
Microsoft gebruikt Intel's FPGA's voor AI-berekeningen
FPGA's zijn een soort lege doeken die ontwikkelaars kunnen gebruiken wanneer ze verschillende circuits willen inzetten door nieuwe software te verzenden. Dit omvat een krachtige mix van prestaties en programmeerbaarheid.
Nu kan Microsoft meer doen dan snellere modellen maken met de hardware; het bedrijf kan ook meer geavanceerde AI-systemen bouwen. Zo is het Turing Prototype 1 van Bing nu tien keer complexer en sneller dankzij de rekencapaciteit die via Brainwave is toegevoegd.
De FGA's die door Microsoft worden ingezet, worden geleverd met speciale digitale signaalprocessors aan boord die zijn verbeterd voor complexe AI-wiskunde.
Het belangrijkste voordeel van FPGA's
Het belangrijkste voordeel van FPGA's ten opzichte van de GPU's (die de voorkeur kregen voor AI-berekeningen) is dat ze geen uitgebreid gebruik van batchberekeningen vereisen.
Een belangrijke innovatie waarmee Microsoft zulke succesvolle resultaten kan behalen via FPGA's, is het gebruik van 8- en 9-bits drijvende-kommagegevenstypen die de prestaties radicaal verbeteren.
Dankzij de FPGA-chips van Intel kan Bing snel miljarden documenten op internet lezen en analyseren en in minder dan een fractie van een seconde het beste antwoord op uw vraag geven. […]
Dankzij de FPGA's van Intel hebben we de latentie van onze modellen met meer dan 10x kunnen verminderen en tegelijkertijd onze modelgrootte met 10x kunnen vergroten.
Het gebruik van FPGA's om AI-berekening te versnellen dateert van 2012
Microsoft begon meer dan zes jaar geleden met het gebruik van FPGA's om de snelheid van AI-berekening te verbeteren toen het Bing-team de chips begon te gebruiken. Dit alles is ook goed nieuws voor Intel. Het bedrijf kocht Altera, een FPGA-maker in 2015 en de deal van $ 16,7 miljard voorzag Intel van de nodige kracht om tot op de dag van vandaag in de behoeften van Microsoft te voorzien.
We kijken ernaar uit om Brainwave beschikbaar te zien via Microsoft Azure om klanten de kans te bieden hun modellen te implementeren.
VERWANTE VERHALEN OM TE BEKIJKEN:
- De nieuwe serviceovereenkomst van Microsoft zorgt ervoor dat gebruikers zich ongemakkelijk voelen
- Zoek "Windows 10-update uitschakelen" op Bing en wees getuige van magie
- De nieuwe serviceovereenkomst van Microsoft zorgt ervoor dat gebruikers zich ongemakkelijk voelen
