Så här kan du bygga din AI på din lokala enhet med Windows AI Studio

Vi kommer snart att få en första glimt av Windows AI Studio i aktion.

Microsoft gjorde några viktiga tillkännagivanden på Microsoft Ignite-konferensen i Seattle. Med stort fokus på AI tillkännagav den Redmond-baserade teknikjätten Microsoft Copilot Studio, vilket gör det möjligt för användare att skapa, publicera och på liknande sätt tjäna pengar på sina Copilots till OpenAI: s GPT.

Evenemanget avslöjade också Microsofts första chips, Microsoft Azure Maia AI Accelerator, och Microsoft Azure Cobalt CPU, som båda kommer 2024, och Azures text-till-tal-avatarer, som är mycket användbara verktyg att ha, förutom det faktum att de fortfarande är kusliga.

Men eftersom alla satsningar är placerade på AI tillkännagav Microsoft också lanseringen av Windows AI Studio, en helt ny plattform som gör det möjligt för utvecklare, eller någon annan Windows-användare, att bygga sina egna AI-modeller lokalt, på en Windows-körd enhet.

Idag är vi glada över att kunna presentera Windows AI Studio, en ny AI-upplevelse som hjälper företag och utvecklare att komma igång med lokal AI-utveckling och distribution på Windows.

instagram story viewer

Microsoft

Windows AI Studio kommer att tillhandahålla en lista över toppmoderna (SOTA) modeller inklusive Llama 2-7B, Mistral-7B, Falcon-7B och Stable Diffusion XL, som kommer att läggas till plattformen i framtida uppdateringar, så det är säkert att säga att användare kommer att ha allt de behöver för att bygga sin egen AI på en lokal Windows maskin.

Hur kan användare bygga AI-modeller med Windows AI Studio?

Microsoft har inte avslöjat för mycket ännu, och den Redmond-baserade teknikjätten sa att användarna kommer att få en glimt av studion under de följande veckorna, som en VS-kodförlängning, men företaget lovar att vi kommer att kunna bygga generativa AI-modeller oss själva.

Windows AI Studio förenklar generativ AI-apputveckling genom att sammanföra banbrytande AI-utvecklingsverktyg och modeller från Azure AI Studio och andra kataloger som Hugging Face, som gör det möjligt för utvecklare att finjustera, anpassa och distribuera toppmoderna små språkmodeller, eller SLM: er, för lokal användning i sina Windows appar.

Microsoft

Företaget presenterade också en färdplan för att utveckla AI-modeller på Windows AI Studio:

1. Windows AI Studio: AI Studio kommer att utökas till Windows genom VS Code
2. Modellval: Kurerad lista över modeller som kommer från HuggingFace och Azure
3. Finjustering: Använd QLoRA genom Olive för att generera en kvantifierad modell med adaptrar med låg rangordning.
4. Modellutvärdering: Modellvalidering för finjusteringsuppgiften.
5. Modelloptimering: Onyxkonvertering och optimering efter finjustering genom Olive.
6. Modellintegration: Distribuera i applikation för slutledning via ORT.

Så här ser Windows AI Studio ut som en VS-tillägg:

Det är värt att nämna att Windows AI Studio kanske inte är en vänlig plattform, eftersom den här nya upplevelsen riktar sig till IT-utvecklare som brinner för AI.

Så om du inte gillar mjukvaruutveckling bör du istället prova nya Microsoft Copilot Studio, som låter dig bygga personliga Copilots med naturligt språk.