Sådan kan du bygge din AI på din lokale enhed med Windows AI Studio

Vi vil snart få et første glimt af Windows AI Studio i aktion.

Microsoft kom med nogle vigtige meddelelser på Microsoft Ignite-konferencen i Seattle. Med stort fokus på kunstig intelligens annoncerede den Redmond-baserede teknologigigant Microsoft Copilot Studio, som vil give brugerne mulighed for at oprette, udgive og på samme måde tjene penge på deres Copilots til OpenAI's GPT'er.

Arrangementet afslørede også Microsofts første chips, Microsoft Azure Maia AI Accelerator og Microsoft Azure Cobalt CPU, der begge kommer i 2024, og Azure tekst-til-tale-avatarerne, som er meget nyttige værktøjer at have, bortset fra det faktum, at de stadig er uhyggelige.

Men da alle væddemål er placeret på AI, annoncerede Microsoft også udgivelsen af ​​Windows AI Studio, et helt nyt platform, der giver udviklere eller enhver anden Windows-bruger mulighed for at bygge deres egne AI-modeller lokalt på en Windows-kørende enhed.

I dag er vi glade for at kunne annoncere Windows AI Studio, en ny AI-oplevelse, der hjælper virksomheder og udviklere med at komme i gang med lokal AI-udvikling og -implementering på Windows.

instagram story viewer

Microsoft

Windows AI Studio vil give en liste over state-of-the-art (SOTA) modeller, herunder Llama 2-7B, Mistral-7B, Falcon-7B og Stable Diffusion XL, som vil blive føjet til platformen i fremtidige opdateringer, så det er sikkert at sige, at brugerne vil have alt, hvad de behøver for at bygge deres egen AI på en lokal Windows maskine.

Hvordan kan brugere bygge AI-modeller med Windows AI Studio?

Microsoft har ikke afsløret for meget endnu, og den Redmond-baserede teknologigigant sagde, at brugerne vil få et glimt af studiet i de følgende uger, som en VS-kodeudvidelse, men virksomheden lover, at vi vil være i stand til at bygge generative AI-modeller os selv.

Windows AI Studio forenkler generativ AI-app-udvikling ved at samle banebrydende AI-udviklingsværktøjer og modeller fra Azure AI Studio og andre kataloger som f.eks. Hugging Face, der gør det muligt for udviklere at finjustere, tilpasse og implementere avancerede små sprogmodeller eller SLM'er til lokal brug i deres Windows apps.

Microsoft

Virksomheden præsenterede også en køreplan for udvikling af AI-modeller på Windows AI Studio:

1. Windows AI Studio: AI Studio vil blive udvidet til Windows gennem VS Code
2. Modelvalg: Udvalgt liste over modeller, der kommer fra HuggingFace og Azure
3. Finjustering: Brug QLoRA gennem Olive til at generere en kvantiseret model med adaptere med lav rang.
4. Model evaluering: Modelvalidering til finjusteringsopgaven.
5. Model optimering: Onyx-konvertering og optimering efter finjustering gennem Olive.
6. Modelintegration: Implementer i applikation til inferens gennem ORT.

Sådan ser Windows AI Studio ud som en VS-udvidelse:

Det er værd at nævne, at Windows AI Studio måske ikke er en venlig platform, da denne nye oplevelse er rettet mod it-udviklere, der brænder for AI.

Så hvis du ikke er til softwareudvikling, bør du prøve det nye Microsoft Copilot Studio i stedet, som lader dig bygge personlige Copilots ved hjælp af naturligt sprog.