Skip to content

Latest commit

 

History

History
318 lines (236 loc) · 22.9 KB

File metadata and controls

318 lines (236 loc) · 22.9 KB

EdgeAI for nybegynnere

Course cover image

GitHub contributors GitHub issues GitHub pull-requests PRs Welcome

GitHub watchers GitHub forks GitHub stars

Microsoft Foundry Discord

Følg disse trinnene for å komme i gang med disse ressursene:

  1. Fork depotet: Klikk GitHub forks
  2. Klon depotet: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Bli med i Azure AI Foundry Discord og møt eksperter og medutviklere

🌐 Støtte for flere språk

Støttet via GitHub Action (Automatisert og alltid oppdatert)

Arabic | Bengali | Bulgarian | Burmese (Myanmar) | Chinese (Simplified) | Chinese (Traditional, Hong Kong) | Chinese (Traditional, Macau) | Chinese (Traditional, Taiwan) | Croatian | Czech | Danish | Dutch | Estonian | Finnish | French | German | Greek | Hebrew | Hindi | Hungarian | Indonesian | Italian | Japanese | Kannada | Korean | Lithuanian | Malay | Malayalam | Marathi | Nepali | Nigerian Pidgin | Norwegian | Persian (Farsi) | Polish | Portuguese (Brazil) | Portuguese (Portugal) | Punjabi (Gurmukhi) | Romanian | Russian | Serbian (Cyrillic) | Slovak | Slovenian | Spanish | Swahili | Swedish | Tagalog (Filipino) | Tamil | Telugu | Thai | Turkish | Ukrainian | Urdu | Vietnamese

Foretrekker du å klone lokalt?

Dette depotet inkluderer 50+ språkoversettelser som øker nedlastingsstørrelsen betydelig. For å klone uten oversettelser, bruk sparsjeklone:

git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

Dette gir deg alt du trenger for å fullføre kurset med mye raskere nedlasting.

Hvis du ønsker å støtte flere oversettelsesspråk, er de oppført her

Introduksjon

Velkommen til EdgeAI for nybegynnere – din omfattende reise inn i den transformative verdenen av Edge kunstig intelligens. Dette kurset bygger bro mellom kraftige AI-muligheter og praktisk, reell implementering på edge-enheter, og gir deg muligheten til å utnytte AI direkte der data genereres og beslutninger må tas.

Hva du vil mestre

Dette kurset tar deg fra grunnleggende konsepter til produksjonsklare implementeringer, inkludert:

  • Små språkmodeller (SLM) optimalisert for edge-utrulling
  • Maskinvarebevisst optimalisering på tvers av ulike plattformer
  • Sanntidsinferenz med personvernbevarende funksjoner
  • Strategier for produksjonsutrulling i bedriftsapplikasjoner

Hvorfor EdgeAI er viktig

Edge AI representerer et paradigmeskifte som tar tak i kritiske moderne utfordringer:

  • Personvern og sikkerhet: Behandle sensitiv data lokalt uten skyeksponering
  • Sanntidsytelse: Fjern nettverksforsinkelse for tidssensitive applikasjoner
  • Kostnadseffektivitet: Reduser båndbredde og skybaserte utgifter
  • Robuste operasjoner: Oppretthold funksjonalitet under nettverksavbrudd
  • Overholdelse av lover: Oppfyll krav til datasuverenitet

Edge AI

Edge AI refererer til kjøring av AI-algoritmer og språkmodeller lokalt på maskinvare, nær der data genereres, uten å stole på skyressurser for inferens. Det reduserer forsinkelse, forbedrer personvern og muliggjør sanntidsbeslutninger.

Kjerneprinsipper:

  • Inferens på enheten: AI-modeller kjører på edge-enheter (telefoner, rutere, mikrokontrollere, industrielle PCer)
  • Offline-funksjonalitet: Fungerer uten kontinuerlig internettforbindelse
  • Lav forsinkelse: Umiddelbare responser egnet for sanntidssystemer
  • Datasuverenitet: Holder sensitiv data lokalt, forbedrer sikkerhet og etterlevelse

Små språkmodeller (SLM)

SLM-er som Phi-4, Mistral-7B og Gemma er optimaliserte versjoner av større LLM-er—trent eller destillert for:

  • Redusert minneavtrykk: Effektiv bruk av begrenset minne på edge-enheter
  • Lavere beregningsbehov: Optimalisert for CPU og edge GPU-ytelse
  • Raske oppstartstider: Rask initialisering for responsive applikasjoner

De låser opp kraftige NLP-muligheter samtidig som de møter kravene til:

  • Innebygde systemer: IoT-enheter og industrielle kontrollere
  • Mobilenheter: Smarttelefoner og nettbrett med offline-funksjonalitet
  • IoT-enheter: Sensorer og smarte enheter med begrensede ressurser
  • Edge-servere: Lokale behandlingsenheter med begrensede GPU-ressurser
  • Personlige datamaskiner: Scenarier for desktop- og laptop-utrulling

Kursmoduler og navigasjon

Modul Emne Fokusområde Nøkkelinnhold Nivå Varighet
📖 00 Introduksjon til EdgeAI Grunnlag og kontekst EdgeAI oversikt • Bransjeapplikasjoner • SLM introduksjon • Læringsmål Nybegynner 1-2 t
📚 01 EdgeAI Grunnprinsipper Sammenligning sky vs edge AI EdgeAI grunnprinsipper • Virkelige casestudier • Implementeringsveiledning • Edge-utrulling Nybegynner 3-4 t
🧠 02 SLM Modellgrunnlag Modellfamilier og arkitektur Phi-familien • Qwen-familien • Gemma-familien • BitNET • μModel • Phi-Silica Nybegynner 4-5 t
🚀 03 SLM Distribusjonspraksis Lokal og sky-distribusjon Avansert læring • Lokalt miljø • Sky-distribusjon Middels 4-5 t
⚙️ 04 Verktøykasse for modelloptimalisering Plattformovergripende optimalisering Introduksjon • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Arbeidsflytsyntese Middels 5-6 t
🔧 05 SLMOps Produksjon Produksjonsoperasjoner SLMOps introduksjon • Modell-destillering • Finjustering • Produksjonsutrulling Avansert 5-6 t
🤖 06 AI-agenter og funksjonskall Agent-rammeverk og MCP Agentintroduksjon • Funksjonskall • Modell-kontekstprotokoll Avansert 4-5 t
💻 07 Plattformimplementering Platformovergripende eksempler AI-verktøykasse • Foundry Local • Windows-utvikling Avansert 3-4 t
🏭 08 Foundry Local Toolkit Produksjonsklare eksempler Eksempelsøknader (se detaljer under) Ekspert 8-10 t

🏭 Modul 08: Eksempelapplikasjoner

🎓 Workshop: Praktisk læringssti

Omfattende praktisk workshop-materiale med produksjonsklare implementeringer:

  • Workshop-veiledning - Fullstendige læringsmål, utfall og ressursnavigering
  • Python-eksempler (6 økter) - Oppdatert med beste praksis, feilhåndtering og grundig dokumentasjon
  • Jupyter notebooks (8 interaktive) - Trinnvise veiledninger med benchmark og ytelsesovervåking
  • Øktveiledninger - Detaljerte markdown-guider for hver workshopp
  • Valideringsverktøy - Skript for å verifisere kodekvalitet og kjøre enkle tester

Det du vil bygge:

  • Lokale AI-chatapplikasjoner med støttet strømming
  • RAG-pipelines med kvalitetsvurdering (RAGAS)
  • Multi-modell benchmarking og sammenligningsverktøy
  • Multi-agent orkestreringssystemer
  • Intelligent modellruting med oppgavebasert utvalg

🎙️ Workshop For Agentic: Hands-On - AI Podcast Studio

Bygg en AI-drevet podkastproduksjonspipeline fra bunnen av! Denne immersive workshopen lærer deg å lage et komplett multi-agent system som forvandler ideer til profesjonelle podkastepisoder. 🎬 Start AI Podcast Studio Workshop

Din oppgave: Lanser "Future Bytes" — en teknologipodcast drevet helt av AI-agenter du bygger selv. Ingen skyavhengigheter, ingen API-kostnader — alt kjører lokalt på din maskin.

Hva som gjør dette unikt:

  • 🤖 Ekte multi-agent orkestrering - Bygg spesialiserte AI-agenter som forsker, skriver og produserer lyd
  • 🎯 Komplett produksjonspipeline - Fra valg av tema til endelig podcast-lydoutput
  • 💻 100 % lokal distribusjon - Bruker Ollama og lokale modeller (Qwen-3-8B) for full personvern og kontroll
  • 🎤 Tekst-til-tale-integrasjon - Konverter manuser til naturlig lydende samtaler med flere talere
  • ✋ Menneskelig i sløyfen-arbeidsflyter - Godkjenningsporter sikrer kvalitet samtidig som automatisering opprettholdes

Tre-akt læringsreise:

Akt Fokus Nøkkelferdigheter Varighet
Akt 1: Møt dine AI-assistenter Bygg din første AI-agent Verktøy-integrasjon • Netsøk • Problemløsning • Agentisk resonnering 2-3 t
Akt 2: Sett sammen produksjonsteamet Orkestrer flere agenter Teamkoordinering • Godkjenningsarbeidsflyter • DevUI-grensesnitt • Menneskelig tilsyn 3-4 t
Akt 3: Gi liv til podcasten din Generer podcast-lyd Tekst-til-tale • Flere talere-syntese • Langformet lyd • Full automatisering 2-3 t

Teknologier i bruk:

  • Microsoft Agent Framework - Multi-agent orkestrering og koordinering
  • Ollama - Lokal AI-modell runtime (ingen sky nødvendig)
  • Qwen-3-8B - Open-source språkmodell optimalisert for agentiske oppgaver
  • Tekst-til-tale-APIer - Naturlig stemmesyntese for podkastgenerering

Maskinvarestøtte:

  • CPU-modus - Fungerer på enhver moderne datamaskin (8 GB+ RAM anbefalt)
  • 🚀 GPU-akselerasjon - Betydelig raskere inferens med NVIDIA/AMD GPUer
  • NPU-støtte - Neste generasjons neural prosesseringsenhet-akselerasjon

Perfekt for:

  • Utviklere som lærer om multi-agent AI-systemer
  • Alle interesserte i AI-automatisering og arbeidsflyter
  • Innholdsprodusenter som utforsker AI-assistert produksjon
  • Studenter som studerer praktiske AI-orkestreringsmønstre

Start byggingen: 🎙️ The AI Podcast Studio Workshop →

📊 Læringssti sammendrag

  • Total varighet: 36-45 timer
  • Nybegynnersti: Moduler 01-02 (7-9 timer)
  • Mellomnivåsti: Moduler 03-04 (9-11 timer)
  • Avansert sti: Moduler 05-07 (12-15 timer)
  • Ekspertsti: Modul 08 (8-10 timer)

Hva du vil bygge

🎯 Kjernekompetanser

  • Edge AI-arkitektur: Design lokale-først AI-systemer med skyintegrasjon
  • Modelloptimalisering: Kvantisere og komprimere modeller for edge-distribusjon (85 % hastighetsøkning, 75 % størrelsesreduksjon)
  • Multi-plattform distribusjon: Windows, mobil, innebygde og sky-edge hybride systemer
  • Produksjonsdrift: Overvåkning, skalering og vedlikehold av edge AI i produksjon

🏗️ Praktiske prosjekter

  • Foundry Local Chat-apper: Windows 11 native applikasjon med modellbytte
  • Multi-agent systemer: Koordinator med spesialistagenter for komplekse arbeidsflyter
  • RAG-applikasjoner: Lokal dokumentbehandling med vektorsøk
  • Modellrutere: Intelligent valg mellom modeller basert på oppgaveanalyse
  • API-rammeverk: Produksjonsklare klienter med streaming og helsesjekk
  • Kryssplattform-verktøy: LangChain/Semantic Kernel integrasjonsmønstre

🏢 Bransjeapplikasjoner

ProduksjonHelseAutonome kjøretøySmarta byerMobilapper

Rask start

Anbefalt læringssti (20-30 timer totalt):

  1. 📖 Introduksjon (Introduction.md): EdgeAI-grunnlag + bransjekontekst + læringsrammeverk
  2. 📚 Grunnlag (Moduler 01-02): EdgeAI-konsepter + SLM-modellfamilier
  3. ⚙️ Optimalisering (Moduler 03-04): Distribusjon + kvantiseringsrammeverk
  4. 🚀 Produksjon (Moduler 05-06): SLMOps + AI-agenter + funksjonskall
  5. 💻 Implementering (Moduler 07-08): Plattformeksempler + Foundry Local verktøykasse

Hver modul inneholder teori, praktiske øvelser og produksjonsklare kodeeksempler.

Karriereinnvirkning

Tekniske roller: EdgeAI løsningsarkitekt • ML-ingeniør (Edge) • IoT AI-utvikler • Mobil AI-utvikler

Bransjesektorer: Manufacturing 4.0 • Helse-teknologi • Autonome systemer • FinTech • Forbrukerelektronikk

Porteføljeprosjekter: Multi-agent systemer • Produksjons-RAG apper • Kryssplattform distribusjon • Ytelsesoptimalisering

Repositoriumstruktur

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Kurs høydepunkter

Progressiv læring: Teori → Praktisk → Produksjonsdistribusjon
Virkelige casestudier: Microsoft, Japan Airlines, bedriftsimplementasjoner
Praktiske eksempler: 50+ eksempler, 10 omfattende Foundry Local demoer
Ytelsesfokus: 85 % hastighetsforbedringer, 75 % størrelsesreduksjoner
Multi-plattform: Windows, mobil, innebygde, sky-edge hybride
Produksjonsklar: Overvåkning, skalering, sikkerhet, samsvarsrammeverk

📖 Studieveiledning tilgjengelig: Strukturert 20-timers læringssti med tidsfordelingsveiledning og selvvurderingsverktøy.


EdgeAI representerer fremtiden for AI-distribusjon: lokal-først, personvernbevarende og effektiv. Mestre disse ferdighetene for å bygge neste generasjon intelligente applikasjoner.

Andre kurs

Teamet vårt produserer andre kurs! Sjekk ut:

LangChain

LangChain4j for Beginners LangChain.js for Beginners


Azure / Edge / MCP / Agenter

AZD for Beginners Edge AI for Beginners MCP for Beginners AI Agents for Beginners


Generativ AI-serie

Generative AI for Beginners Generative AI (.NET) Generative AI (Java) Generative AI (JavaScript)


Kjerneopplæring

ML for Beginners Data Science for Beginners AI for Beginners Cybersecurity for Beginners Web Dev for Beginners IoT for Beginners XR Development for Beginners


Copilot-serie

Copilot for AI Paired Programming Copilot for C#/.NET Copilot Adventure

Få hjelp

Hvis du står fast eller har spørsmål om å bygge AI-apper, bli med i:

Microsoft Foundry Discord

Hvis du har produktinnspill eller feil mens du bygger, besøk:

Microsoft Foundry Developer Forum


Ansvarsfraskrivelse: Dette dokumentet er oversatt ved hjelp av AI-oversettelsestjenesten Co-op Translator. Selv om vi streber etter nøyaktighet, vennligst vær oppmerksom på at automatiserte oversettelser kan inneholde feil eller unøyaktigheter. Det opprinnelige dokumentet på det opprinnelige språket skal betraktes som den autoritative kilden. For kritisk informasjon anbefales profesjonell menneskelig oversettelse. Vi er ikke ansvarlige for eventuelle misforståelser eller feiltolkninger som oppstår ved bruk av denne oversettelsen.