Følg disse trinnene for å komme i gang med ressursene:
- Fork Repository: Klikk
- Klon Repository:
git clone https://github.com/microsoft/edgeai-for-beginners.git - Bli med i Azure AI Foundry Discord og møt eksperter og andre utviklere
Hvis du ønsker støtte for flere oversettelsesspråk, er listen tilgjengelig her
Velkommen til EdgeAI for Nybegynnere – din omfattende reise inn i den transformative verdenen av Edge Artificial Intelligence. Dette kurset bygger bro mellom kraftige AI-funksjoner og praktisk, virkelighetsnær implementering på edge-enheter, og gir deg muligheten til å utnytte AI direkte der data genereres og beslutninger må tas.
Dette kurset tar deg fra grunnleggende konsepter til produksjonsklare implementeringer, og dekker:
- Små språkmodeller (SLMs) optimalisert for edge-implementering
- Maskinvarebevisst optimalisering på tvers av ulike plattformer
- Sanntidsinference med personvernbevarende funksjoner
- Produksjonsimplementeringsstrategier for bedriftsapplikasjoner
Edge AI representerer et paradigmeskifte som adresserer kritiske moderne utfordringer:
- Personvern & Sikkerhet: Behandle sensitive data lokalt uten eksponering til skyen
- Sanntidsytelse: Fjern nettverksforsinkelser for tidskritiske applikasjoner
- Kostnadseffektivitet: Reduser båndbredde- og skyberegningskostnader
- Robuste operasjoner: Oppretthold funksjonalitet under nettverksavbrudd
- Regulatorisk samsvar: Oppfyll krav til datasuverenitet
Edge AI refererer til å kjøre AI-algoritmer og språkmodeller lokalt på maskinvare, nær der data genereres, uten å være avhengig av skyressurser for inference. Det reduserer forsinkelser, forbedrer personvern og muliggjør sanntidsbeslutninger.
- Inference på enheten: AI-modeller kjører på edge-enheter (telefoner, rutere, mikrokontrollere, industrielle PC-er)
- Offline-funksjonalitet: Fungerer uten vedvarende internettforbindelse
- Lav forsinkelse: Umiddelbare responser egnet for sanntidssystemer
- Datasuverenitet: Holder sensitive data lokalt, forbedrer sikkerhet og samsvar
SLMs som Phi-4, Mistral-7B og Gemma er optimaliserte versjoner av større LLMs—trent eller destillert for:
- Redusert minnebruk: Effektiv bruk av begrenset edge-enhetsminne
- Lavere beregningskrav: Optimalisert for CPU- og edge-GPU-ytelse
- Raskere oppstartstider: Rask initialisering for responsive applikasjoner
De låser opp kraftige NLP-funksjoner samtidig som de oppfyller begrensningene til:
- Innebygde systemer: IoT-enheter og industrielle kontrollere
- Mobile enheter: Smarttelefoner og nettbrett med offline-funksjonalitet
- IoT-enheter: Sensorer og smarte enheter med begrensede ressurser
- Edge-servere: Lokale behandlingsenheter med begrensede GPU-ressurser
- Personlige datamaskiner: Desktop- og laptop-implementeringsscenarier
| Modul | Emne | Fokusområde | Nøkkelinnhold | Nivå | Varighet |
|---|---|---|---|---|---|
| 📖 00 | Introduksjon til EdgeAI | Grunnlag & Kontekst | EdgeAI Oversikt • Industriapplikasjoner • SLM Introduksjon • Læringsmål | Nybegynner | 1-2 timer |
| 📚 01 | EdgeAI Grunnleggende | Sky vs Edge AI sammenligning | EdgeAI Grunnleggende • Virkelige eksempler • Implementeringsguide • Edge-implementering | Nybegynner | 3-4 timer |
| 🧠 02 | SLM Modellgrunnlag | Modellfamilier & arkitektur | Phi Familie • Qwen Familie • Gemma Familie • BitNET • μModel • Phi-Silica | Nybegynner | 4-5 timer |
| 🚀 03 | SLM Implementeringspraksis | Lokal & skyimplementering | Avansert læring • Lokal miljø • Skyimplementering | Middels | 4-5 timer |
| ⚙️ 04 | Modelloptimaliseringsverktøy | Plattformoptimalisering | Introduksjon • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Arbeidsflytsyntese | Middels | 5-6 timer |
| 🔧 05 | SLMOps Produksjon | Produksjonsoperasjoner | SLMOps Introduksjon • Modelldestillasjon • Finjustering • Produksjonsimplementering | Avansert | 5-6 timer |
| 🤖 06 | AI-agenter & Funksjonskalling | Agentrammeverk & MCP | Agent Introduksjon • Funksjonskalling • Modellkontekstprotokoll | Avansert | 4-5 timer |
| 💻 07 | Plattformimplementering | Tverrplattformeksempler | AI Verktøysett • Foundry Lokal • Windows Utvikling | Avansert | 3-4 timer |
| 🏭 08 | Foundry Lokal Verktøysett | Produksjonsklare eksempler | Eksempelapplikasjoner (se detaljer nedenfor) | Ekspert | 8-10 timer |
- 01: REST Chat Quickstart
- 02: OpenAI SDK Integrasjon
- 03: Modelloppdagelse & Benchmarking
- 04: Chainlit RAG Applikasjon
- 05: Multi-Agent Orkestrering
- 06: Modeller-som-Verktøy Router
- 07: Direkte API Klient
- 08: Windows 11 Chat App
- 09: Avansert Multi-Agent System
- 10: Foundry Verktøyrammeverk
Omfattende praktiske workshop-materialer med produksjonsklare implementeringer:
- Workshop Guide - Fullstendige læringsmål, resultater og ressursnavigasjon
- Python Eksempler (6 økter) - Oppdatert med beste praksis, feilhåndtering og omfattende dokumentasjon
- Jupyter Notebooks (8 interaktive) - Trinn-for-trinn veiledninger med benchmarks og ytelsesovervåking
- Øktguider - Detaljerte markdown-guider for hver workshop-økt
- Valideringsverktøy - Skript for å verifisere kodekvalitet og kjøre røyktester
Hva du vil bygge:
- Lokale AI-chatapplikasjoner med streamingstøtte
- RAG-pipelines med kvalitetsvurdering (RAGAS)
- Multi-modell benchmarking og sammenligningsverktøy
- Multi-agent orkestreringssystemer
- Intelligent modellruting med oppgavebasert utvalg
- Total Varighet: 36-45 timer
- Nybegynnersti: Moduler 01-02 (7-9 timer)
- Middels sti: Moduler 03-04 (9-11 timer)
- Avansert sti: Moduler 05-07 (12-15 timer)
- Ekspertsti: Modul 08 (8-10 timer)
- Edge AI Arkitektur: Design AI-systemer med lokal-først tilnærming og skyintegrasjon
- Modelloptimalisering: Kvantisere og komprimere modeller for edge-implementering (85% hastighetsøkning, 75% størrelsesreduksjon)
- Tverrplattformimplementering: Windows, mobil, innebygd og sky-edge hybridsystemer
- Produksjonsdrift: Overvåking, skalering og vedlikehold av edge AI i produksjon
- Foundry Local Chat Apps: Windows 11-native applikasjon med modellbytte
- Multi-Agent Systems: Koordinator med spesialistagenter for komplekse arbeidsflyter
- RAG Applications: Lokal dokumentbehandling med vektorsøk
- Model Routers: Intelligent valg mellom modeller basert på oppgaveanalyse
- API Frameworks: Produksjonsklare klienter med streaming og helsesjekk
- Cross-Platform Tools: LangChain/Semantic Kernel integrasjonsmønstre
Produksjon • Helsevesen • Autonome Kjøretøy • Smarte Byer • Mobilapper
Anbefalt Læringsløp (20-30 timer totalt):
- 📖 Introduksjon (Introduction.md): EdgeAI-grunnlag + industrikontekst + læringsrammeverk
- 📚 Grunnlag (Moduler 01-02): EdgeAI-konsepter + SLM-modellfamilier
- ⚙️ Optimalisering (Moduler 03-04): Utrulling + kvantiseringsrammeverk
- 🚀 Produksjon (Moduler 05-06): SLMOps + AI-agenter + funksjonskall
- 💻 Implementering (Moduler 07-08): Plattformeksempler + Foundry Local-verktøysett
Hver modul inkluderer teori, praktiske øvelser og produksjonsklare kodeeksempler.
Tekniske Roller: EdgeAI-løsningsarkitekt • ML-ingeniør (Edge) • IoT AI-utvikler • Mobil AI-utvikler
Industrielle Sektorer: Produksjon 4.0 • Helse-teknologi • Autonome Systemer • FinTech • Forbrukerelektronikk
Porteføljeprosjekter: Multi-agent systemer • Produksjonsklare RAG-applikasjoner • Plattformuavhengig utrulling • Ytelsesoptimalisering
edgeai-for-beginners/
├── 📖 introduction.md # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/ # Fundamentals → SLMs → Deployment → Optimization
├── 🔧 Module05-06/ # SLMOps → AI Agents → Function Calling
├── 💻 Module07/ # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/ # Foundry Local Toolkit + 10 Comprehensive Samples
│ ├── samples/01-06/ # Foundation: REST, SDK, RAG, Agents, Routing
│ └── samples/07-10/ # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/ # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md # Structured learning paths & time allocation
✅ Progressiv Læring: Teori → Praktisk → Produksjonsutrulling
✅ Reelle Casestudier: Microsoft, Japan Airlines, bedriftsimplementeringer
✅ Praktiske Eksempler: 50+ eksempler, 10 omfattende Foundry Local-demoer
✅ Ytelsesfokus: 85% hastighetsforbedringer, 75% størrelsesreduksjoner
✅ Flerplattform: Windows, mobil, innebygd, sky-edge hybrid
✅ Produksjonsklar: Overvåking, skalering, sikkerhet, samsvarsrammeverk
📖 Studieguide Tilgjengelig: Strukturert 20-timers læringsløp med tidsallokering og selvvurderingsverktøy.
EdgeAI representerer fremtiden for AI-utrulling: lokal-først, personvernbevarende og effektiv. Mestre disse ferdighetene for å bygge neste generasjon av intelligente applikasjoner.
Vårt team produserer andre kurs! Sjekk ut:
Hvis du står fast eller har spørsmål om bygging av AI-applikasjoner, bli med:
Hvis du har produktinnspill eller opplever feil under bygging, besøk:
Ansvarsfraskrivelse:
Dette dokumentet er oversatt ved hjelp av AI-oversettelsestjenesten Co-op Translator. Selv om vi streber etter nøyaktighet, vær oppmerksom på at automatiserte oversettelser kan inneholde feil eller unøyaktigheter. Det originale dokumentet på sitt opprinnelige språk bør anses som den autoritative kilden. For kritisk informasjon anbefales profesjonell menneskelig oversettelse. Vi er ikke ansvarlige for misforståelser eller feiltolkninger som oppstår ved bruk av denne oversettelsen.
