Skip to content

Latest commit

 

History

History
237 lines (177 loc) · 16.7 KB

File metadata and controls

237 lines (177 loc) · 16.7 KB

EdgeAI for Nybegynnere

Kursforsidebilde

GitHub bidragsytere GitHub problemer GitHub pull-requests PRs Velkommen

GitHub følgere GitHub forks GitHub stjerner

Microsoft Azure AI Foundry Discord

Følg disse trinnene for å komme i gang med ressursene:

  1. Fork Repository: Klikk GitHub forks
  2. Klon Repository: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Bli med på Azure AI Foundry Discord og møt eksperter og andre utviklere

🌐 Støtte for flere språk

Støttet via GitHub Action (Automatisk & Alltid Oppdatert)

Arabisk | Bengali | Bulgarsk | Burmesisk (Myanmar) | Kinesisk (Forenklet) | Kinesisk (Tradisjonell, Hong Kong) | Kinesisk (Tradisjonell, Macau) | Kinesisk (Tradisjonell, Taiwan) | Kroatisk | Tsjekkisk | Dansk | Nederlandsk | Estisk | Finsk | Fransk | Tysk | Gresk | Hebraisk | Hindi | Ungarsk | Indonesisk | Italiensk | Japansk | Koreansk | Litauisk | Malayisk | Marathi | Nepalsk | Norsk | Persisk (Farsi) | Polsk | Portugisisk (Brasil) | Portugisisk (Portugal) | Punjabi (Gurmukhi) | Rumensk | Russisk | Serbisk (Kyrillisk) | Slovakisk | Slovensk | Spansk | Swahili | Svensk | Tagalog (Filippinsk) | Tamil | Thai | Tyrkisk | Ukrainsk | Urdu | Vietnamesisk

Hvis du ønsker å få støtte for flere oversettelsesspråk, finner du en liste her

Introduksjon

Velkommen til EdgeAI for Nybegynnere – din omfattende reise inn i den transformative verdenen av Edge Artificial Intelligence. Dette kurset bygger bro mellom kraftige AI-funksjoner og praktisk, virkelighetsnær implementering på edge-enheter, slik at du kan utnytte AI direkte der data genereres og beslutninger må tas.

Hva Du Vil Mestre

Dette kurset tar deg fra grunnleggende konsepter til produksjonsklare implementeringer, og dekker:

  • Små Språkmodeller (SLMs) optimalisert for edge-distribusjon
  • Maskinvarebevisst optimalisering på tvers av ulike plattformer
  • Sanntidsinferens med personvernbevarende funksjoner
  • Produksjonsdistribusjonsstrategier for bedriftsapplikasjoner

Hvorfor EdgeAI Er Viktig

Edge AI representerer et paradigmeskifte som adresserer moderne utfordringer:

  • Personvern & Sikkerhet: Behandle sensitive data lokalt uten eksponering til skyen
  • Sanntidsytelse: Fjern nettverksforsinkelser for tidskritiske applikasjoner
  • Kostnadseffektivitet: Reduser båndbredde og skyberegningskostnader
  • Robuste Operasjoner: Oppretthold funksjonalitet under nettverksbrudd
  • Regulatorisk Samsvar: Oppfyll krav til datasuverenitet

Edge AI

Edge AI refererer til å kjøre AI-algoritmer og språkmodeller lokalt på maskinvare, nær der data genereres, uten å være avhengig av skyressurser for inferens. Det reduserer forsinkelser, forbedrer personvern og muliggjør sanntidsbeslutninger.

Kjerneprinsipper:

  • På-enhet inferens: AI-modeller kjører på edge-enheter (telefoner, rutere, mikrokontrollere, industrielle PC-er)
  • Offline-funksjonalitet: Fungerer uten vedvarende internettforbindelse
  • Lav forsinkelse: Umiddelbare responser egnet for sanntidssystemer
  • Datasuverenitet: Holder sensitive data lokalt, forbedrer sikkerhet og samsvar

Små Språkmodeller (SLMs)

SLMs som Phi-4, Mistral-7B og Gemma er optimaliserte versjoner av større LLMs—trent eller destillert for:

  • Redusert minnebruk: Effektiv bruk av begrenset minne på edge-enheter
  • Lavere beregningskrav: Optimalisert for CPU og edge GPU-ytelse
  • Raskere oppstartstider: Rask initialisering for responsive applikasjoner

De gir kraftige NLP-funksjoner samtidig som de oppfyller begrensningene til:

  • Innebygde systemer: IoT-enheter og industrielle kontrollere
  • Mobile enheter: Smarttelefoner og nettbrett med offline-funksjonalitet
  • IoT-enheter: Sensorer og smarte enheter med begrensede ressurser
  • Edge-servere: Lokale behandlingsenheter med begrensede GPU-ressurser
  • Personlige datamaskiner: Distribusjonsscenarier for stasjonære og bærbare datamaskiner

Kursmoduler & Navigasjon

Modul Emne Fokusområde Nøkkelinnhold Nivå Varighet
📖 00 Introduksjon til EdgeAI Grunnlag & Kontekst EdgeAI Oversikt • Industriapplikasjoner • SLM Introduksjon • Læringsmål Nybegynner 1-2 timer
📚 01 EdgeAI Grunnleggende Sammenligning av sky og Edge AI EdgeAI Grunnleggende • Virkelige Casestudier • Implementeringsguide • Edge-distribusjon Nybegynner 3-4 timer
🧠 02 SLM Modell Grunnlag Modellslekter & arkitektur Phi-familien • Qwen-familien • Gemma-familien • BitNET • μModel • Phi-Silica Nybegynner 4-5 timer
🚀 03 SLM Distribusjonspraksis Lokal & sky-distribusjon Avansert Læring • Lokal Miljø • Sky-distribusjon Middels 4-5 timer
⚙️ 04 Modelloptimaliseringsverktøy Tverrplattformoptimalisering Introduksjon • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Arbeidsflytsyntese Middels 5-6 timer
🔧 05 SLMOps Produksjon Produksjonsoperasjoner SLMOps Introduksjon • Modell Destillasjon • Finjustering • Produksjonsdistribusjon Avansert 5-6 timer
🤖 06 AI Agenter & Funksjonskalling Agentrammeverk & MCP Agent Introduksjon • Funksjonskalling • Modellkontekstprotokoll Avansert 4-5 timer
💻 07 Plattformimplementering Tverrplattformeksempler AI Verktøysett • Foundry Lokal • Windows Utvikling Avansert 3-4 timer
🏭 08 Foundry Lokal Verktøysett Produksjonsklare eksempler Eksempelapplikasjoner (se detaljer nedenfor) Ekspert 8-10 timer

🏭 Modul 08: Eksempelapplikasjoner

🎓 Workshop: Praktisk Læringssti

Omfattende praktiske workshop-materialer med produksjonsklare implementeringer:

  • Workshop Guide - Fullstendige læringsmål, resultater og ressursnavigasjon
  • Python Eksempler (6 økter) - Oppdatert med beste praksis, feilhåndtering og omfattende dokumentasjon
  • Jupyter Notebooks (8 interaktive) - Trinn-for-trinn veiledninger med benchmarking og ytelsesovervåking
  • Øktguider - Detaljerte markdown-guider for hver workshop-økt
  • Valideringsverktøy - Skript for å verifisere kodekvalitet og kjøre røyktester

Hva Du Vil Bygge:

  • Lokale AI chat-applikasjoner med streamingstøtte
  • RAG-pipelines med kvalitetsvurdering (RAGAS)
  • Multi-modell benchmarking og sammenligningsverktøy
  • Multi-agent orkestreringssystemer
  • Intelligent modellruting med oppgavebasert utvalg

📊 Læringssti Sammendrag

  • Total Varighet: 36-45 timer
  • Nybegynnersti: Moduler 01-02 (7-9 timer)
  • Middelssti: Moduler 03-04 (9-11 timer)
  • Avansert sti: Moduler 05-07 (12-15 timer)
  • Ekspertsti: Modul 08 (8-10 timer)

Hva Du Vil Bygge

🎯 Kjernekompetanser

  • Edge AI Arkitektur: Design AI-systemer med lokal-først tilnærming og skyintegrasjon
  • Modelloptimalisering: Kvantisere og komprimere modeller for edge-distribusjon (85% hastighetsøkning, 75% størrelsesreduksjon)
  • Tverrplattformdistribusjon: Windows, mobil, innebygd og sky-edge hybride systemer
  • Produksjonsoperasjoner: Overvåking, skalering og vedlikehold av Edge AI i produksjon

🏗️ Praktiske Prosjekter

  • Foundry Local Chat Apps: Windows 11-native applikasjon med modellbytte
  • Multi-Agent Systems: Koordinator med spesialistagenter for komplekse arbeidsflyter
  • RAG-applikasjoner: Lokal dokumentbehandling med vektorsøk
  • Modellrutere: Intelligent valg mellom modeller basert på oppgaveanalyse
  • API-rammeverk: Produksjonsklare klienter med strømming og helsetilstandsovervåking
  • Plattformuavhengige verktøy: LangChain/Semantic Kernel integrasjonsmønstre

🏢 Bransjeapplikasjoner

ProduksjonHelsevesenAutonome kjøretøySmarte byerMobilapper

Kom i gang

Anbefalt læringssti (totalt 20-30 timer):

  1. 📖 Introduksjon (Introduction.md): Grunnleggende om EdgeAI + bransjekontekst + læringsrammeverk
  2. 📚 Grunnlag (Moduler 01-02): EdgeAI-konsepter + SLM-modellfamilier
  3. ⚙️ Optimalisering (Moduler 03-04): Distribusjon + kvantiseringsrammeverk
  4. 🚀 Produksjon (Moduler 05-06): SLMOps + AI-agenter + funksjonskall
  5. 💻 Implementering (Moduler 07-08): Plattformeksempler + Foundry Local-verktøykasse

Hver modul inkluderer teori, praktiske øvelser og produksjonsklare kodeeksempler.

Karrieremuligheter

Tekniske roller: EdgeAI Solutions Architect • ML-ingeniør (Edge) • IoT AI-utvikler • Mobil AI-utvikler

Bransjesektorer: Produksjon 4.0 • Helse-teknologi • Autonome systemer • FinTech • Forbrukerelektronikk

Porteføljeprosjekter: Multi-agent systemer • Produksjonsklare RAG-applikasjoner • Plattformuavhengig distribusjon • Ytelsesoptimalisering

Repositoriumstruktur

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Kurs høydepunkter

Progressiv læring: Teori → Praksis → Produksjonsdistribusjon
Reelle casestudier: Microsoft, Japan Airlines, bedriftsimplementeringer
Praktiske eksempler: 50+ eksempler, 10 omfattende Foundry Local-demoer
Ytelsesfokus: 85 % hastighetsforbedringer, 75 % størrelsesreduksjoner
Flerplattform: Windows, mobil, innebygd, hybrid sky-edge
Produksjonsklar: Overvåking, skalering, sikkerhet, samsvarsrammeverk

📖 Studieveiledning tilgjengelig: Strukturert 20-timers læringssti med tidsallokering og selvvurderingsverktøy.


EdgeAI representerer fremtiden for AI-distribusjon: lokal-først, personvernvennlig og effektiv. Mestre disse ferdighetene for å bygge neste generasjon av intelligente applikasjoner.

Andre kurs

Vårt team produserer også andre kurs! Sjekk ut:

Få hjelp

Hvis du står fast eller har spørsmål om å bygge AI-applikasjoner, bli med:

Azure AI Foundry Discord

Hvis du har produktfeedback eller opplever feil under bygging, besøk:

Azure AI Foundry Developer Forum


Ansvarsfraskrivelse:
Dette dokumentet er oversatt ved hjelp av AI-oversettelsestjenesten Co-op Translator. Selv om vi streber etter nøyaktighet, vær oppmerksom på at automatiserte oversettelser kan inneholde feil eller unøyaktigheter. Det originale dokumentet på sitt opprinnelige språk bør anses som den autoritative kilden. For kritisk informasjon anbefales profesjonell menneskelig oversettelse. Vi er ikke ansvarlige for misforståelser eller feiltolkninger som oppstår ved bruk av denne oversettelsen.