Skip to content

Latest commit

 

History

History
209 lines (157 loc) · 14.8 KB

File metadata and controls

209 lines (157 loc) · 14.8 KB

EdgeAI for Begyndere

Kursus forsidebillede

GitHub bidragydere GitHub problemer GitHub pull-requests PRs Velkommen

GitHub følgere GitHub forks GitHub stjerner

Microsoft Azure AI Foundry Discord

Følg disse trin for at komme i gang med at bruge ressourcerne:

  1. Fork Repositoriet: Klik GitHub forks
  2. Klon Repositoriet: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Deltag i Azure AI Foundry Discord og mød eksperter og andre udviklere

🌐 Flersproget Support

Understøttet via GitHub Action (Automatisk & Altid Opdateret)

Arabisk | Bengali | Bulgarsk | Burmesisk (Myanmar) | Kinesisk (Forenklet) | Kinesisk (Traditionelt, Hong Kong) | Kinesisk (Traditionelt, Macau) | Kinesisk (Traditionelt, Taiwan) | Kroatisk | Tjekkisk | Dansk | Hollandsk | Finsk | Fransk | Tysk | Græsk | Hebraisk | Hindi | Ungarsk | Indonesisk | Italiensk | Japansk | Koreansk | Malay | Marathi | Nepalesisk | Norsk | Persisk (Farsi) | Polsk | Portugisisk (Brasilien) | Portugisisk (Portugal) | Punjabi (Gurmukhi) | Rumænsk | Russisk | Serbisk (Kyrillisk) | Slovakisk | Slovensk | Spansk | Swahili | Svensk | Tagalog (Filippinsk) | Thai | Tyrkisk | Ukrainsk | Urdu | Vietnamesisk

Hvis du ønsker yderligere oversættelser, er understøttede sprog listet her

Introduktion

Velkommen til EdgeAI for Begyndere – din omfattende rejse ind i den transformative verden af Edge Artificial Intelligence. Dette kursus bygger bro mellem kraftfulde AI-funktioner og praktisk, virkelighedsnær implementering på edge-enheder, hvilket giver dig mulighed for at udnytte AI's potentiale direkte der, hvor data genereres, og beslutninger skal træffes.

Hvad Du Vil Mestre

Dette kursus tager dig fra grundlæggende begreber til produktionsklare implementeringer og dækker:

  • Små Sproglige Modeller (SLMs) optimeret til edge-implementering
  • Hardware-bevidst optimering på tværs af forskellige platforme
  • Realtidsinference med privatlivsbevarende funktioner
  • Produktionsimplementeringsstrategier til virksomhedsapplikationer

Hvorfor EdgeAI Er Vigtigt

Edge AI repræsenterer et paradigmeskift, der adresserer moderne udfordringer:

  • Privatliv & Sikkerhed: Behandl følsomme data lokalt uden eksponering til skyen
  • Realtidsydelse: Fjern netværksforsinkelse for tidskritiske applikationer
  • Omkostningseffektivitet: Reducer båndbredde og cloud computing-udgifter
  • Robuste Operationer: Oprethold funktionalitet under netværksudfald
  • Regulatorisk Overholdelse: Opfyld krav til datasuverænitet

Edge AI

Edge AI refererer til at køre AI-algoritmer og sproglige modeller lokalt på hardware, tæt på hvor data genereres, uden at være afhængig af cloud-ressourcer til inference. Det reducerer forsinkelse, forbedrer privatliv og muliggør beslutningstagning i realtid.

Kerneprincipper:

  • Inference på enheden: AI-modeller kører på edge-enheder (telefoner, routere, mikrocontrollere, industrielle PC'er)
  • Offline kapacitet: Fungerer uden konstant internetforbindelse
  • Lav forsinkelse: Øjeblikkelige svar, der passer til realtidssystemer
  • Datasuverænitet: Holder følsomme data lokalt, hvilket forbedrer sikkerhed og overholdelse

Små Sproglige Modeller (SLMs)

SLMs som Phi-4, Mistral-7B og Gemma er optimerede versioner af større LLMs – trænet eller destilleret til:

  • Reduceret hukommelsesforbrug: Effektiv brug af begrænset edge-enhedshukommelse
  • Lavere beregningskrav: Optimeret til CPU og edge GPU-ydelse
  • Hurtigere opstartstider: Hurtig initialisering til responsive applikationer

De låser op for kraftfulde NLP-funktioner, mens de opfylder begrænsningerne for:

  • Indlejrede systemer: IoT-enheder og industrielle controllere
  • Mobile enheder: Smartphones og tablets med offline kapacitet
  • IoT-enheder: Sensorer og smarte enheder med begrænsede ressourcer
  • Edge-servere: Lokale behandlingsenheder med begrænsede GPU-ressourcer
  • Personlige computere: Desktop- og laptop-implementeringsscenarier

Kursusmoduler & Navigation

Modul Emne Fokusområde Nøgleindhold Niveau Varighed
📖 00 Introduktion til EdgeAI Fundament & Kontekst EdgeAI Oversigt • Industriapplikationer • SLM Introduktion • Læringsmål Begynder 1-2 timer
📚 01 EdgeAI Grundlæggende Cloud vs Edge AI sammenligning EdgeAI Grundlæggende • Virkelige Case Studies • Implementeringsguide • Edge Implementering Begynder 3-4 timer
🧠 02 SLM Model Fundamenter Modelfamilier & arkitektur Phi Familie • Qwen Familie • Gemma Familie • BitNET • μModel • Phi-Silica Begynder 4-5 timer
🚀 03 SLM Implementeringspraksis Lokal & cloud implementering Avanceret Læring • Lokal Miljø • Cloud Implementering Mellem 4-5 timer
⚙️ 04 Model Optimeringsværktøj Tværplatformsoptimering Introduktion • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Workflow Syntese Mellem 5-6 timer
🔧 05 SLMOps Produktion Produktionsoperationer SLMOps Introduktion • Model Destillation • Finjustering • Produktionsimplementering Avanceret 5-6 timer
🤖 06 AI Agenter & Funktionskald Agentrammer & MCP Agent Introduktion • Funktionskald • Model Context Protocol Avanceret 4-5 timer
💻 07 Platform Implementering Tværplatforms eksempler AI Værktøjssæt • Foundry Lokal • Windows Udvikling Avanceret 3-4 timer
🏭 08 Foundry Lokal Værktøjssæt Produktionsklare eksempler Eksempelapplikationer (se detaljer nedenfor) Ekspert 8-10 timer

🏭 Modul 08: Eksempelapplikationer

📊 Læringssti Oversigt

  • Total Varighed: 36-45 timer
  • Begyndersti: Moduler 01-02 (7-9 timer)
  • Mellemsti: Moduler 03-04 (9-11 timer)
  • Avanceret sti: Moduler 05-07 (12-15 timer)
  • Ekspertsti: Modul 08 (8-10 timer)

Hvad Du Vil Bygge

🎯 Kernekompetencer

  • Edge AI Arkitektur: Design lokale AI-systemer med cloud-integration
  • Modeloptimering: Kvantisér og komprimer modeller til edge-implementering (85% hastighedsforøgelse, 75% størrelsesreduktion)
  • Tværplatformsimplementering: Windows, mobil, indlejret og cloud-edge hybrid systemer
  • Produktionsoperationer: Overvågning, skalering og vedligeholdelse af edge AI i produktion

🏗️ Praktiske Projekter

  • Foundry Lokal Chat Apps: Windows 11 native applikation med modelskift
  • Multi-Agent Systemer: Koordinator med specialiserede agenter til komplekse arbejdsgange
  • RAG Applikationer: Lokal dokumentbehandling med vektorsøgning
  • Model Routers: Intelligent valg mellem modeller baseret på opgaveanalyse
  • API Frameworks: Produktionsklare klienter med streaming og sundhedsovervågning
  • Tværplatforms Værktøjer: LangChain/Semantic Kernel integrationsmønstre

🏢 Industriapplikationer

ProduktionSundhedsplejeAutonome KøretøjerSmarte ByerMobile Apps

Hurtig Start

Anbefalet Læringssti (20-30 timer i alt):

  1. 📖 Introduktion (Introduction.md): EdgeAI fundament + industri kontekst + læringsramme
  2. 📚 Fundament (Moduler 01-02): EdgeAI begreber + SLM modelfamilier
  3. ⚙️ Optimering (Moduler 03-04): Implementering + kvantiseringsværktøjer
  4. 🚀 Produktion (Moduler 05-06): SLMOps + AI-agenter + funktionskald
  5. 💻 Implementering (Moduler 07-08): Platformeksempler + Foundry Local værktøjssæt

Hvert modul inkluderer teori, praktiske øvelser og produktionsklare kodeeksempler.

Karrierepåvirkning

Tekniske roller: EdgeAI Solutions Architect • ML Engineer (Edge) • IoT AI Developer • Mobile AI Developer

Industrier: Produktion 4.0 • Sundhedsteknologi • Autonome systemer • FinTech • Forbrugerelektronik

Porteføljeprojekter: Multi-agent systemer • Produktionsklare RAG-apps • Cross-platform implementering • Performanceoptimering

Repositorystruktur

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Kursushøjdepunkter

Progressiv læring: Teori → Praktik → Produktionsimplementering
Reelle casestudier: Microsoft, Japan Airlines, virksomhedsløsninger
Praktiske eksempler: 50+ eksempler, 10 omfattende Foundry Local demoer
Performancefokus: 85% hastighedsforbedringer, 75% størrelsesreduktioner
Multi-platform: Windows, mobil, embedded, cloud-edge hybrid
Produktionsklar: Overvågning, skalering, sikkerhed, compliance-rammer

📖 Studievejledning tilgængelig: Struktureret 20-timers læringsplan med tidsallokering og selvvurderingsværktøjer.


EdgeAI repræsenterer fremtiden for AI-implementering: lokal-først, privatlivsbevarende og effektiv. Mestér disse færdigheder for at bygge næste generation af intelligente applikationer.

Andre kurser

Vores team tilbyder også andre kurser! Tjek: