Skip to content

Latest commit

 

History

History
237 lines (177 loc) · 17.5 KB

File metadata and controls

237 lines (177 loc) · 17.5 KB

EdgeAI für Anfänger

Kurs Titelbild

GitHub contributors GitHub issues GitHub pull-requests PRs Welcome

GitHub watchers GitHub forks GitHub stars

Microsoft Azure AI Foundry Discord

Folgen Sie diesen Schritten, um mit diesen Ressourcen zu beginnen:

  1. Repository forken: Klicken Sie hier GitHub forks
  2. Repository klonen: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Treten Sie dem Azure AI Foundry Discord bei und tauschen Sie sich mit Experten und anderen Entwicklern aus

🌐 Mehrsprachige Unterstützung

Unterstützt durch GitHub Action (Automatisiert & Immer aktuell)

Arabisch | Bengalisch | Bulgarisch | Birmanisch (Myanmar) | Chinesisch (vereinfacht) | Chinesisch (traditionell, Hongkong) | Chinesisch (traditionell, Macau) | Chinesisch (traditionell, Taiwan) | Kroatisch | Tschechisch | Dänisch | Niederländisch | Estnisch | Finnisch | Französisch | Deutsch | Griechisch | Hebräisch | Hindi | Ungarisch | Indonesisch | Italienisch | Japanisch | Koreanisch | Litauisch | Malaiisch | Marathi | Nepalesisch | Norwegisch | Persisch (Farsi) | Polnisch | Portugiesisch (Brasilien) | Portugiesisch (Portugal) | Punjabi (Gurmukhi) | Rumänisch | Russisch | Serbisch (kyrillisch) | Slowakisch | Slowenisch | Spanisch | Swahili | Schwedisch | Tagalog (Filipino) | Tamil | Thai | Türkisch | Ukrainisch | Urdu | Vietnamesisch

Falls Sie zusätzliche Übersetzungen wünschen, finden Sie unterstützte Sprachen hier

Einführung

Willkommen bei EdgeAI für Anfänger – Ihre umfassende Reise in die transformative Welt der Edge-Künstlichen Intelligenz. Dieser Kurs schlägt die Brücke zwischen leistungsstarken KI-Fähigkeiten und praktischen, realen Anwendungen auf Edge-Geräten, sodass Sie die Möglichkeiten der KI direkt dort nutzen können, wo Daten generiert und Entscheidungen getroffen werden müssen.

Was Sie lernen werden

Dieser Kurs führt Sie von den Grundlagen bis hin zu produktionsreifen Implementierungen und behandelt:

  • Kleine Sprachmodelle (SLMs), die für den Einsatz auf Edge-Geräten optimiert sind
  • Hardware-optimierte Lösungen für verschiedene Plattformen
  • Echtzeit-Inferenz mit datenschutzfreundlichen Funktionen
  • Produktionsstrategien für Unternehmensanwendungen

Warum EdgeAI wichtig ist

Edge AI stellt einen Paradigmenwechsel dar, der moderne Herausforderungen adressiert:

  • Datenschutz & Sicherheit: Verarbeitung sensibler Daten lokal, ohne Cloud-Exposition
  • Echtzeit-Leistung: Vermeidung von Netzwerklatenz für zeitkritische Anwendungen
  • Kostenersparnis: Reduzierung von Bandbreiten- und Cloud-Computing-Kosten
  • Robuste Betriebsfähigkeit: Funktionalität auch bei Netzwerkausfällen
  • Regulatorische Anforderungen: Einhaltung von Datenschutzbestimmungen

Edge AI

Edge AI bezieht sich auf das Ausführen von KI-Algorithmen und Sprachmodellen lokal auf Hardware, nahe der Datenquelle, ohne auf Cloud-Ressourcen für die Inferenz angewiesen zu sein. Es reduziert Latenz, verbessert den Datenschutz und ermöglicht Echtzeit-Entscheidungen.

Kernprinzipien:

  • On-Device-Inferenz: KI-Modelle laufen auf Edge-Geräten (Handys, Router, Mikrocontroller, Industrie-PCs)
  • Offline-Fähigkeit: Funktioniert ohne dauerhafte Internetverbindung
  • Niedrige Latenz: Sofortige Antworten für Echtzeitsysteme
  • Datensouveränität: Sensible Daten bleiben lokal, was Sicherheit und Compliance verbessert

Kleine Sprachmodelle (SLMs)

SLMs wie Phi-4, Mistral-7B und Gemma sind optimierte Versionen größerer LLMs – trainiert oder destilliert für:

  • Reduzierter Speicherbedarf: Effiziente Nutzung begrenzter Edge-Geräte-Ressourcen
  • Geringere Rechenanforderungen: Optimiert für CPU- und Edge-GPU-Leistung
  • Schnellere Startzeiten: Schnelle Initialisierung für reaktionsfähige Anwendungen

Sie bieten leistungsstarke NLP-Funktionen und erfüllen gleichzeitig die Anforderungen von:

  • Eingebetteten Systemen: IoT-Geräte und industrielle Steuerungen
  • Mobilgeräten: Smartphones und Tablets mit Offline-Fähigkeiten
  • IoT-Geräten: Sensoren und intelligente Geräte mit begrenzten Ressourcen
  • Edge-Servern: Lokale Verarbeitungseinheiten mit begrenzten GPU-Ressourcen
  • Personal Computern: Einsatzszenarien für Desktops und Laptops

Kursmodule & Navigation

Modul Thema Schwerpunkt Hauptinhalte Niveau Dauer
📖 00 Einführung in EdgeAI Grundlagen & Kontext Überblick über EdgeAI • Branchenanwendungen • Einführung in SLMs • Lernziele Anfänger 1-2 Std.
📚 01 Grundlagen von EdgeAI Vergleich Cloud vs Edge AI Grundlagen von EdgeAI • Fallstudien aus der Praxis • Implementierungsleitfaden • Edge-Bereitstellung Anfänger 3-4 Std.
🧠 02 SLM-Modellgrundlagen Modellfamilien & Architektur Phi-Familie • Qwen-Familie • Gemma-Familie • BitNET • μModel • Phi-Silica Anfänger 4-5 Std.
🚀 03 SLM-Bereitstellungspraxis Lokale & Cloud-Bereitstellung Fortgeschrittenes Lernen • Lokale Umgebung • Cloud-Bereitstellung Mittelstufe 4-5 Std.
⚙️ 04 Toolkit zur Modelloptimierung Plattformübergreifende Optimierung Einführung • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Workflow-Synthese Mittelstufe 5-6 Std.
🔧 05 SLMOps Produktion Produktionsbetrieb Einführung in SLMOps • Modell-Distillation • Feinabstimmung • Produktionsbereitstellung Fortgeschritten 5-6 Std.
🤖 06 KI-Agenten & Funktionsaufrufe Agenten-Frameworks & MCP Einführung in Agenten • Funktionsaufrufe • Modellkontextprotokoll Fortgeschritten 4-5 Std.
💻 07 Plattformimplementierung Plattformübergreifende Beispiele KI-Toolkit • Foundry Local • Windows-Entwicklung Fortgeschritten 3-4 Std.
🏭 08 Foundry Local Toolkit Produktionsreife Beispiele Beispielanwendungen (Details siehe unten) Experte 8-10 Std.

🏭 Modul 08: Beispielanwendungen

🎓 Workshop: Praktischer Lernpfad

Umfassende praktische Workshop-Materialien mit produktionsreifen Implementierungen:

  • Workshop-Leitfaden - Vollständige Lernziele, Ergebnisse und Ressourcennavigation
  • Python-Beispiele (6 Sitzungen) - Aktualisiert mit Best Practices, Fehlerbehandlung und umfassender Dokumentation
  • Jupyter Notebooks (8 interaktive) - Schritt-für-Schritt-Tutorials mit Benchmarks und Leistungsüberwachung
  • Sitzungsleitfäden - Detaillierte Markdown-Leitfäden für jede Workshop-Sitzung
  • Validierungstools - Skripte zur Überprüfung der Codequalität und Durchführung von Smoke-Tests

Was Sie erstellen werden:

  • Lokale KI-Chat-Anwendungen mit Streaming-Unterstützung
  • RAG-Pipelines mit Qualitätsbewertung (RAGAS)
  • Multi-Modell-Benchmarking- und Vergleichstools
  • Multi-Agenten-Orchestrierungssysteme
  • Intelligente Modell-Routing-Systeme mit aufgabenbasierter Auswahl

📊 Zusammenfassung des Lernpfads

  • Gesamtdauer: 36-45 Stunden
  • Anfängerpfad: Module 01-02 (7-9 Stunden)
  • Mittelstufenpfad: Module 03-04 (9-11 Stunden)
  • Fortgeschrittenenpfad: Module 05-07 (12-15 Stunden)
  • Expertenpfad: Modul 08 (8-10 Stunden)

Was Sie erstellen werden

🎯 Kernkompetenzen

  • Edge AI Architektur: Entwerfen Sie lokal ausgerichtete KI-Systeme mit Cloud-Integration
  • Modelloptimierung: Quantisieren und komprimieren Sie Modelle für Edge-Bereitstellungen (85 % Geschwindigkeitssteigerung, 75 % Größenreduzierung)
  • Plattformübergreifende Bereitstellung: Windows, Mobilgeräte, eingebettete Systeme und Cloud-Edge-Hybridsysteme
  • Produktionsbetrieb: Überwachung, Skalierung und Wartung von Edge-AI im Produktionsumfeld

🏗️ Praktische Projekte

  • Foundry Local Chat Apps: Native Windows 11-Anwendung mit Modellwechsel
  • Multi-Agenten-Systeme: Koordinator mit spezialisierten Agenten für komplexe Arbeitsabläufe
  • RAG-Anwendungen: Lokale Dokumentenverarbeitung mit Vektorsuche
  • Modell-Router: Intelligente Auswahl zwischen Modellen basierend auf Aufgabenanalyse
  • API-Frameworks: Produktionsreife Clients mit Streaming und Gesundheitsüberwachung
  • Plattformübergreifende Tools: Integrationsmuster für LangChain/Semantic Kernel

🏢 Branchenanwendungen

FertigungGesundheitswesenAutonome FahrzeugeSmart CitiesMobile Apps

Schnellstart

Empfohlener Lernpfad (insgesamt 20-30 Stunden):

  1. 📖 Einführung (Introduction.md): Grundlagen von EdgeAI + Branchenkontext + Lernrahmen
  2. 📚 Grundlagen (Module 01-02): EdgeAI-Konzepte + SLM-Modellfamilien
  3. ⚙️ Optimierung (Module 03-04): Bereitstellungs- + Quantisierungs-Frameworks
  4. 🚀 Produktion (Module 05-06): SLMOps + KI-Agenten + Funktionsaufrufe
  5. 💻 Implementierung (Module 07-08): Plattformbeispiele + Foundry Local Toolkit

Jedes Modul enthält Theorie, praktische Übungen und produktionsreife Codebeispiele.

Karriereauswirkungen

Technische Rollen: EdgeAI Solutions Architect • ML Engineer (Edge) • IoT AI Developer • Mobile AI Developer

Branchen: Fertigung 4.0 • Gesundheitstechnologie • Autonome Systeme • FinTech • Unterhaltungselektronik

Portfolio-Projekte: Multi-Agenten-Systeme • Produktionsreife RAG-Anwendungen • Plattformübergreifende Bereitstellung • Leistungsoptimierung

Repository-Struktur

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Kurs-Highlights

Progressives Lernen: Theorie → Praxis → Produktionsbereitstellung
Echte Fallstudien: Microsoft, Japan Airlines, Unternehmensimplementierungen
Praktische Beispiele: Über 50 Beispiele, 10 umfassende Foundry Local Demos
Leistungsfokus: 85 % Geschwindigkeitsverbesserungen, 75 % Größenreduzierungen
Plattformübergreifend: Windows, Mobilgeräte, Embedded, Cloud-Edge-Hybride
Produktionsreife: Überwachung, Skalierung, Sicherheit, Compliance-Frameworks

📖 Lernleitfaden verfügbar: Strukturierter 20-Stunden-Lernpfad mit Zeitplanung und Selbstbewertungstools.


EdgeAI repräsentiert die Zukunft der KI-Bereitstellung: lokal, datenschutzfreundlich und effizient. Beherrschen Sie diese Fähigkeiten, um die nächste Generation intelligenter Anwendungen zu entwickeln.

Weitere Kurse

Unser Team bietet weitere Kurse an! Schauen Sie sich an:

Hilfe erhalten

Wenn Sie nicht weiterkommen oder Fragen zum Aufbau von KI-Anwendungen haben, treten Sie bei:

Azure AI Foundry Discord

Wenn Sie Produktfeedback geben oder Fehler beim Aufbau melden möchten, besuchen Sie:

Azure AI Foundry Developer Forum


Haftungsausschluss:
Dieses Dokument wurde mit dem KI-Übersetzungsdienst Co-op Translator übersetzt. Obwohl wir uns um Genauigkeit bemühen, beachten Sie bitte, dass automatisierte Übersetzungen Fehler oder Ungenauigkeiten enthalten können. Das Originaldokument in seiner ursprünglichen Sprache sollte als maßgebliche Quelle betrachtet werden. Für kritische Informationen wird eine professionelle menschliche Übersetzung empfohlen. Wir übernehmen keine Haftung für Missverständnisse oder Fehlinterpretationen, die sich aus der Nutzung dieser Übersetzung ergeben.