Skip to content

Latest commit

 

History

History
319 lines (239 loc) · 24.6 KB

File metadata and controls

319 lines (239 loc) · 24.6 KB

EdgeAI pentru Începători

Imaginea de copertă a cursului

Contributori GitHub Probleme GitHub Cereri de tragere GitHub PR-uri binevenite

Urmăritori GitHub Bifurcații GitHub Stele GitHub

Microsoft Foundry Discord

Urmați acești pași pentru a începe să utilizați aceste resurse:

  1. Bifurcați Repositorul: Dați clic pe Bifurcăți GitHub
  2. Clonați Repositorul: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Alăturați-vă Discord-ului Azure AI Foundry și întâlniți experți și alți dezvoltatori

🌐 Suport Multi-Limbă

Susținut prin GitHub Action (automat și mereu actualizat)

Arabic | Bengali | Bulgarian | Burmese (Myanmar) | Chinese (Simplified) | Chinese (Traditional, Hong Kong) | Chinese (Traditional, Macau) | Chinese (Traditional, Taiwan) | Croatian | Czech | Danish | Dutch | Estonian | Finnish | French | German | Greek | Hebrew | Hindi | Hungarian | Indonesian | Italian | Japanese | Kannada | Khmer | Korean | Lithuanian | Malay | Malayalam | Marathi | Nepali | Nigerian Pidgin | Norwegian | Persian (Farsi) | Polish | Portuguese (Brazil) | Portuguese (Portugal) | Punjabi (Gurmukhi) | Romanian | Russian | Serbian (Cyrillic) | Slovak | Slovenian | Spanish | Swahili | Swedish | Tagalog (Filipino) | Tamil | Telugu | Thai | Turkish | Ukrainian | Urdu | Vietnamese

Preferi să clonezi local?

Acest repository include peste 50 de traduceri de limbi care măresc semnificativ dimensiunea descărcării. Pentru a clona fără traduceri, folosește sparse checkout:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

Acest lucru îți oferă tot ce ai nevoie pentru a finaliza cursul cu o descărcare mult mai rapidă.

Dacă dorești să fie suportate limbi suplimentare pentru traduceri, sunt listate aici

Introducere

Bine ai venit la EdgeAI pentru Începători – călătoria ta cuprinzătoare în lumea transformatoare a Inteligenței Artificiale la margine. Acest curs face legătura între capabilitățile puternice AI și implementarea practică, din lumea reală, pe dispozitive edge, oferindu-ți puterea de a valorifica potențialul AI direct acolo unde datele sunt generate și deciziile trebuie luate.

Ce vei stăpâni

Acest curs te duce de la conceptele fundamentale la implementări gata de producție, acoperind:

  • Modele Lingvistice Mici (SLM-uri) optimizate pentru implementarea la margine
  • Optimizare conștientă de hardware pe diverse platforme
  • Inferență în timp real cu capabilități de protecție a confidențialității
  • Strategii de implementare în producție pentru aplicații enterprise

De ce contează EdgeAI

Edge AI reprezintă o schimbare de paradigmă care abordează provocări critice moderne:

  • Confidențialitate & Securitate: Procesează date sensibile local, fără expunere în cloud
  • Performanță în timp real: Elimină latența rețelei pentru aplicații critice temporal
  • Eficiență de cost: Reduce costurile de bandă și calcul cloud
  • Operațiuni rezistente: Menține funcționalitatea în timpul căderilor de rețea
  • Conformitate reglementară: Respectă cerințele de suveranitate a datelor

Edge AI

Edge AI se referă la rularea algoritmilor AI și modelelor lingvistice local, aproape de locul unde sunt generate datele, fără a depinde de resurse cloud pentru inferență. Reduce latența, îmbunătățește confidențialitatea și permite luarea deciziilor în timp real.

Principii de bază:

  • Inferență la nivel de dispozitiv: Modelele AI rulează pe dispozitive edge (telefoane, routere, microcontrolere, PC-uri industriale)
  • Capacitate offline: Funcționează fără conexiune persistentă la internet
  • Latență mică: Răspuns imediat care se potrivește sistemelor în timp real
  • Suveranitate asupra datelor: Păstrează datele sensibile local, îmbunătățind securitatea și conformitatea

Modele Lingvistice Mici (SLM-uri)

SLM-urile precum Phi-4, Mistral-7B și Gemma sunt versiuni optimizate ale modelor LLM mai mari — antrenate sau distilate pentru:

  • Amprentă de memorie redusă: Utilizare eficientă a memoriei limitate a dispozitivelor edge
  • Cerere de calcul redusă: Optimizate pentru performanța CPU și GPU edge
  • Timp de inițializare rapid: Pornire rapidă pentru aplicații responsive

Ele deblochează capabilități NLP puternice respectând constrângerile:

  • Sisteme integrate: Dispozitive IoT și controlere industriale
  • Dispozitive mobile: Smartphone-uri și tablete cu capabilități offline
  • Dispozitive IoT: Senzori și dispozitive inteligente cu resurse limitate
  • Servere edge: Unități locale de procesare cu resurse GPU limitate
  • Calculatoare personale: Scenarii de implementare desktop și laptop

Modulele cursului & Navigare

Modul Subiect Domeniu de interes Conținut cheie Nivel Durată
📖 00 Introducere în EdgeAI Fundamente & context Prezentare EdgeAI • Aplicații industriale • Introducere SLM • Obiective de învățare Începător 1-2 ore
📚 01 Fundamente EdgeAI Comparatie Cloud vs Edge AI Fundamente EdgeAI • Studii de caz din lumea reală • Ghid de implementare • Implementare la margine Începător 3-4 ore
🧠 02 Fundamentele modelului SLM Familii de modele & arhitectură Familia Phi • Familia Qwen • Familia Gemma • BitNET • μModel • Phi-Silica Începător 4-5 ore
🚀 03 Practică implementare SLM Implementare locală & cloud Învațare avansată • Mediu local • Implementare cloud Intermediar 4-5 ore
⚙️ 04 Set de instrumente pentru optimizarea modelelor Optimizare cross-platform Introducere • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Sinteza fluxurilor de lucru Intermediar 5-6 ore
🔧 05 SLMOps în producție Operațiuni în producție Introducere SLMOps • Distilarea modelelor • Ajustarea fină • Implementare în producție Avansat 5-6 ore
🤖 06 Agenți AI & Apelarea funcțiilor Cadre pentru agenți & MCP Introducere în agenți • Apelarea funcțiilor • Protocolul Contextului modelului Avansat 4-5 ore
💻 07 Implementarea pe platforme Exemple cross-platform Toolkit AI • Foundry Local • Dezvoltare Windows Avansat 3-4 ore
🏭 08 Toolkit Foundry Local Exemple gata pentru producție Aplicații de exemplu (vezi detalii mai jos) Expert 8-10 ore

🏭 Modul 08: Aplicații de exemplu

🎓 Atelier: Parcurs practic de învățare

Materiale complete pentru atelier practic cu implementări gata pentru producție:

  • Ghid Atelier - Obiective complete de învățare, rezultate și navigarea resurselor
  • Exemple Python (6 sesiuni) - Actualizate cu cele mai bune practici, tratarea erorilor și documentație cuprinzătoare
  • Jupyter Notebooks (8 interactive) - Tutoriale pas cu pas cu benchmark-uri și monitorizare performanță
  • Ghiduri de sesiune - Ghiduri detaliate în markdown pentru fiecare sesiune a atelierului
  • Instrumente de validare - Scripturi pentru verificarea calității codului și efectuarea de teste rapide

Ce vei construi:

  • Aplicații AI de chat locale cu suport de streaming
  • Țevi RAG cu evaluare a calității (RAGAS)
  • Instrumente de benchmarking și comparație multi-model
  • Sisteme de orchestrare multi-agent
  • Rutare inteligentă a modelelor cu selecție pe bază de sarcină

🎙️ Atelier pentru Agentic: Hands-On - Studioul de Podcast AI

Construiește un flux de producție podcast alimentat de AI de la zero! Acest atelier captivant te învață să creezi un sistem complet multi-agent care transformă ideile în episoade profesionale de podcast.

🎬 Începe Atelierul AI Podcast Studio

Misiunea Ta: Lansează „Future Bytes” — un podcast tehnologic alimentat integral de agenți AI pe care îi vei construi singur. Fără dependențe cloud, fără costuri API — totul rulează local pe mașina ta.

Ce face acest curs unic:

  • 🤖 Orchestrare Reală Multi-Agent - Construiește agenți AI specializați care cercetează, scriu și produc audio
  • 🎯 Flux Complet de Producție - De la selecția subiectului până la produsul final audio podcast
  • 💻 Implementare 100% Locală - Utilizează Ollama și modele locale (Qwen-3-8B) pentru confidențialitate și control total
  • 🎤 Integrare Text-în-Vorbire - Transformă scripturi în conversații naturale multi-vorbitor
  • ✋ Fluxuri de lucru cu intervenție umană - Porți de aprobare care garantează calitatea menținând automatizarea

Călătorie de învățare în trei acte:

Act Focus Competențe cheie Durată
Act 1: Cunoaște-ți asistenții AI Construiește primul tău agent AI Integrare unelte • Căutare web • Rezolvarea problemelor • Raționament agentic 2-3 ore
Act 2: Adună echipa ta de producție Orchestrarea mai multor agenți Coordonare echipă • Fluxuri de aprobare • Interfață DevUI • Supraveghere umană 3-4 ore
Act 3: Dă viață podcastului tău Generează audio pentru podcast Text-în-vorbire • Sinteză multi-vorbitor • Audio pe termen lung • Automatizare completă 2-3 ore

Tehnologii folosite:

  • Microsoft Agent Framework - Orchestrarea și coordonarea multi-agent
  • Ollama - Runtime modele AI locale (fără cloud necesar)
  • Qwen-3-8B - Model lingvistic open-source optimizat pentru sarcini agentice
  • API-uri Text-în-Vorbire - Sinteză vocală naturală pentru generarea podcastului

Suport hardware:

  • Mod CPU - Funcționează pe orice computer modern (recomandat 8GB+ RAM)
  • 🚀 Accelerație GPU - Inferență mult mai rapidă cu GPU-uri NVIDIA/AMD
  • Suport NPU - Accelerație unitate neurală de generație următoare

Perfect pentru:

  • Dezvoltatori care învață sisteme AI multi-agent
  • Oricine este interesat de automatizarea AI și fluxurile de lucru
  • Creatori de conținut care explorează producția asistată de AI
  • Studenți care studiază modele practice de orchestrare AI

Începe să construiești: 🎙️ Atelierul AI Podcast Studio →

📊 Rezumat Parcurs de Învățare

  • Durata totală: 36-45 ore
  • Parcurs Începători: Modulele 01-02 (7-9 ore)
  • Parcurs Intermediar: Modulele 03-04 (9-11 ore)
  • Parcurs Avansat: Modulele 05-07 (12-15 ore)
  • Parcurs Expert: Modulul 08 (8-10 ore)

Ce vei construi

🎯 Competențe centrale

  • Arhitectură AI Edge: Proiectează sisteme AI cu prioritate locală și integrare cloud
  • Optimizare modele: Cuantizează și comprimă modele pentru implementare edge (creștere viteză 85%, reducere dimensiune 75%)
  • Implementare multi-platformă: Windows, mobil, embedded și sisteme hibride cloud-edge
  • Operațiuni de producție: Monitorizare, scalare și întreținere AI edge în producție

🏗️ Proiecte practice

  • Aplicații chat Foundry Local: Aplicație nativă Windows 11 cu comutare modele
  • Sisteme multi-agent: Coordonator cu agenți specializați pentru fluxuri complexe
  • Aplicații RAG: Procesare locală a documentelor cu căutare vectorială
  • Routere de modele: Selecție inteligentă între modele bazată pe analiza sarcinii
  • Framework-uri API: Clienți producție ready cu streaming și monitorizare sănătate
  • Unelte cross-platform: Modele de integrare LangChain/Semantic Kernel

🏢 Aplicații în industrie

ProducțieSănătateVehicule autonomeOrașe inteligenteAplicații mobile

Pornire rapidă

Parcurs recomandat (20-30 ore total):

  1. 📖 Introducere (Introduction.md): Fundamente EdgeAI + context industrial + cadru de învățare
  2. 📚 Bază (Module 01-02): Concepte EdgeAI + familii modele SLM
  3. ⚙️ Optimizare (Module 03-04): Implementare + framework-uri cuantizare
  4. 🚀 Producție (Module 05-06): SLMOps + agenți AI + apel funcții
  5. 💻 Implementare (Module 07-08): Exemple platformă + toolkit Foundry Local

Fiecare modul include teorie, exerciții practice și cod gata de producție.

Impact în carieră

Roluri tehnice: Arhitect soluții EdgeAI • Inginer ML (Edge) • Dezvoltator AI IoT • Dezvoltator AI mobil

Sectore industriale: Producție 4.0 • Tehnologie sănătate • Sisteme autonome • FinTech • Electronică de consum

Proiecte portofoliu: Sisteme multi-agent • Aplicații RAG producție • Implementare cross-platform • Optimizare performanță

Structura repository-ului

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Reperele cursului

Învățare progresivă: Teorie → Practică → Implementare în producție
Studii de caz reale: Microsoft, Japan Airlines, implementări enterprise
Exemple practice: 50+ exemple, 10 demo-uri complete Foundry Local
Focalizare pe performanță: Îmbunătățiri de viteză 85%, reduceri dimensiune 75%
Multi-platformă: Windows, mobil, embedded, hibride cloud-edge
Ready pentru producție: Monitorizare, scalare, securitate, cadre de conformitate

📖 Ghid de Studii Disponibil: Parcurs de învățare structurat pe 20 de ore cu recomandări de timp și autoevaluare.


EdgeAI reprezintă viitorul implementării AI: local-first, cu păstrarea confidențialității și eficient. Stăpânește aceste competențe pentru a construi următoarea generație de aplicații inteligente.

Alte cursuri

Echipa noastră produce și alte cursuri! Vezi:

LangChain

LangChain4j pentru începători LangChain.js pentru începători LangChain pentru începători

Azure / Edge / MCP / Agenți

AZD pentru începători Edge AI pentru începători MCP pentru începători Agenți AI pentru începători


Seria AI Generativă

AI generativă pentru începători AI generativă (.NET) AI generativă (Java) AI generativă (JavaScript)


Învățare de bază

ML pentru începători Data Science pentru începători AI pentru începători Cybersecurity pentru începători Web Dev pentru începători IoT pentru începători XR Development pentru începători


Seria Copilot

Copilot for AI Paired Programming Copilot for C#/.NET Copilot Adventure

Obținerea ajutorului

Dacă ești blocat sau ai întrebări despre construirea aplicațiilor AI, alătură-te:

Microsoft Foundry Discord

Dacă ai feedback despre produs sau întâmpini erori în timpul dezvoltării, vizitează:

Microsoft Foundry Developer Forum


Declinare a responsabilității:
Acest document a fost tradus folosind serviciul de traducere AI Co-op Translator. Deși ne străduim pentru acuratețe, vă rugăm să rețineți că traducerile automate pot conține erori sau inexactități. Documentul original în limba sa nativă trebuie considerat sursa autoritară. Pentru informații critice, se recomandă traducerea profesională realizată de un specialist uman. Nu ne asumăm responsabilitatea pentru orice neînțelegeri sau interpretări greșite ce pot rezulta din utilizarea acestei traduceri.