Proiectul desfășurat în cadrul Clubului DevOps de la Makerspace este destinat tinerilor pasionați de programare și inteligență artificială, având ca obiectiv principal personalizarea unui model open source de Large Language Model (LLM) pentru a crea un asistent AI similar cu ChatGPT.
Participanții învață să modifice și să ajusteze un model AI existent, să integreze date specifice și să optimizeze funcționalitățile acestuia pentru a dezvolta un asistent capabil să răspundă la întrebări și să ofere suport în diverse domenii. Prin acest proiect, tinerii dobândesc abilități avansate în lucrul cu modele de inteligență artificială, procesarea limbajului natural (NLP) și implementarea soluțiilor AI într-un mediu real-world.
Proiectul se bazează pe tehnica de Retrieval-Augmented Generation (RAG), o abordare avansată care îmbunătățește performanța modelelor de limbaj prin combinarea generării de text cu accesul la baze de date externe. În loc să se bazeze doar pe informațiile învățate în timpul antrenării modelului, RAG permite asistentului AI să extragă informații în timp real dintr-un set de date actualizat constant, oferind răspunsuri mai precise și relevante.
Această metodă sporește capacitatea modelului de a rezolva întrebări complexe și de a oferi suport contextualizat, permițând participanților să învețe cum să integreze și să optimizeze un model AI care poate genera conținut relevant pe baza datelor accesate din surse externe.
Surse și seturi de date:
Cod sursă: https://github.com/mark-veres/ragdoll
Software:
Modele LLM:
- Llama 3.1
- Mistral
- etc.
Echipa:
- Mark Vereș, programator
Coordonator: Marius Stoica, tel. 0787331362