Dacă sunteți un fericit posesor de placă video marca Nvidia, din seria RTX 30 sau 40, atunci după 35 GB descărcați și procesul de instalare ce poate dura și o oră, vă puteți delecta cu propriul vostru chatbot. La momentul scrierii acestui articol, acest chatbot este disponibil doar pentru Windows 11. În cazul în care nu sunteți parte a acestui ”club” vă pot spune că nu ratați prea multe, părerea mea desigur.
”Creierul” acestui program este Mistal AI LLM oferit atât contra-cost cât și în versiune open-source. La acest lucru se adaugă și opțiunea de a ingera date din documente în format text, pdf, doc/docx, xml sau din cadrul videoclipurilor de pe Youtube. Pe lângă Mistral, în cadrul acestei pagini o să mai puteți găsi și alte surse.
Ca să nu regret că nu am încercat am decis să descarc arhiva și să finalizez procesul de instalare. Placa era și ea gata de puțină treabă.
Se merită a fi menționat aici că aplicația este motorizată de ”șarpele” preferat de toată lumea, Python versiunea 3.11. Interfața este și ea cât se poate de intuitivă, fiind deschisă automat în browserul implicit setat pe sistem.
Importul de informații din cadrul clipurilor video de pe Youtube este destul de ușor, trebuie inserat un link și desigur trebuie așteptată procesarea și extragerea datelor.
În tot acest timp placa video și respectiv sistemul de răcire își fac datoria.
Cineva se poate întreba: de ce am afirmat că nu ratați prea multe dacă nu testați acest ”demo” ?
Răspunsul este destul de simplu: în acest moment tehnologia este la început de drum, iar ceea ce Nvidia a lansat este doar un ”demo”, o dovadă a unui concept cu multe ramificații pe viitor.
Executarea locală nu se compară deloc cu un centru de date format din servere cu un număr mult mai mare de plăci video care să proceseze datele și să construiască un răspuns.
Dupa ce am citit articolul despre acest nou chatbot disponibil pentru posesorii de placi video Nvidia din seria RTX 30 sau 40, am fost intrigat sa il incerc si eu. Desi procesul de descarcare si instalare poate dura destul de mult, aproximativ o ora, as spune ca merita asteptarea. Interfata aplicatiei este foarte intuitiva si usor de folosit, iar importul de informatii din diverse surse, precum documente sau videoclipuri de pe Youtube, este destul de simplu. Desi este disponibil doar pentru Windows 11 in acest moment, aplicatia are un potential mare si sunt convins ca pe viitor va avea mult mai multe functionalitati si optiuni.