Inteligența artificială între online și offline

Îmi aduc aminte și acum ce fascinat am fost de serialul TV ”Star Trek The Next Generation” și nostalgic pot spune că încă sunt. Partea cea mai interesantă din acel serial nu erau bătăliile, navele sau viteza incredibilă a navei Enterprise, nu, cel mai interesant lucru era ”Holopuntea” (a.k.a holodeck). Imaginea de ansamblu era perfectă: când nu ai timp liber de o plimbare în spațiu te duceai pe Holopunte și acolo inteligența artificială îți crea totul. Acum, în anul de grație 2025, nu am ajuns încă acolo cu dezvoltarea inteligenței artificiale dar suntem aproape.

Ideea din spatele acestui articol a fost să centralizez, din perspectiva mea desigur, ce metode online cât și offline avem la dispoziție pentru utiliza inteligența artificială. Versiunea online a acestor unelte reduce implicarea utilizatorului de a investi în hardware specific care să susțină activitatea de procesare, resursele fiind prezente în cloud. De partea opusă dacă preferați să aveți unealta configurată local, din motive ce țin în special de securitatea datelor și sub capotă aveți o configurație hardware capabilă, există de asemenea opțiuni.

Lista de mai jos cu versiunile online cuprinde următoarele titluri:
ChatGPT, primul serviciu apărut și cel mai popular
Le Chat – Mistral, aduce vântul european în zona AI
Gemini, sau altfel spus Bard reinventat
Perplexity AI, folosește diferite modele LLM și efectuează căutări online pentru a crea răspunsuri
Claude Ai, un concept de creat de foști angajați din compania OpenAI implicați în dezvoltarea ChatGPT
Deepseek, sau cum îmi place mie să zic, copilul mic cu nasul cârn la care nimeni nu a fost atent.
Din toată această listă pot spune că personal folosesc în paralel ChatGPT și Le Chat Mistral. Din ce am putut observa răspunsurile sunt cam pe aceiași lungime de undă… dacă pot spune așa ceva. Pentru toate acestea este nevoie de un browser, conexiune la internet și un cont, a.k.a Software As A Service.

Dacă nu sunteți plicitisiti de rândurile de mai sus, am lasat pentru partea a doua din acest articol și două metode de a rula local propiul Chatbot care să vă asiste la nevoie.

Prima opțiune, iar aici ordinea este intenționată, se numește Open WebUI și poate să ofere ceea ce mulți doresc: securitate. Open WebUI se bazează pe Ollama oferind utilizatorului access la o interfață web și în același timp la diferite tipuri de modele LLM din arhiva Ollama. La acestea se mai adaugă faptul că Open WebUI poate fi configurat folosind Docker sau Kubernetes și deja ne ducem cu gândul că nu doar Windows poate fi folosit la găzduirea programului ci și Linux.

Acum dacă tot am vorbit despre Linux este timpul să mă si opresc… Opțiunea numărul doi este una specifică proprietarilor de plăci video Nvidia RTX, seria 30 sau mai nouă, care folosesc Windows 11. Chat with RTX este creația companiei Nvidia, momentan prezentat publicului drept un demo. La baza acestui Chatbot se afla modelul Mistral 7b plus abilitatea de a prelua și a face sinteza datelor din fișierele locale ce pot fi partajate cu programul. Micul meu demo este disponibil într-un articol pe acest site.

Gata! am zis și eu cinci vorbe despre inteligența artificială. Mai am idei și pentru alte articole, așa ca ”tineți aproape !” 😎

Leave a Reply

Your email address will not be published. Required fields are marked *