„Chat with RTX“ je AI aplikacija kompanije Nvidia za koju nije potrebna internet konekcija
Benchmark 14.02.2024 | Benchmark Redakcija
Polako, ali sigurno, tehnologija napreduje do tačke u kojoj aplikacije za ćaskanje sa veštačkom inteligencijom mogu da se instaliraju i pokreću lokalno, bez potrebe za internet vezom.
Jedan od najpoznatijih dizajnera grafičkih procesora – Nvidia, sada donosi upravo to, oflajn Chat with RTX AI aplikaciju, koja je najavljena prvi put u januaru ove godine. Aplikacija koristi RAG (Retrieval Augmented Generation) optimizaciju AI modela, tako da se poziva na bazu znanja izvan svojih izvora podataka za obuku, pre nego što generiše odgovor, u kombinaciji sa TensorRT-LLM modelom koji korisnici mogu da prilagode, omogućavajući im da odobre pristup
