NVIDIA ho appena rilasciato una demo gratuita di chatbot che funziona localmente sul tuo PC. Questo è molto comodo perché consente al chatbot di accedere ai tuoi file e documenti. Puoi fornire Chatta con RTX determinati dati personali e chiedergli di creare un curriculum basato su tali informazioni. Puoi anche fargli domande come faresti con qualsiasi chatbot e lui si immergerà nei tuoi dati per trovare risposte.
L'azienda afferma che consente agli utenti di "connettere rapidamente e facilmente i file del PC locale come set di dati a un modello linguistico open source di grandi dimensioni come Mistral o Llama 2". NVIDIA fornisce un esempio di un utente che chiede a un chatbot informazioni su un ristorante consigliato da un partner mentre si trova a Las Vegas. Il software esegue la scansione dei file locali per trovare la risposta. Supporta una gamma di formati di file tra cui .txt, .pdf, .doc, .docx e .xml. L'azienda afferma di caricare i file rilevanti nel proprio set di dati "in pochi secondi".
Chat con RTX integra anche video e playlist YouTube. Puoi aggiungere l'URL del video al set di dati e integrerà la conoscenza contenuta nel video per query contestuali. NVIDIA dice che sarà utile quando si richiedono consigli di viaggio “basati sui contenuti dei video preferiti degli influencer” o quando si cercano tutorial e riassunti derivati da risorse educative.
Sembra un grande passo verso qualcosa di simile a un vero assistente digitale che funziona nel contesto dei tuoi dati personali. La maggior parte dei chatbot invia dati al cloud, ma Chat with RTX "consente agli utenti di elaborare dati sensibili su un computer locale senza doverli condividere con terzi o disporre di una connessione Internet". Quindi è una comunicazione più sicura e più orientata al contesto.
Ci sono alcune limitazioni. Questo è un prodotto demo, quindi aspettati molti bug NVIDIA dovrebbe iniziare a risolverli non appena gli utenti inizieranno a scrivere segnalazioni di bug e simili. Ci sono anche alcune rigide limitazioni hardware qui. La chat con RTX funziona solo su computer Windows 11 con GPU NVIDIA Serie GeForce RTX 30 o successiva e almeno 8 GB di VRAM.
Recentemente NVIDIA sta davvero mettendo in mostra le sue capacità di intelligenza artificiale poiché la società ha appena lanciato la sua prossima generazione di chip per supercomputer AI. Sta semplicemente nuotando nei profitti, principalmente grazie ai suoi segmenti AI e data center.
Leggi anche: