Perplexity AI in locale arriva su Windows con le GPU NVIDIA RTX

Perplexity ha portato il suo agente AI dentro il computer, senza passare dal cloud. Da ieri Perplexity AI in localefunziona sui PC Windows equipaggiati con GPU NVIDIA RTX, grazie a una funzione chiamata Portable Computer annunciata insieme a NVIDIA. I file restano sul dispositivo, le attività completate sul PC non consumano crediti, e l’agente può comunque chiedere aiuto al cloud quando serve.

Cosa cambia con Perplexity AI in locale

Fino a ieri Portable Computer girava solo su due tipi di macchine, i sistemi NVIDIA DGX Spark e i PC Linux con hardware RTX compatibile. L’arrivo su Windows apre la porta a una platea enormemente più grande, visto che Windows resta il sistema operativo desktop più diffuso e le schede RTX sono già installate su milioni di computer.

La differenza rispetto alla versione cloud è sostanziale. Perplexity Computer classico manda tutto ai server dell’azienda, questa versione esegue l’analisi dei file, la sintesi tra documenti e i lavori ricorrenti direttamente sulla scheda video del tuo PC. Chi lavora con contratti, bilanci o codice proprietario capisce subito perché sia una differenza che conta, e non è un caso che i mestieri più esposti al tema siano proprio quelli dove l’AI generativa sta già entrando nelle professioni.

Seguici su Telegram per rimanere aggiornato

Serve una GPU con 24 GB di VRAM

Qui arriva la doccia fredda. I requisiti VRAM parlano chiaro, servono almeno 24 GB di memoria video su una GeForce RTX o su una workstation RTX PRO. È una soglia che separa le configurazioni da gioco normali dalle macchine di fascia altissima, e tiene fuori la stragrande maggioranza dei PC in circolazione.

Il motivo è il modello che gira sotto. NVIDIA indica Qwen 27B, un modello da 27 miliardi di parametri sottoposto a post training specifico per lavorare con l’agente di Perplexity. In quantizzazione a 4 bit i pesi occupano circa 17 GB, ma il consumo reale non si ferma lì, perché contesto, cache e uso degli strumenti fanno salire l’occupazione di memoria in fretta.

Come funziona Perplexity AI in locale su Pc

Il vantaggio dell’AI locale su PC non è solo la privacy. Ogni operazione eseguita sulla macchina non intacca la quota di crediti del servizio cloud, il che per chi automatizza lavori ripetitivi ogni giorno significa poter aumentare il volume senza vedere il contatore salire.

Sul fronte software il pacchetto è già pronto all’uso, senza dover scegliere modelli o assemblare a mano un ambiente di esecuzione. Chi ha provato a mettere in piedi un modello in casa sa quanto tempo si perde tra dipendenze e configurazioni, un po’ come succede con i software open source da installare a mano quando la documentazione è scarna.

C’è anche il supporto ai server MCP locali, l’aspetto di cui le testate italiane hanno parlato meno. In pratica l’agente può pilotare altre applicazioni desktop sul dispositivo, non limitarsi a leggere file. A questo si aggiunge uno scheduler che manda avanti attività ricorrenti sul PC anche quando non sei davanti allo schermo.

Un agente AI offline, ma non del tutto

Attenzione a questo punto, perché è dove il marketing e la realtà si separano. L’architettura resta ibrida. Un agente AI offline al cento per cento non è quello che viene consegnato, perché quando un compito richiede ragionamento più avanzato o ricerca sul web, il sistema riconosce la necessità di appoggiarsi al cloud e chiede il permesso prima di inviare qualcosa fuori dal dispositivo.

A filtrare cosa esce c’è un classificatore dei dati personali, quindi la protezione esiste, ma parlare di funzionamento interamente offline sarebbe scorretto. Vale la pena saperlo prima di comprare una scheda video da duemila euro convinti di tagliare i ponti con internet.

Perplexity AI in locale è comunque riservato agli abbonati dei piani Pro e Max dentro l’app per Windows, quindi al costo dell’hardware va aggiunto quello della sottoscrizione mensile. Chi vuole contenere quella spesa può guardare alle formule di condivisione degli abbonamenti, che per i servizi AI sono ormai piuttosto diffuse.

Per NVIDIA l’operazione ha una logica evidente, trasformare la scheda video da motore grafico a motore di agenti che lavorano su codice, documenti e processi aziendali. Trovi altre novità su questo fronte nella sezione dedicata all’intelligenza artificiale.

Il punto interessante non è tanto questa singola funzione, quanto la direzione. Per anni l’AI è stata sinonimo di server lontani e abbonamenti a consumo, adesso pezzi di quel lavoro tornano sulla macchina sotto la scrivania. Il collo di bottiglia resta la memoria video, ma è un limite destinato ad allentarsi, e quando succederà la domanda non sarà più se conviene far girare un agente in casa, ma perché non lo stai già facendo.

Fonte

Ti è piaciuto questo articolo?

Seguici per restare aggiornato su tech, smartphone e streaming – senza perderti nulla.

Google News Telegram YouTube Facebook Instagram