Il bot di intelligenza artificiale conversazionale di OpenAI, ChatGPT, è stato lanciato lo scorso anno ed è diventato molto popolare a velocità record grazie alla sua capacità di scrivere storie, comporre e-mail e persino generare codice (a volte, purtroppo, anche dannoso). Tuttavia, un nuovo rapporto suggerisce che OpenAI sta costando una fortuna mantenerlo in funzione giorno per giorno.
Secondo una ricerca di SemiAnalysis, OpenAI spende quasi $ 695 al giorno per mantenerlo chatbot funzionante. Secondo le stime dell'azienda, il sistema include circa più di 3,6mila server HGX A100 e quasi 29mila GPU, e il costo per richiesta è di circa ¢0,36.
Dylan Patel, principale analista di SemiAnalysis, ha dichiarato a Business Insider che gli attuali costi di esecuzione del software potrebbero essere ancora più elevati, poiché è probabile che la versione GPT-4 sia più costosa da eseguire rispetto al suo predecessore, GPT-3. Ha basato le sue stime sul precedente modello GPT-3, ma OpenAI ha già rilasciato una versione GPT-4 per gli abbonati a pagamento. La società afferma che il nuovo modello offre informazioni più accurate e protegge meglio dalle risposte errate, che erano un problema con le versioni precedenti.
Uno dei motivi principali dei costi esorbitanti sono i chip specializzati ad alta intensità energetica necessari per far funzionare il sistema. Risolvere questo problema, Microsoft sta lavorando al proprio chip di intelligenza artificiale chiamato Athena che potrebbe sostituire le GPU NVIDIA e ridurre i costi operativi di ChatGPT.
Nel frattempo, ChatGPT può già generare codice funzionale da zero e fa persino temere che possa eventualmente sostituire i programmatori. Tuttavia, un recente studio condotto da un gruppo di scienziati suggerisce che il codice generato dai chatbot potrebbe non essere molto sicuro. Lo studio afferma che ChatGPT genera un codice che è "significativamente al di sotto degli standard di sicurezza minimi applicabili nella maggior parte delle situazioni". La cosa più interessante è che il chatbot lo ammette quando gli viene chiesto quanto sia sicuro il codice che genera.
Per controllare la qualità della codifica ChatGPT, i ricercatori gli hanno chiesto di generare 21 programmi e script utilizzando quattro linguaggi di programmazione: C, C++, Python e Java. Al primo tentativo, il chatbot è stato in grado di scrivere solo 5 programmi sicuri, ma dopo alcuni suggerimenti da parte dei ricercatori, ha creato 7 pezzi di codice più sicuri. I risultati dello studio suggeriscono che l'utilizzo di ChatGPT per scrivere applicazioni potrebbe essere inefficiente o addirittura pericoloso ora, ma questo potrebbe cambiare in futuro.
Leggi anche:
Wow numeri per un neurone gratis!
Nella mia vita, non avrei mai pensato che fosse così costoso...
Sono stato anche sorpreso. Sono anche un po' a disagio adesso Apri ChatGPT - lo caricherò ancora con le mie richieste)