DeepSeek tra censura, vulnerabilità e sospetto plagio: l’AI cinese è davvero una minaccia per ChatGPT?

Lunedì, nel pieno boom di iscrizioni e download, DeepSeek ha subito un attacco informatico su larga scala, che ha causato un’interruzione temporanea del servizio. La società ha confermato l’incidente, spiegando che il problema ha reso necessaria una sospensione delle nuove registrazioni, mentre gli utenti già registrati hanno continuato a utilizzare il servizio senza interruzioni.

Il blackout, il più lungo degli ultimi tre mesi, è passato quasi inosservato a causa del traffico senza precedenti generato dall’app, che ha visto un’impennata di accessi dopo che i media hanno iniziato a parlarne, mettendo sotto pressione i server della startup cinese. Ad oggi il servizio è comunque funzionante e accessibile anche dall’Italia.

DeepSeek, l’AI cinese che ha scosso il mercato tech

DeepSeek è un assistente AI simile a ChatGPT di OpenAI, ma che ha avuto un costo di programmazione e addestramento decisamente inferiore. Inoltre, a differenza di ChatGPT che per utilizzare le sue caratteristiche avanzate richiede un abbonamento, è completamente gratuita.

Proprio per la sua gratuità ha avuto un successo immediato e senza precedenti che ha permesso a questo assistente digitale di scalare le classifiche negli store di Apple e Google, dove è rapidamente arrivato ai primi posti e ha superato concorrenti illustri come Google Gemini e Perplexity AI.

Secondo la società di analisi AppFigures dal suo lancio, a metà gennaio, DeepSeek è stata scaricata 1,2 milioni di volte sul Play Store e oltre 1,9 milioni di volte sull’App Store in tutto il mondo.

Da notare che, a causa di alcuni problemi con la privacy, l’app potrebbe essere stata rimossa da alcuni store europei, tra cui quello italiano.

DeepSeek: un’ascesa senza precedenti

L’ascesa di DeepSeek ha avuto un impatto dirompente sui mercati, contribuendo al crollo delle azioni tech. Lunedì Nvidia, – il principale produttore di chip per l’intelligenza artificiale – ha visto il proprio titolo crollare del 13,6%, bruciando 500 miliardi di dollari di capitalizzazione in poche ore. Un colpo durissimo per l’industria tecnologica americana.

L’impatto di DeepSeek non è passato inosservato neanche nel mondo politico. Durante un recente ritiro dei Repubblicani della Camera, l’ex presidente Donald Trump ha definito il lancio del nuovo modello AI cinese “uno sviluppo positivo”, ma allo stesso tempo “un campanello d’allarme” per le aziende americane, che rischiano di farsi superare dalla concorrenza asiatica.

Non sono mancate però anche le critiche, in particolare per la censura cinese che ha colpito anche il Bot, in difficoltà quando deve discutere temi sensibili come i diritti civili in Cina e la questione Taiwan.

Ci sono poi state diverse polemiche anche per quanto riguarda il suo addestramento, che come sottolineavamo è costato molto meno del suo concorrente ChatGPT. Per molti, più che una questione di pragmatica, dovuta anche alle scarse risorse di chip a disposizione dell’azienda cinese, a produrre gli ottimi risultati del Bot sarebbe stata la tecnica di diluzione utilizzata a spese di ChatGPT. Insomma, una sorta di plagio ma in salsa hi-tech.

Come funziona la Diluzione?

La diluzione, nel contesto dell’intelligenza artificiale, è una tecnica che permette di creare un modello più leggero e meno costoso da addestrare, trasferendo le conoscenze da un modello più grande e avanzato. In pratica, si prende un’IA complessa come ChatGPT e si “distilla” in una versione più semplice, mantenendo gran parte delle sue capacità, ma con un consumo di risorse notevolmente inferiore.

Immaginiamo un grande chef stellato che cucina piatti elaborati con ingredienti di altissima qualità. Ora pensiamo a un allievo che osserva lo chef, prende appunti e impara a riprodurre quei piatti in una versione più semplice, magari con meno ingredienti e tecniche meno complesse, ma che risultano comunque gustosi e molto simili all’originale. Questo è il principio della diluzione nell’IA: creare una copia più leggera e funzionale di un modello più grande.

Nel caso di DeepSeek, avrebbe adottato questa tecnica per sviluppare il suo modello R1. Piuttosto che creare un’IA da zero, sembra aver addestrato il suo sistema sfruttando in modo indiretto le risposte di ChatGPT, ‘assorbendone’ le capacità e comprimendole in un modello più leggero ed economico

Il problema è che, se questa diluzione è avvenuta senza un addestramento autonomo, ma semplicemente copiando e riformulando i contenuti di un altro modello, si può parlare di plagio in chiave hi-tech.

È come se un’azienda costruisse un’auto elettrica prendendo ispirazione da Tesla, copiandone il design e il funzionamento, ma senza sviluppare nulla di originale. Se DeepSeek ha davvero utilizzato ChatGPT  senza il consenso di OpenAI, potrebbe aver sfruttato il lavoro altrui per ottenere un vantaggio competitivo, aggirando anni di ricerca e milioni di dollari di investimenti.

Questo spiegherebbe come DeepSeek sia riuscita a raggiungere risultati sorprendenti con un budget di appena 6 milioni di dollari, contro le centinaia di milioni spesi per lo sviluppo di GPT-4.

Violazione dei dati: scoperta una grave falla di sicurezza in DeepSeek

Oltre ai problemi legati alla diluzione e alla possibile appropriazione indebita di tecnologia, DeepSeek si è trovata al centro di un’altra grave controversia: la scarsa protezione dei dati degli utenti.

Secondo Reuters, la società israeliana di cybersecurity Wiz ha scoperto una grave falla nei server di DeepSeek, che ha esposto milioni di dati sensibili online. Una scansione dell’infrastruttura della startup cinese ha rivelato un database completamente aperto e privo di autenticazione, che lascia alla mercé di chiunque oltre un milione di righe di informazioni riservate.

“In pochi minuti abbiamo trovato un database pubblico di DeepSeek completamente accessibile e senza alcuna protezione. Era ospitato agli indirizzi oauth2callback.deepseek.com:9000 e dev.deepseek.com:9000”, ha scritto Wiz nel suo rapporto.

I dati trapelati includevano chiavi software digitali e log delle conversazioni degli utenti, ovvero le interazioni con l’assistente AI di DeepSeek.

“Hanno chiuso tutto in meno di un’ora,” ha dichiarato Ami Luttwak, co-fondatore di Wiz. “Ma la vulnerabilità era così banale da individuare che è probabile che non fossimo gli unici ad averla trovata.”

A questo si aggiunge la notizia che il Garante della Privacy italiano ha inviato una richiesta di informazioni a Hangzhou DeepSeek Artificial Intelligence e a Beijing DeepSeek Artificial Intelligence, le società che forniscono il servizio di chatbot di DeepSeek. Probabile che l’azienda cinese non abbia adottato le necessarie misure di sicurezza richieste, come del resto aveva fatto ChatGPT quando era sbarcata in Italia.

Ecco, almeno su questo punto, le due app si assomigliano molto.