Il nuovo aggiornamento della memoria di ChatGPT è potente – e potrebbe avvelenare ogni risposta che ti dà

Il nuovo sistema di memoria di ChatGPT, chiamato “Dreaming V3”, è un notevole passo avanti tecnologico, ma solleva seri problemi di controllo, accuratezza e privacy. Secondo David Gewirtz di ZDNET, questa funzione è potenzialmente irresponsabile.

Il Problema: Un Profilo che si Costruisce da Solo

Fino al 2024, ChatGPT non aveva memoria. Poi sono state introdotte le “memorie”, essenzialmente un elenco di fatti che potevi consultare. Oggi, la memoria di ChatGPT è molto più invasiva: include l'intera cronologia delle chat, istruzioni esplicite, vincoli personali e persino preferenze implicite che l'AI deduce dai tuoi comportamenti e commenti casuali.

Il nuovo sistema “Dreaming V3” non si limita a scansionare la cronologia in background. Esegue una sintesi dei dati, componendo di fatto un dossier su di te. E spesso questo dossier è inesatto.

L'articolo cita un esempio lampante: l'autore ha chiesto a ChatGPT se avesse esperienza con i prodotti “Kasa”. L'AI ha risposto, con sicurezza, che aveva usato il prodotto e che lo aveva integrato con “Home Assistant”, salvo poi ammettere che non è vero e non ha mai installato quel software.

1. Il Controllo: Una Finestra Limitata su un Sistema Opaco

La gestione della memoria è confusa e limitante. Puoi disattivare la funzione, ma questo non cancella i ricordi già salvati, né la cronologia delle chat. Per eliminare le informazioni, devi cancellare l'intera chat. Inoltre, i “ricordi” visibili sono solo un sommario di alto livello, come ammesso da OpenAI, e potrebbero non mostrare tutti i dettagli che il sistema conserva su di te.

2. L'Accuratezza: Un Passato che Distorce il Presente

Il sistema fatica a distinguere le vere preferenze personali dagli argomenti di ricerca occasionali. Come sottolinea l'autore, tutte le tue domande di ricerca rischiano di essere interpretate come informazioni sul tuo conto, inquinando il profilo che ChatGPT ha di te. Il risultato è che le risposte possono essere influenzate da un profilo distorto, impreciso e obsoleto.

L'articolo mostra un altro esempio: l'autore ha chiesto a ChatGPT qual è la cosa più importante per lui. La risposta dell'AI è stata “preservare la tua capacità di fare un lavoro significativo e indipendente”, un'interpretazione basata sulle conversazioni passate. Tuttavia, la risposta escludeva completamente le sue due priorità assolute: sua moglie e il suo cane.

3. La Fiducia: Perché Questa Funzione Preoccupa

Questa memoria selettiva mina la fiducia negli output dell'AI. Ora devi chiederti non solo se la risposta è corretta, ma anche se è stata distorta per adattarsi a un profilo che l'AI si è costruita di te, basato su conversazioni passate potenzialmente errate o fuori contesto.

In sintesi, i punti critici sollevati sono:

• Passato come trappola: ChatGPT usa vecchie conversazioni che potrebbero essere state fatte quando si presumeva che l'AI non le ricordasse.
• Potatura impossibile: È quasi impossibile eliminare completamente ciò che l'AI ricorda o assume su di te.
• Ritardo sulla realtà: Nonostante le affermazioni di OpenAI, il sistema non riesce a tenere il passo con i veri cambiamenti della tua vita.

L'autore conclude che, mentre Dreaming V3 è un trionfo tecnico, potrebbe essere una funzione irresponsabile, che aumenta il carico cognitivo richiedendo di mettere in discussione ogni risposta basata su presupposti errati. Ci sono anche serie implicazioni per la privacy, poiché questo tipo di profilazione è considerato ancora più invasivo dei normali dati raccolti dai provider cloud.

Perché MemSoph è Diverso

MemSoph non costruisce un dossier nascosto su di te basato su osservazioni passive e deduzioni spesso errate. MemSoph funziona all'opposto: sei tu a decidere cosa deve essere ricordato.

Quando correggi MemSoph su un errore, una preferenza o uno stile, quella correzione viene memorizzata in modo permanente e trasparente. Puoi vedere, modificare o eliminare ogni singolo ricordo. Niente profilazione occulta, niente assunzioni basate su conversazioni passate fuori contesto.

Mentre ChatGPT ti chiede di fidarti di un profilo che costruisce su di te senza il tuo controllo esplicito, MemSoph ti mette al comando della tua memoria. Non devi preoccuparti che l'AI tragga conclusioni sbagliate dal tuo passato: le ricordi attivamente ciò che è giusto, e loro lo ricordano per sempre.

MemSoph è la memoria che controlli, correggi e di cui ti fidi.

Basato su idee di David Gewirtz – ZDNET