La catena di stato: come Parenta ricorda tuo figlio o tua figlia senza sorvegliarli

L’ipotesi naturale di fronte a un prodotto di IA che « ricorda tuo figlio » è che, da qualche parte su un server, esista una linea temporale enorme di ogni dettaglio che hai mai condiviso — indicizzata, ricercabile, che cresce ogni settimana. Abbiamo deliberatamente scelto di non costruirlo così.

Questo articolo parla dell’architettura che abbiamo costruito al suo posto, e del perché.

Il problema di una memoria lunga

Una memoria lunga e grezza di tutte le conversazioni che un genitore abbia mai avuto sul proprio figlio o sulla propria figlia ha un’attrattiva evidente — sembra personale, intelligente, attenta. Ha però tre seri problemi.

Primo, è una passività di sorveglianza. Più il registro è lungo e ricco, più diventa pericoloso se viene un giorno esposto, richiesto in giudizio o estratto in silenzio.

Secondo, è il registro del bambino o della bambina, più che del genitore. Un bambino non ha acconsentito a che un diario di mille pagine dei momenti più duri della sua prima infanzia stia in un database. Il diritto di un genitore di parlare di una difficoltà non si trasferisce in modo pulito al diritto di immortalare quella difficoltà in un sistema aziendale.

Terzo, non è davvero utile per l’IA. Una trascrizione grezza di 200 000 token non è un segnale più ricco di un riassunto ponderato di 2 000 token. È solo più rumorosa.

La catena di stato

Quindi abbiamo costruito quello che chiamiamo la catena di stato. Ha due pezzi:

Il profilo del bambino o della bambina — un documento compatto, strutturato e controllato dal genitore che raccoglie diagnosi, profilo sensoriale, stile comunicativo, fattori scatenanti, punti di forza, interessi e supporti attuali. Puoi vederlo. Puoi modificarlo. Puoi cancellarlo. Ha più o meno la lunghezza di un messaggio di testo lungo.
Istantanee di stato periodiche — di tanto in tanto (attualmente, dopo un periodo silenzioso di quattordici giorni), Parenta scrive un breve riassunto in prosa di ciò che è successo di recente: umore, sonno, regolazione, sociale, scuola. Queste istantanee sono deliberatamente brevi — sono paragrafi, non trascrizioni.

Quando inizi una nuova conversazione su tuo figlio o tua figlia, Parenta guarda: il profilo, l’istantanea di stato più recente, eventuali questioni aperte che stai seguendo e il filo corrente. Non va a pescare tra le note vocali dello scorso agosto.

Il risultato è che l’IA si comporta come se ricordasse tuo figlio — perché, nel senso specifico che conta per un genitore, lo fa. Solo che non lo ricorda come farebbe un panopticon.

A cosa abbiamo rinunciato

Questa architettura ha un costo. Non potremo mai dire « fammi cercare in tutte le tue conversazioni quella strategia che ha funzionato per la nanna ». Non costruiremo mai un grafico « anno in retrospettiva » della regolazione emotiva di tuo figlio. Non venderemo mai il prodotto a un distretto scolastico che vuole inghiottire i « dati ».

Siamo in pace con tutte queste perdite. In ogni caso, non sono mai state il prodotto.

Cosa significa per te in pratica

Nell’app:

Il profilo del bambino è nelle tue impostazioni. Puoi leggerlo. Puoi riscriverlo. Puoi cancellarlo.
Le istantanee di stato sono elencate sotto ogni figlio. Puoi cancellarne una singola. Puoi disattivarle del tutto.
Le conversazioni stesse escono dal contesto in modo abbastanza aggressivo — un filo di sei mesi fa non plasmerà silenziosamente una risposta oggi, a meno che non sia tu a riportarlo nella conversazione.
E, come sempre — esportazione completa, cancellazione completa, entrambe entro trenta giorni. Vedi privacy.

La memoria è un privilegio, non un’impostazione predefinita. Cerchiamo di trattarla così.

— Il team di Parenta