Łańcuch stanu: jak Parenta pamięta Twoje dziecko, nie inwigilując go

Naturalne założenie wobec produktu AI, który „pamięta Twoje dziecko”, jest takie, że gdzieś na serwerze leży ogromna oś czasu z każdym szczegółem, który kiedykolwiek udostępniłeś — zindeksowana, przeszukiwalna, rosnąca z każdym tygodniem. Świadomie nie zbudowaliśmy tego w ten sposób.

Ten wpis dotyczy architektury, którą zbudowaliśmy zamiast tego — i dlaczego.

Problem z długą pamięcią

Długa, surowa pamięć każdej rozmowy, jaką rodzic kiedykolwiek odbył o swoim dziecku, ma oczywisty urok — brzmi osobiście, inteligentnie, uważnie. Ma też trzy poważne problemy.

Po pierwsze, to obciążenie inwigilacyjne. Im dłuższy i bogatszy zapis, tym bardziej niebezpieczny, jeśli kiedykolwiek wycieknie, zostanie zarekwirowany lub po cichu wydobyty.

Po drugie, jest to zapis bardziej dziecka niż rodzica. Dziecko nie wyraziło zgody na to, by tysiącstronicowy dziennik najtrudniejszych chwil jego wczesnego życia leżał w bazie danych. Prawo rodzica do przegadania trudności nie przekłada się czysto na prawo do uwiecznienia tej trudności w korporacyjnym systemie.

Po trzecie, dla AI to naprawdę nie jest pomocne. Surowa transkrypcja na 200 000 tokenów nie jest bogatszym sygnałem niż przemyślane streszczenie na 2 000 tokenów. Jest tylko bardziej zaszumiona.

Łańcuch stanu

Zbudowaliśmy więc to, co nazywamy łańcuchem stanu. Składa się z dwóch elementów:

Profil dziecka — zwięzły, ustrukturyzowany, kontrolowany przez rodzica dokument, który zawiera diagnozy, profil sensoryczny, styl komunikacji, czynniki wyzwalające, mocne strony, zainteresowania i obecne wsparcie. Możesz go zobaczyć. Możesz go edytować. Możesz go usunąć. Ma mniej więcej długość długiej wiadomości tekstowej.
Okresowe migawki stanu — co jakiś czas (obecnie po cichym okresie czternastu dni) Parenta pisze krótkie, prozą, podsumowanie tego, co działo się ostatnio: nastrój, sen, regulacja, kontakty społeczne, szkoła. Te migawki są celowo krótkie — to akapity, nie transkrypcje.

Gdy zaczynasz nową rozmowę o swoim dziecku, Parenta sięga do: profilu dziecka, najnowszej migawki stanu, otwartych spraw, które śledzisz, oraz bieżącego wątku. Nie przeszukuje notatek głosowych z zeszłego sierpnia.

Efekt jest taki, że AI zachowuje się tak, jakby pamiętała Twoje dziecko — bo w sensie, który ma znaczenie dla rodzica, faktycznie pamięta. Po prostu nie pamięta tak, jak zrobiłby to panoptykon.

Z czego zrezygnowaliśmy

Ta architektura coś nas kosztuje. Nigdy nie powiemy „pozwól, że przeszukam każdą rozmowę, jaką kiedykolwiek odbyłeś, by znaleźć tę jedną strategię, która zadziałała przy zasypianiu”. Nigdy nie zbudujemy wykresu „rok w retrospektywie” regulacji emocjonalnej Twojego dziecka. Nigdy nie sprzedamy produktu kuratorium, które chce wciągnąć „dane”.

Pogodziliśmy się ze wszystkimi tymi stratami. Tak czy inaczej, nigdy nie były produktem.

Co to oznacza dla Ciebie w praktyce

W aplikacji:

Profil dziecka jest w Twoich ustawieniach. Możesz go przeczytać. Możesz go napisać od nowa. Możesz go usunąć.
Migawki stanu są wymienione pod każdym dzieckiem. Możesz usunąć pojedynczą migawkę. Możesz całkowicie wyłączyć migawki.
Same rozmowy dość agresywnie wypadają z kontekstu — wątek sprzed sześciu miesięcy nie ukształtuje cicho dzisiejszej odpowiedzi, chyba że sam przywołasz go z powrotem.
I, jak zawsze — pełny eksport, pełne usunięcie, oba w ciągu trzydziestu dni. Zobacz prywatność.

Pamięć to przywilej, nie ustawienie domyślne. Staramy się ją tak traktować.

— Zespół Parenty