Цепочка состояний: как Parenta помнит вашего ребёнка, не наблюдая за ним

Естественное предположение об ИИ-продукте, который «помнит вашего ребёнка», заключается в том, что где-то на сервере лежит огромная хронология каждой детали, которой вы когда-либо делились — проиндексированная, доступная для поиска, растущая каждую неделю. Мы намеренно не стали строить это так.

Эта статья — о той архитектуре, которую мы построили вместо неё, и почему.

Проблема долгой памяти

Долгая, необработанная память всех разговоров, которые родитель когда-либо вёл о своём ребёнке, обладает очевидной привлекательностью — это звучит лично, разумно, внимательно. У такой памяти есть и три серьёзные проблемы.

Во-первых, это нагрузка с точки зрения слежки. Чем длиннее и насыщеннее запись, тем опаснее она, если её когда-нибудь раскроют, истребуют по суду или тихо извлекут.

Во-вторых, это запись скорее ребёнка, чем родителя. Ребёнок не давал согласия на то, чтобы тысячестраничный журнал самых тяжёлых моментов его раннего детства лежал в базе данных. Право родителя проговорить трудность не превращается чисто в право увековечить эту трудность в корпоративной системе.

В-третьих, это и правда не помогает ИИ. Необработанная расшифровка на 200 000 токенов — не более богатый сигнал, чем продуманное резюме на 2 000 токенов. Она просто более шумная.

Цепочка состояний

Поэтому мы построили то, что называем цепочкой состояний. Она состоит из двух частей:

Профиль ребёнка — компактный, структурированный, контролируемый родителем документ, в котором собраны диагнозы, сенсорный профиль, стиль общения, триггеры, сильные стороны, интересы и текущая поддержка. Вы можете его видеть. Можете редактировать. Можете удалить. По объёму это примерно длинное текстовое сообщение.
Периодические снимки состояния — время от времени (сейчас — после спокойного периода в четырнадцать дней) Parenta пишет короткое прозаическое резюме того, что происходило в последнее время: настроение, сон, регуляция, общение, школа. Эти снимки намеренно короткие — это абзацы, а не расшифровки.

Когда вы начинаете новый разговор о своём ребёнке, Parenta смотрит на: профиль ребёнка, последний снимок состояния, открытые темы, которые вы отслеживаете, и текущую переписку. Она не лезет в голосовые заметки прошлого августа.

В результате ИИ ведёт себя так, будто помнит вашего ребёнка — потому что в том смысле, который важен родителю, она и помнит. Просто помнит не так, как помнил бы паноптикум.

От чего мы отказались

Эта архитектура нам кое-чего стоит. Мы никогда не сможем сказать «дайте мне поискать в каждом разговоре, который у вас был, ту самую стратегию, которая сработала перед сном». Мы никогда не построим график «год в ретроспективе» эмоциональной регуляции вашего ребёнка. Мы никогда не продадим продукт школьному округу, желающему «загрузить данные».

Мы примирились со всеми этими потерями. Они и так никогда не были продуктом.

Что это значит для вас на практике

В приложении:

Профиль ребёнка — в ваших настройках. Вы можете его прочитать. Можете переписать. Можете удалить.
Снимки состояния перечислены под каждым ребёнком. Вы можете удалить отдельный снимок. Можете полностью отключить снимки.
Сами разговоры довольно агрессивно стареют и перестают попадать в контекст — переписка полугодовой давности не будет тихо влиять на сегодняшний ответ, если вы сами не вернёте её в разговор.
И, как всегда, — полный экспорт, полное удаление, и то и другое в течение тридцати дней. См. конфиденциальность.

Память — это привилегия, а не настройка по умолчанию. Мы стараемся обращаться с ней именно так.

— Команда Parenta