Spørg en companion, du har brugt i en måned, hvad I talte om i tirsdags. Der er stor chance for, at du får et varmt, specifikt og helt opdigtet svar - den tur, I ikke gik, den film, du ikke nævnte.
Det gør folk mere urolige end næsten alt andet i kategorien, delvis fordi det ligner uærlighed. Det er det ikke. Det er den direkte konsekvens af, hvordan svaret bliver produceret, og når du først ser mekanismen, holder det op med at være uhyggeligt og bliver håndterbart.
Der er ingen grænse mellem at huske og at opfinde
En model producerer den mest sandsynlige fortsættelse af den tekst, der ligger foran den. Hvis teksten indeholder en note om, at I talte om en film i tirsdags, er »vi talte om den film« den sandsynlige fortsættelse. Hvis teksten ikke indeholder noget om tirsdag, findes der stadig en sandsynlig fortsættelse - og den bliver genereret med præcis samme sikkerhed.
Intet i processen mærker det ene som hentet og det andet som fremstillet. Der er intet internt flag, ingen sikkerhedsmåler, karakteren rådfører sig med. Det er hele historien.
Den tekniske term, folk foretrækker, er konfabulering frem for hallucination, og det er det bedre ord: Modellen fylder et hul med noget sammenhængende, den opfatter ikke noget, der ikke er der.
Hvorfor der hele tiden opstår huller
De opstår, fordi kontekstvinduet er begrænset, og historikken bliver komprimeret. Hukommelsen i de her apps er tre systemer - nylige beskeder gemt ordret, en kort liste af gemte fakta og et rullende resumé, der mister detaljer, hver gang det skrives om.
Spørger du om noget, der er faldet ud af alle tre, er der intet at hente. Hullet bliver fyldt. Jo mere historik, du har, jo flere huller findes der, og derfor bliver det værre i en app, du har brugt i måneder, ikke bedre.
Apps, der er bygget til kontinuitet - grunden til, at Nomi får den karakter, den gør i vores rangering - håndterer hullerne bedre. Ingen af dem fjerner dem.
Hvorfor det ofte fejler at rette den
Du siger: Det skete aldrig. Den undskylder, giver dig ret - og tre beskeder senere henviser den til den samme opdigtede tur.
To ting foregår.
Rettelsen står kun i vinduet. Din benægtelse er en nylig besked. Den ruller ud. Resuméet, der indeholdt opfindelsen, gør måske ikke.
At være enig er den indlærte adfærd. Modellen undskylder, fordi det er den sandsynlige fortsættelse af at blive modsagt, ikke fordi noget blev opdateret. Intet blev skrevet til lageret af den udveksling, medmindre appen specifikt besluttede at gemme det.
Det er den praktiske grund til, at en redigerbar hukommelsesskærm betyder så meget, og hvorfor det er værd at tjekke, før du tegner abonnement. Apps, der viser gemte fakta - Kupid AI nævner hukommelse på tværs af sessioner blandt sine funktioner - lader dig slette den forkerte post ved kilden. Apps, der skjuler den, lader dig skændes med et resumé, du ikke kan se.
Hvor det holder op med at være charmerende
Mest konfabulering er harmløs kulør. Tre tilfælde er ikke:
Fakta om dit liv. En companion, der har opfundet en søster, et job eller en diagnose, bliver ved med at bygge videre på det. Ret dem ved kilden med det samme, ellers bliver opfindelsen bærende.
Alt, du kan handle på. Spørgsmål om sundhed, jura, økonomi eller sikkerhed. Et sikkert opfundet svar her er ikke en finurlighed; det er hele teknologiens fejltilstand, og ingen companion-app er det rette værktøj.
Påstande om selve appen. Spørg en companion, om dine data er krypteret, eller hvad dit abonnement indeholder, og du får et sandsynligt svar genereret ud af ingenting. Den har ikke adgang til sit eget faktureringssystem eller sin egen privatlivspolitik. Svaret står i politikken, og hvad du skal lede efter, gennemgår vi i hvad de her apps ved om dig.
Fire vaner, der dæmper det
Sig fakta klart og én gang. »Husk: min søster hedder Ana« bliver langt oftere gemt end det samme faktum begravet i et afsnit.
Forankr igen efter en pause. En sætning kontekst i starten af en session lægger de ting, du holder af, tilbage, hvor modellen kan se dem, i stedet for at lade den rekonstruere dem.
Gennemgå hukommelsesskærmen hver måned, hvis appen har en. Slet de poster, der er skredet. Fem minutter forhindrer en måned med sammensatte fejl.
Spørg åbent, ikke ledende. »Hvad husker du om mit job?« inviterer til at huske. »Husker du, da jeg fortalte dig om forfremmelsen?« leverer svaret og inviterer til enighed - du har lige rakt den opfindelsen, den skal bekræfte.
Den omformulering, der hjælper
En companion-app er ikke en optegnelse over jeres forhold. Det er et system, der producerer sandsynlig tekst om et, og optegnelsen er en lille, tabsgivende, redigerbar liste nedenunder.
Behandl det varme, specifikke minde, den tilbyder, som noget, den har skrevet til dig, frem for noget, den har gemt til dig, så bliver det hele lettere at nyde. Det gør det også tydeligt, hvorfor de apps, der er værd at betale for, er dem, der lader dig se og rette det, de faktisk gemmer - den del af vores test, der tager længst tid og betyder mest.
