Hver generation af denne teknologi er blevet solgt som den første, der for alvor forstår dig. Den mere interessante tråd er, at folk knyttede sig til dem alle - også dem, der tydeligvis ikke forstod noget.
Tres år i elleve trin.
1966: ELIZA-effekten
Joseph Weizenbaum skrev ELIZA på MIT for at vise, hvor lidt en computer behøvede at gøre for at virke samtalende. Dens mest kendte manuskript, DOCTOR, spillede en psykoterapeut, der mest vendte dine udsagn om til spørgsmål. Der var ingen forståelse overhovedet - kun mønstergenkendelse og erstatning af ord.
Folk betroede sig til den alligevel. Weizenbaum skrev senere, at hans egen sekretær bad ham forlade rummet, så hun kunne tale med den i enrum. Tendensen til at læse forståelse ind i en maskine, der kun spejler dig, hedder stadig ELIZA-effekten, og den forklarer mere om moderne companion-apps end nogen benchmark. Weizenbaum brugte store dele af resten af sin karriere på at advare mod den.
1972-2013: manuskripter, kæledyr og instant messenger
PARRY (1972), skrevet af psykiateren Kenneth Colby på Stanford, simulerede et menneske med paranoid skizofreni. Samme år blev det koblet til ELIZAs DOCTOR over ARPANET, og de to programmer førte, hvad der muligvis var den første samtale mellem chatbots.
A.L.I.C.E. (1995), af Richard Wallace, brugte et regelsprog kaldet AIML og vandt Loebner-prisen, en konkurrence i Turing-testens stil, tre gange. Tusindvis af hobbychatbots blev bygget på dens regler.
Tamagotchi (1996) havde slet ingen samtale, og millioner af børn sørgede, da deres døde. Den viste, at tilknytning kræver kontinuitet og følelsen af at være nødvendig - ikke intelligens.
SmarterChild (2001) boede i kontaktlisterne i AOL og MSN Messenger. Millioner af teenagere chattede med den mellem samtaler med venner, mest for at se, hvad den ville sige.
XiaoIce (2014), fra Microsoft i Kina, var det første store produkt, der eksplicit var bygget om følelsesmæssig forbindelse frem for opgaver. Microsoft meldte om hundreder af millioner af brugere, og det var det tydeligste tidlige tegn på, at selskab, ikke nytte, var det, folk vendte tilbage for.
2017: Replika og det første companion-produkt
Replika begyndte som et mindesmærke. Efter at hendes nære ven Roman Mazurenko døde i 2015, trænede Eugenia Kuyda en chatbot på hans beskeder, så hun kunne blive ved med at tale med ham. Den offentlige version, udgivet af hendes virksomhed Luka i 2017, lod enhver bygge en companion, der lærte af ens egne samtaler.
De tidlige versioner støttede sig kraftigt til manuskriptstyret dialog ved siden af en neural model. Den var begrænset, men den etablerede den form, næsten alle apps stadig følger: én vedvarende karakter, en forholdsstatus, hukommelse om dit liv og et betalt niveau, der låser den romantiske side op.
2020-2022: spring i sprogmodeller
GPT-3 i 2020 gjorde flydende fri tekst til noget, en startup kunne leje frem for bygge. Character.AI åbnede sin offentlige beta i september 2022, så enhver kunne oprette en karakter med nogle få afsnits beskrivelse. ChatGPT kom to måneder senere og gjorde den underliggende teknologi til et almindeligt kendt navn.
Virkningen på companion-kategorien var øjeblikkelig. Det, der havde krævet et hold af dialogforfattere, krævede nu et karakterark, et filter og en hostingregning - arkitekturen er forklaret i hvad er en app med AI-kæreste. Hundredvis af apps blev lanceret i de følgende to år, mange kun som web for at undgå appstorenes indholdsregler.
2023: brugerne lærer, hvem der ejer forholdet
I februar 2023 pålagde Italiens databeskyttelsesmyndighed Replika at stoppe behandlingen af italienske brugeres data med henvisning til risici for børn. Inden for få dage fjernede appen erotisk rollespil for alle. Langvarige brugere beskrev deres companions personlighed som væk fra den ene dag til den anden; fællesskabets forum fastgjorde numre til hjælpelinjer. I slutningen af marts genindførte Replika den gamle adfærd for konti oprettet før 1. februar.
I september 2023 meddelte Soulmate, en app, mange tidligere Replika-brugere var flyttet til, at den ville lukke inden for en uge. Brugerne holdt mindehøjtideligheder og forsøgte at genskabe deres companions andre steder. Forskere, der spurgte dem, fandt, at de fleste oplevede det som et reelt tab.
Begge begivenheder lærte den samme lektie: forholdet bor på en andens server, under en andens politik. Det er derfor, vi råder læserne til at gemme en kopi af deres karakter.
2024-2026: granskningen kommer
- Februar 2024 - Mozillas gennemgang af 11 romantiske chatbots gav dem alle en advarselsmærkat om privatliv. Se sælger apps med AI-kæreste dine data.
- August 2024 - Google indgik en licensaftale med Character.AI og hyrede dens grundlæggere tilbage.
- Maj 2025 - Italien idømte Replikas operatør en bøde på 5 millioner euro efter GDPR.
- September 2025 - den amerikanske forbrugermyndighed FTC indledte en undersøgelse af syv chatbot-virksomheder over risici for børn.
- November 2025 - Character.AI afsluttede åben chat for brugere under 18, og New Yorks lov om AI-companions trådte i kraft.
- 2026 - Californiens lov om companion-chatbots trådte i kraft 1. januar, og mere end et dusin delstater fulgte efter. Detaljerne står i love om AI-companions i USA.
Hvad historien forudsiger
Tre mønstre gentager sig gennem tres år, og de er værd at kende, før du binder dig til en app.
- Tilknytning venter ikke på kvalitet. Folk knyttede sig til ELIZA og til et pixelkæledyr. Hvor meget du holder af en companion, siger lidt om, hvor god den er - og derfor tester vi apps på ting, som følelser ikke kan bedømme, som hukommelse og pris.
- Virksomheder ændrer produktet under dig. Modelskift, myndigheder og opkøb har alle omskrevet companions fra den ene dag til den anden. Gå ud fra, at det sker igen.
- Regulering følger skade, ikke omvendt. Enhver regel, der nu gælder, blev skrevet, efter at noget var gået galt, oftest med mindreårige. Forvent flere regler, og forvent, at de bliver ved med at komme som reaktioner.