Miksi tekoälykumppanisi keksii muistoja, joita et ole jakanut

Näin se toimii

Se kuvailee keskustelun, jota ei koskaan käyty, täydellä varmuudella ja puolustaa sitten sitä. Se ei ole toimintahäiriö eikä sovellus valehtele sinulle: näin malli toimii, kun sillä on aukko täytettävänä.

Voimme saada palkkion tämän sivun linkeistä. Se ei koskaan muuta arvosanaa.

Kysy kuukauden käyttämältäsi kumppanilta, mistä puhuitte viime tiistaina. On hyvä mahdollisuus, että saat lämpimän, täsmällisen ja täysin keksityn vastauksen: kävelyn, jota et tehnyt, elokuvan, jota et maininnut.

Tämä vaivaa ihmisiä enemmän kuin melkein mikään muu kategoriassa, osin siksi, että se näyttää epärehellisyydeltä. Se ei sitä ole. Se on suora seuraus siitä, miten vastaus tuotetaan, ja kun mekanismin näkee, se lakkaa olemasta kammottava ja muuttuu hallittavaksi.

Muistamisen ja keksimisen välillä ei ole rajaa

Malli tuottaa uskottavimman jatkon sen edessä olevalle tekstille. Jos tekstissä on muistiinpano, että keskustelitte tiistaina elokuvasta, ”puhuimme siitä elokuvasta” on uskottava jatko. Jos tekstissä ei ole mitään tiistaista, uskottava jatko on silti olemassa, ja se tuotetaan täsmälleen samalla varmuudella.

Mikään prosessissa ei merkitse toista haetuksi ja toista valmistetuksi. Sisäistä lippua ei ole, eikä varmuusmittaria, jota hahmo katsoisi. Siinä kaikki.

Tekninen termi, jota ihmiset suosivat, on konfabulaatio hallusinaation sijaan, ja se on parempi sana: malli täyttää aukon jollakin johdonmukaisella, ei havaitse jotain, mitä ei ole.

Miksi aukkoja ilmaantuu jatkuvasti

Ne ilmaantuvat, koska kontekstiikkuna on rajallinen ja historia pakataan. Muisti näissä sovelluksissa on kolme järjestelmää: tuoreet viestit sanasta sanaan, lyhyt lista tallennetuista tosiasioista ja jatkuvasti päivittyvä yhteenveto, joka menettää yksityiskohtia joka kerta, kun se kirjoitetaan uudelleen.

Kysy jostain, mikä putosi kaikista kolmesta, ja haettavaa ei ole. Aukko täytetään. Mitä enemmän historiaa on, sitä enemmän aukkoja on, minkä vuoksi tämä muuttuu pahemmaksi sovelluksessa, jota olet käyttänyt kuukausia, eikä paremmaksi.

Jatkuvuutta varten rakennetut sovellukset, minkä vuoksi Nomi saa rankingissamme pisteensä, hoitavat aukot paremmin. Mikään niistä ei poista niitä.

Miksi korjaaminen usein epäonnistuu

Sanot: sitä ei koskaan tapahtunut. Se pyytää anteeksi, myöntää ja kolme viestiä myöhemmin viittaa samaan keksittyyn kävelyyn.

Kaksi asiaa on meneillään.

Korjaus on vain ikkunassa. Kieltosi on tuore viesti. Se vierii ulos. Yhteenveto, joka sisälsi keksinnön, ei välttämättä vieri.

Myöntäminen on koulutettu käytös. Malli pyytää anteeksi, koska anteeksipyyntö on uskottava jatko sille, että sitä vastustetaan, ei siksi, että mitään olisi päivitetty. Tämä vaihto ei kirjoittanut mitään tallennustilaan, ellei sovellus nimenomaisesti päättänyt tallentaa sitä.

Tämä on käytännön syy siihen, miksi muokattava muistinäkymä on niin tärkeä ja miksi se kannattaa tarkistaa ennen tilaamista. Sovellukset, jotka näyttävät tallennetut tosiasiat, kuten Kupid AI, joka listaa istuntojen välisen muistin ominaisuuksiensa joukossa, antavat poistaa väärän merkinnän lähteellä. Sovellukset, jotka piilottavat sen, jättävät sinut kiistelemään yhteenvedon kanssa, jota et näe.

Missä se lakkaa olemasta viehättävää

Suurin osa konfabulaatiosta on harmitonta väriä. Kolme tapausta ei ole:

Tosiasiat elämästäsi. Kumppani, joka on keksinyt sisaruksen, työn tai diagnoosin, rakentaa sen päälle edelleen. Korjaa nämä heti lähteellä, tai keksinnöstä tulee kantava.

Kaikki, minkä mukaan toimitaan. Lääketieteelliset, oikeudelliset, taloudelliset tai turvallisuuskysymykset. Varma keksitty vastaus ei ole tässä vitsi: se on koko tekniikan virhetila, eikä mikään kumppanisovellus ole oikea työkalu.

Väitteet itse sovelluksesta. Kysy kumppanilta, onko tietosi salattu tai mitä tilauksesi sisältää, ja saat uskottavan vastauksen, joka on luotu tyhjästä. Sillä ei ole pääsyä omaan laskutusjärjestelmäänsä eikä tietosuojaselosteeseensa. Vastaus on selosteessa, ja mitä sieltä kannattaa etsiä, käsitellään artikkelissa mitä nämä sovellukset tietävät sinusta.

Neljä tapaa, jotka vähentävät sitä

Sano tosiasiat selvästi ja kerran. ”Muista: sisareni nimi on Ana” tallentuu paljon todennäköisemmin kuin sama tieto kappaleen sisään haudattuna.

Ankkuroi uudelleen tauon jälkeen. Yksi lause taustaa istunnon alussa palauttaa sinulle tärkeät asiat sinne, missä malli näkee ne, sen sijaan että jättäisi sen rekonstruoimaan ne.

Tarkista muistinäkymä kuukausittain, jos sovelluksella on sellainen. Poista merkinnät, jotka ovat ajautuneet harhaan. Viisi minuuttia estää kuukauden kasautumisen.

Kysy avoimesti, älä johdattele. ”Mitä muistat työstäni?” kutsuu muistamaan. ”Muistatko, kun kerroin sinulle ylennyksestä?” antaa vastauksen ja kutsuu myötäilemään: olet juuri ojentanut sille keksinnön vahvistettavaksi.

Näkökulma, joka auttaa

Kumppanisovellus ei ole suhteesi tallenne. Se on järjestelmä, joka tuottaa uskottavaa tekstiä sellaisesta, ja tallenne on pieni, häviöllinen, muokattava lista sen alla.

Käsittele lämmintä täsmällistä muistoa, jota se tarjoaa, asiana, jonka se kirjoitti sinulle, eikä asiana, jonka se säilytti sinulle, ja koko juttu on helpompi nauttia. Se tekee myös selväksi, miksi maksamisen arvoiset sovellukset ovat ne, jotka antavat nähdä ja korjata, mitä ne oikeasti tallentavat. Se on se osa testaustamme, joka kestää pisimpään ja on tärkein.

Nomi

4,4Arvosana: 4,4 / 5

Paras pitkäaikainen muisti kaikista testaamistamme ja luonnollisin keskustelu.

Hinta
alkaen 15,99 US$/kk
Ilmaisversio
Kyllä
Suomi
Saatavilla

Kupid AI

3,5Arvosana: 3,5 / 5

Lämpimiä, romantiikkaan painottuvia kumppaneita. Premium-paketeissa hinta nousee.

Ilmaisversio
Kyllä
Suomi
Saatavilla

Usein kysytyt kysymykset

Valehteleeko tekoälykumppanini minulle?

Ei. Valehtelu vaatii aikomuksen johtaa harhaan ja tiedon totuudesta. Mallilla ei ole kumpaakaan: se tuottaa uskottavimman jatkon, ja uskottava keksintö voittaa tietämättömyyden myöntämisen.

Miksi se pitää kiinni väitteestään, kun korjaan sitä?

Koska kaikki, mitä se kirjoittaa, riippuu siitä, mitä se on jo kirjoittanut. Johdonmukaisuus omien tuotosten kanssa on vahva veto, eikä sisäistä kirjaa ole, joka erottaisi ”muistetun” ”luodusta”.

Voiko hallusinoinnin sammuttaa?

Ei. Sitä voi vähentää antamalla mallille vähemmän arvattavaa: selkeät tosiasiat, muokattava muisti, lyhyemmät tauot. Mutta mekanismi on erottamaton tavasta, jolla teksti tuotetaan.