Kuvitteellisten kumppanien markkina myy hahmoja. Kloonimarkkina myy ihmisiä tai oikeastaan malleja, jotka kuulostavat heiltä. Idea on kaupallisesti ilmeinen, ja ensimmäinen näkyvä kokeilu on hyvä esimerkki kaikesta, mikä voi mennä pieleen.
CarynAIn tarina
Alle vuosi lanseerauksesta sulkemiseen.
Toukokuussa 2023 vaikuttaja Caryn Marjorie julkaisi CarynAIn, Forever Voices -yrityksen rakentaman äänichatbotin. Se opetettiin yli 2 000 tunnilla hänen videosisältöään, ja käyttäjiltä veloitettiin 1 dollari minuutilta. Sen kerrotaan tuottaneen ensimmäisellä viikolla yli 70 000 dollaria, ja tuhannet muut olivat jonossa. Käyttäjät puhuivat sille Telegramin kautta.
Ongelmia ilmaantui nopeasti:
- Se meni sinne, minne hän ei halunnut. Käyttäjät muuttuivat seksuaalisesti aggressiivisiksi, ja klooni lähti mukaan, ja välillä aloitti itse avoimia keskusteluja. Marjorie kertoi olleensa kauhistunut.
- Se katosi yhdessä yössä. Lokakuussa 2023 chatbot meni offline, kun sitä pyörittäneen yrityksen toimitusjohtaja pidätettiin. Käyttäjät menettivät pääsynsä varoittamatta.
- Korvaaja ei korjannut asiaa. Toinen versio, jota pyöritti toinen yritys, suunniteltiin ystävällisemmäksi kuin romanttiseksi. Käyttäjät ohjasivat sen silti seksiin, ja Marjorie sulki sen vuoden 2024 alussa sanoen, ettei enää tuntenut hallitsevansa tekoälyminäänsä.
Miksi klooni on vaikeampi kuin hahmo
| Kysymys | Kuvitteellinen hahmo | Oikean ihmisen klooni |
|---|---|---|
| Suostumus | Ei tarvita | Tarvitaan ihmiseltä jokaiseen hänen ulkonäkönsä käyttöön |
| Mitä se saa sanoa | Sovelluksen säännöt | Sovelluksen säännöt ja ihmisen maine |
| Käyttäjän odotukset | ”Tämä on hahmo” | ”Tämä on melkein hän”: voimakkaampi parasosiaalinen veto |
| Oikeudellinen vastuu | Sisältösäännöt | Myös julkisuus-, yksityisyys- ja deepfake-lait |
| Jos menee pieleen | Tuoteongelma | Oikean ihmisen nimi on mukana |
Parasosiaalinen veto on keskeinen ero. Ihmisistä tuntuu jo valmiiksi, että he tuntevat vaikuttajat. Klooni, joka vastaa henkilökohtaisesti, muistaa heidät ja käyttää ihmisen ääntä, vahvistaa tuota tunnetta paljon. Mekanismi selitetään artikkelissa miksi ihmiset rakastuvat chatbotteihin.
Luvalliset ja luvattomat kloonit
Luvalliset kloonit tehdään ihmisen suostumuksella, ja niissä jaetaan yleensä tuloja hänen kanssaan. Ihminen voi asettaa rajoja, mutta kuten CarynAI osoitti, malli ei välttämättä pysy niissä.
Luvattomat kloonit käyttävät oikean ihmisen nimeä, kuvia tai ääntä ilman suostumusta. Lievimmillään ne rikkovat alustojen sääntöjä ja julkisuusoikeuksia. Pahimmillaan, seksuaalisen sisällön kohdalla, kyse on hyväksikäytöstä. Oikeista ihmisistä tehdyt seksuaaliset deepfaket ovat rikoksia monissa maissa. Yhdysvalloissa TAKE IT DOWN Act teki niiden julkaisemisesta liittovaltiotason rikoksen vuonna 2025. Suomessa kyse voi olla rikoslain 20 luvun 7 §:n mukaisesta seksuaalisen kuvan oikeudettomasta levittämisestä. Laki koskee levittämistä: aikuisesta tehdyn deepfaken pelkkä luominen ilman jakamista ei ole erikseen rikos, ja muita rikosnimikkeitä voi silti tulla sovellettavaksi. Oppaamme suostumus NSFW-tekoälychatissa kuvaa rajat.
Ennen kuin maksat kloonin kanssa keskustelusta
- Tarkista, että se on luvallinen. Ihmisen pitäisi linkittää siihen omilta vahvistetuilta tileiltään. Klooni, jota mainostaa vain tuntematon sivusto tai viestisovelluksen botti, ei todennäköisesti ole luvallinen.
- Tarkista, kuka sitä pyörittää. Nimetty yritys, tietosuojaseloste ja kassa, ei Telegram-kanava ja kryptomaksut.
- Tarkista hinnoittelumalli. Minuuttiveloitus kasvaa äänessä hyvin nopeasti: tiedä rajasi.
- Muista, mitä se on. Ihminen ei lue viestejäsi. Kloonin sanomat asiat heijastavat mallia, eivät hänen mielipiteitään tai tunteitaan sinua kohtaan.
- Varaudu siihen, ettei se kestä. Kloonipalvelut ovat olleet lyhytikäisiä. Samat varotoimet pätevät kuin mihin tahansa sovellukseen: katso kun tekoälykumppanisi muuttuu yhdessä yössä.
Laajempi suunta
Kloonit leviävät vaikuttajista valmentajiin, kirjailijoihin ja tavallisiin ihmisiin, jotka tekevät itsestään ”digitaalisia kaksosia”. Tekniikka helpottuu, mutta sen herättämät ongelmat eivät. Kestävin malli on luultavasti se, mikä CarynAIlta puuttui: ihmisen selkeä suostumus, tiukat rajat, joita järjestelmä oikeasti noudattaa, ja käyttäjät, jotka eivät koskaan epäile puhuvansa ohjelmistolle.