"Moderointi" kuulostaa yhdeltä asialta. Kumppanisovelluksissa se on vähintään neljä, ne toimivat eri nopeuksilla ja niihin osallistuu eri ihmisiä.
Neljä kerrosta
Jokainen kerros näkee vähemmän sisältöä, mutta näkee sen tarkemmin.
1. Reaaliaikaiset suodattimet. Jokainen lähettämäsi viesti ja jokainen mallin kirjoittama vastaus voidaan tarkistaa automaattisilla luokittelijoilla ennen kuin se näkyy. Ne pysäyttävät kielletyt luokat - kaiken alaikäisiin liittyvän, tietyn väkivaltaisen sisällön, itsetuhon merkit - ja joko estävät viestin, pehmentävät vastausta tai näyttävät varoituksen. Täältä tulevat kieltäytymiset ja kriisikortit; sisältösuodattimia käsittelevä artikkelimme selittää, miksi ne joskus laukeavat kesken kohtauksen.
2. Keskustelutason liputus. Erikseen järjestelmät voivat pisteyttää kokonaisia keskusteluja tai tilejä kaavojen perusteella: toistuvat yritykset kiertää suodatinta, häirintä, merkit alaikäisestä aikuissovelluksen käyttäjänä. Liputus ei ole rangaistus; se on merkintä siitä, että ihminen voi katsoa.
3. Ihmistarkastus. Luottamus- ja turvallisuushenkilöstö, usein alihankkijoilla, tarkastaa osan liputetuista keskusteluista, käyttäjäilmoituksista ja valituksista. Jotkut yritykset ottavat otoksia myös tavallisista keskusteluista laadun tarkistamiseksi tai mallien kouluttamiseksi. Tämä on kerros, jonka tietosuojaselosteet kuvaavat ilmauksilla kuten "palvelujemme parantamiseksi" tai "ehtojemme täytäntöönpanemiseksi".
4. Oikeudelliset pyynnöt. Tuomioistuimet, poliisi ja viranomaiset voivat pyytää tietoja oikeudellisilla määräyksillä. Yritykset vastaavat oman käytäntönsä ja paikallisen lain mukaan.
Mikä yleensä johtaa ihmisen katseeseen
| Laukaisija | Miksi |
|---|---|
| Alaikäisiä koskeva sisältö | Lakisääteinen velvollisuus useimmissa maissa; usein ilmoitetaan eteenpäin |
| Itsetuhon tai itsemurhan merkit | Kriisiprotokollat vaaditaan nykyään laissa useassa Yhdysvaltain osavaltiossa |
| Uhkaukset todellisille ihmisille | Mahdollinen todellinen vahinko |
| Oma ilmoituksesi tai tukipyyntösi | Olet pyytänyt jotakuta katsomaan |
| Toistuvat suodattimen kiertoyritykset | Käyttöehtojen valvonta |
| Satunnainen laatuotanta | Tuotteen parantaminen, jos käytäntö sallii |
Mitä uudet lait lisäävät
Yhdysvaltain kumppanichatbot-lait, New Yorkista 2025 ja Kaliforniasta 2026 alkaen, edellyttävät sovelluksilta itsetuhoisten ajatusten ja itsensä vahingoittamisen ilmaisujen tunnistamista ja käyttäjien ohjaamista kriisipalveluihin. Kalifornia vaatii myös yrityksiä raportoimaan protokollistaan. Käytännössä se tarkoittaa enemmän, ei vähemmän automaattista seurantaa herkimmistä keskusteluista.
Suomessa ja EU:ssa vastaavaa kumppanisovelluksia koskevaa kriisiprotokollavelvoitetta ei ole tässä tarkistettu. EU:n tekoälyasetuksen avoimuusvelvoitteet (Art. 50: ihmiselle kerrotaan, että hän puhuu tekoälyn kanssa) tulevat voimaan 2.8.2026, ja Suomessa tekoälyjärjestelmien valvonnasta annettu laki (1377/2025) on ollut voimassa 1.1.2026 alkaen; sen mukaan valvonta on jaettu useille viranomaisille, ja Liikenne- ja viestintävirasto Traficom koordinoi sitä. Tietosuojalainsäädäntö koskee kumppanisovelluksia kuten muitakin tekoälyjärjestelmiä. Yksityiskohdat ovat artikkelissa tekoälykumppaneita koskeva sääntely.
Käytännön lukeminen tätä varten
Hae tietosuojaselosteesta ja ehdoista:
- "tarkastus", "moderointi", "ihminen" - lukevatko ihmiset keskusteluja ja miksi.
- "alihankkijat" tai "palveluntarjoajat" - työskentelevätkö tarkastajat jollekulle muulle.
- "parantaa", "kouluttaa" - otetaanko tavallisista keskusteluista otoksia.
- "lainvalvonta", "oikeudellinen prosessi", "tuomioistuimen määräys" - milloin tietoja luovutetaan ja vaaditaanko tuomioistuimen määräystä.
Huolellinen käytäntö nimeää laukaisijat ja sanoo, että tarkastajat näkevät keskusteluja vain tarvittaessa. Epämääräinen käytäntö, joka antaa henkilökunnalle pääsyn "kaikkeen sisältöön mihin tahansa liiketoiminnalliseen tarkoitukseen", kertoo myös jotain. Neljä yksityisyystarkistustamme kattavat loput asiakirjasta.
Käytännön johtopäätökset
- Kirjoita kuin tarkastaja saattaisi lukea sen, koska pienessä osassa tapauksia joku lukee.
- Pidä muiden ihmisten tunnistetiedot poissa keskusteluista, erityisesti eksplisiittisissä kohtauksissa - liputettua keskustelua lukeva tarkastaja näkee nekin.
- Jos suodatin laukeaa väärin fiktiossa, OOC-merkintä yleensä ratkaisee asian; kiisteleminen hahmona voi tuottaa lisää liputuksia.
- Jos välität eniten siitä, kuka voi lukea keskustelusi, ainoa kokoonpano, jossa kukaan muu ei voi, on kumppani, joka toimii omalla tietokoneellasi - katso tekoälykumppanin ajaminen paikallisesti.
Moderointi ei ole sama asia kuin valvonta. Valtaosassa keskusteluja mikään eikä kukaan katso automaattisen suodattimen yli. Mutta poikkeukset ratkaisee käytäntö, ei sovelluksen lämpö - ja ne kannattaa tietää ennen kuin niitä tarvitsee.