Tekoälyn hallusinaatiot – mitä ne ovat ja miten niitä voi ehkäistä?

Mitä tekoälyn hallusinaatiot ovat?

Jos pyydämme tekoälyltä Y-tunnukset 20 helsinkiläiselle yritykselle, joiden liikevaihto on kasvussa, saatamme saada näennäisen johdonmukaisen ja kattavan listan. Ongelma on, että kaikki listan Y-tunnukset voivat olla keksittyjä.

Hallusinaatioille on ominaista juuri tämä uskottavuuden vaikutelma: vastaus näyttää vakuuttavalta, eikä tekoäly ilmaise epävarmuutta. Siksi kielimallien käyttöliittymät muistuttavat tarkistamaan niiden esittämät luvut ja faktat.

Mistä tekoälyn hallusinaatiot johtuvat?

Hallusinaatioita syntyy siis erityisesti kolmessa tilanteessa:

• Tietoa ei ole saatavilla (yleisin syy: malli arvailee).
• Kehote on epätarkka (malli täyttää aukot itse).
• Tehtävä on liian monimutkainen (malli yrittää tehdä kaiken kerralla).

Ongelma ei siis johdu yksin kielimalleista, vaan myös tiedon saatavuudesta. Hallusinaatiot eivät synny täysin sattumanvaraisesti: niiden taustalla on olosuhteita, joihin voidaan vaikuttaa.

Miten tekoälyn hallusinaatioita voi ehkäistä?

Tekoälyn hallusinaatioita voi ehkäistä antamalla mallille suoran pääsyn jäsenneltyyn tietoon. Tällaisessa ympäristössä kielimallit pystyvät tulkitsemaan tietoa, tekemään päätöksiä ja muodostamaan johtopäätöksiä parhaiten.

Seuraavat kolme menetelmää perustuvat tähän ajatukseen. Sopiva menetelmä riippuu käyttötarpeesta ja teknisestä osaamisesta.

Valmistele tiedot tiedostoon

Valmiiksi koottu aineisto on yksinkertaisin tapa vähentää hallusinaatioita. Kun tarvittavat tiedot annetaan mallille, sille jää vähemmän tilaa keksiä puuttuvia yksityiskohtia.

Aloittelijat saattavat odottaa kielimallin toimivan yhtä aikaa hakukoneena, ETL-putkena ja verkkosivujen tiedonkeruutyökaluna. Jos tehtävä edellyttää aineiston keräämistä, puhdistamista ja yhtenäistämistä, tarvittava tietomäärä voi ylittää mallin konteksti-ikkunan. Silloin hallusinaatioiden riski kasvaa huomattavasti.

Siksi tiedonkeruu kannattaa jakaa useisiin pienempiin kehotteisiin ja tarkistaa tuloksia työn edetessä. Se voi tuntua hitaalta, mutta näin syntyy luotettava pohja sille, missä kielimallit ovat parhaimmillaan: saatavilla olevan tiedon käsittelylle.

Hyödynnä API-rajapintaa

API-yhteys on edistyneempi ratkaisu: se tarjoaa nopeamman ja skaalautuvamman pääsyn tietoon, joka pysyy myös ajan tasalla. Jos tiedoston valmistelu vastaa vesiämpärin ojentamista, API vastaa vesihanan avaamista.

ChatGPT:n, Clauden ja Geminin käyttämä verkkohaku muistuttaa monin tavoin ihmisen tiedonhakua. Kielimallit etsivät sisältöä ulkoisilta sivustoilta, kuten Redditistä ja Wikipediasta, ja muodostavat sen perusteella vastauksen.

Tällöin ei kuitenkaan voi olla varma, ovatko löydetyt tiedot oikeita ja ajantasaisia. Hajautetuissa lähteissä käytännöt ja päivitysajankohdat vaihtelevat, ja mukana voi olla myös inhimillisiä virheitä tai mielipiteitä. API voi ratkaista tämän ongelman tarjoamalla ohjelmallisesti käytettävän, yhtenäisen lähteen puhdistetulle tiedolle.

Esimerkiksi Monitly API tarjoaa tilastoja eri puolilta maailmaa suorien lähdeyhteyksien kautta. Lähteisiin kuuluvat Tilastokeskus, Eurostat, Maailmanpankki (World Bank), WHO ja IMF sekä monet muut organisaatiot. Tekoälyn ei silloin tarvitse etsiä tietoa eri sivustoilta, vaan se voi tehdä kyselyn suoraan API-rajapintaan ja saada tuoreimman saatavilla olevan tuloksen analysoitavaksi.

Yhdistä MCP:hen

MCP-yhteys (Model Context Protocol) antaa kielimalleille suoran pääsyn tiedostoihin, taulukoihin, koodiin ja sovelluksiin. Se vähentää hallusinaatioiden riskiä merkittävästi, koska malli saa käyttöönsä valmista aineistoa.

Esimerkiksi yritystietopalvelu Compabase tarjoaa MCP-yhteyden, jonka avulla tekoäly voi tarkistaa kotimaisten yritysten tietoja nopeasti. Kun pyydämme nyt Y-tunnukset 20 helsinkiläiselle yritykselle, joiden liikevaihto on kasvussa, tuloksena voi olla keksittyjen tietojen sijaan yhtenäinen, tarkistettuihin tietoihin perustuva lista. Ero ei johdu siitä, että mallista olisi yhtäkkiä tullut ”älykkäämpi”. Aiemmin sillä ei ollut pääsyä tietoihin; nyt se voi tehdä tietokantaan yksinkertaisen SQL-kyselyn ja saada valmiin tuloksen.

Toisin sanoen:

Ilman MCP-yhteyttä:

• osaa yrityksistä ei ole olemassa;
• taloustiedot ovat sattumanvaraisia;
• Y-tunnukset ovat keksittyjä.

MCP-yhteyden avulla:

• malli tekee kyselyn tietokantaan;
• se palauttaa yksittäisiä tietueita;
• kyselyn tulos on deterministinen.

Hallusinaatiot eivät silti katoa kokonaan, jos mallilta vaaditaan edelleen liian monimutkaista tiedon käsittelyä ja yhdistelyä. Kun käytössä on kuitenkin jäsenneltyä ja ajantasaista tietoa ja tulkinnanvaraa rajataan, tekoälyn ei tarvitse arvailla: se voi analysoida olemassa olevia tietoja.