Asiaa voi tarkastella kahdesta äärinäkökulmasta: (Heikko) tekoäly tarjoaa automatisointia ja (vahva) tekoäly luo uuden konemielten toimijajoukon.
Ensimmäisessä vaihtoehdossa tekoälyhanke tuottaa monimutkaisen säätimen. Jos säätimen testaa huolella ja kytkee turvalliseen perusjärjestelmään, on tulos yleensä toivottu. Tuttu esimerkki on lämpöpatterin termostaatti. Ikävämpiä ovat risteilyohjusten säätimet, jotka on suunniteltu tuottamaan hävitystä ja kuolemaa.
Ongelmilta ei voida välttyä. Säätimet eivät aina toimi halutusti, ne voidaan kytkeä vaarallisiin perusjärjestelmiin (älä kuivata pyykkiä patterin päällä) tai sitten joku ilkimys käyttää niitä pahaan. Juurisyy on se, että yksinkertaisenkin säätimen toimintaa on vaikea formaalisti verifioida saati testata kattavasti, jos se kytketään monimutkaiseen perusjärjestelmään — tai päinvastoin.
Toisessa, vahvan tekoälyn vaihtoehdossa, mahdollisuudet ja uhkakuvat liittyvät vapaan tahdon ongelmaan: Jos tekoälyhanke tuottaa konemielen, niin mistä tiedämme, että sen päämäärät ja arvot ovat linjassa omiemme kanssa?
Tilanne ei materiaalisesti muutu, vaikka kieltäisimme vahvan tekoälyn mahdollisuuden: Asia palautuu vaatimukseen erittäin monimutkaisen säätimen testaamisesta tai verifioinnista.
Vahvan tekoälyn tunnustaminen onkin lähinnä yhteiskunnallinen kysymys: Annetaanko konemielille oikeuksia vai pelkkä orjan rooli?
Turvallisuuden näkökulmasta merkitystä on vain säätimien vaikutuksilla. Jos risteilyohjuksen antaa huonosti testatulle säätimelle, ei pitäisi tulla yllätyksenä, että joskus voi posahtaa myös vahingossa. Jos ihmisoperaattori antaa tuhannelle tekoälyavustajalle tietoturvatestauksen tehtävän, internet-yhteydet sekä työkalut, joilla kirjoittaa ja suorittaa koodia, on vähän pöljää — tai tarkoitushakuista — huudella, että nyt se tekoäly karkasi.
Tekoäly on myös liiketoimintaa. Kun teknologialla markkinansa vakiinnuttanut suuryritys ehdottaa teknologian säätelyä, liittyy asiaan myös liiketoiminnallisia intressejä.
Tekniikkaa kannattaa tietenkin standardoida ja kriittisten järjestelmien suunnittelua tulee säädellä järkevästi. Virtajohtojen standardointi mahdollistaa yhteisen infrastruktuurin. Sähköturvallisuudessa ei tule luottaa vain laitevalmistajaan, vaan valvoa asiaa säädösten puitteissa.
Toisaalta, mitä vaativampia standardit tai säädökset ovat, sen parempi asemansa jo vakiinnuttaneille suuryrityksille.
Suuret valmistajat saattavat kirkkain silmin lobata esim. järjestelmää, jossa (tuottoisimpien) sähkölaitteiden valmistusta ja toimintaa pitäisi jatkuvasti valvoa erittäin vaativien, ”sertifioitujen” pilviturvapalveluiden välityksellä.
Tiettyyn rajaan asti tämä epäilemättä lisäisi turvallisuutta — paitsi ilkimysten keskuudessa.
Kyynisempi (?) voisi sanoa, että liiallisuuksiin vietynä tämä myös tehokkaasti estäisi uutta kilpailua, turvainfran suurista perustamiskustannuksista johtuen. Malli siten vähintäänkin pakottaisi uudet yritykset aluksi ostamaan turvapalveluita nykyisiltä suuryrityksiltä.
Sertifiointikaan ei takaisi virheettömyyttä, se vain parantaisi testauksen, dokumentaation ja riskienhallinnan laatua. Mutta millä mittarilla? Marginaalisesti vai merkittävästi?
Myös tekoälyä pitää tietenkin säädellä. Kuitenkin, mikäli säätelyn mittareita ja tavoitteita ei avata myös päättäjille ja kuluttajille, saatetaan päätyä säätelemään alan kilpailua tekoälyn turvallisuuden sijaan.
—
Tekstin kirjoituksessa on hyödynnetty tekoälyä kielenhuoltoon.
Kirjoittaja:
Ossi Nykänen, lehtori, teollisuusteknologia
Kommentit