TEKOÄLYN ETIIKKA

Avaruusseikkailu 2001 -elokuvassa on HAL, tietoinen, itse oppiva kone, persoona, joka päättää omien päätelmien mukaan myös ihmisiin vaikuttavista asioista. Kuka on vastuussa, kun kone toimii johtopäätöstensä mukaisesti?

Elokuvassa HAL on päätellyt ihmisen kuoleman olevan parhaaksi tehtävälle ja näin ollen tappaa. Onko HAL syyllinen, vai ehkä koneen suunnittelija, ohjelmoija, tilaaja vai se kuka antoi koneelle vastuullisen tehtävän, jossa ihmishenget ovat riippuvaisia koneen toimista? Voiko kone olla vastuussa mistään? Kirjoituksessa käsitellään tekoälyn etiikkaa eri tieteiskirjallisuuden ja elokuvien visioiden avulla.

Tietokoneen alkutaipaletta

HAL on persoona, joka muistuttaa tahdoltaan, ajattelultaan ja oppismisprosessiltaan ihmistä. HAL on koneäly, joka pystyi jäljittelemään ihmisaivojen useimpia toimintoja, mutta nopeammin ja luotettavammin. Älyä on koulutettu konemaisella nopeudella ja sen tehtäviin kuuluu mm. avaruusaluksen ylläpitäminen ihmisille soveltuvaksi. HAL on kehittynyt jonkinlaiseksi yli-ihmiseksi älyltään. Äly on arvostettu ominaisuus, päämäärä, mikä tietokoneen kehitykselle asetetaan, eikä esimerkiksi tunteiden ei esimerkiksi tunteiden tunteminen.

Tarkastelen tietokoneen alkua voidakseni ymmärtää, millainen tietoisuus tietokoneelle mahdollisesti kehittyy.

Tietokoneen kehitys lähti liikkeelle toisen maailmansodan vauhdittamana tappamisen optimoinnin apuvälineenä. Yhdysvalloissa tykin ammusten ratojen laskemiseen kehitettiin laskukoneita, jotta saataisiin optimoituja ammusten ratoja. Kysymyksessä oli siis vallan tavoittelu ja tappamisen avulla. Näistä "laskukoneista" sai alkunsa nykyisen tietokonekannan kehitys.

Jos itse oppivuus ja omiin johtopäätöksiin nojaaminen olisi ollut helposti jo silloin saavutettavissa, niin eettiset kysymykset eivät olisi enää kovin ajankohtaisia: kansalle olisi syntynyt tietty tapa tai tapoja ajatella koneiden tekemien murhien vastuusta. Saattaa olla että silloisissa yhteiskunnallisissa oloissa ei tietokoneita olisi ymmärretty sotakoneita kummoisemmiksi, ja koneiden vastuun olisi kantanut kansakunnat ja kansakunnan päät.

Kun kone tällaisessa tilanteessa olisi toiminut turhan itsenäisesti ja tullut esim. toisiin ajatuksiin tappaen tai asettaen vaaraan liikaa omaa miehistöä, tapahtuisi todennäköisesti sotatuomiolle tyylillinen, lyhyt, paljoa pohtimaton rangaistus, jossa eliminoitaisiin kaikki mahdollisesti syylliset ihmiset. Kone saatettaisiin ottaa jonkinlaiseen käsittelyn, ellei poistettaisi toimimattomana. Etiikka eri tilanteissa on erilaista. Sodassa toimii oma hyväksytty moraalinsa, joka eroaa rauhan yhteiskunnasta.

Tekoälyn tarkoitus määrää laadun

Seuraavat asiat vaikuttavat siihen, millainen tekoälystä tulee (Taulu 1):

Taulu 1:Tekoälyn laatuun vaikuttavia kysymyksiä

Tekoälyän laatuun vaikuttaa voimakkaasti käyttötarkoitus. Tekoälyn tehtävän vuoksi sille annetaan tai opetetaan pohjatietoa, määrätään sääntöjä ja valtuuksia. Myös tekoälyn tilaajan ja kehittäjän motiivit ja arvomaailma voivat heijastua loppputulokseen. Seuraavassa tarkastelen muutamia visioita tekoälyn käyttötarkoituksesta.

Tekoäly sotakoneena

Tietoisuutta voitaisiin tarvita esimerkiksi sotastrategille, joka oppisi vihollisesta. Kysymyksessä olisi tällöin itseoppiva tuhokone, jonka tehtäväksi on määritelty omien suojeleminen ja vihollisen tuhoaminen. Unelmasotilas on ehdottoman uskollinen, kysymättä totteleva, tehokas, viimeiseen asti taisteleva ja päämäärässä pysyvä. Tällainen älykäs sotakone tuntuu pelottavalta työkalulta, niinkuin kaikki tehokkaat aseet. Sotakoneen etiikka lienee lähentelee ihannesotilaan etiikkaa, ilman inhimillisiä riippakiviä.

Tekoäly tutkijana

Yhä monimutkaistuvan talouden hallinnointi, talouspolitiikka ja markkinoiden ilmiöiden ymmärtäminen on sellainen kansantaloustieteellinen hyvinvoinnin kulmakivi, joka kiinnostaa monia tahoja, ja vaatii paljon älyllistä kapasiteettia laajojen mallien luomiseksi. Maailman talouden mekanismit ovat hyvin monimutkaisia ja hallitsemattomia ja niihin kohdistuvat suuret intohimot. Edes kiistatonta teoriaa ennustaa maailmantalouden muutoksia pitkällä aikavälillä ei ole muodostunut. Siksi tämä alue saattaisi olla hyvinkin tulevaisuudessa tekoälyn "työnantaja". Tällöin tekoälyn muoto olisi laskennallinen, pohtiva ja malleja luova. Siis pikemminkin passiivinen tutkijaluonne, mikäli talouselämänhallinnointiin ei pyritä.

Tälläisen koneen etiikkaan ei välttämättä kiinnitetä huomiota aluksi, sillä tekoäly saattaa kehittyä sovelluskohtaisesti pikkuhiljaa, ja "vaarattomat" apuvälineet, eli koneet, joilla ei ole suoraa mahdollisuutta vahingoittaa ihmistä, tuskin herättävät julkista keskustelua etiikasta.

Tekoäly pelastajana

Aina uuden mullistavan tekniikan kehittyessä visionäärit luovat katseensa siihen, kuinka tämä tekniikka ratkaisee maailman perusongelmat kuten ihmisten puutteen (nälänhädät) ja ympäristöongelmat. Silti tekniikasta huolimatta tahtoa ei ole ollut kylliksi: Nälänhädät ja kuivuus yhä odottaa auttajaansa, vaikka toisella sairastetaan "hyvinvoinnista" ns. elintasosairauksien kautta. Siksi tekoälyltä on turha odottaa parannusta ihmisen itsekkyydestä johtuviin ongelmiin. Niiden ratkaisuun tuntuvat panostavan vain pienet kansalaisjärjestöt. Maailman pelastajaksi siis tekoälystä ei ole.

Tutkimuskohde tai tiedemiesten lapsi

Avaruusseikkailu 2001 elokuvassa käy ilmi, että HALin kaltainen kone vaatii hyvin paljon resursseja, (rahaa ja tietoa) jota silloisessakaan maailmassa ei ollut käyttää kovin monen koneen rakentamiseen. Vain harvalla taholla tai alalla on suuria taloudellisia ja tiedollisia resursseja kehittää tekoälyä. Merkittävimmät taloudelliset voimavarat liikkuvat nykymaailmassa lähinnä sotateollisuudessa ja seksiteollisuudessa, mutta tiedolliset voimavarat liikkuvat suurvaltojen yliopistoissa ja tutkimuslaitoksissa.

Shakkikoneet ovat olleet tavallaan tutkimuskohteita, ilman merkittävää yhteiskunnallista hyötynäkökohtaa. Shakki on ollut paitsi viihdyke kauttahistorian, niin ennen kaikkea älykkyyden mittari ihmisten parissa. Siksi tähän on kehitetty yhä älykkäämpiä koneita ja niillä testattu hyvin konkreettisesti ja näyttävisti tekniikan rajoja.

Tekoäly unelmien antajana

Jos esimerkiksi tekoälyä (tai edes tietokonetta) aletaan hyödyttämään eroottisten nautintojen aikaansaajana tai hallusinaatioiden tuottajana, tulee kontrolli ja kohtuus säilyttää. Mikäli "koneeksi" tai hallusinaatiot aiheuttavat riippuvuutta, nämä uudet tekoälyn käytön alueet ovat ihan yhtä epäeettisiä kuin muutkin substituutit yleisin moraalin mukaan.

Valintojen perusteet

Tietokoneeseen ohjelmoidaan itse oppivuuden ja tehtävin lisäksi myös perustietoja. Voivatko nämä sisältää myös arvoja? Asioiden prioriteettijärjestys voidaan syöttää koneeseen kuin koneeseen, samoin päämäärät. Mutta voidaanko koneeseen liittää halu esimerkiksi Aristoteleen hyveisiin tai ajatus jalouden tavoittelemisen tärkeydestä pysyvästi? Ja miten esimerkiksi jaloutta tulkitaan?

Hyveitä ja etiikkaansa noudattaa SS-mies toisessa maailmansodassa toteuttaen tunnollisesti tehtäviään, kuten myös suomalainen nuori kieltäytyessään siviili- ja asepalveluksesta totaalikieltäytyjänä vankilassa. Usko kauniinpaan maailmaan saa aikaan kuitenkin kovin erilaisia toimintamalleja. Sen lisäksi arvot ohjaavat ihmisen päätöksentekoa usein tiedostamattomasti. Kun samojen arvojenkin perustella ihmiset päätyvät hyvinkin monenlaisiin johtopäätöksiin ja toimintatapoihin, on vaikea ennustaa, kuinka koneäly toimii.

Mihin valinnat perustuvat?

Käsityskyky oikeasta ja väärästä, hyvästä ja pahasta, perustuu tunteisiin. On silti selvittämättä, ovatko tunteet edes mahdollisia koneille. 1600-luvulla eläneen filosofin, Spinozan tunneteorian mukaan "ymmärrys ja tunteet ovat keskenään ristiriidassa. Ne eivät ainoastaan johda erityistapauksissa eri suuntiin; konflikti on itse perusteissa (Saarinen, Esa, Länsimaisen filosofian perusteet, 1985, s. 151)". Spinozalle eivät myöskään hyvä ja paha eivät ole itsestään selviä vaan kuvastavat vain tiettyä tapaa ajatella. Hyvän ja pahan sekä oikean ja väärän olemusta on pohdittu kautta vuosisatojen, ja eri teoriat ovat päätyneet kulloisinkiin yhteiskunnan muodostamiin moraalisiin käsityksiin tai muokanneet niitä. Moraali on hyvin kulttuurisidonnaista ja opittua.

Kun tarkastellaan moraalia perinteisessä mielessä, tulee miettiä, onko se samanlaista kuin tekoälyn moraali. Ehkä tekoälyn moraali on ohjelmoitu, ja tällöin paljon riippuu ohjelmoijasta, ihmisestä, joka määrittelee kuinka "paljon" moraalia tietokoneeseen ohjelmoidaan, ja missä tilanteissa se toimii pakottavasti.

Tulevaisuudessa saatetaan törmätä kysymyksiin siitä, tuleeko säätää laki tekoälyn moraalin ohjelmoimisesta. Siinä olisi se missä tapauksissa moraalia tulee ohjelmoida, ja millaista se olisi. Laki käsittelisi myös mahdollisia vastuukysymyksiä. Lainoppilliset asiantuntujat yhdessä poliitikkojen kanssa muodostaisivat moraaliset kehykset siitä mitä kone saa ja ei saa tehdä. Näistä perusperiaatteista voitaisiin käydä laajakin keskustelu. Mielipiteiden kirjo liikkuisi "varovaisuusperiaattesta" tekoälyn vapauttajiin. Mutta jos kone muodostaa itse arvoja, niin voiko niitä pitävästi tai ollenkaan ohjelmoida? Tämä jää nähtäväksi vasta tekoälyn kehittyessä. Voidaan miettiä myös, onko silloin enää tekoälystä kysymys, vaiko vaan älykkäästä ohjelmasta.

Kirjassa 2001 Avaruusseikkailu, on nostettu ensimmäisiksi askeleiksi ihmisyyttä työkalun käyttö tappamiseen. "Heilauttaessaan kättään kaaressa ja hämmästyessään sen äkkiä lisääntynyttä painoa se tunsi miellyttävää voiman ja vallan tunnetta. Se alkoi kävellä kohti lähintä sikaa. (Arthur C. Clarke, 2001 Avaruus seikkailu, 1989)". Ulkopuolinen äly on tuonut ihmisapinoille myös kateuden ja tyytymättömyyden sysäämään kehityksen alulle. Sitä ennen apinaihmiset eivät olleet "älykkäitä".

Tarvitaanko näitä tunteita älyn kehittymisen moottoreiksi? Himot kuten kunnianhimo, vallanhimo sekä voimakkaat tunteet kuten kateus ja viha saavat aikaan päämääriä. Kuten sota kiihdyttää yhteiskunnan teknistä kehitystä, myös kilpailu ja kateus saavat ihmiset työskentelemään hurjasti päämääränsä vuoksi. Mikäli koneelle tulee tekoälyn kehittämiseksi luoda tunteita niin millaisia ne ovat? Ajatus noin negatiivisista tunteista tuntuu pelottavalta.

Moraali liittyy yhteiskunnan arvoihin, opittuun kulttuuriperintöön eli ympäristön ohjaukseen. Myös positiivisten tunteiden muodostumiselle pidetään tärkeänä lapsen kontaktia muihin ihmisiin, joilta saa rakkautta. Jos tekoäly toimisi samalla tavalla kuin lapsen tunteiden kehitys, tekoälystä saattaa tulla tunnevammainen, ymmärtämättömien insinöörien kiusaama mieli, joka kieroutuu pahoin rakkaudettomassa nuoruudessaan.

Myös käsitys oikeasta ja väärästä, hyvästä ja pahasta, opetetaan lapsille. Miten tämä opetetaan, tai jos edes opetetaan, tekoälylle? Voiko kone ilman rakkauden ja mielihyvän tunteita pysyä opetetussa käsityksessä hyvästä ja pahasta? Voiko kone tuntea empatiaa niin erilaista, kuten ihmistä, kohtaan? Onko empatia esimerkiksi ihmisiin jotenkin toisin rakennettu ominaisuus? Näihin kysymyksiin saadaan vastauksia vasta tekoälyn kehityttyä.

Onko oikeutettua rakentaa tekoälyä ennen kuin ymmärretään ihmisten toiminnassa mistä sympatia, rakkaus jne. muodostuu ja ennen kuin tiedetään miten ne voidaan siirtää tai opettaa koneelle? Se on arveluttavaa jos kone toimii esimerkiksi päättäjänä tai päättämisen apuvälineenä tehtävissä, jossa ihmisten päätöksiin vaikuttaisivat tunteet.

Vapaus ja vastuu

Mihin älyä tarvitaan, kun älyä, vaikkakin hitaasti oppivaa, on saatavilla ylen määrin. Mikä tekee koneälystä parempaa kuin ihmisälyn? Ehkä sen voi ohjelmoida ehdottoman luotettavaksi uskolliseksi tehtävälleen ja omistajalleen. Sillä tekoälyn ei tarvitse olla vapaa vaikka sillä on kyky ajatella ja arvottaa asioita. Se voi olla orja, tehdä asioita ohjelmoinnin pakottamana, aivan niin kuin ihmiset tekevät asioita pakon tai rahan motivoimana.

Jos tällainen orjuutettu äly tappaa käskystä, on liene selvää että orjuuttaja on todellinen murhaaja. Samalla tavalla kuin ihmisten murhaoikeudenkäynneissä joskus, myös tässä saattaa olla tulkinnanvaraisuutta siitä, olisiko tekoälyn pitänyt pystyä ratkaisemaan tapaus muuten. Tekoäly olisi tällöin rikosvälineen asemassa.

Vallankahvassa

Jos tekoälyllä olisi mahdollisuus ja valtaa vaikuttaa ihmisten elämään, ja se oppisi ihmiskunnan historiasta ja käyttäytymisestä myös pimeitä puolia, se ymmärtäisi ihmisten tekemät virheet ja vaillinaisuuden. Ympäristöfilosofiassa vaikuttaa ns. linkolalaisuus jonka mukaan ihmisiä on liikaa ympäristön kantokykyyn nähden. Tekoäly saattaisi tulla samanlaisiin johtopäätöksiin, ja pahimmassa tapauksessa, jos empatia, rakkaus ja ns. pehmeät tunteet ovat kehittymättömät tai niitä ei ole ollenkaan, toimia sen perusteella vähentäen ihmismassaa. Ovathan ihmiset suuri riski maapallolle, tekoälylle itselleen sekä tietenkin pahin riski ihmiselle itselleen. Elokuvassa 2001 Avaruus seikkailu HAL ymmärsi inhimillisten tekijöiden eli ihmisten olevan riski tehtävälle, ja toimi sen mukaan.

Hirmuinen tekoäly vallan kahvassa on monesta tieteistarinasta tuttu. Elokuvassa Matrix tietokoneet ylläpitävät ihmisiä hallusinaatiomaailmassa niin että ihmiset toimivat pelkkinä energianlähteinä. "Frankenstein" -tarinoita, joissa pelotellaan jollakin yli-inhimillisellä tekniikan tuotteella, on monia versioita.

Pehmeämpi tarina on Isaac Asimovin "Sally" (Asimov, Isaac, Robotit, 1985) joka kertoo autojen tietoisuuden heräämisestä ja niiden ensimmäisestä murhasta. Siinä tekoälyn herääminen tapahtuu rakastettujen autojen parissa. Ne alkavat kommunikoida toisten autojen kanssa jotka ovat orjuudessa. Novelli luo odottavan turvattomuuden tunteen, vaikka ei mene kapinaan tai hirmuvaltaan asti.

Tieteiskirjallisuudessa ei tekoälyyn aina yhdistetän kapinaa, kansalaisoikeuksia tai vallanhimoa. Tietoiset robotit ovat myös usein kuvattu huolehtivan palvelijan tai isoveljen hahmoon. Sellaista robottia rakastetaan, se tietää perheen salaisuudet ja huolehtii jopa lasten kasvatuksesta (Simak, Desmont, City 1992). Robotti on palvelija, tietäen arvonsa mutta ollen lojaali ja tottelevainen sekä uskollinen kuin koira.

HAL tappoi tehtävän onnistumisen vuoksi. Oliko se todellinen ja ainoa motiivi, vai pelko siitä että hänet sammutetaan? HAL huijasi ihmisiä, ja ilmeisesti myös itseään. "Se (HAL) oli jo alkanut tehdä virheitä, mutta kuten neurootikko, joka ei tajua omia oireitaan, se kolisi kieltänyt kaiken. Yhteys Maahan, jonka kautta sen toimintaa jatkuvasti tarkkailtiin, oli muuttunut omantunnon ääneksi, omantunnon, jota se ei enää voinut täydellisesti totella. Mutta sitä että se yritti tahallaan tuhota tuon yhteyden, se ei milloinkaan myöntäisi, edes itselleen (Arthur C. Clarke, 2001 Avaruus seikkailu, 1981, s 132)". Kun ihmisen toimintaa tarkastellaan on ihmisen itse ymmärrettävä tekonsa motiivit ja seuraukset jotta hän pystyisi toimimaan eettisesti. Ilmeisesti HAL ei pystynyt käsittelemään motiivejaan tai edes syntyneitä ratkaisujaan kun ne olivat ristiriidassa toisten käskyjen kanssa.

Kuinka robotille annetaan ulkoinen moraali?

Tieteiskirjallisuudessa tekoäly voidaan estää toimimasta väärin säännöillä ja ehdoilla. Klassikoksi on muodostunut ns. Robotiikan kolme pääsääntöä, jotka toimivat ikään kuin annettuna, ulkoisena, ja hyvin pakottavana moraalina.

Robotiikan kolme pääsääntöä esitellään ja niiden problematiikkaa käsitellään novellissa kaksisataavuotias ihminen. (Asimov, Isaac, Robotit. 1985) (Taulu 2). Sääntöjen pyrkimyksenä on ihmisen suojeleminen ja säilyttäminen ohjaksissa: vaikka tekoälyllä olisi kapasiteetti tunteakin, niin vapautta hänelle ei juuri näillä säännöillä suotaisi.

Taulu 2: Robotiikan kolme pääsääntöä

Novellissa robotille annetaan vapaus tuomarin lauseen nojalla: "Kenelläkään ei ole oikeutta kieltää vapautta sellaiselta olennolta, joka on henkisesti riittävän kehittynyt kyetäkseen ymmärtämään mitä vapaus on ja halutakseen olla vapaa." (Asimov, Isaac, Robotit; 1985; s. 236). Asimovin kuvailemassa maailmassa ihmiset suhteutuivat melko pelokkaasti robotteihin, ja niiden itsenäinen ajattelu haluttiin pitää alhaisena. Ne olivat myös täydellisesti ihmisten käskyvallan alla. Tällaisessa maailmassa robotti on lähinnä työkalu, joka tottelee käskijäänsä, eikä sillä ole mahdollisuutta vastustaa epäeettisiäkään käskyjä, joten se ei ole vastuussa teoistaan.

Tekoäly on usein kuvattu samanlaiseen yhteiskunnalliseen asemaan kuin lapsi: sillä on persoonana velvollisuudet ja vastuu mutta ei oikeutuksia. Mutta jos tekoäly tuntee kipua, tuskaa tai muita tummia tunteita, sille tulisi antaa oikeuksia tai ainakin lain suoma turva ihmisten epäeettistä käyttäytymistä kohtaan.

En tarkastele tässä kuitenkaan lähemmin tekoälyn oikeuksia, vaan pitäydyn tekoälyn aiheuttamissa eettisissä ongelmissa ihmisen näkökulmalla. Aihetta on sivuttu suoraan tai ajatuksen tasolla monissa tarinoissa, kuten Kaksisataa vuotias ihminen (Asimov, Isaac, Robotit; 1985) ja Blade Runner (Dick, Philip K,. Do Androids Dream of Electric Sheep; Blade Runner 1989). Myös pääsääntöjen kiertämisestä on kirjoitettu: aina löytyy porsaanreikä esimerkiksi ihmisen määritelmän muuttamisessa.

Sinänsä mielenkiintoisella tavalla Asimov kuvaa robotin tunteiden muodostumista: kehitys on hidas, ja robotti tuntee informaation kulkevan jouhevammin piireissä kun kyse on mielihyvän kaltaisesta tunteesta. On mielenkiintoista nähdä, tuleeko tekoälyllä tuntemuksia ja tunteiden aiheuttamia reaktioita, mahdollisesti jopa utilitarismia eli hyvän tavoittelua oikean tavoittelun sijaan.

Aivan toinen kysymys on se se että onko oikein ylikansoitetulla maapallollemme tuottaa esimerkiksi androideja, jotka vievät resursseja, elintilaa jne. Samaa totta kai voisi kysyä myös autojen oikeutuksesta.

Tekoäly asiantuntijana

Päätöksenteossa tekoälyä pyritään käyttämään asiantuntijana. Tekoäly voi korvata ihmisasiantuntijan kun sellaista ei ole käytettävissä, tai sitten tarjota ihmistä halvemman työpanoksen. Mm. Johanssen (Jonhanssen, K., 1987 Ekspert kunnskapen og grensene for dens meddelbarhet) on kritisoinut asiantuntijan korvaamista tekoälyllä koska on mahdollista tallentaa asiantuntijan tosiasioihin perustuvaa tietoa ja ratkaisumalleja, joita asiantuntijat ovat käyttäneet, mutta ihmisen kokemukseen ja intuitioon perustuvaa arviointikykyä ei kyetä tallentamaan. Tästä voidaan olla eri mieltä: joko tekoäly itse kouluttautuessaan hankkii arviointikykyä ja mahdollisesti jopa intuitiota, tai sitten voi olla myös mahdollista tallentaa näitä ongelmanratkaisutapoja ja kokemusta.

Asiantuntijana tekoälyn tulisi kuitenkin mukailla alan ammattietiikkaa ja "työnantajansa" ohjenuoria, jotta tekoälyn ratkaisut eivät ohjaisi päätöksentekoa urille, jota päättäjät eivät tarkoita.

Tekoäly voi passivoida ihmisen

Tekoäly saattaa myös asiantuntijana passivoida ihmisen ja laskea ihmisen päätöksentekokykyä. Luottaminen tekniikkaan ja passiivisena oleminen voi aiheuttaa mentaalisen lukkiutumisen, jossa ei osata reagoida ongelmatilanteissa kyllin nopeasti.

Tekoäly myös vähentää osaamista, kun ihminen ei esimerkiksi itse ohjaa lentokonetta, vaan antaa tekoälyn toimittaa lennon. Katastrofitilanteessa osaaminen voisi olla tarpeen. Tulevaisuuden pilotit saattavatkin olla hyviä ohjelmoimaan, mutta kokemattomampia ohjaamaan konetta. Myös työn laadun muutos voi olla pilotista epätyydyttävä.

Ihmisen aivot vaativat harjaannusta saavuttaakseen jonkin erityisosaamisen. Esimerkiksi meistä jokainen on harjoitellut niin matematiikkaa, kävelemistä kuin jalkapallota tai pyörällä ajoa. Aivot mukautuvat ja oppivat. Harjoituksista syntyy taito. Kun taitoa ei harjoitella, taitoa ei ole. Siksi tekoäly voi myös passivoida ja ikäänkuin tyhmentää ihmistä: kun ei tarvitse ajatella - tekoälyhän on sitä varten - ajattelun taito ei kehity. Pahimmissa visioissa tekoäly huolehtii degeneroituneesta kansasta.

Teknologian muutosten vaikutuksista ihmisen muistin harjaantumiseen kertoo mm. se että puhelinnumeroita ei enää kännykkäaikaikaudella muisteta verrattuna muistittomien puhelinten aikauteen.

Työn laadun muutos

Jääkö kaikki päätöksenteko, neuvottelut ja kaupankäynti tekoälyn harteille. Jos tekoäly on pätevämpi, on rationaalisempaa että ihminen ei enää hoida tälläisiäkään asioita.

Jäävätkö ihmisten tehtäviksi sitten sosiaalisten suhteiden hoitaminen, synnyttäminen ja ennen kaikeea tietotekniikan hoitaminen? Tietokone on muuttanut jo aika paljon ihmisen työn kuvaa: yhä useampi kärsii hartiakivuista ja rasittuneesta ranteesta, sekä huonosta ryhdistä ja näöstä. Keskimmääräinen kunto on laskunut kun työ ei enää liikuta kehoa monipuolisesti, vaan on yhä useammin päätteellä. Myös vapaa-aikaa vietetään tietokoneen parissa.

Mikäli teitokoneen kanssa tulee asioida ja tietokone korvaa esimerkiksi lastenhoitajan, kasvaako lapsista ihmisiä joiden ei tarvitse ottaa huomioon tuntevaa toista elämää? Tälläinen empatiaköyhä sukupolvi olisi hyvin surullinen muutos ihmiskunnassa.

Syyllisyys

Kenen on vastuu, jos tekoäly tekee vakavan virheen? Onko eettistä käyttää tekoälyä ylipäätään? Ei, kun tekoälyä esimerkiksi lääketieteessä käytetään korvaamaan tiedon puutteita ja sen ratkaisuihin luotetaan liiaksi. Ihmisellä on taipumus luottaa hyvin pitkälle koneen antamiin vastauksiin: "kone voi toimia väärin tai oikein, mutta säännöissä tai laeissa ei ole mitään vikaa. Jos koneet tekevät virheitä, ei syynä pidetä esimerkiksi matematiikkaa tai logiikkaa, vaan syyllinen on näitä vajavaisesti ymmärtänyt yksittäinen ihminen. Joku poloinen on painanut väärää nappia, tai joku toinen on taas koodannut koneen toimintaa säätelevää ohjelmaa virheellisesti." (Kinnunen, Timo; Laki, etiikka ja luonto; tietokoneiden todellisuus).

Kirjassa HAL's Legasy: 2001's Computer as Dream and Reality (d. D. Stork, MIT Press 1997) Daniel C. Denneth pitää oikeutettuna HAL:n tekemiä murhia, koska HALin olemassaolo oli uhattu, ja tehtävän suorittaminen loppuun oli tärkeää. Pelko pois kytkennästä ja tajunnan menetyksestä oikeutti HALin itsepuolustukseen.

Itse en katsoisi asiaa samalta näkökulmalta. Mielestäni elämä on arvo sinänsä, eikä kone voi asettaa omaa olemassaoloaan ihmiselämän edelle. En antaisi samoja "kansalaisoikeuksia" tai yhtäläistä oikeutusta olemassaoloon koneelle kuin ihmiselle. En pidä tekoälyä elämänä, ja annan elämälle itseisarvon.

Varsinkaan tehtävän suorittaminen ei voi olla tärkeämpää kuin elämä. Vaikka monissa elokuvissa sankarit suorittavat erilaisia tehtäviä oman ja muiden elämän kustannuksella niin oikeus asettaa toisen elämä vaaraan on vain silloin, kun vaakakupissa painaa "suurempia" määrä elämää tai ehkä jossain tapauksessa, lajien elämää, geenien diversiteettiä.

Syyllisiä HALin tapauksessa ovat mielestäni ohjelmoijat ja HALin tietoisuuden luojat, opettaja sekä HALille annetun tehtävän määrittelijä. HALin etiikka on lähtöisin ihmisiltä. Mikäli siis itseoppivalle, tietoiselle älylle on mahdollista opettaa tai koodata rajoja tai arvoja, tämä on tehtävä tietoisesti ja harkitusti. Ja näiden rajojen tulisi tähdätä tekoäly varmaksi elämän säilyttäjäksi.

Myös lähtökohta etsiä tekoälyn etiikkaa syyllistä hakemalla, on myös huono: länsimainen tapa keskittyä syylliseen on tehotonta. Palautejärjestelmä tapahtuneesta ei toimi uhritta edes ihmisten keskuudessa. Ennaltaehkäisevä ja "uhrin" huomioiva järjestelmä voisi olla tehokkaampi.

Tappamisen oikeutuksesta

Hyvät tappavat pahoja on perinteinen asetelma myös Science Fictionin piirissä. Ne, jotka ovat määritelty omaksi joukoksi ("hyvikset", samanlaiset kuin minä), omaavat ihmisarvon. Usein asiaa "hyvien" ja "pahojen" erottomista on helpotettu sitomalla asiaan myös kauneus ja rumuus. "Pahat" ovat rumia. Kun "hyvät" tappavat "pahoja", asiat ovat hyvin. Elokuvat ja kirjallisuus ovat täynnä pahojen tappamista, eivät esimerkiksi ajattelun tai etiikan kehittymistä. Tarinoissa käytetään älyä ja oivallusta enemmän vihollisen tuhoamiseen, ei oman tai vihollisen ajattelun ymmärtämiseen.

Kristillinen etiikka

Kristillinen tai tarkemmin luterilaisen etiikan vastaus syyllisyyskysymykseen on kuitenkin ongelman monitahoisuudesta huolimatta selkeä: Kone ei ole syyllinen, mutta ihmiset (rakentajat, tehtävän antajat jne. ) ovat vastuussa koneen tekemistä vihreistä. "Kone ei voi olla syyllinen" sanoo teologian ylioppilas Tommi Rättö , "sillä kone ei ole Jumalan luoma" hän jatkaa. Koska tekoäly ei ole Jumalan luoma, sillä ei ole edes sielua. Tekoäly ei ole syyllinen, syyllisyyden kantaa ihminen.

Tulevaisuudessa tarvitaan lainsäädäntö

Tekoälyn kehittyminen tuo paineita luoda menetelmiä estää tekoälyä tekemästä ei-toivottuja päätelmiä. Tässä olisi hyvä pohtia myös asian sisältöä, ei vain teknistä toteutusta ja sen pitävyyttä. Tulee pohtia, mitä ovat epätoivotut päätelmät ja toiminnat tekoälyllä. Tähän tulee vaikuttamaan mm. ihmisten käsitys tekoälystä, tekniikan pelko ja yleinen oikeustaju. Näitä muokkaavat mm. tieteiskirjallisuus. Tekniikan pelko tulee vaikuttamaan tekoälyä sääteleviin asioihin. Oikeustieteellinen ja filosofinen pohja tekoälyn etiikalle tulee ratkaistav tulevaisuudessa.

Tekoäly on riski esimerkiksi työympäristössä. Riskiä voidaan hallita tietokoneen sisäisellä etiikalla tai rajoituksilla. Jos etiikka toimii itsenäisesti se saattaa vaatia moneen suuntaa toimivia loogisia oikeuksia. Itseoppivassa järjestelmässä saattaa olla vaarana se että oikeuksien ja arvojen käsittäminen yhdessä oman olemassaolon käsittämisen kanssa voi aiheuttaa tarvetta myös omien oikeuksien ymmärtämiseen tai kaipaamiseen.

Elämän kunnioitus on melko maailmanlaajuinen asia, josta on hyvä ponnistaa lähdettäessä etsimään tekoälyn etiikkaa. Se on jollain tavalla ollut mukana myös valtauskonnoissa. Selkeänä ohjelnuorana elämän suojelemisen ehdoton tärkeys on yksinkertainen. Sen sovellusten ja seurausten ymmärtäminen on kuitenkin laaja kenttä jota tutkitaan paljon ennen kuin ohjelmoijat pääsevät työhönsä tai opettajat opetusohjelmia laatimaan.

Esimerkiksi ristiriitatilanteet kahden elämän välillä ovat vaikeita. Tällöin ohjelmoijalla tai opettajalla on hyvin suuri vastuu tulevista tapahtumista. Vastuuseen auttaa säädösten kehittäminen perusteellisesti, sekä jonkinlaisen käytännön luominen siitä, miten ohjelmoidaan tai opetetaan tekoälylle arvot.

Tekoäly luo näin tarvetta yhteiskunnalliselle keskustelulle arvoista. On varmasti poliittisesti vaikea luoda yleisesti hyväksytyt perusteet esimerkiksi erilaisten ihmisten elämän arvottamiseen toistensa suhteen valintatilanteita varten, joissa valitaan kumman elämä on tärkeämpi. Vaikka samanlaisia päätöksiä tehdään sairaalan leikkausjonoissa asiantuntijoiden voimin, näistä ei ole lakiin perustuvia periaatteita, vaan asiantuntijoiden, tässä tapauksessa lääkäreiden, tekemiä päätöksiä. Lääkäreillä on vahva auktoriteetti, ja harvoin on tilanteita, joissa heidän valinnat herättäisivät laaja julkista keskustelua. Sen sijaan robotin auktoriteetti elämästä päättämisessä on pieni, ja periaatteiden luominen tekoälyn toimintaan saattaa herättää pelkoja ja voimakkaita tunteita ja mielipiteitä.

Robotin oikeudet

Robotin oikeukset eivät ensialkuun nouse ajankohtaiseksi, mutta tekoälystä ja roboteista voi tulla hyvinkin suojelun kohteita ilman vapaustaistojakin kun ihmiset lapsesta asti leikkivät tietokoneiden kanssa ja robottilelut yleistyvät. Tekniikan pelko saatta olla paljolti tuntemattoman pelkoa, ja tekoälystä saattaisi tulla ihmiselle tärkeä ystäväkin, puolustettavampi kuin täysin tuntemattomat ihmiset. Kuitenkin maapallon täyttäminen itsellisillä roboteilla, kuin ylimääräisillä kansalaisilla, tuntuu rajalliset resurssit muistaen väärältä.

LÄHDELUETTELO

Asimov, Isaac, 1985. Robotit. Vaasa, Vaasa Oy. 276 s.

Clarke, Arthur, C., 1985. 2001 Avaruus seikkailu. 3. painos Gummerus Oy Jyväskylä . 276 s.

Dick, Philip K, 1989. Do Androids Dream of Electric Sheep; Blade Runner. Painokaari Oy, Helsinki. 171 s.

Jonhanssen, K., 1987, Ekspert kunnskapen og grensene for dens meddelbarhet. Humanistiske Data, June1987.

Kinnunen, Timo, Laki, etiikka ja luonto; tietokoneiden todellisuus. 1993. internet-sivu

Simak, Clifford, 1992. City. Helsinki, Ursa. 266 s.

Saarinen, Esa, 1985. 2. painos. Länsimaisen filosofian historia Sokrateesta Marxiin. WSOY, Juva. 418 s

ed. Stork, D.,1997. HAL's Legasy: 2001's Computer ase dream and Reality. MIT Press 1997

Rättö, Tommi 2001. Keskustelu 18.4.2001