Digitoday

Valikko

Elon Muskilta rahaa suomalaisprojektille: Pitäisikö tekoälyn tuntea inhoa?

Inhimillisten arvojen ja reaktioiden opettaminen tekoälylle on konstikasta puuhaa.


Tekoälytutkimus etenee valtavaa vauhtia. Yksi huolista kehittyneen tekoälyn suhteen on se, että ilman ihmisen valvontaa toimivan tekoälyn pitäisi kyetä itse huolehtimaan siitä, että sen käytös on moraalisesti hyväksyttävää.

Tähän keskittyy Kaj Sotalan ja tämän nimettömänä pysyttelevän yhteistyökumppanin projekti, jota Future of Life -instituutti tukee Elon Muskin lahjoittamilla rahoilla 20 000 dollarin edestä.

– Tässä on se ongelma, että moraalisiin kysymyksiin liittyy sellaisia käsitteitä kuin vaikkapa ihmisoikeudet, joita ei pysty suoraan määrittelemään formaalisti, vaan koneelle pitäisi jotenkin opettaa ne, Sotala selvittää.

Sotalan mukaan on epäselvää, missä määrin moraalisten arvojen oppiminen eroaa käsitteiden oppimisesta yleensä. Ei ole tietoa siitä, voiko arvojen opettamiseen käyttää samaa oppimisalgoritmia, jolla koneelle opetetaan kaikki muukin.

– Moraalipsykologiassa on pohdittu esimerkiksi sitä, onko ihmisen taipumus kokea inhoa sellainen asia, joka vaikuttaa moraalisiin arvoihin, Sotala kertoo.

Tämä tekisi arvoista monimutkaisempia asioita oppimisen kannalta kuin monet muunlaiset käsitteet.

– Herää kysymys, pitäisikö tekoälylle rakentaa vastine inhon tunteesta, että se oppisi moraalin samalla tapaa kuin ihmiset. Ja jos pitäisi, niin miten vahva? Sotala pohtii.

Tunteen opettaminen koneelle ei ole aivan suoraviivaista.

– Esimerkiksi yksi ajatus tekoälyn tunnekysymyksissä on niin sanottu embodiment-kysymys. Jos ajatellaan vaikkapa pelon tunnetta, niin se on ihmisessä seurausta vaaran havaitsemisesta ja se johtaa fysiologisiin reaktioihin. Adrenaliinia erittyy, joka valmistaa kehon pakenemaan tai taistelemaan. Tarvitseeko tekoäly vaikkapa tällaisia kytkentöjä mallintavan kehon vastineen, jotta voidaan toteuttaa koneelle inhimillinen pelontunne? Sotala kysyy.

Opintomateriaalia oikeuden pöytäkirjoista

Projektin ensimmäinen tavoite on tehdä perinpohjainen kirjallisuuskatsaus aiheesta tehdystä tutkimuksesta, jotta ymmärrettäisiin paremmin, mitä kaikkea pitää ottaa huomioon teoreettisella tasolla. Tämä saadaan toteutettua alkuvaiheen rahoituksella puolessa vuodessa.

– Haluamme selvittää, miten todennäköisesti tekoälyt edes voi saada hahmottamaan maailmaa samalla tavalla kuin ihmiset, Sotala linjaa.

Alun perin projektiin haettiin 100 000 dollarin tukea, jolla olisi voitu palkata Sotala täyspäiväisesti ja pari avustajaa osa-aikaisesti vuodeksi. Tavoitteisiin kuului myös kaksi lisävaihetta.

Katsauksen jälkeen toisena tavoitteena on tutkia, voiko deep learning (tekoälytutkimuksen sanastoa, joka viittaa jättimäisten datamäärien syöttämiseen tekoälyn oppimisen tietopohjaksi) -metodeja hyväksikäyttäen saada tekoälyn oppimaan moraalisia käsitteitä sopivasta lähtödatasta.

– Sopivan datasetin luominen olisi suurimpia tehtäviä tässä vaiheessa. Olemme pyöritelleet alustavia ideoita esimerkiksi oikeusjuttujen pöytäkirjoista, mutta meillä ei vielä ole konkreettisesti määriteltyä lopputulosta tästä.

Kolmannessa vaiheessa tutkijat aikovat tutkia psykologiaa ja koneoppimista yhdistävää hypoteesiaan siitä, miten ihmiset oppivat arvonsa ja miten ne toimivat algoritmisella tasolla. Tähän riittävät ainakin osittain rahkeet nykyisen rahoituksen puitteissa.

Sotalan mukaan ehdotuksia tutkinut lautakunta piti tutkimussuunnitelmaa ja ideoita hyvänä. Tavoitteiden kunnianhimoisuus, sekä tutkijoiden nuori ikä ja alkuvaiheissaan olevat urat, johtivat kuitenkin siihen, että täyden rahoituksen sijaan projektille myönnettiin "siemenrahoitus". Ainakin teoriassa on mahdollista, että projektia tuetaan suuremmalla summalla, jos lopputulokset ovat lupaavia.

Musk lahjoitti erilaisiin tekoälyprojekteihin peräti 7 miljoonaa dollaria. Täyden listan tukeen oikeutetuista löydät täältä.

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Muhiiko suussasi tulehdus? Salakavala oireeton infektio voi saada vakavat seuraukset

    2. 2

      Kaikki irti Whatsappista! Tiesitkö jo nämä 9 kätevää kikkaa?

    3. 3

      Poliisin salaperäinen operaatio Kotkan Karhulassa kestänyt jo vuorokauden – ”Siellä on nähty normaalia enemmän poliisiautoja”

    4. 4

      Nämä rikolliset presidentti Niinistö armahti: Joukossa mies, joka pahoinpiteli törkeästi puolisonsa

    5. 5

      Tellervo Koivisto presidentti Trumpista Ylellä: ”Iho oli kananlihalla, kun katselin”

    6. 6

      Antti Tuiskulta tyhjentävä kommentti hänestä tehdystä Putouksen Abdul Tuisku -hahmosta – tiivisti ensireaktionsa yhteen sanaan

    7. 7

      Vain elämää -artistivalinta nostatti ihmettelyvyöryn – sarjan fanit tylyttävät: ”Todella väsynyttä”

    8. 8

      He ovat uudet Vain elämää -tähdet! Mukana Robin, Irina ja Olli Lindholm

    9. 9

      Berner ehdottaa hankintatukea autojen ostajille

    10. 10

      Ei herkkohermoisille: Tältä näyttää työuupumus sairaalassa

    11. Näytä lisää
    1. 1

      Ei herkkohermoisille: Tältä näyttää työuupumus sairaalassa

    2. 2

      Erittäin voimakas maanjäristys Tyynellämerellä – magnitudi 7,9

    3. 3

      Kaikki irti Whatsappista! Tiesitkö jo nämä 9 kätevää kikkaa?

    4. 4

      He ovat uudet Vain elämää -tähdet! Mukana Robin, Irina ja Olli Lindholm

    5. 5

      Jatkosodan kenttäsairaaloiden kauhukuvat eivät unohdu – Sotamaa leikkasi yötä päivää Pervitinin voimalla

    6. 6

      Minka Kuustonen loisti seksikkäänä rouva Trumpina – sketsiohjelma tarttui myös ajankohtaisiin aiheisiin

    7. 7

      Niinan, 38, maatilaa on vainottu jo kolme vuotta: hevosta ajettiin autolla takaa – koko karja menee teuraaksi

    8. 8

      Rahtilaiva upposi suomalaiskapteenin silmien edessä: aloitti vaativan pelastusoperaation – varustamon toimitusjohtaja: ”Valtavan hieno uroteko”

    9. 9

      Seitsemän salaperäistä prinsessaa: Tässä ovat parrasvaloja vältelleet kruunupäät –Mukana Kauniit ja rohkeat -tähti ja ”maailman kaunein”

    10. 10

      Obama jätti viime hetkellä Trumpin pöydälle kirjeen – näin aiempien presidenttien viesteissä luki: Älä anna kalkkunoiden lannistaa

    11. Näytä lisää
    1. 1

      Juo aamulla vettä tyhjään vatsaan – 8 mahtavaa vaikutusta

    2. 2

      Mikan ja Marketan rakkaustarina – saksalaislehti paljasti kaunottaren menneisyyden

    3. 3

      Perhe etsii vastausta kammottavaan kuvaan – mitä tai mikä ilmestyi yhtäkkiä yöllä kotipihalla otettuun valokuvaan?

    4. 4

      Serbian seksikkäin laulaja Milica, 25, purskahti korsetistaan ulos kesken keikan – yleisö villiintyi

    5. 5

      Nainen synnytti salaa vessassa – raskaudesta tietämättömät vanhemmat havahtuivat pamaukseen

    6. 6

      Kolme povekasta blondia: Natalie, 45, sekoitetaan jatkuvasti tyttäriinsä – erotatko kuvista kuka on äiti?

    7. 7

      Uimapukumalli Chrissy Teigen jakoi rehellisen kuvan reisistään – miehet hämmentyivät: ”Olen katsonut tätä jo minuutin, ja...”

    8. 8

      Yksi kuoli rekan pudottua moottoritieltä Lohjalla – erikoinen tapahtumaketju johti karmeaan turmaan

    9. 9

      Sarjahukuttaja oli palkittu karjatilallinen – sitten tapahtui jotakin

    10. 10

      Dramaattiset kuvat: Myrskypuuska romahdutti rakenteilla olleen, yli 100-neliöisen talon maan tasalle Kuopiossa

    11. Näytä lisää

    Näitä luetaan!

    1. 1

      Muhiiko suussasi tulehdus? Salakavala oireeton infektio voi saada vakavat seuraukset

    2. 2

      Kaikki irti Whatsappista! Tiesitkö jo nämä 9 kätevää kikkaa?

    3. 3

      Poliisin salaperäinen operaatio Kotkan Karhulassa kestänyt jo vuorokauden – ”Siellä on nähty normaalia enemmän poliisiautoja”

    4. 4

      Nämä rikolliset presidentti Niinistö armahti: Joukossa mies, joka pahoinpiteli törkeästi puolisonsa

    5. 5

      Tellervo Koivisto presidentti Trumpista Ylellä: ”Iho oli kananlihalla, kun katselin”

    6. Näytä lisää
    1. 1

      Ei herkkohermoisille: Tältä näyttää työuupumus sairaalassa

    2. 2

      Erittäin voimakas maanjäristys Tyynellämerellä – magnitudi 7,9

    3. 3

      Kaikki irti Whatsappista! Tiesitkö jo nämä 9 kätevää kikkaa?

    4. 4

      He ovat uudet Vain elämää -tähdet! Mukana Robin, Irina ja Olli Lindholm

    5. 5

      Jatkosodan kenttäsairaaloiden kauhukuvat eivät unohdu – Sotamaa leikkasi yötä päivää Pervitinin voimalla

    6. Näytä lisää
    1. 1

      Juo aamulla vettä tyhjään vatsaan – 8 mahtavaa vaikutusta

    2. 2

      Mikan ja Marketan rakkaustarina – saksalaislehti paljasti kaunottaren menneisyyden

    3. 3

      Perhe etsii vastausta kammottavaan kuvaan – mitä tai mikä ilmestyi yhtäkkiä yöllä kotipihalla otettuun valokuvaan?

    4. 4

      Serbian seksikkäin laulaja Milica, 25, purskahti korsetistaan ulos kesken keikan – yleisö villiintyi

    5. 5

      Nainen synnytti salaa vessassa – raskaudesta tietämättömät vanhemmat havahtuivat pamaukseen

    6. Näytä lisää