Digitoday

Valikko

Elon Muskilta rahaa suomalaisprojektille: Pitäisikö tekoälyn tuntea inhoa?

Inhimillisten arvojen ja reaktioiden opettaminen tekoälylle on konstikasta puuhaa.


Tekoälytutkimus etenee valtavaa vauhtia. Yksi huolista kehittyneen tekoälyn suhteen on se, että ilman ihmisen valvontaa toimivan tekoälyn pitäisi kyetä itse huolehtimaan siitä, että sen käytös on moraalisesti hyväksyttävää.

Tähän keskittyy Kaj Sotalan ja tämän nimettömänä pysyttelevän yhteistyökumppanin projekti, jota Future of Life -instituutti tukee Elon Muskin lahjoittamilla rahoilla 20 000 dollarin edestä.

– Tässä on se ongelma, että moraalisiin kysymyksiin liittyy sellaisia käsitteitä kuin vaikkapa ihmisoikeudet, joita ei pysty suoraan määrittelemään formaalisti, vaan koneelle pitäisi jotenkin opettaa ne, Sotala selvittää.

Sotalan mukaan on epäselvää, missä määrin moraalisten arvojen oppiminen eroaa käsitteiden oppimisesta yleensä. Ei ole tietoa siitä, voiko arvojen opettamiseen käyttää samaa oppimisalgoritmia, jolla koneelle opetetaan kaikki muukin.

– Moraalipsykologiassa on pohdittu esimerkiksi sitä, onko ihmisen taipumus kokea inhoa sellainen asia, joka vaikuttaa moraalisiin arvoihin, Sotala kertoo.

Tämä tekisi arvoista monimutkaisempia asioita oppimisen kannalta kuin monet muunlaiset käsitteet.

– Herää kysymys, pitäisikö tekoälylle rakentaa vastine inhon tunteesta, että se oppisi moraalin samalla tapaa kuin ihmiset. Ja jos pitäisi, niin miten vahva? Sotala pohtii.

Tunteen opettaminen koneelle ei ole aivan suoraviivaista.

– Esimerkiksi yksi ajatus tekoälyn tunnekysymyksissä on niin sanottu embodiment-kysymys. Jos ajatellaan vaikkapa pelon tunnetta, niin se on ihmisessä seurausta vaaran havaitsemisesta ja se johtaa fysiologisiin reaktioihin. Adrenaliinia erittyy, joka valmistaa kehon pakenemaan tai taistelemaan. Tarvitseeko tekoäly vaikkapa tällaisia kytkentöjä mallintavan kehon vastineen, jotta voidaan toteuttaa koneelle inhimillinen pelontunne? Sotala kysyy.

Opintomateriaalia oikeuden pöytäkirjoista

Projektin ensimmäinen tavoite on tehdä perinpohjainen kirjallisuuskatsaus aiheesta tehdystä tutkimuksesta, jotta ymmärrettäisiin paremmin, mitä kaikkea pitää ottaa huomioon teoreettisella tasolla. Tämä saadaan toteutettua alkuvaiheen rahoituksella puolessa vuodessa.

– Haluamme selvittää, miten todennäköisesti tekoälyt edes voi saada hahmottamaan maailmaa samalla tavalla kuin ihmiset, Sotala linjaa.

Alun perin projektiin haettiin 100 000 dollarin tukea, jolla olisi voitu palkata Sotala täyspäiväisesti ja pari avustajaa osa-aikaisesti vuodeksi. Tavoitteisiin kuului myös kaksi lisävaihetta.

Katsauksen jälkeen toisena tavoitteena on tutkia, voiko deep learning (tekoälytutkimuksen sanastoa, joka viittaa jättimäisten datamäärien syöttämiseen tekoälyn oppimisen tietopohjaksi) -metodeja hyväksikäyttäen saada tekoälyn oppimaan moraalisia käsitteitä sopivasta lähtödatasta.

– Sopivan datasetin luominen olisi suurimpia tehtäviä tässä vaiheessa. Olemme pyöritelleet alustavia ideoita esimerkiksi oikeusjuttujen pöytäkirjoista, mutta meillä ei vielä ole konkreettisesti määriteltyä lopputulosta tästä.

Kolmannessa vaiheessa tutkijat aikovat tutkia psykologiaa ja koneoppimista yhdistävää hypoteesiaan siitä, miten ihmiset oppivat arvonsa ja miten ne toimivat algoritmisella tasolla. Tähän riittävät ainakin osittain rahkeet nykyisen rahoituksen puitteissa.

Sotalan mukaan ehdotuksia tutkinut lautakunta piti tutkimussuunnitelmaa ja ideoita hyvänä. Tavoitteiden kunnianhimoisuus, sekä tutkijoiden nuori ikä ja alkuvaiheissaan olevat urat, johtivat kuitenkin siihen, että täyden rahoituksen sijaan projektille myönnettiin "siemenrahoitus". Ainakin teoriassa on mahdollista, että projektia tuetaan suuremmalla summalla, jos lopputulokset ovat lupaavia.

Musk lahjoitti erilaisiin tekoälyprojekteihin peräti 7 miljoonaa dollaria. Täyden listan tukeen oikeutetuista löydät täältä.

  • Tekoäly

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Playboyssakin poseerannut ensimmäinen somekaunotar Christine Dolce on kuollut vain 35-vuotiaana

    2. 2

      Cheekiltä odottamaton sukupaljastus suorassa lähetyksessä – ”Wikipediaan voisi lisätä”

    3. 3

      Viisuvoittaja Loreenin räväkkä esitys varasti huomion – rinta lipui ulos topista: ”Miksi naiset eivät saisi olla puolialastomana?”

    4. 4

      Vantaalainen Marja, 68, ihmeissään: Auton tuulilasiin ilmestyi mystinen lappu parkkifirmalta – 3 viikon takaisesta pysäköinnistä

    5. 5

      Jannan raskaus päättyi kaksi vuotta sitten suunnattomaan suruun – julkaisi liikuttavan kuvan: ”Sanoin äidilleni, että vauva ei liiku”

    6. 6

      Valkoinen talo eväsi useilta tiedotusvälineiltä pääsyn tiedotustilaisuuteen

    7. 7

      Tarkista ja kuuntele: Mikä oli Suomen listaykkösenä, kun sinä synnyit?

    8. 8

      Naisen salikuva sekoitti internetin – ovatko kaunottaren jalat todella nurinpäin vai huomaatko heti mistä on kyse?

    9. 9

      Ihmiset sekosivat Kanadan hurmuriministerin tiukoista housuista – kuvat pääministerin treenatusta takamuksesta leviävät vauhdilla

    10. 10

      Lennun voittokulku Yhdysvalloissa jatkuu: Jimmy Fallon matki Niinistön koiran legendaarista virnistystä, yleisö villiintyi

    11. Näytä lisää
    1. 1

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    2. 2

      Hyvinkään poliisiasemalle saapui ahdistunut aviomies – elintasokulissin takaa alkoi paljastua karu totuus

    3. 3

      Tarkista ja kuuntele: Mikä oli Suomen listaykkösenä, kun sinä synnyit?

    4. 4

      Pariskunta ei arvannut, mihin lähti paritalon puolikkaan ostaessaan – piina vei oikeuteen seitsemän kertaa

    5. 5

      Onko tässä totuus Mäkäräisen poisjäännistä Lahden MM-kisoista? ”Kaikki, mitä Otepäässä tulkitsin Reijon olemuksesta ja puheista, viittasi siihen”

    6. 6

      Katri Sorsalta kuitti Anu Saagimille: ”Eestissä nainen näyttää herättyään tältä, meillä Suomessa tältä...”

    7. 7

      ”Inhoan tätä elämää, voisinpa vain antaa lapset pois”

    8. 8

      Hengenvaarallinen villitys leviää nuorten keskuudessa ja herättää huolta: ”Halikuva muuttuu nopeasti tragediaksi”

    9. 9

      Iso onnettomuus pysäytti Nelostien – rekat poikittain tiellä, mukana myös henkilöautoja

    10. 10

      Cheekiltä odottamaton sukupaljastus suorassa lähetyksessä – ”Wikipediaan voisi lisätä”

    11. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    3. 3

      Pekka Vähäsöyrinki tunnusti Mika Myllylän haudalla, milloin dopinginkäyttö alkoi: ”Siinä hetkessä annoin periksi”

    4. 4

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    5. 5

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    6. 6

      Stubb opetti Trumpille faktoja Ruotsista – viesti sytytti kiivaan keskustelun

    7. 7

      Yleinen virhe wc-pöntöllä: Tästä syystä pyttyyn jää helposti ”jarrutusjäljet”

    8. 8

      Anu Saagim haukkui Maria Veitolaa rumaksi suorassa lähetyksessä – Veitola harmistui studioyleisön reaktiosta: ”Yleisö nauraa ja taputtaa”

    9. 9

      Nokialla pahoinpidelty 17-vuotias tyttö on kuollut

    10. 10

      Donald Trumpilta outo viittaus Ruotsiin: ”Katsokaa, mitä tapahtui eilen illalla Ruotsissa – kuka olisi uskonut?”

    11. Näytä lisää

    Näitä luetaan!

    1. 1

      Playboyssakin poseerannut ensimmäinen somekaunotar Christine Dolce on kuollut vain 35-vuotiaana

    2. 2

      Cheekiltä odottamaton sukupaljastus suorassa lähetyksessä – ”Wikipediaan voisi lisätä”

    3. 3

      Viisuvoittaja Loreenin räväkkä esitys varasti huomion – rinta lipui ulos topista: ”Miksi naiset eivät saisi olla puolialastomana?”

    4. 4

      Vantaalainen Marja, 68, ihmeissään: Auton tuulilasiin ilmestyi mystinen lappu parkkifirmalta – 3 viikon takaisesta pysäköinnistä

    5. 5

      Jannan raskaus päättyi kaksi vuotta sitten suunnattomaan suruun – julkaisi liikuttavan kuvan: ”Sanoin äidilleni, että vauva ei liiku”

    6. Näytä lisää
    1. 1

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    2. 2

      Hyvinkään poliisiasemalle saapui ahdistunut aviomies – elintasokulissin takaa alkoi paljastua karu totuus

    3. 3

      Tarkista ja kuuntele: Mikä oli Suomen listaykkösenä, kun sinä synnyit?

    4. 4

      Pariskunta ei arvannut, mihin lähti paritalon puolikkaan ostaessaan – piina vei oikeuteen seitsemän kertaa

    5. 5

      Onko tässä totuus Mäkäräisen poisjäännistä Lahden MM-kisoista? ”Kaikki, mitä Otepäässä tulkitsin Reijon olemuksesta ja puheista, viittasi siihen”

    6. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    3. 3

      Pekka Vähäsöyrinki tunnusti Mika Myllylän haudalla, milloin dopinginkäyttö alkoi: ”Siinä hetkessä annoin periksi”

    4. 4

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    5. 5

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    6. Näytä lisää