Digitoday

Valikko

Suomalaistutkija opettaa tekoälylle moraalia Elon Muskin rahoilla

Tekoäly
Jotta tekoäly ymmärtäisi ihmistoimintaa, sille pitää opettaa inhimillisiä arvoja.
Tekoälytutkimus etenee huimaa vauhtia. Yksi huolista kehittyneen tekoälyn kanssa on se, että ilman ihmisen valvontaa toimivan tekoälyn pitäisi pystyä osata itse huolehtia siitä, että sen käytös on moraalisesti hyväksyttävää.

Tähän keskittyy Kaj Sotalan ja tämän nimettömänä pysyttelevän yhteistyökumppanin projekti, jota Future of Life -instituutti tukee Elon Muskin lahjoittamilla rahoilla 20 000 dollarin edestä.

– Tässä on se ongelma, että moraalisiin kysymyksiin liittyy sellaisia käsitteitä kuin vaikkapa ihmisoikeudet, joita ei pysty suoraan määrittelemään formaalisti, vaan koneelle pitäisi jotenkin opettaa ne, Sotala selvittää.

Sotalan mukaan on epäselvää missä määrin moraalisten arvojen oppiminen eroaa käsitteiden oppimisesta yleensä. Ei ole tietoa siitä, voiko arvojen opettamiseen käyttää samaa oppimisalgoritmia, jolla koneelle opetetaan kaikki muukin.

– Moraalipsykologiassa on pohdittu esimerkiksi sitä onko ihmisen taipumus kokea inhoa sellainen asia, joka vaikuttaa moraalisiin arvoihin, Sotala kertoo.

Tämä tekisi arvoista monimutkaisempia asioita oppimisen kannalta kuin monet muunlaiset käsitteet.

– Herää kysymys pitäisikö tekoälylle rakentaa vastine inhon tunteesta, että se oppisi moraalin samalla tapaa kuin ihmiset. Ja jos pitäisi, niin miten vahva? Sotala pohtii.

Tunteen opettaminen koneelle ei ole aivan yksinkertaista.

– Esimerkiksi yksi ajatus tekoälyn tunnekysymyksissä on niin sanottu embodiment-kysymys. Jos ajatellaan vaikkapa pelon tunnetta, niin se on ihmisessä seurausta vaaran havaitsemisesta ja se johtaa fysiologisiin reaktioihin. Adrenaliinia erittyy, joka valmistaa kehon pakenemaan tai taistelemaan. Tarvitseeko tekoäly vaikkapa tällaisia kytkentöjä mallintavan kehon vastineen, jotta voidaan toteuttaa koneelle inhimillinen pelontunne? Sotala kysyy.

Opintomateriaalia oikeuden pöytäkirjoista

Projektin ensimmäinen tavoite on tehdä perinpohjainen kirjallisuuskatsaus aiheesta tehdystä tutkimuksesta, jotta ymmärrettäisiin paremmin mitä kaikkea pitää ottaa huomioon teoreettisella tasolla. Tämä saadaan toteutettua alkuvaiheen rahoituksella puolessa vuodessa.

– Haluamme selvittää miten todennäköisesti tekoälyt edes voi saada hahmottamaan maailmaa samalla tavalla kuin ihmiset, Sotala linjaa.

Alunperin projektiin haettiin 100 000 dollarin tukea, jolla olisi voitu palkata Sotala täyspäiväisesti ja pari avustajaa osa-aikaisesti vuodeksi. Tavoitteisiin kuului myös kaksi lisävaihetta.

Katsauksen jälkeen toisena tavoitteena on tutkia voiko deep learning (tekoälytutkimuksen menetelmä, jossa tyypillisesti suuresta määrästä dataa pyritään algoritmien avulla tekemään korkean tason abstraktioita) -metodeja hyväksikäyttäen saada tekoälyn oppimaan moraalisia käsitteitä sopivasta lähtödatasta.

– Sopivan datasetin luominen olisi suurimpia tehtäviä tässä vaiheessa. Olemme pyöritelleet alustavia ideoita esimerkiksi oikeusjuttujen pöytäkirjoista, mutta meillä ei vielä ole konkreettisesti määriteltyä lopputulosta tästä.

Kolmannessa vaiheessa tutkijat aikovat tutkia psykologiaa ja koneoppimista yhdistävää hypoteesiaan siitä miten ihmiset oppivat arvonsa ja miten ne toimivat algoritmisella tasolla. Tähän riittävät ainakin osittain rahkeet nykyisen rahoituksen puitteissa.

Sotalan mukaan ehdotuksia tutkinut lautakunta piti tutkimussuunnitelmaa ja ideoita hyvänä. Tavoitteiden kunnianhimoisuus, sekä tutkijoiden nuori ikä ja alkuvaiheissaan olevat urat, johtivat kuitenkin siihen, että täyden rahoituksen sijaan projektille myönnettiin "siemenrahoitus". Ainakin teoriassa on mahdollista, että projektia tuetaan suuremmalla summalla, jos lopputulokset ovat lupaavia.

Musk lahjoitti erilaisiin tekoälyprojekteihin peräti 7 miljoonaa dollaria. Täyden listan tukeen oikeutetuista löydät täältä.

Kommentit

    Näytä lisää
    Kommentointi on päättynyt

    Näitä luetaan!

    1. 1

      Kuhmossa iso poliisioperaatio – partioita Oulun ja Itä-Suomen poliisista

    2. 2

      Sisäpiirin paljastus: Saara Aallolle maksetaan Lontoossa kaikki, Meri-rakas ja ystävät sinnittelevät – ”Hyödynnämme tarjouksia”

    3. 3

      Italialaisen mallikaunottaren, 42, härski alastonkuva kauhistuttaa faneja – pani isäpuolensa ja näyttelijä-äitinsä ikuistamaan itsensä jooga-asennossa

    4. 4

      Myrkyttääkö narsisti elämääsi? 7 varoitusmerkkiä

    5. 5

      Juho muutti Espanjaan – kämppä on kylmä ja kallis, eikä ilman villasukkia pärjää: ”Välillä pyyhkäisen hometta seinistä”

    6. 6

      Vuosaaren paloasunnossa ei ollut palovaroitinta – äiti ja lapset kuolivat, perheen isä kuuli suruviestin töissä

    7. 7

      Mila Kunis raivostui Ashton Kutcherin ex-vaimolle – Demi Mooren väitetään häiriköivän parin elämää

    8. 8

      Trump poseeraa Time-lehden kannessa – somessa huomattiin heti: Kuvaan piilotettiin viesti paholaisesta ja viittaus Hitleriin?

    9. 9

      Oikean elämän ”M” raotti M16:n salaisuuksien verhoa harvinaisessa puheessa – ei palkkaisi James Bondia agenttihommiin

    10. 10

      Juha Sipilä avasi jälleen omistuksiaan: ”Useilla suomalaisilla on rahasto-osuuksia, niin minullakin”

    11. Näytä lisää
    1. 1

      Suuri lihapullatesti oli yhden pienen pyörykän ylivoimaa – ”Heittämällä paras”

    2. 2

      Äidin tekemä Excel-taulukko paljasti kylmän totuuden Nikon tilanteesta – näin poika kuittasi 50 000 € velat

    3. 3

      Psykoosiin ajautunut Kanye West palasi julkisuuteen muuttuneena – ensimmäinen kuva räppäristä poistettiin Instagramista nopeasti

    4. 4

      Aasialaismiehen passikuva hylättiin äärimmäisen kiusallisesta syystä

    5. 5

      Kolme lasta ja äiti kuolivat tulipalossa Helsingin Vuosaaressa – näin tapahtumat etenivät

    6. 6

      Salkkarit-kaunotar rohkeassa kuvassa – rinnat paistavat läpi henkäyksen ohuesta asusta

    7. 7

      Vuosaaren paloasunnossa ei ollut palovaroitinta – äiti ja lapset kuolivat, perheen isä kuuli suruviestin töissä

    8. 8

      Poliisi kertoi lisää Vuosaaren tragediasta: nuorin uhri 2-vuotias, suurimmat tuhot saunassa

    9. 9

      Näin Patrik Laine asuu Winnipegissä – ”Just ja just osaan käyttää mikroa”

    10. 10

      Juho muutti Espanjaan – kämppä on kylmä ja kallis, eikä ilman villasukkia pärjää: ”Välillä pyyhkäisen hometta seinistä”

    11. Näytä lisää
    1. 1

      Poliisi IS:lle: Tällainen tausta Imatran epäillyllä 23-vuotiaalla kolmoismurhaajalla on

    2. 2

      Salkkarit-kaunotar rohkeassa kuvassa – rinnat paistavat läpi henkäyksen ohuesta asusta

    3. 3

      WhatsApp katoaa miljoonista puhelimista – katso, onko omasi listalla

    4. 4

      Hänellä oli Linnan juhlien rohkein iltapuku – IS:n lukijat äänestivät illan räväyttävimmän pukeutujan

    5. 5

      Robinin, 18, Linnan juhlat -asussa mukana yksityiskohta, joka jäi monilta huomaamatta – presidentiltä erityinen pyyntö kättelyjonossa

    6. 6

      Tuulenvire paljasti Donald Trumpin omituisen ”asumokan” – netti sekosi lentokentältä napatusta kuvasta

    7. 7

      Perhesyyt eivät painaneet? Mika Salolla teoria Nico Rosbergin lopettamisesta: ”Kukaan ei tajua sitä…”

    8. 8

      Todelliset syyt, joiden vuoksi naiset voihkivat seksin aikana

    9. 9

      Raivostunut Matti Nykänen perui keikkansa Kanarialla – ravintola joutui maksumieheksi: ”V**ut minä mitään keikkaa vedä”

    10. 10

      Linnan jatkoilla nousi hässäkkä – Heikki Lampela ja Hanna Kärpänen sisään vahvassa juhlatunnelmassa: ”Haluan seikkailuja”

    11. Näytä lisää

    Näitä luetaan!

    1. 1

      Kuhmossa iso poliisioperaatio – partioita Oulun ja Itä-Suomen poliisista

    2. 2

      Sisäpiirin paljastus: Saara Aallolle maksetaan Lontoossa kaikki, Meri-rakas ja ystävät sinnittelevät – ”Hyödynnämme tarjouksia”

    3. 3

      Italialaisen mallikaunottaren, 42, härski alastonkuva kauhistuttaa faneja – pani isäpuolensa ja näyttelijä-äitinsä ikuistamaan itsensä jooga-asennossa

    4. 4

      Myrkyttääkö narsisti elämääsi? 7 varoitusmerkkiä

    5. 5

      Juho muutti Espanjaan – kämppä on kylmä ja kallis, eikä ilman villasukkia pärjää: ”Välillä pyyhkäisen hometta seinistä”

    6. Näytä lisää
    1. 1

      Suuri lihapullatesti oli yhden pienen pyörykän ylivoimaa – ”Heittämällä paras”

    2. 2

      Äidin tekemä Excel-taulukko paljasti kylmän totuuden Nikon tilanteesta – näin poika kuittasi 50 000 € velat

    3. 3

      Psykoosiin ajautunut Kanye West palasi julkisuuteen muuttuneena – ensimmäinen kuva räppäristä poistettiin Instagramista nopeasti

    4. 4

      Aasialaismiehen passikuva hylättiin äärimmäisen kiusallisesta syystä

    5. 5

      Kolme lasta ja äiti kuolivat tulipalossa Helsingin Vuosaaressa – näin tapahtumat etenivät

    6. Näytä lisää
    1. 1

      Poliisi IS:lle: Tällainen tausta Imatran epäillyllä 23-vuotiaalla kolmoismurhaajalla on

    2. 2

      Salkkarit-kaunotar rohkeassa kuvassa – rinnat paistavat läpi henkäyksen ohuesta asusta

    3. 3

      WhatsApp katoaa miljoonista puhelimista – katso, onko omasi listalla

    4. 4

      Hänellä oli Linnan juhlien rohkein iltapuku – IS:n lukijat äänestivät illan räväyttävimmän pukeutujan

    5. 5

      Robinin, 18, Linnan juhlat -asussa mukana yksityiskohta, joka jäi monilta huomaamatta – presidentiltä erityinen pyyntö kättelyjonossa

    6. Näytä lisää