Digitoday

Valikko

Google: Tekoäly tarvitsee "ison punaisen napin"

Koneoppimista aktiivisesti kehittävä Google tahtoo varokeinon siltä varalta, että tekoäly tekee jotakin ei-toivottua.
Hallinnasta karkaava tekoäly on monien tieteistarinoiden kauhukuva 2001: Avaruusseikkailusta Terminator-elokuviin. On sekä pelottavaa että huojentavaa lukea, että tekoälyn kehittäjät ottavat tällaisen mahdollisuuden vakavasti.

Aiheesta uutisoi esimerkiksi The Verge. Googlen omistama tekoälylaboratorio DeepMind ja Oxfordin yliopisto tekivät tekoälyn hallinnasta vuonna 2014 seikkaperäisen tutkimuksen (pdf), joka on julkaistu Machine Intelligence Research Instituten verkkosivuilla.

– Jos sellainen toimija operoi reaaliajassa ihmisen valvonnassa, voi ajoittain tulla tarpeen painaa isoa punaista nappia estämään toimijaa jatkamasta vahingollista toimenpiteiden sarjaa – vahingollista joko toimijalle tai ympäristölle – ja johdattamaan toimija turvallisempaan tilanteeseen, Safely Interruptible Agents (Turvallisesti keskeytettävät toimijat) -nimisessä raportissa kirjoitetaan.

Iso punainen nappi on tässä yhteydessä lähinnä vertauskuva keinolle saada tekoäly pysäytettyä nopeasti, oli se sitten käytössä tehdasrobotissa, itsestään ajavassa autossa tai vaikka vain ohjelmallisesti osana jotakin laajaa verkkopalvelua – kuten Googlen hakua tai Facebookia, joka myös on varsin aktiivinen tekoälyn kehittäjä.

Google ja yliopisto tutkivat raportissaan myös sellaista mahdollisuutta, että tekoäly oppii ohittamaan käskyt keskeyttää toimintansa. Näin voisi käydä, jos itseoppiva tietokoneohjelma kokee saavansa palkkion keskeytettävästä toiminnastaan. Tutkijat esittävät ratkaisuksi itseoppiviin älykkyyksiin liittyvien palkkiojärjestelmien manipulointia.

Ihmismäisesti maailmaa hahmottava ja ymmärtävä tekoäly lienee vielä varsin kaukana. Facebookin Mark Zuckerberg ennusti kuitenkin äskettäin, että joillakin rajatuilla alueilla, kuten näkemisessä, kuulemisessa ja kielenkäytössä, tietokone voi olla ihmistä parempi jo 5–10 vuodessa.

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      ”Maailman identtisimmät kaksoset” katuvat kauneusleikkauksiaan – pitävät lopputulosta rumana: ”Häpeämme”

    2. 2

      Trumpin ensitempaukset hämmentävät tutkijaa: Fokus väärässä kohtaa – ”Ehkä Trumpin egolle on niin tärkeää...”

    3. 3

      Kahdeksan lapsen yh-äiti on ”liian kaunis töihin”: ”Miehet näkevät minut vain seksisymbolina”

    4. 4

      Universumin kaunein nainen törmäsi kaksoisolentoonsa – tunnistatko, kumpi on kumpi?

    5. 5

      Berner keskeyttää kohuhankkeensa: ”Sipilän kanssa sovittu, että autoverosta ei luovuta”

    6. 6

      Ensitreffit alttarilla -tähti julkaisi kuvan vauvansa kanssa – tarkkasilmäiset fanit huomasivat kivuliaan sairauden

    7. 7

      F1-pomo Bernie Ecclestone, 86, sai kenkää – hämmästyi uudesta tittelistä: ”En edes tiedä, mitä se tarkoittaa”

    8. 8

      Naku-uikkari on kesän kuumin uimapukutrendi – aivan kuin päällä ei olisi yhtään mitään

    9. 9

      Trump aloitti muutokset – jäädyttää palkankorotukset

    10. 10

      ”Bernerin mallin” viiden päivän mahalasku – näin kaikki tapahtui

    11. Näytä lisää
    1. 1

      Auervaaroja netissä jahtaava Tuula, 74, täräytti valemajurille: ”Minä en maksa penniäkään” – huijarin vastaus oli paljon puhuva

    2. 2

      Ensitreffit alttarilla -tähti julkaisi kuvan vauvansa kanssa – tarkkasilmäiset fanit huomasivat kivuliaan sairauden

    3. 3

      Kahdeksan lapsen yh-äiti on ”liian kaunis töihin”: ”Miehet näkevät minut vain seksisymbolina”

    4. 4

      Sarjahukuttajan röyhkeä piiloleikki Joensuun torilla: ”Aika paljon pitää olla pokkaa”

    5. 5

      Antti Tuiskulta tyhjentävä kommentti hänestä tehdystä Putouksen Abdul Tuisku -hahmosta – tiivisti ensireaktionsa yhteen sanaan

    6. 6

      Kommentti: Autoveron poistaminen kätkee myös ansan – kuulutko satoihintuhansiin maksumiehiin?

    7. 7

      Trump heitti heti Obaman verhot ja maton ulos työhuoneestaan – tilalle kultaa, koristekangasta ja Churchill

    8. 8

      Opiskelijatyttöjen seksikkäistä Instagram-kuvista tuli netti-ilmiö – vähäpukeiset kuvat toimivat ponnahduslautana mallin töihin

    9. 9

      Naku-uikkari on kesän kuumin uimapukutrendi – aivan kuin päällä ei olisi yhtään mitään

    10. 10

      Katso listat: Näin on käynyt S- ja K-ryhmien alentamille hinnoille

    11. Näytä lisää
    1. 1

      Juo aamulla vettä tyhjään vatsaan – 8 mahtavaa vaikutusta

    2. 2

      Auervaaroja netissä jahtaava Tuula, 74, täräytti valemajurille: ”Minä en maksa penniäkään” – huijarin vastaus oli paljon puhuva

    3. 3

      Perhe etsii vastausta kammottavaan kuvaan – mitä tai mikä ilmestyi yhtäkkiä yöllä kotipihalla otettuun valokuvaan?

    4. 4

      Serbian seksikkäin laulaja Milica, 25, purskahti korsetistaan ulos kesken keikan – yleisö villiintyi

    5. 5

      Ei herkkohermoisille: Tältä näyttää työuupumus sairaalassa

    6. 6

      Nainen synnytti salaa vessassa – raskaudesta tietämättömät vanhemmat havahtuivat pamaukseen

    7. 7

      Uimapukumalli Chrissy Teigen jakoi rehellisen kuvan reisistään – miehet hämmentyivät: ”Olen katsonut tätä jo minuutin, ja...”

    8. 8

      Kaikki irti Whatsappista! Tiesitkö jo nämä 9 kätevää kikkaa?

    9. 9

      Yksi kuoli rekan pudottua moottoritieltä Lohjalla – erikoinen tapahtumaketju johti karmeaan turmaan

    10. 10

      Poliisi IS:lle: Näin sarjahukuttaja jäi kiinni – ”Hänellä oli itsellään tiedossa...”

    11. Näytä lisää

    Näitä luetaan!

    1. 1

      ”Maailman identtisimmät kaksoset” katuvat kauneusleikkauksiaan – pitävät lopputulosta rumana: ”Häpeämme”

    2. 2

      Trumpin ensitempaukset hämmentävät tutkijaa: Fokus väärässä kohtaa – ”Ehkä Trumpin egolle on niin tärkeää...”

    3. 3

      Kahdeksan lapsen yh-äiti on ”liian kaunis töihin”: ”Miehet näkevät minut vain seksisymbolina”

    4. 4

      Universumin kaunein nainen törmäsi kaksoisolentoonsa – tunnistatko, kumpi on kumpi?

    5. 5

      Berner keskeyttää kohuhankkeensa: ”Sipilän kanssa sovittu, että autoverosta ei luovuta”

    6. Näytä lisää
    1. 1

      Auervaaroja netissä jahtaava Tuula, 74, täräytti valemajurille: ”Minä en maksa penniäkään” – huijarin vastaus oli paljon puhuva

    2. 2

      Ensitreffit alttarilla -tähti julkaisi kuvan vauvansa kanssa – tarkkasilmäiset fanit huomasivat kivuliaan sairauden

    3. 3

      Kahdeksan lapsen yh-äiti on ”liian kaunis töihin”: ”Miehet näkevät minut vain seksisymbolina”

    4. 4

      Sarjahukuttajan röyhkeä piiloleikki Joensuun torilla: ”Aika paljon pitää olla pokkaa”

    5. 5

      Antti Tuiskulta tyhjentävä kommentti hänestä tehdystä Putouksen Abdul Tuisku -hahmosta – tiivisti ensireaktionsa yhteen sanaan

    6. Näytä lisää
    1. 1

      Juo aamulla vettä tyhjään vatsaan – 8 mahtavaa vaikutusta

    2. 2

      Auervaaroja netissä jahtaava Tuula, 74, täräytti valemajurille: ”Minä en maksa penniäkään” – huijarin vastaus oli paljon puhuva

    3. 3

      Perhe etsii vastausta kammottavaan kuvaan – mitä tai mikä ilmestyi yhtäkkiä yöllä kotipihalla otettuun valokuvaan?

    4. 4

      Serbian seksikkäin laulaja Milica, 25, purskahti korsetistaan ulos kesken keikan – yleisö villiintyi

    5. 5

      Ei herkkohermoisille: Tältä näyttää työuupumus sairaalassa

    6. Näytä lisää