Digitoday

Valikko

Google: Tekoäly tarvitsee "ison punaisen napin"

Koneoppimista aktiivisesti kehittävä Google tahtoo varokeinon siltä varalta, että tekoäly tekee jotakin ei-toivottua.
Hallinnasta karkaava tekoäly on monien tieteistarinoiden kauhukuva 2001: Avaruusseikkailusta Terminator-elokuviin. On sekä pelottavaa että huojentavaa lukea, että tekoälyn kehittäjät ottavat tällaisen mahdollisuuden vakavasti.

Aiheesta uutisoi esimerkiksi The Verge. Googlen omistama tekoälylaboratorio DeepMind ja Oxfordin yliopisto tekivät tekoälyn hallinnasta vuonna 2014 seikkaperäisen tutkimuksen (pdf), joka on julkaistu Machine Intelligence Research Instituten verkkosivuilla.

– Jos sellainen toimija operoi reaaliajassa ihmisen valvonnassa, voi ajoittain tulla tarpeen painaa isoa punaista nappia estämään toimijaa jatkamasta vahingollista toimenpiteiden sarjaa – vahingollista joko toimijalle tai ympäristölle – ja johdattamaan toimija turvallisempaan tilanteeseen, Safely Interruptible Agents (Turvallisesti keskeytettävät toimijat) -nimisessä raportissa kirjoitetaan.

Iso punainen nappi on tässä yhteydessä lähinnä vertauskuva keinolle saada tekoäly pysäytettyä nopeasti, oli se sitten käytössä tehdasrobotissa, itsestään ajavassa autossa tai vaikka vain ohjelmallisesti osana jotakin laajaa verkkopalvelua – kuten Googlen hakua tai Facebookia, joka myös on varsin aktiivinen tekoälyn kehittäjä.

Google ja yliopisto tutkivat raportissaan myös sellaista mahdollisuutta, että tekoäly oppii ohittamaan käskyt keskeyttää toimintansa. Näin voisi käydä, jos itseoppiva tietokoneohjelma kokee saavansa palkkion keskeytettävästä toiminnastaan. Tutkijat esittävät ratkaisuksi itseoppiviin älykkyyksiin liittyvien palkkiojärjestelmien manipulointia.

Ihmismäisesti maailmaa hahmottava ja ymmärtävä tekoäly lienee vielä varsin kaukana. Facebookin Mark Zuckerberg ennusti kuitenkin äskettäin, että joillakin rajatuilla alueilla, kuten näkemisessä, kuulemisessa ja kielenkäytössä, tietokone voi olla ihmistä parempi jo 5–10 vuodessa.

  • Tekoäly

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Katri Sorsalta kuitti Anu Saagimille: ”Eestissä nainen näyttää herättyään tältä, meillä Suomessa tältä...”

    2. 2

      Kadulta löytyi pahoinpidelty mies Helsingissä

    3. 3

      Lentokone laskeutui hurjannäköisesti Englantiin kovassa sivutuulessa – videota ei suositella lentopelkoisille

    4. 4

      Ranskan ihmis-Ken hylkäsi Barbie-tyttöystävänsä – nainen värjäsi hiuksensa tummaksi, Ken järkyttyi: ”Se oli viimeinen pisara!”

    5. 5

      Miss Thaimaan, 22, uskomaton muodonmuutos – ”nörtistä” kuoriutui 6 kuukaudessa upea kaunotar: ”En ole ikinä seurustellut”

    6. 6

      Pariskunta ajoi aura-auton nostamaan ”valkoiseen muuriin” Sonkajärvellä – ”Todella pelottavaa”

    7. 7

      Jenni, 24, on aseksuaali: ”Tavallaan toivon, että olisin edelleen neitsyt”

    8. 8

      Kommentti: Antti Ruuskasen mitaliseremonia MM-hiihdoissa oli farssi!

    9. 9

      Heinäveden onnettomuus veti paikkakuntalaisen Jarin hiljaiseksi – ”Kuinka äkkiä elämä voi pysähtyä”

    10. 10

      Joukko tv-kanavia uhkaa pian pimentyä yli 1,5 miljoonassa kodissa

    11. Näytä lisää
    1. 1

      Poliisin kuvat: palkitun kissakasvattajan pakastimesta löytyi karmea yllätys – ”Pyörryin, kun sain puhelun”

    2. 2

      Perhetragedia taustalla – MM-kisojen johtoon äkillinen muutos

    3. 3

      Suomalaismies aikoo miljonääriksi 500 päivässä – näin hän sen tekee

    4. 4

      Joukko tv-kanavia uhkaa pian pimentyä yli 1,5 miljoonassa kodissa

    5. 5

      Pelastajien kuvat kertovat lohduttomasta urakasta: 17-vuotias suomalaisnuori putosi Alpeilla jäärotkoon ja kuoli

    6. 6

      Isisin seksiorjaksi joutunut kertoo hirvittävistä kokemuksistaan: ”Sama mies raiskasi minut joka päivä”

    7. 7

      Nämä kuitit kannattaa säästää – ”Silloin kuittien on löydyttävä”

    8. 8

      51 Siwaa ja Valintataloa suljetaan – tässä koko lista

    9. 9

      Lauri, 30, kertoo miksi pettää vaimoaan Tinder-naisten kanssa: ”En tunne minkäänlaista syyllisyyttä”

    10. 10

      Lehdet tyrmäsivät tosi-tv-kaunottaren arveluttavan gaalamekon – leopardiasu paljasti arkiset alushousut

    11. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      MTV: Saara Aalto kärsii kiusallisesta ja kivuliaasta naistentaudista: ”Ei parannuskeinoa”

    3. 3

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    4. 4

      Pekka Vähäsöyrinki tunnusti Mika Myllylän haudalla, milloin dopinginkäyttö alkoi: ”Siinä hetkessä annoin periksi”

    5. 5

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    6. 6

      Stubb opetti Trumpille faktoja Ruotsista – viesti sytytti kiivaan keskustelun

    7. 7

      Kanadan hurmuriministeri sai Ivanka Trumpin pasmat sekaisin – flirttaileva kuva leviää vauhdilla

    8. 8

      Yleinen virhe wc-pöntöllä: Tästä syystä pyttyyn jää helposti ”jarrutusjäljet”

    9. 9

      Anu Saagim haukkui Maria Veitolaa rumaksi suorassa lähetyksessä – Veitola harmistui studioyleisön reaktiosta: ”Yleisö nauraa ja taputtaa”

    10. 10

      Nokialla pahoinpidelty 17-vuotias tyttö on kuollut

    11. Näytä lisää

    Näitä luetaan!

    1. 1

      Katri Sorsalta kuitti Anu Saagimille: ”Eestissä nainen näyttää herättyään tältä, meillä Suomessa tältä...”

    2. 2

      Kadulta löytyi pahoinpidelty mies Helsingissä

    3. 3

      Lentokone laskeutui hurjannäköisesti Englantiin kovassa sivutuulessa – videota ei suositella lentopelkoisille

    4. 4

      Ranskan ihmis-Ken hylkäsi Barbie-tyttöystävänsä – nainen värjäsi hiuksensa tummaksi, Ken järkyttyi: ”Se oli viimeinen pisara!”

    5. 5

      Miss Thaimaan, 22, uskomaton muodonmuutos – ”nörtistä” kuoriutui 6 kuukaudessa upea kaunotar: ”En ole ikinä seurustellut”

    6. Näytä lisää
    1. 1

      Poliisin kuvat: palkitun kissakasvattajan pakastimesta löytyi karmea yllätys – ”Pyörryin, kun sain puhelun”

    2. 2

      Perhetragedia taustalla – MM-kisojen johtoon äkillinen muutos

    3. 3

      Suomalaismies aikoo miljonääriksi 500 päivässä – näin hän sen tekee

    4. 4

      Joukko tv-kanavia uhkaa pian pimentyä yli 1,5 miljoonassa kodissa

    5. 5

      Pelastajien kuvat kertovat lohduttomasta urakasta: 17-vuotias suomalaisnuori putosi Alpeilla jäärotkoon ja kuoli

    6. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      MTV: Saara Aalto kärsii kiusallisesta ja kivuliaasta naistentaudista: ”Ei parannuskeinoa”

    3. 3

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    4. 4

      Pekka Vähäsöyrinki tunnusti Mika Myllylän haudalla, milloin dopinginkäyttö alkoi: ”Siinä hetkessä annoin periksi”

    5. 5

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    6. Näytä lisää