Digitoday

Valikko

Google: Tekoäly tarvitsee "ison punaisen napin"

Koneoppimista aktiivisesti kehittävä Google tahtoo varokeinon siltä varalta, että tekoäly tekee jotakin ei-toivottua.
Hallinnasta karkaava tekoäly on monien tieteistarinoiden kauhukuva 2001: Avaruusseikkailusta Terminator-elokuviin. On sekä pelottavaa että huojentavaa lukea, että tekoälyn kehittäjät ottavat tällaisen mahdollisuuden vakavasti.

Aiheesta uutisoi esimerkiksi The Verge. Googlen omistama tekoälylaboratorio DeepMind ja Oxfordin yliopisto tekivät tekoälyn hallinnasta vuonna 2014 seikkaperäisen tutkimuksen (pdf), joka on julkaistu Machine Intelligence Research Instituten verkkosivuilla.

– Jos sellainen toimija operoi reaaliajassa ihmisen valvonnassa, voi ajoittain tulla tarpeen painaa isoa punaista nappia estämään toimijaa jatkamasta vahingollista toimenpiteiden sarjaa – vahingollista joko toimijalle tai ympäristölle – ja johdattamaan toimija turvallisempaan tilanteeseen, Safely Interruptible Agents (Turvallisesti keskeytettävät toimijat) -nimisessä raportissa kirjoitetaan.

Iso punainen nappi on tässä yhteydessä lähinnä vertauskuva keinolle saada tekoäly pysäytettyä nopeasti, oli se sitten käytössä tehdasrobotissa, itsestään ajavassa autossa tai vaikka vain ohjelmallisesti osana jotakin laajaa verkkopalvelua – kuten Googlen hakua tai Facebookia, joka myös on varsin aktiivinen tekoälyn kehittäjä.

Google ja yliopisto tutkivat raportissaan myös sellaista mahdollisuutta, että tekoäly oppii ohittamaan käskyt keskeyttää toimintansa. Näin voisi käydä, jos itseoppiva tietokoneohjelma kokee saavansa palkkion keskeytettävästä toiminnastaan. Tutkijat esittävät ratkaisuksi itseoppiviin älykkyyksiin liittyvien palkkiojärjestelmien manipulointia.

Ihmismäisesti maailmaa hahmottava ja ymmärtävä tekoäly lienee vielä varsin kaukana. Facebookin Mark Zuckerberg ennusti kuitenkin äskettäin, että joillakin rajatuilla alueilla, kuten näkemisessä, kuulemisessa ja kielenkäytössä, tietokone voi olla ihmistä parempi jo 5–10 vuodessa.

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Uskomatonta! Saara Aalto teki sen – pääsi heittämällä X Factor -finaaliin

    2. 2

      IS seuraa hetki hetkeltä: Saara Aalto on X Factor -finaalissa! Miten käy muiden kilpailijoiden?

    3. 3

      Koko ABC tyhjeni ja Ville, 19, jäi yksin lukkojen taakse: ”Olin istumassa tuolla pimeässä nurkassa – tää mesta suljettiin!”

    4. 4

      Poliitikkotoverit järkyttyivät Tiina Wilén-Jäppisen kuolemasta: ”Vasta eilen sain häneltä sähköpostia, ja nyt häntä ei ole”

    5. 5

      Antton Puonti voitti Talent Suomen

    6. 6

      Poliisi IS:lle: Tällainen tausta Imatran epäillyllä 23-vuotiaalla kolmoismurhaajalla on

    7. 7

      X Factor -finaalista odotettavissa massiivinen megaspektaakkeli – Saara Aalto voi päästä esiintymään jättiyleisölle

    8. 8

      Toimittaja näki esiintymislavalta suoraan surmapaikalle: ”Näin mitä oli tapahtunut, mutta yleisö ei”

    9. 9

      Näin Jesse Puljujärvi kommentoi vaikeaa tilannettaan

    10. 10

      AL: Viiden lapsen yh-äiti sai neloset – paikallinen yrittäjä tarjoutui apuun

    11. Näytä lisää
    1. 1

      Poliisi IS:lle: Tällainen tausta Imatran epäillyllä 23-vuotiaalla kolmoismurhaajalla on

    2. 2

      Uutisvuodon Sipilä-vitsi hämmensi lauantai-iltana – Mitä lähetyksessä tapahtui?

    3. 3

      Todelliset syyt, joiden vuoksi naiset voihkivat seksin aikana

    4. 4

      Saara Aallon uskomaton Chandelier-esitys sai Sharonin kyyneliin – ei saanut sanaa suustaan, juontaja joutui pelastamaan tilanteen

    5. 5

      Poliisi: Kolme naista ammuttiin yöllä Imatralla – 23-vuotias epäilty otettu kiinni paikan päältä

    6. 6

      Saara Aallon uskomaton esitys lumosi jopa Simon Cowellin: ”Olit sensaatiomainen”

    7. 7

      Silminnäkijä: Imatralla surmattujen viimeiset hetket – tulivat vain käväisemään ravintolassa

    8. 8

      Imatralla tapahtui öinen ampumavälikohtaus – Viranomaisvahvistus: Kolme ihmistä kuollut

    9. 9

      Tuottaja paljastaa: Uutisvuodon studioyleisökin hämmentyi Baba Lybeckin Sipilä-vitsistä – Jari Tervo tajusi juonen heti

    10. 10

      Kaupunginvaltuuston puheenjohtaja Tiina Wilén-Jäppinen sai surmansa Imatran kolmoismurhassa: ”Moderni karjalaisnainen”

    11. Näytä lisää
    1. 1

      Poliisi IS:lle: Tällainen tausta Imatran epäillyllä 23-vuotiaalla kolmoismurhaajalla on

    2. 2

      Raju huhu Lewis Hamiltonista – ”Se on yksityisasia”

    3. 3

      WhatsApp katoaa miljoonista puhelimista – katso, onko omasi listalla

    4. 4

      Sorrutko sinäkin aina näihin virheisiin? 4 asiaa, jotka kannattaa jättää väliin ennen seksiä

    5. 5

      7 yleisen syövän varhaiset varoitusmerkit – tunnista ajoissa

    6. 6

      Raakel Lignellin raju painonpudotus ja tiukka ruokavalio johtivat pysyviin terveysongelmiin: ”Riistäytyi vähän käsistä”

    7. 7

      Tuulenvire paljasti Donald Trumpin omituisen ”asumokan” – netti sekosi lentokentältä napatusta kuvasta

    8. 8

      Perhesyyt eivät painaneet? Mika Salolla teoria Nico Rosbergin lopettamisesta: ”Kukaan ei tajua sitä…”

    9. 9

      Nainen teki ”pettämistestin” poikaystävälleen – lopputulos ei ilahduttanut, videolla jo 6 miljoonaa katselukertaa

    10. 10

      Aleksi Valavuori julkaisi matkakuvan Los Angelesista: maisemaotos paljastuikin Ikean sisustustauluksi – some repesi

    11. Näytä lisää

    Näitä luetaan!

    1. 1

      Uskomatonta! Saara Aalto teki sen – pääsi heittämällä X Factor -finaaliin

    2. 2

      IS seuraa hetki hetkeltä: Saara Aalto on X Factor -finaalissa! Miten käy muiden kilpailijoiden?

    3. 3

      Koko ABC tyhjeni ja Ville, 19, jäi yksin lukkojen taakse: ”Olin istumassa tuolla pimeässä nurkassa – tää mesta suljettiin!”

    4. 4

      Poliitikkotoverit järkyttyivät Tiina Wilén-Jäppisen kuolemasta: ”Vasta eilen sain häneltä sähköpostia, ja nyt häntä ei ole”

    5. 5

      Antton Puonti voitti Talent Suomen

    6. Näytä lisää
    1. 1

      Poliisi IS:lle: Tällainen tausta Imatran epäillyllä 23-vuotiaalla kolmoismurhaajalla on

    2. 2

      Uutisvuodon Sipilä-vitsi hämmensi lauantai-iltana – Mitä lähetyksessä tapahtui?

    3. 3

      Todelliset syyt, joiden vuoksi naiset voihkivat seksin aikana

    4. 4

      Saara Aallon uskomaton Chandelier-esitys sai Sharonin kyyneliin – ei saanut sanaa suustaan, juontaja joutui pelastamaan tilanteen

    5. 5

      Poliisi: Kolme naista ammuttiin yöllä Imatralla – 23-vuotias epäilty otettu kiinni paikan päältä

    6. Näytä lisää
    1. 1

      Poliisi IS:lle: Tällainen tausta Imatran epäillyllä 23-vuotiaalla kolmoismurhaajalla on

    2. 2

      Raju huhu Lewis Hamiltonista – ”Se on yksityisasia”

    3. 3

      WhatsApp katoaa miljoonista puhelimista – katso, onko omasi listalla

    4. 4

      Sorrutko sinäkin aina näihin virheisiin? 4 asiaa, jotka kannattaa jättää väliin ennen seksiä

    5. 5

      7 yleisen syövän varhaiset varoitusmerkit – tunnista ajoissa

    6. Näytä lisää