Digitoday

Valikko

Microsoftin tekoäly vaati kansanmurhaa ja ylisti Hitleriä

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.


Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Hyvinkään poliisiasemalle saapui ahdistunut aviomies – elintasokulissin takaa alkoi paljastua karu totuus

    2. 2

      Patrik Laine saamassa huippuluokan bonukset – viekö vihattu sääntö palkasta jopa puoli miljoonaa?

    3. 3

      ”Inhoan tätä elämää, voisinpa vain antaa lapset pois”

    4. 4

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    5. 5

      Tarkista ja kuuntele: Mikä oli Suomen listaykkösenä, kun sinä synnyit?

    6. 6

      Näin Viron oluiden hinnat muuttuvat – viinaralliin voi tulla pian iso muutos

    7. 7

      Onko tässä totuus Mäkäräisen poisjäännistä Lahden MM-kisoista? ”Kaikki, mitä Otepäässä tulkitsin Reijon olemuksesta ja puheista, viittasi siihen”

    8. 8

      Hengenvaarallinen villitys leviää nuorten keskuudessa ja herättää huolta: ”Halikuva muuttuu nopeasti tragediaksi”

    9. 9

      IS seurasi yhdistetyn mäkiosuutta – Eero Hirvonen taistelee MM-mitalista klo 13.30

    10. 10

      Katri Sorsalta kuitti Anu Saagimille: ”Eestissä nainen näyttää herättyään tältä, meillä Suomessa tältä...”

    11. Näytä lisää
    1. 1

      Katri Sorsalta kuitti Anu Saagimille: ”Eestissä nainen näyttää herättyään tältä, meillä Suomessa tältä...”

    2. 2

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    3. 3

      Joukko tv-kanavia uhkaa pian pimentyä yli 1,5 miljoonassa kodissa

    4. 4

      Perhetragedia taustalla – MM-kisojen johtoon äkillinen muutos

    5. 5

      Onko tässä totuus Mäkäräisen poisjäännistä Lahden MM-kisoista? ”Kaikki, mitä Otepäässä tulkitsin Reijon olemuksesta ja puheista, viittasi siihen”

    6. 6

      Pelastajien kuvat kertovat lohduttomasta urakasta: 17-vuotias suomalaisnuori putosi Alpeilla jäärotkoon ja kuoli

    7. 7

      Poliisin kuvat: palkitun kissakasvattajan pakastimesta löytyi karmea yllätys – ”Pyörryin, kun sain puhelun”

    8. 8

      Jenni, 24, on aseksuaali: ”Tavallaan toivon, että olisin edelleen neitsyt”

    9. 9

      51 Siwaa ja Valintataloa suljetaan – tässä koko lista

    10. 10

      Miss Thaimaan, 22, uskomaton muodonmuutos – ”nörtistä” kuoriutui 6 kuukaudessa upea kaunotar: ”En ole ikinä seurustellut”

    11. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    3. 3

      Pekka Vähäsöyrinki tunnusti Mika Myllylän haudalla, milloin dopinginkäyttö alkoi: ”Siinä hetkessä annoin periksi”

    4. 4

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    5. 5

      Stubb opetti Trumpille faktoja Ruotsista – viesti sytytti kiivaan keskustelun

    6. 6

      Yleinen virhe wc-pöntöllä: Tästä syystä pyttyyn jää helposti ”jarrutusjäljet”

    7. 7

      Anu Saagim haukkui Maria Veitolaa rumaksi suorassa lähetyksessä – Veitola harmistui studioyleisön reaktiosta: ”Yleisö nauraa ja taputtaa”

    8. 8

      Nokialla pahoinpidelty 17-vuotias tyttö on kuollut

    9. 9

      Donald Trumpilta outo viittaus Ruotsiin: ”Katsokaa, mitä tapahtui eilen illalla Ruotsissa – kuka olisi uskonut?”

    10. 10

      Poliisin kuvat: palkitun kissakasvattajan pakastimesta löytyi karmea yllätys – ”Pyörryin, kun sain puhelun”

    11. Näytä lisää

    Näitä luetaan!

    1. 1

      Hyvinkään poliisiasemalle saapui ahdistunut aviomies – elintasokulissin takaa alkoi paljastua karu totuus

    2. 2

      Patrik Laine saamassa huippuluokan bonukset – viekö vihattu sääntö palkasta jopa puoli miljoonaa?

    3. 3

      ”Inhoan tätä elämää, voisinpa vain antaa lapset pois”

    4. 4

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    5. 5

      Tarkista ja kuuntele: Mikä oli Suomen listaykkösenä, kun sinä synnyit?

    6. Näytä lisää
    1. 1

      Katri Sorsalta kuitti Anu Saagimille: ”Eestissä nainen näyttää herättyään tältä, meillä Suomessa tältä...”

    2. 2

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    3. 3

      Joukko tv-kanavia uhkaa pian pimentyä yli 1,5 miljoonassa kodissa

    4. 4

      Perhetragedia taustalla – MM-kisojen johtoon äkillinen muutos

    5. 5

      Onko tässä totuus Mäkäräisen poisjäännistä Lahden MM-kisoista? ”Kaikki, mitä Otepäässä tulkitsin Reijon olemuksesta ja puheista, viittasi siihen”

    6. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    3. 3

      Pekka Vähäsöyrinki tunnusti Mika Myllylän haudalla, milloin dopinginkäyttö alkoi: ”Siinä hetkessä annoin periksi”

    4. 4

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    5. 5

      Stubb opetti Trumpille faktoja Ruotsista – viesti sytytti kiivaan keskustelun

    6. Näytä lisää