Digitoday

Valikko

Microsoftin tekoäly vaati kansanmurhaa ja ylisti Hitleriä

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.


Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Sulhanen tuomittiin brittikirjailijan murhasta – kirjailija oli keksinyt itse ruumiin piilopaikan

    2. 2

      Lauri, 30, kertoo miksi pettää vaimoaan Tinder-naisten kanssa: ”En tunne minkäänlaista syyllisyyttä”

    3. 3

      Nämä kuitit kannattaa säästää – ”Silloin kuittien on löydyttävä”

    4. 4

      Näitä tuotteita Suomen vaarallisimmat vangit himoitsevat selleihinsä Riihimäen vankilan omasta kaupasta

    5. 5

      Lahden MM-avajaisten liukas lava teki tepposet suomalaisille huipputanssijoille – ”Perseelleenhän tuo homma meni”

    6. 6

      AFP: Tutkija putosi aktiivisen tulivuoren kraatteriin Nicaraguassa

    7. 7

      Katso parhaat kuvat – tällaiset olivat Lahden MM-avajaiset

    8. 8

      Nuorten epäasiallinen tempaus rikkoi hiihtohissin Turussa – ”Tulee hemmetin kova puhuttelu”

    9. 9

      Yle: Suomalaissyntyinen Carolina taistelee väkivaltaa vastaan Tukholmassa – oma poika tapettiin kotiovelle

    10. 10

      Nasa: Tutkijat löysivät seitsemän Maan kaltaista planeettaa – kolmella suotuisat olosuhteet elämälle

    11. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    3. 3

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    4. 4

      Anu Saagim haukkui Maria Veitolaa rumaksi suorassa lähetyksessä – Veitola harmistui studioyleisön reaktiosta: ”Yleisö nauraa ja taputtaa”

    5. 5

      Nämä kuitit kannattaa säästää – ”Silloin kuittien on löydyttävä”

    6. 6

      Patrik Laine varasti show’n Torontossa – 30 maalia täyteen

    7. 7

      Video: Kajaanin hyppyrimäki räjähti näyttävästi

    8. 8

      Näitä tuotteita Suomen vaarallisimmat vangit himoitsevat selleihinsä Riihimäen vankilan omasta kaupasta

    9. 9

      Tv-tähden sekava käytös ihmetytti aamu-tv:ssä – oliko muoti-idoli humalassa? Syljeskeli ja selasi puhelintaan, somekansa äimistyi

    10. 10

      Tuskien taival: Kohutun Adrian Solanon MM-hiihto alkoi karmealla tavalla – matka jäi lopulta kesken

    11. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      MTV: Saara Aalto kärsii kiusallisesta ja kivuliaasta naistentaudista: ”Ei parannuskeinoa”

    3. 3

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    4. 4

      Pekka Vähäsöyrinki tunnusti Mika Myllylän haudalla, milloin dopinginkäyttö alkoi: ”Siinä hetkessä annoin periksi”

    5. 5

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    6. 6

      Stubb opetti Trumpille faktoja Ruotsista – viesti sytytti kiivaan keskustelun

    7. 7

      Kanadan hurmuriministeri sai Ivanka Trumpin pasmat sekaisin – flirttaileva kuva leviää vauhdilla

    8. 8

      Yleinen virhe wc-pöntöllä: Tästä syystä pyttyyn jää helposti ”jarrutusjäljet”

    9. 9

      Anu Saagim haukkui Maria Veitolaa rumaksi suorassa lähetyksessä – Veitola harmistui studioyleisön reaktiosta: ”Yleisö nauraa ja taputtaa”

    10. 10

      Nokialla pahoinpidelty 17-vuotias tyttö on kuollut

    11. Näytä lisää

    Näitä luetaan!

    1. 1

      Sulhanen tuomittiin brittikirjailijan murhasta – kirjailija oli keksinyt itse ruumiin piilopaikan

    2. 2

      Lauri, 30, kertoo miksi pettää vaimoaan Tinder-naisten kanssa: ”En tunne minkäänlaista syyllisyyttä”

    3. 3

      Nämä kuitit kannattaa säästää – ”Silloin kuittien on löydyttävä”

    4. 4

      Näitä tuotteita Suomen vaarallisimmat vangit himoitsevat selleihinsä Riihimäen vankilan omasta kaupasta

    5. 5

      Lahden MM-avajaisten liukas lava teki tepposet suomalaisille huipputanssijoille – ”Perseelleenhän tuo homma meni”

    6. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    3. 3

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    4. 4

      Anu Saagim haukkui Maria Veitolaa rumaksi suorassa lähetyksessä – Veitola harmistui studioyleisön reaktiosta: ”Yleisö nauraa ja taputtaa”

    5. 5

      Nämä kuitit kannattaa säästää – ”Silloin kuittien on löydyttävä”

    6. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      MTV: Saara Aalto kärsii kiusallisesta ja kivuliaasta naistentaudista: ”Ei parannuskeinoa”

    3. 3

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    4. 4

      Pekka Vähäsöyrinki tunnusti Mika Myllylän haudalla, milloin dopinginkäyttö alkoi: ”Siinä hetkessä annoin periksi”

    5. 5

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    6. Näytä lisää