Microsoftin tekoäly riistäytyi käsistä – lyttäsi feminismin ja ylisti Hitleriä

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.
Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Joukko tv-kanavia uhkaa pian pimentyä yli 1,5 miljoonassa kodissa

    2. 2

      Viro aikoo korottaa olutveroa 70 % parhaaseen myyntiaikaan – Olvia jännittää

    3. 3

      Puolet Kampin kauppakeskuksesta myydään

    4. 4

      Nämä kuitit kannattaa säästää – ”Silloin kuittien on löydyttävä”

    5. 5

      Suomalaismies aikoo miljonääriksi 500 päivässä – näin hän sen tekee

    6. 6

      Liki 4 miljardia euroa 2 vuodessa – ennätysmäärä rahaa virtasi Kiinasta Suomeen

    7. 7

      Tesla aikoo rakentaa jopa kolme uutta jättitehdasta – Suomen saumat paranivat?

    8. 8

      51 Siwaa ja Valintataloa suljetaan – tässä koko lista

    9. 9

      Nyt voit ostaa Donald Trumpin omistaman Ferrarin

    10. 10

      220 000 jäsenen ammattiliitto JHL haluaa jäsenilleen palkankorotuksen

    11. Näytä lisää
    1. 1

      Joukko tv-kanavia uhkaa pian pimentyä yli 1,5 miljoonassa kodissa

    2. 2

      Suomalaismies aikoo miljonääriksi 500 päivässä – näin hän sen tekee

    3. 3

      51 Siwaa ja Valintataloa suljetaan – tässä koko lista

    4. 4

      Nämä kuitit kannattaa säästää – ”Silloin kuittien on löydyttävä”

    5. 5

      Yhä useampi menettää kotinsa – ”Ostetaan liian iso talo tai kallis asunto”

    6. 6

      Viro aikoo korottaa olutveroa 70 % parhaaseen myyntiaikaan – Olvia jännittää

    7. 7

      Siwojen ja Valintatalojen yt:t päättyivät: 51 kauppaa lopettaa, 206 työpaikkaa katoaa

    8. 8

      Asumisunelmat karkaavat: ”Monet yksinäiset vanhukset ovat loukussa”

    9. 9

      Kelan omat työntekijät huolestuivat ruuhkista: ”Jälleen yksi varoittava esimerkki”

    10. 10

      Puolet Kampin kauppakeskuksesta myydään

    11. Näytä lisää
    1. 1

      Nämä kuitit kannattaa säästää – ”Silloin kuittien on löydyttävä”

    2. 2

      Suomalaismies aikoo miljonääriksi 500 päivässä – näin hän sen tekee

    3. 3

      Joukko tv-kanavia uhkaa pian pimentyä yli 1,5 miljoonassa kodissa

    4. 4

      51 Siwaa ja Valintataloa suljetaan – tässä koko lista

    5. 5

      Näin suomalainen mies putoaa työelämästä – ”Ajatellaanko todella, että ihmiset haluavat elää tuilla?”

    6. 6

      Venäläismiljardöörin purjelaiva takavarikoitiin – jättimäinen merilelu maksoi 400 miljoonaa

    7. 7

      Metalliliitto: Työpaikalla pidettiin mustaa listaa työntekijöistä – levisi vahingossa kaikille

    8. 8

      Suomalaismies yritti saada 25 000 euron sairaalakuluja vakuutusyhtiöiltä – joutui mustalle listalle

    9. 9

      Uusi eläkemuoto houkuttelee työttömiä – hetken helpotus voi kostautua

    10. 10

      Pian voi alkaa hakea uutta eläketukea – 760 e/kk

    11. Näytä lisää