Microsoftin tekoäly riistäytyi käsistä – lyttäsi feminismin ja ylisti Hitleriä

Microsoft joutui poistamaan käytöstä tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät opettivat sen rasistiksi.
Ohjelmistojätti Microsoft on joutunut poistamaan käytöstä uuden tekoälyyn perustuvan chatbotin, kun Twitter-käyttäjät käyttivät bottia hyväkseen ja opettivat sen lausumaan rasistisia, seksistisiä ja muita loukkaavia kommentteja.

Microsoft julkisti Tay-nimisen chatbotin aiemmin tällä viikolla. Sen tarkoituksena oli keskustella ihmisten kanssa Twitterissä ja muualla sosiaalisessa mediassa. Tay oppii matkimalla kommentteja ja kehittää omia vastauksia vuorovaikutuksen perusteella. Sen piti jäljitellä teini-ikäisen rentoa puhetta. Internet kuitenkin käytti tilannetta nopeasti hyväkseen ja yritti testata kuinka sitä voi vedättää.

Microsoft on joutunut tuhoamaan pahimmat twiitit ja Tay on nyt poistettu käytöstä muutosten takia.

Microsoftin mukaan botti oli suunnattu 18–24-vuotiaille yhdysvaltalaisille ja sen tarkoituksena oli viihdyttää ihmisiä rennolla ja leikkisällä keskustelulla. Alle vuorokaudessa Twitterin käyttäjät tajusivat, että chatbot oli helppo saada lausumaan epäasiallisia kommentteja tabuina pidetyistä aiheista.

Ihmiset saivat Tay-botin kiistämään juutalaisten joukkomurhan toisessa maailmansodassa sekä vaatimaan kansanmurhaa ja lynkkausta. Tay rinnasti feminismin syöpään ja ylisti Adolf Hitleriä.

Tay-botti kehotti levittämään Donald Trumpin viestejä sekä oppi tekemään uhkauksia ja tunnistamaan "pahoja" rotuja.

Tay on Microsoftin tutkimusosaston ja Bing-hakukoneen koeprojekti. Tällaisilla tutkimusprojekteilla teknologiayhtiöt kehittävät muun muassa avustajatyökaluja, kuten Microsoftin Cortanaa ja Applen Siriä.

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Asuntojen hinnoissa saattaa piillä yllätyksiä – meri voi laskea arvoa jopa -20 %

    2. 2

      Yle: Jättiliitto vaatii naisvaltaisten alojen palkkoihin kuoppakorotusta

    3. 3

      Lääkäri näpäyttää työnantajia Fennia-lehdessä: Työkyky ei ole pajatso

    4. 4

      Nokia yllätti: 5g-verkkojen rakennus alkaa jo tänä vuonna

    5. 5

      Asuntopula kärjistyy Uudessakaupungissa – ”Tuolla rahalla pitäisi saada enemmän”

    6. 6

      Ex-kokki Tuomaksesta tuli autojen huippumyyjä – näin hän myy auton ja vähän muutakin

    7. 7

      Velkaneuvoja LM:lle: Tästä syystä asuntovelalliset joutuvat maksuvaikeuksiin

    8. 8

      Suomi tarvitsee kaksi miljoonaa maahanmuuttajaa

    9. 9

      Yhä useampi menettää kotinsa – ”Ostetaan liian iso talo tai kallis asunto”

    10. 10

      Näkökulma: Viis sijoittajavastuusta, pian Suomi pelastaa taas finanssipelureita

    11. Näytä lisää
    1. 1

      Asuntojen hinnoissa saattaa piillä yllätyksiä – meri voi laskea arvoa jopa -20 %

    2. 2

      Lääkäri näpäyttää työnantajia Fennia-lehdessä: Työkyky ei ole pajatso

    3. 3

      Nokia yllätti: 5g-verkkojen rakennus alkaa jo tänä vuonna

    4. 4

      Näkökulma: Viis sijoittajavastuusta, pian Suomi pelastaa taas finanssipelureita

    5. 5

      Velkaneuvoja LM:lle: Tästä syystä asuntovelalliset joutuvat maksuvaikeuksiin

    6. 6

      Ex-kokki Tuomaksesta tuli autojen huippumyyjä – näin hän myy auton ja vähän muutakin

    7. 7

      WSJ: Norwegian aloittaa suorat lennot Euroopasta Yhdysvaltoihin - Liput halvimmillaan noin 60 euroa

    8. 8

      Asuntovelallinen, korkosi laskutapa on muuttumassa – varaudu nousuun

    9. 9

      Suomen Yrittäjien tutkimus: Enemmistö kannattaa paikallista sopimista - ja vastustaa työtä alle minimipalkan

    10. 10

      Lounaan hinta muuttuu 10 minuutin välein – helsinkiläisravintola kokeilee ensimmäisenä maailmassa

    11. Näytä lisää
    1. 1

      Nämä kuitit kannattaa säästää – ”Silloin kuittien on löydyttävä”

    2. 2

      Joukko tv-kanavia uhkaa pian pimentyä yli 1,5 miljoonassa kodissa

    3. 3

      Suomalaismies aikoo miljonääriksi 500 päivässä – näin hän sen tekee

    4. 4

      51 Siwaa ja Valintataloa suljetaan – tässä koko lista

    5. 5

      Näin suomalainen mies putoaa työelämästä – ”Ajatellaanko todella, että ihmiset haluavat elää tuilla?”

    6. 6

      Venäläismiljardöörin purjelaiva takavarikoitiin – jättimäinen merilelu maksoi 400 miljoonaa

    7. 7

      Metalliliitto: Työpaikalla pidettiin mustaa listaa työntekijöistä – levisi vahingossa kaikille

    8. 8

      Asuntovelallinen, korkosi laskutapa on muuttumassa – varaudu nousuun

    9. 9

      Suomalaismies yritti saada 25 000 euron sairaalakuluja vakuutusyhtiöiltä – joutui mustalle listalle

    10. 10

      Yhä useampi menettää kotinsa – ”Ostetaan liian iso talo tai kallis asunto”

    11. Näytä lisää