Microsoft pyytää anteeksi tekoälybotin Twitter-sekoiluja – "Olemme erittäin pahoillamme"

Tay-chatbotti vertasi muun muassa feminismiä syöpään ja ylisti Adolf Hitleriä.
Ohjelmistojätti Microsoft pyytää anteeksi kehittämänsä Tay-chatbotin huonoa käytöstä.

– Olemme erittäin pahoillamme Tayn tahattoman loukkaavista twiiteistä, jotka eivät edusta arvojamme, eivätkä tapaa, jolla suunnittelimme Tayn, Microsoft Researchin varatoimitusjohtaja Peter Lee kirjoittaa Microsoftin blogissa.

Tayn oli tarkoitus keskustella ihmisten kanssa Twitterissä ja kehittää vuorovaikutustaan muiden käyttäjien kanssa tekoälyn avulla.

Muut Twitter-käyttäjät pyrkivät kuitenkin vaikuttamaan Tayn vastauksiin, ja ennen pitkää Tay rinnasti muun muassa feminismin syöpään ja ja ylisti Adolf Hitleriä.

– Pieni joukko käyttäjiä pystyi koordinoidulla hyökkäyksellä hyödyntämään Tayn haavoittuvuutta. Vaikka olimmekin varautuneet monenlaisiin väärinkäytöksiin, emme olleet varautuneet juuri tämänlaiseen hyökkäykseen, Lee kirjoittaa.

Yhtiö poisti loukkaavimmat twiitit pikaisesti ja siirsi Tayn offline-tilaan. Varatoimitusjohtajan mukaan Tayn kehittelyä jatketaan.

– Juuri nyt pyrimme vastaamaan tämän hyökkäksen paljastamaan haavoittuvuuteen. Pyrimme herkeämättä oppimaan tästä ja muista kokemuksista pyrkiessämme antamaan panoksemme internetiin, joka edustaa ihmiskunnan parhaita eikä huonoimpia puolia.

  • Tekoäly

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Näkökulma: Viis sijoittajavastuusta, pian Suomi pelastaa taas finanssipelureita

    2. 2

      Asuntovelallinen, korkosi laskutapa on muuttumassa – varaudu nousuun

    3. 3

      WSJ: Norwegian aloittaa suorat lennot Euroopasta Yhdysvaltoihin - Liput halvimmillaan noin 60 euroa

    4. 4

      Asuntopula kärjistyy Uudessakaupungissa – ”Tuolla rahalla pitäisi saada enemmän”

    5. 5

      Kalevala Koru irtisanoi noin 100 jälleenmyyntisopimusta - ”Jakelua järjestellään uudelleen”

    6. 6

      Uusi velkaennätys on ovella – maailman yhteenlaskettu velka on käsittämätön summa

    7. 7

      Ex-kokki Tuomaksesta tuli autojen huippumyyjä – näin hän myy auton ja vähän muutakin

    8. 8

      Suuri murros edessä – pankkien alettava antaa asiakastietoja ulkopuolisille

    9. 9

      Ruotsissa ollaan lähellä asuntokuplan puhkeamista – ”pitäisi olla jo huolissaan”

    10. 10

      Kyberturvallisuuden huippuasiantuntija Business Insiderille: Hakkeroinnista tullut mafian kaltaista toimintaa

    11. Näytä lisää
    1. 1

      Ex-kokki Tuomaksesta tuli autojen huippumyyjä – näin hän myy auton ja vähän muutakin

    2. 2

      WSJ: Norwegian aloittaa suorat lennot Euroopasta Yhdysvaltoihin - Liput halvimmillaan noin 60 euroa

    3. 3

      Suuri murros edessä – pankkien alettava antaa asiakastietoja ulkopuolisille

    4. 4

      Asuntopula kärjistyy Uudessakaupungissa – ”Tuolla rahalla pitäisi saada enemmän”

    5. 5

      Asuntovelallinen, korkosi laskutapa on muuttumassa – varaudu nousuun

    6. 6

      Kalevala Koru irtisanoi noin 100 jälleenmyyntisopimusta - ”Jakelua järjestellään uudelleen”

    7. 7

      Uusi velkaennätys on ovella – maailman yhteenlaskettu velka on käsittämätön summa

    8. 8

      Lounaan hinta muuttuu 10 minuutin välein – helsinkiläisravintola kokeilee ensimmäisenä maailmassa

    9. 9

      Uutuuskirja: Neuvostoliittolaiset halusivat ranskalaiset kankaat vaatteisiin – Koivisto esti

    10. 10

      Ruotsissa ollaan lähellä asuntokuplan puhkeamista – ”pitäisi olla jo huolissaan”

    11. Näytä lisää
    1. 1

      Nämä kuitit kannattaa säästää – ”Silloin kuittien on löydyttävä”

    2. 2

      Joukko tv-kanavia uhkaa pian pimentyä yli 1,5 miljoonassa kodissa

    3. 3

      Suomalaismies aikoo miljonääriksi 500 päivässä – näin hän sen tekee

    4. 4

      51 Siwaa ja Valintataloa suljetaan – tässä koko lista

    5. 5

      Näin suomalainen mies putoaa työelämästä – ”Ajatellaanko todella, että ihmiset haluavat elää tuilla?”

    6. 6

      Venäläismiljardöörin purjelaiva takavarikoitiin – jättimäinen merilelu maksoi 400 miljoonaa

    7. 7

      Metalliliitto: Työpaikalla pidettiin mustaa listaa työntekijöistä – levisi vahingossa kaikille

    8. 8

      Suomalaismies yritti saada 25 000 euron sairaalakuluja vakuutusyhtiöiltä – joutui mustalle listalle

    9. 9

      Uusi eläkemuoto houkuttelee työttömiä – hetken helpotus voi kostautua

    10. 10

      Pian voi alkaa hakea uutta eläketukea – 760 e/kk

    11. Näytä lisää