Microsoft pyytää anteeksi tekoälybotin Twitter-sekoiluja – "Olemme erittäin pahoillamme"

Tay-chatbotti vertasi muun muassa feminismiä syöpään ja ylisti Adolf Hitleriä.
Ohjelmistojätti Microsoft pyytää anteeksi kehittämänsä Tay-chatbotin huonoa käytöstä.

– Olemme erittäin pahoillamme Tayn tahattoman loukkaavista twiiteistä, jotka eivät edusta arvojamme, eivätkä tapaa, jolla suunnittelimme Tayn, Microsoft Researchin varatoimitusjohtaja Peter Lee kirjoittaa Microsoftin blogissa.

Tayn oli tarkoitus keskustella ihmisten kanssa Twitterissä ja kehittää vuorovaikutustaan muiden käyttäjien kanssa tekoälyn avulla.

Muut Twitter-käyttäjät pyrkivät kuitenkin vaikuttamaan Tayn vastauksiin, ja ennen pitkää Tay rinnasti muun muassa feminismin syöpään ja ja ylisti Adolf Hitleriä.

– Pieni joukko käyttäjiä pystyi koordinoidulla hyökkäyksellä hyödyntämään Tayn haavoittuvuutta. Vaikka olimmekin varautuneet monenlaisiin väärinkäytöksiin, emme olleet varautuneet juuri tämänlaiseen hyökkäykseen, Lee kirjoittaa.

Yhtiö poisti loukkaavimmat twiitit pikaisesti ja siirsi Tayn offline-tilaan. Varatoimitusjohtajan mukaan Tayn kehittelyä jatketaan.

– Juuri nyt pyrimme vastaamaan tämän hyökkäksen paljastamaan haavoittuvuuteen. Pyrimme herkeämättä oppimaan tästä ja muista kokemuksista pyrkiessämme antamaan panoksemme internetiin, joka edustaa ihmiskunnan parhaita eikä huonoimpia puolia.

  • Tekoäly

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Työntekijä saa jännittää nyt 2 kuukautta pidempään – koeajat pitenivät vuoden alussa

    2. 2

      Konkarisijoittaja Tom Tukiainen, 59, pani 100 000 euroa riskillä turvapaikanhakijoihin

    3. 3

      USU: Kaavailtu muutos asuntolainakattoon herätti huolen – ”Ei nuorella ole kesämökkiä myytäväksi”

    4. 4

      Euroministerit koolla – Kreikka vie jälleen päähuomion

    5. 5

      Nyt puhuu Go! Aviationin ex-työntekijä: Syttyi käsittämätön ilmiriita

    6. 6

      ”Alkaako miesten katoaminen työvoimasta jo lapsuudessa?”

    7. 7

      Suomalaisyritysten Venäjä-näkymät paranivat – ”Ei ole odotettavissa rakettimaista nousua”

    8. 8

      Brittilehti hehkuttaa suomalaista perustulokokeilua – ongelmia kaksi

    9. 9

      Ford pelasi uhkapeliä Venäjän markkinalla, ja se alkoi kannattaa

    10. 10

      Näkökulma: Sijoittajalla huolestuttavan houkuttelevat tulevaisuuden näkymät

    11. Näytä lisää
    1. 1

      Konkarisijoittaja Tom Tukiainen, 59, pani 100 000 euroa riskillä turvapaikanhakijoihin

    2. 2

      Nyt puhuu Go! Aviationin ex-työntekijä: Syttyi käsittämätön ilmiriita

    3. 3

      ”Alkaako miesten katoaminen työvoimasta jo lapsuudessa?”

    4. 4

      USU: Kaavailtu muutos asuntolainakattoon herätti huolen – ”Ei nuorella ole kesämökkiä myytäväksi”

    5. 5

      Sunnuntaisuomalainen: Pimeä passikauppa näkyy Suomessa

    6. 6

      Näkökulma: Sijoittajalla huolestuttavan houkuttelevat tulevaisuuden näkymät

    7. 7

      Brittilehti hehkuttaa suomalaista perustulokokeilua – ongelmia kaksi

    8. 8

      Kerrostaloasuntojen rakentamisessa hurja tahti – kuin 1970-luvun maaltamuuton aikaan

    9. 9

      Ford pelasi uhkapeliä Venäjän markkinalla, ja se alkoi kannattaa

    10. 10

      Työntekijä saa jännittää nyt 2 kuukautta pidempään – koeajat pitenivät vuoden alussa

    11. Näytä lisää
    1. 1

      Sunnuntailisät pois, työpäivän pituus 12 tuntiin? ”Tehdään työtä silloin, kun sitä on”

    2. 2

      Yle: Kirjeessä koteihin jaettu oikea seteli hämmentää suomalaisia – osa palauttaa, vaikkei tarvitsisi

    3. 3

      ABC-asemien S-bonus muuttuu – ”Aion äänestää jaloillani”

    4. 4

      50 000 miestä parhaassa iässä ei tee töitä tai opiskele – ”Mitä heille tapahtui?”

    5. 5

      ”Kesämökkejä alkaa olla riesaksi asti” – FK ei halua, että omaisuutta pantataan perinnöksi

    6. 6

      Sunnuntailisistä nautittu 100 vuotta – joko riittää?

    7. 7

      Katsastuksiin ehdotetaan tiukennuksia – ”Turhia kustannuksia autoilijalle”

    8. 8

      Julkkisten rahoittaman lentoyhtiön kassasta katosi satoja tuhansia euroja – hakeutuu nyt konkurssiin

    9. 9

      Kuin bensaa ostaisi: Forssassa aloittaa myyjätön kauppa

    10. 10

      Sähköyhtiö kuivasi järven – jopa kaksi miljoonaa kalaa kuoli

    11. Näytä lisää