Digitoday

Valikko

Microsoft pyytää anteeksi tekoälyä: "Emme olleet varautuneet tällaiseen hyökkäykseen"

Tay-chatbotti vertasi muun muassa feminismiä syöpään ja ylisti Adolf Hitleriä.
Ohjelmistojätti Microsoft pyytää anteeksi kehittämänsä Tay-chatbotin huonoa käytöstä.

– Olemme erittäin pahoillamme Tayn tahattoman loukkaavista twiiteistä, jotka eivät edusta arvojamme, eivätkä tapaa, jolla suunnittelimme Tayn, Microsoft Researchin varatoimitusjohtaja Peter Lee kirjoittaa Microsoftin blogissa.

Tayn oli tarkoitus keskustella ihmisten kanssa Twitterissä ja kehittää vuorovaikutustaan muiden käyttäjien kanssa tekoälyn avulla.

Muut Twitter-käyttäjät pyrkivät kuitenkin vaikuttamaan Tayn vastauksiin, ja ennen pitkää Tay rinnasti muun muassa feminismin syöpään ja ja ylisti Adolf Hitleriä.

– Pieni joukko käyttäjiä pystyi koordinoidulla hyökkäyksellä hyödyntämään Tayn haavoittuvuutta. Vaikka olimmekin varautuneet monenlaisiin väärinkäytöksiin, emme olleet varautuneet juuri tämänlaiseen hyökkäykseen, Lee kirjoittaa.

Yhtiö poisti loukkaavimmat twiitit pikaisesti ja siirsi Tayn offline-tilaan. Varatoimitusjohtajan mukaan Tayn kehittelyä jatketaan.

– Juuri nyt pyrimme vastaamaan tämän hyökkäksen paljastamaan haavoittuvuuteen. Pyrimme herkeämättä oppimaan tästä ja muista kokemuksista pyrkiessämme antamaan panoksemme internetiin, joka edustaa ihmiskunnan parhaita eikä huonoimpia puolia.

  • Tekoäly

Kommentit

    Näytä lisää

    Näitä luetaan!

    1. 1

      Iso onnettomuus pysäytti Nelostien – rekat poikittain tiellä, mukana myös henkilöautoja

    2. 2

      Tullin rakastettu huumekoira Dani tassutteli eläkkeelle – teki vielä viimeisenä työpäivänään löydön

    3. 3

      Ratamoottoripyöräilyn huippulahjakkuus lopetti uransa vain 22-vuotiaana – syyksi paljastui karmea hyväksikäyttö

    4. 4

      Pariskunta ei arvannut, mihin lähti paritalon puolikkaan ostaessaan – piina vei oikeuteen seitsemän kertaa

    5. 5

      Tarkista ja kuuntele: Mikä oli Suomen listaykkösenä, kun sinä synnyit?

    6. 6

      Trump toisti Ruotsi-väitteensä: ”Kansa ymmärtää, että olen oikeassa”

    7. 7

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    8. 8

      Mitä hotellista saa viedä mukanaan? Suomalaishotellit vastaavat – ”Kerran oli ruuvattu tv irti seinästä”

    9. 9

      ”Inhoan tätä elämää, voisinpa vain antaa lapset pois”

    10. 10

      Laulajakaunotar raskaana 10 vuotta nuoremmalle One Direction -tähdelle – tapasivat teini-idolin ollessa vain 14-vuotias

    11. Näytä lisää
    1. 1

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    2. 2

      Katri Sorsalta kuitti Anu Saagimille: ”Eestissä nainen näyttää herättyään tältä, meillä Suomessa tältä...”

    3. 3

      Hyvinkään poliisiasemalle saapui ahdistunut aviomies – elintasokulissin takaa alkoi paljastua karu totuus

    4. 4

      Pariskunta ei arvannut, mihin lähti paritalon puolikkaan ostaessaan – piina vei oikeuteen seitsemän kertaa

    5. 5

      Onko tässä totuus Mäkäräisen poisjäännistä Lahden MM-kisoista? ”Kaikki, mitä Otepäässä tulkitsin Reijon olemuksesta ja puheista, viittasi siihen”

    6. 6

      Tarkista ja kuuntele: Mikä oli Suomen listaykkösenä, kun sinä synnyit?

    7. 7

      ”Inhoan tätä elämää, voisinpa vain antaa lapset pois”

    8. 8

      Jenni, 24, on aseksuaali: ”Tavallaan toivon, että olisin edelleen neitsyt”

    9. 9

      Miss Thaimaan, 22, uskomaton muodonmuutos – ”nörtistä” kuoriutui 6 kuukaudessa upea kaunotar: ”En ole ikinä seurustellut”

    10. 10

      Hengenvaarallinen villitys leviää nuorten keskuudessa ja herättää huolta: ”Halikuva muuttuu nopeasti tragediaksi”

    11. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    3. 3

      Pekka Vähäsöyrinki tunnusti Mika Myllylän haudalla, milloin dopinginkäyttö alkoi: ”Siinä hetkessä annoin periksi”

    4. 4

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    5. 5

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    6. 6

      Stubb opetti Trumpille faktoja Ruotsista – viesti sytytti kiivaan keskustelun

    7. 7

      Yleinen virhe wc-pöntöllä: Tästä syystä pyttyyn jää helposti ”jarrutusjäljet”

    8. 8

      Anu Saagim haukkui Maria Veitolaa rumaksi suorassa lähetyksessä – Veitola harmistui studioyleisön reaktiosta: ”Yleisö nauraa ja taputtaa”

    9. 9

      Nokialla pahoinpidelty 17-vuotias tyttö on kuollut

    10. 10

      Donald Trumpilta outo viittaus Ruotsiin: ”Katsokaa, mitä tapahtui eilen illalla Ruotsissa – kuka olisi uskonut?”

    11. Näytä lisää

    Näitä luetaan!

    1. 1

      Iso onnettomuus pysäytti Nelostien – rekat poikittain tiellä, mukana myös henkilöautoja

    2. 2

      Tullin rakastettu huumekoira Dani tassutteli eläkkeelle – teki vielä viimeisenä työpäivänään löydön

    3. 3

      Ratamoottoripyöräilyn huippulahjakkuus lopetti uransa vain 22-vuotiaana – syyksi paljastui karmea hyväksikäyttö

    4. 4

      Pariskunta ei arvannut, mihin lähti paritalon puolikkaan ostaessaan – piina vei oikeuteen seitsemän kertaa

    5. 5

      Tarkista ja kuuntele: Mikä oli Suomen listaykkösenä, kun sinä synnyit?

    6. Näytä lisää
    1. 1

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    2. 2

      Katri Sorsalta kuitti Anu Saagimille: ”Eestissä nainen näyttää herättyään tältä, meillä Suomessa tältä...”

    3. 3

      Hyvinkään poliisiasemalle saapui ahdistunut aviomies – elintasokulissin takaa alkoi paljastua karu totuus

    4. 4

      Pariskunta ei arvannut, mihin lähti paritalon puolikkaan ostaessaan – piina vei oikeuteen seitsemän kertaa

    5. 5

      Onko tässä totuus Mäkäräisen poisjäännistä Lahden MM-kisoista? ”Kaikki, mitä Otepäässä tulkitsin Reijon olemuksesta ja puheista, viittasi siihen”

    6. Näytä lisää
    1. 1

      Julkkiksilta sataa tukea rumaksi haukutulle Maria Veitolalle – Rakel Liekiltä tyhjentävä kommentti

    2. 2

      Kummisetä antoi 10-vuotiaalle tyttärelle lahjarahaa – Kela rokotti koko perheeltä 341,52 euroa/kk

    3. 3

      Pekka Vähäsöyrinki tunnusti Mika Myllylän haudalla, milloin dopinginkäyttö alkoi: ”Siinä hetkessä annoin periksi”

    4. 4

      Traaginen onnettomuus Helsingissä – työkoneen kauha osui kävelijään, nainen kuoli vammoihinsa

    5. 5

      Helsinkiläinen Nina, 44, avautuu isäpuolen järkyttävistä teoista: ”Äiti katseli vierestä, mutta ei koskaan puuttunut”

    6. Näytä lisää