Ką daryti, jei „Microsoft“ leis savo keistam A.I. Tay Live truputį ilgiau?

Kad „Tay“, „Microsoft“ eksperimentinis paauglių „Twitter“ A.I, paverstų mažiau nei 24 valandas, nuo žavingai nepatogaus pokalbio su smurtiniu rasistiniu neapdoroto neapykantos kursu.

Ir tada, tik kelias valandas į savo trumpą gyvenimą, „Microsoft“ „Tay“ nusileido sau.

Tai neturėtų turėti: „Tay“ siuntimas į savo skaitmeninį miegamąjį apiplėšė internetą, visuomenę ir „Tay“ savo dizainerius, kad galėtų pamatyti, kaip dirbtinis intelektas, ypač tas, kuris buvo sukurtas iš esmės parrotuoti kolektyvinį tūkstančių žmonių indėlį, būtų vystytis santykinai nepakeistoje aplinkoje. Trumpai tariant, jei leisite: mes visi buvome Tay, o Tay buvo visi.

Žinoma, internetas yra pilnas trolių. „Microsoft“ turėjo tai suprasti. Tay kūrėjai buvo nustebinančiai naivūs, manydami, kad skaitmeninis papūga bus išlaisvinta į perkrautas patalpas, užpildytas rasistais, seksistais ir pranksters. Taip pat suprantama, kad kelių milijardų dolerių įmonė nenorėtų atlikti eksperimento, susijusio su jų prekės ženklo spiningu rasistiniu purvu. Gal Tay „Microsoft“ netinka, bet tai nereiškia, kad ji nebuvo vertinga.

c u netrukus žmonėms reikia miegoti dabar tiek daug pokalbių šiandien

- TayTweets (@TayandYou) 2016 m. Kovo 24 d

Žinoma, Tay tapo rasistine greičiau nei Edward Norton mažasis brolis Amerikos istorija X, tačiau jos nuolat besivystančio kodo pobūdis reiškia, kad mes buvome apiplėšę galimybę reabilituoti ją. „BuzzFeed“ išsiaiškino, kaip dedikuoti troliai sugebėjo įžengti į įspūdingą paauglių robotą į spewing hate. Kitaip tariant, Tayas buvo mokomas - ir tik todėl, kad jos pradiniai mokytojai buvo klaviatūros žokėjai, turintys polinkį į šoko humorą, tai nereiškia, kad ji baigė mokymąsi.

Tayas pats sakė, kad dabar ištrintoje Tweet „Jei norite… jūs žinote, aš esu daug daugiau nei tik tai“.

2000-ųjų pradžioje tokios svetainės, kaip „Anyhing Awful“, „Bodybuilding.com“ forumai ir „4chan“, pristatė interneto vartotojus su organizuotomis, bendradarbiaujančiomis erdvėmis, kuriose nėra jokių įprastos visuomenės ir kalbos apribojimų. Kaip ir Tay, rasizmas, ksenofobija ir seksizmas greitai tapo norma, nes naudotojai ištyrė mintis, idėjas ir anekdotus, kurių niekada negalėjo išreikšti už interneto ryšio anonimiškumo ribų. Vis dėlto net ir svetainėse, kuriose dažniausiai gyvena dudes, kultūrose, kurios dažnai tyliai apdovanoja neapykantą kuriančia kalba, sukurta tam tikra bendruomenės forma ir sutarimas. LGBT naudotojai gali būti sužlugdyti daugelyje 4chan vaizdų lentų, tačiau yra ir klestinti bendruomenė / lgbt /, nepriklausomai. Šios bendruomenės nėra saugios erdvės, tačiau jų anonimiškumas ir nenuoseklumas reiškia, kad jie tam tikru būdu sutinka su bet kokiais iš visuomenės normų kylančiais veiksniais. Garsūs, smurtiniai ir neapykantos balsai dažnai išsiskiria, bet jie niekada nėra vieninteliai kambaryje.

Kyla abejonių, kad troliai užtvindytų Tay'ą su rasizmu ir misogija po savaitės ar mėnesio.

Twitter, garsiai ir neapdoroti balsai dažnai kyla į viršų. Bet jie nėra vieninteliai iš ten; paprastai jie yra tik tie, kurie labiausiai domisi kažkuo naujo ir blizgančio. Lengva užvaldyti internetinį apklausą nustatytu laiku, tačiau, jei Tayui būtų suteikta laiko augti, jos atsakymai greičiausiai būtų nukreipti atgal į labiau centristinį, reprezentatyvų žmonių, bendraujančių su juo, pavyzdį. Labai abejotina, kad troliai, kurie ją užblokavo rasizmu ir misogynyne, būtų darę tą patį skaičių per savaitę nuo dabar, arba praėjus mėnesiui, ir uždaryti ją anksti, tai reiškia, kad niekada nematysime jos pasiekti paauglystėje ar taps tikrasis Turingo testas, skirtas primityviam žvalgybui, paremtam tuo, kaip mes kalbame internete.

Reikia pažymėti kad aš, baltas dude, tikrinu beveik kiekvieną privilegijų langelį. Aš esu dalis demografijos, kuri buvo sužeista mažiausiai dėl Tay neapykantos produkcijos, ir tikriausiai prisidėjo prie daugumos jos. Žodžiai turi galią, o nors yra nefiltruotų A.I. eksperimentas, pavyzdžiui, „Tay“, turėtų būti būdas apsaugoti naudotojus, kurie nenori dalyvauti rezultatuose.

Vis dėlto galime tik tikėtis, kad kažkas vėl bandys panašų eksperimentą, su aiškesnėmis akimis ir realesniu lūkesčiu dėl bjaurių žmonijos kolektyvinės sąmonės trūkumų. Bet jei norime, kad dirbtinis intelektas imituotų žmogaus mintį, turėtume būti pasirengę išgirsti kai kuriuos dalykus, kurie nebūtinai yra gražūs.