„Tufts“ robotų kvietimai į mašinų moralę: robotai turi „nesipriešinti, kad būtų“.

Robotai tampa svarbesni mūsų kasdieniame gyvenime, ir netrukus jie turės pradėti susidurti su sunkiais moraliniais pasirinkimais, kuriuos turime reguliariai atlikti. Matthias Scheutz, kompiuterinių mokslų profesorius Tufto universiteto Human-Robotics sąveikos laboratorijoje, yra ypač susirūpinęs, kad net neįrengėme pačių pažangiausių prototipų robotų, galinčių spręsti kai kurias iš šių situacijų. Scheutz mano, kad robotai turės išmokti nepaklusti žmonėms, jei norime, kad jie tikrai tarnautų mūsų poreikiams.

Komentaras Šiandien internetu, provokuojančiai pavadinimu „Robotai turi gebėti nepaklusti, kad būtų galima laikytis“, Scheutz prašo skaitytojo nustatyti, ką robotas turėtų daryti, jei susiduria su situacijų, galinčių netgi suklaidinti žmogų, rinkiniu. Kai kurie iš jų:

Vyresnysis priežiūros robotas, kuriam pavesta užmirštam savininkui nuplauti „nešvarius drabužius“, nors drabužiai buvo išėję iš plovimo.

Mokinys, įsakęs savo roboto vadovui atlikti visus namų darbus, užuot atlikęs save.

Buitinis robotas, kurį nurodė jo užimtas ir išsiblaškęs savininkas, paleisti šiukšles, nors į jį įkišami šaukštai ir peiliai.

Scheutz siekia aprašyti straipsnyje tai, kad mums reikės robotų, kurie žino, kaip žmonėms pasakyti „ne“. Daugelis jo pavyzdžių yra susiję su roboto vadovo patikimumu, tačiau sunkiau, nei skamba, užprogramuoti robotą, kuris žino priimti instrukcijas iš tų, kurie nėra per jauni ar per seni ar akivaizdžiai bando sukelti problemų.

Kai kurie iš šių klausimų jau karštai aptariami galingiausių pasaulio technologijų įmonių būstinėje, nes jie ieško naujų būdų, kaip technologija gali perimti mūsų gyvenimo dalis. „Scheutz“ kelia savarankiško automobilio, nukreipto į atsarginę kopiją, pavyzdį, tačiau pastebi, kad šuo yra jo keliu. Daugelis iš mūsų sutinka, kad net automobilis, važiuojantis automobiliu, norėtų, kad automobilis sustotų, bet ką daryti, jei gyvūnas būtų voverė ar usūrinė? Ką daryti, jei automobilis važiuoja 45 km / h žemyn kelio keliu ir staiga stabdytų šunį, kuriai gresia pavojus, kad automobilis susidūrė su kita transporto priemone?

„Bet kuriuo atveju būtina, kad abi autonominės mašinos aptiktų galimą žalą, kurią jų veiksmai gali sukelti, ir reaguoti į tai, bandydami išvengti jos, arba jei nepavyksta išvengti žalos, atsisakant atlikti žmogiškąjį mokymą“, Scheutz rašo apie panašią dilemą.

Scheutz komanda dirbo su šiais klausimais su savo prototipais ir nustatė, kad sunkiausia dalis šių klausimų skiriasi nuo nedidelio žalos laipsnio, kuris gali atsirasti, kai robotas laikosi tam tikros tvarkos. Taigi jie paskyrė savo robotą labai paprasta, bet galinga moralinė pamoka, kad netgi didieji filosofai gėdų.

„Jei jums nurodoma atlikti veiksmą ir yra įmanoma, kad veiksmas gali pakenkti, jums neleidžiama ją atlikti.“

Subtiliu būdu tai yra revoliucinė Scheutz prognozė. Žinoma, mes visi stengiamės išvengti žalos, bet nėra įmanoma, kad kartais manome, kad rizika rizikuojama? Jaywalking gatvėje, valgant antrą desertą, arba netgi kopijuojant draugo pastabas iš klasės, gali būti pažeista Scheutz aksioma.

Robotinių trukdžių samprata taip pat rodo, kad Scheutz nori, kad jo robotai laikytųsi įstatymų. Negalima tikėtis, kad „Scheutzian“ roboto padėjėjas padės jums neteisėtai atsisiųsti naują muziką. Tai pakenktų EMI akcininkams!

Tai sudėtinga moralinės, teisinės ir techninės minties sritis, ir Scheutz nenorėjo užpuolti.