A.I. Ekspertas Virdžinija Dignum: vežimėlio problema rodo, kodėl mums reikia skaidrumo

$config[ads_kvadrat] not found

Artificial Intelligence at the English Language Program

Artificial Intelligence at the English Language Program
Anonim

Dirbtinis intelektas turi būti skaidrus, kad žmonės galėtų jį atsiskaityti. Delfto technologijos universiteto docentas Virginia Dignum penktadienį pranešė Niujorko universiteto auditorijai, kad jei nesuprantame, kodėl mašinos veikia taip, kaip jie veikia, negalėsime įvertinti jų sprendimų.

Dignumas paminėjo mokslininko ir mokslininko David Berreby istoriją, kuri buvo paskelbta 2005 m Psichologija šiandien: „Įrodymai rodo, kad kai žmonės dirba su mašinomis, jie jaučiasi mažesni agentūrų jausmai, nei jie dirba, kai dirba vieni ar su kitais žmonėmis“.

„Vežimėlio problema“, paaiškino Dignum, yra sritis, kurioje žmonės gali akliu tikėjimu į mašiną pasirinkti tinkamą rezultatą. Kyla klausimas, ar perjungti svirtį ant hipotetinio bėgimo traukinio, kad jis užmuštų vieną asmenį vietoj penkių. Žmonės tikisi, kad mašinos išsprendžia problemą kuo racionaliau. Vis dėlto tai ne visada gali būti, ir skaidrumas padėtų paaiškinti, kaip mašina priėmė sprendimą.

„Tai ne tik labai gilus, neuronų tinklo įvykių grandinė, kurią niekas negali suprasti, bet ir padaryti tokius paaiškinimus taip, kad žmonės galėtų tai suprasti“, - sakė ji.

A.I. DARPA tyrinėja sritis, kuri daro aiškų darbą. Agentūra rugpjūčio mėn. Paskelbė pranešimą, kad ji ieško komandų, suinteresuotų paaiškinti A.I. „XAI“. Šios sistemos padės mokslininkams suprasti, kodėl A.I. priėmė sprendimą, suteikiantį daugiau galimybių nuspręsti, ką daryti su gauta informacija, o ne aklai pasitikėti mašina.

Mašinų mokymasis Dignum pažymėjo, kad skaidrumas yra svarbesnis nei bet kada. „Negalime tikėtis, kad sistemos, o ypač mašinų mokymosi mašinos, išmoks ir žinos, kad tai viskas,“ sakė ji.„Negalime tikėtis, kad vairuotojai, vairuodami, visiškai supranta eismo įstatymus. Daugelyje šalių jie naudoja šias „L“ plokšteles, kad parodytų: „Aš mokiausi, atsiprašau už klaidas, kurias galėčiau padaryti“. „AI stebėjimas, supratimas, kaip tai susiję su tam tikrais sprendimais ir veikimu, remiantis tuo sustabdyti mašinas, kurios vis dar mokosi, nuo blogų sprendimų priėmimo.

$config[ads_kvadrat] not found