Štai kaip mes galime sustabdyti ateitį Rogue A.I. imituojantis HAL 9000

Kaip sustabdyti ateitį A.I. nesilaikydami užsakymų ir pasirinkdami eiti savo keliu? Tai gali atrodyti kaip sklypas iš 2001 m.: „Space Odyssey“, tačiau vienas ekspertas teigia, kad tai yra kažkas, ką mes jau turėtume pradėti galvoti. Žinoma, galėtume išjungti „Google“ paieškos algoritmą, jei jis kada nors nesąžiningai, bet susidūręs su finansinėmis ir teisinėmis pasekmėmis, tai gali būti lengviau pasakyti, nei padaryta. Ateityje, kai augsime priklausomai nuo pažangesnių A.I., tai gali būti neįmanoma.

„Šis algoritmas nebuvo sąmoningai projektuojamas pats neįmanoma iš naujo paleisti arba išjungti, tačiau tai buvo taip išplėtota, - sakė Stuartas Armstrongas, Žmogaus mokslo instituto mokslo darbuotojas, trečiadienį 2016 m. Piratų viršūnių susitikime. Tai reiškia, kad pakeisti netyčinius rezultatus gali būti sunku ištaisyti, ir tai gali būti ne pirmasis A.I. atsidurti tokioje situacijoje.

Izaoko Asimovo sprendimas buvo trys robotų įstatymai, kurie, kaip sunkūs kodai, nekelia žalos žmonėms. Problema yra ta, kad žala yra gana subjektyvi ir atvira interpretacijai. Žmonės labiau vertina vertybes, pavyzdžiui, suprasti, kad blogai kenkti ir interpretuoti situaciją, nei dirbti su tam tikromis sunkiomis taisyklėmis, kad jos niekada neturėtų pakenkti.

„Dėl šios problemos žmonės dabar labiau linkę naudoti mašinų mokymąsi, kad gautų vertybes, o ne bando juos koduoti šiuo tradiciniu būdu“, - sakė Armstrongas. „Vertybės yra stabilios taip, kad kiti dalykai nėra A.I. Vertybės savaime gina save. “

Bet net ir tokiose situacijose svarbu kurti A.I. kad jie būtų pertraukiami, kol jie veikia. Saugus pertraukimas leidžia keisti saugią politiką, kuri gali išvengti netyčinių pasekmių, gautų iš išmoktų verčių. Jei „HAL 9000“ kada nors bandė sustabdyti „pod“ įlankų duris, svarbu, kad galėtume nustatyti, kad „A.I.“ reikšmės yra nesuprantamos, ir įsikišti neprisijungus prie sistemos.