Kaip UC Berkeley naujasis centras gali užkirsti kelią A.I. Apokalipsė

Kalifornijos universitetas, Berklis, tiesiog pridėjo savo vardą prie vis didėjančių gerbiamų institucijų sąrašo, siekdamas užkirsti kelią piktavališkam dirbtiniam intelektui sunaikinti žmoniją. Jo naujasis žmogaus suderinamo dirbtinio intelekto centras, paskelbtas pirmadienį, skirtas užtikrinti, kad A.I. išlieka naudinga, taip pat neleisti A.I. apokalipsė.

Berkeley savo A.I. ekspertas, profesorius Stuart Russell, vadovauja įmonei. Atviras filantropijos projektas suteikė Centro 5,5 mln. Keli kiti ekspertai iš Berkelio, Kornelio universiteto ir Mičigano universiteto bus pagrindiniai tyrėjai.

Kornelio profesorius Bartas Selmanas sakė Inversinis apie centrą, A.I.s, kad mes turėtų baimė, ir kodėl pasaulis tikriausiai nėra nukreiptas į pragarą rankinėje?

Ką tikitės pasiekti su Žmogaus suderinamumo centru A.I.?

Šie centrai yra palyginti nauja. Žmonės atlieka investicijas - pavyzdžiui, „Gyvybės ateities institutas“ investuoja iš Elono Musko iš Teslos - sprendžiant gyvenimo ateities klausimus ir galimas grėsmes gyvybės ir visuomenės ateičiai. Naujasis Berkeley centras yra dar vienas tokio instituto pavyzdys.

Tai įkvėpė besikeičiantis dirbtinio intelekto ir kompiuterijos vaidmuo mūsų visuomenėje. Šios technologijos pereina į mūsų visuomenę ir turės įtakos mums. Šie institutai kartu stengiasi, kad mokslininkai kartu ištirtų galimą neigiamą poveikį, arba kaip užtikrinti, kad nebūtų neigiamo poveikio.

Centro pavadinimas rodo, kad A.I. ir žmonija yra savaime nesuderinami. Ar tai yra jūsų požiūris?

Tai yra pirmoji reakcija žmonėms, kad šie dalykai gali būti nesuderinami. Mes iš tikrųjų tikime, kad, laikantis tinkamų atsargumo priemonių ir tinkamų gairių bei tyrimų, galime tikrai suderinti interesus ir užtikrinti, kad šios technologijos būtų naudingos. A.I. technologija turi milžinišką teigiamą pusę, o visuomenės tikslas - užtikrinti, kad mes liktume teigiamomis pusėmis. Instituto mokslininkai mano, kad tai įmanoma.

Jei galėtumėte priimti „doomsayer“ perspektyvą, kaip atrodytų labiausiai tikėtinas A.I.

Aiški rizika būtų karinis dirbtinio intelekto vystymasis, galintis sukelti A.I.-ginklų lenktynes ​​tarp šalių: savarankiški ginklai, autonominiai dronai, kurie vadovaujasi savo komandomis, kuriuos sukūrė skirtingos šalys, kurios yra priešiškos viena kitai. Tai yra konkrečia rizika, kurią matau. Manau, A.I. sukurtas savarankiškai vairuojamiems automobiliams, pvz., reguliariai atliekant vaidmenis visuomenėje, bus labai naudingas. Tačiau karinis aspektas yra nerimą keliantis komponentas.

Ar tai jau kalnų mūšis?

Šalys iš tikrųjų svarsto šį klausimą. Tam tikra prasme tai yra kalnuota kova: kariuomenė stengiasi plėtoti A.I. technologijos. Tačiau buvo sudarytos sutartys - pavyzdžiui, biologiniai ginklai yra labiausiai žinomas atvejis, kai šalys tam tikru momentu nusprendė, kad tai naudinga visoms šalims ne plėtoti biologinius ginklus dideliu mastu. Tikimės, kad šalys supras, jog neigiama, kad kiekvienas žmogus yra per didelis, kad galėtų patekti į visapusišką A.I. ginklų rasės.

Jei abi šios šalys vystys šią technologiją, niekas nenusileidžia.

Ar turiu ką nors žinoti apie centrą ar apie piktavališką A.I. apskritai?

Svarbu suteikti teigiamą pusę. Tai lengva pabrėžti riziką - ir, žinoma, iš dalies, kodėl šie centrai yra įsteigti, tačiau taip pat svarbu pabrėžti, kad daugelis tyrinėtojų mano, kad ši rizika yra valdoma, ir kad didėjanti rizika bus didžiulė.

Jūs jau suteikėte teisėjų dienos perspektyvą. Kokie yra galimi teigiami A.I. kad jūs tikrai džiaugiamės?

Teigiamos pusės bus visuomenė, kuriai padės ši technologija. Sinchroniniai kalbos vertimai, pavyzdžiui, tarp kinų ir anglų kalbos, kur žmonės gali bendrauti, tarsi jie kalbėtų gimtąja kalba, visame pasaulyje. Pagyvenusių žmonių priežiūra: Žmonės gali pasilikti tiek, kiek nori savo namuose, nes jie turi robotą, padedantį gyventi savarankiškai.

Tai greičiausiai turės gana dramatišką poveikį gyvenimui apskritai - kiek tai susiję su užimtumu ir prioritetu.

Taip. Diskusijos apie užimtumą yra tai, kad vyksta atskiros diskusijos. Bus pakankamai išteklių visiems remti, todėl kyla klausimas, kaip mes užtikriname, kad visi naudos iš šių pokyčių. Bus dar kartą suvokiama, ką reiškia dirbti, kokio darbo bus žmonės. Tačiau iš esmės žmonės turės daugiau laisvės ir daugiau laiko užsiimti veikla, kurią jie džiaugiasi, nes mašinos padės daugeliui kitų kasdieniškesnių, dirbti - tipo dalykus. Tai užtruks šiek tiek laiko, bet tikime, kad visuomenė prisitaikys ir lėtai įtrauks šiuos pokyčius.

Šis pokalbis buvo redaguotas siekiant aiškumo ir trumpumo.