„Elon Musk“ „OpenAI“ gali būti raumenys saugiam dirbtinio intelekto tyrimui

Savaitgalį Elon Musk, Sam Altman ir kiti Silicio slėnis netikėtai paskelbė, kad pradės veikti „OpenAI“, ne pelno siekianti bendrovė, kuri apibūdina savo tikslą: „tobulinti skaitmeninį intelektą tokiu būdu, kuris labiausiai tiktų visai žmonijai, neriboja poreikis gauti finansinę grąžą “.

„Kadangi mūsų tyrinėjime nėra finansinių įsipareigojimų, galime geriau sutelkti dėmesį į teigiamą žmogaus poveikį. Mes tikime A.I. turėtų būti atskirų žmonių valios išplėtimas ir, kaip laisvės dvasia, kuo plačiau ir tolygiau.

Iš šio pranešimo yra du svarbiausi taksi. Pirmasis yra tai, kad muskusas ir kompanija mato A.I. moksliniai tyrimai šiuo metu yra pernelyg siaurai orientuoti į trumpalaikę praktinę vertę, ir jie nori padėti siekti pastangų, kurių požiūris į A.I. sistemas. Antrasis, labiau užslėptas takas yra tas, kad muskusas vis dar nerimauja dėl A.I. galimo žalos, jei mes sukursime ir diegsime pusiau iškeptas sistemas. Muskusas anksčiau vadino A.I. „Didžiausia mūsų egzistencinė grėsmė“ ir pasiūlė, kad norint išvengti galimų pavojų, gali prireikti priežiūros. „OpenAI“ galėtų būti būdas teikti tokią priežiūrą, nereikalaujant federalinės stebėtojos.

Kas yra Muskus ir jo kolegos, kurie skiriasi nuo to, ką darė kiti. Galų gale, atviro kodo A.I. nieko naujo. „Google“ sukūrė savo A.I. programinės įrangos atviro kodo praeitą mėnesį ir tai tapo gana standartine procedūra. Bet su 1 milijardo dolerių dydžio OpenAI jau yra viena didžiausių organizacijų, dirbančių A.I. mokslinius tyrimus, ir gana lengvai didžiausias pelno nesiekiantis. Jo tikslas - viešai paskelbti rezultatus ir visus jo patentus nemokamai. Jie turi morką ir lazdą, ir jie ketina jį naudoti pramonės valdymui.

Idėja yra naudoti OpenAI kaip tam tikrą atsvarą didesnėms korporacijoms, privačioms mokslinių tyrimų laboratorijoms ir net pasaulio vyriausybėms, turinčioms neįtikėtiną pinigų sumą ir išteklius įpilti į savo A.I. mokslinius tyrimus, kurie gali būti skirti ne draugiškiems tikslams, ir gali sukelti technologijas, turinčias nepatogumų. Mokslininkai, dirbantys su „OpenAI“, iš esmės sieks „draugiško“ A.I., be spaudimo parodyti tiesioginius rezultatus. Saugumo ir dizaino ypatumai gali būti didesni, nes privačios įmonės gali būti ignoruojamos. Nebus baltojo bokšto, kuriame tik keli pasirinkę kontroliuoja A.I. vystymąsi. Tai bus sveikintinas pasaulis visiems.

Interviu su „Backchannel“ Muskusas taip pat pabrėžia norą padaryti platų A.I. sistemas. „Norime A.I. plačiai paplitęs “, - sako jis. „Mes manome, kad daugelis yra gerai.“

Tai svarbu, nes ji gali būti pagrindinė priežastis, dėl kurios muskusas ir Altmanas nori demokratizuoti A.I. Jie tiki geriausiu A.I. - tai, kas teigiamai naudos žmonijai, nesukuriant robotų viršininkų - yra toks, kuris veikia kaip „individualios žmogiškosios valios išplėtimas“, kaip Muskus jį pateikia. Toliau jis sako:

„Kaip ir A.I. pratęsimas, kad kiekvienas žmogus iš esmės būtų simbiotinis su AI, o ne AI yra didelis centrinis intelektas, kuris yra kitas. Jei galvojate apie tai, kaip jūs naudojate, pvz., Programas internete, turite el. Paštą ir turite socialinių žiniasklaidos priemonių ir programų, esančių jūsų telefonuose, jie veiksmingai priverčia jus tapti žmogžudyste ir jūs nemanote apie juos kaip būdami kiti, jūs manote, kad jie yra savęs pratęsimas. Taigi tiek, kiek galime nukreipti AI šia kryptimi, mes norime tai padaryti. Ir AI srityje mes radome panašių mąstytojų ir mokslininkų, kurie jaučiasi panašiai. “

Iš esmės, OpenAI vizija A.I. moksliniai tyrimai yra decentralizuota bendruomenė, kuri padeda sujungti žmones vienas su kitu ir pačiu pasauliu.

Muskusas dar nepaminėjo, kaip jie užkirstų kelią moksliniams tyrimams OpenAI viduje - ar išorės grupių atstatymas - eiti į pavojingą kryptį. Čia taip pat verta paminėti dar vieną dalyką: atviro kodo sistemos yra prasmingos tik tada, kai duomenys, naudojami mašininio mokymosi algoritmams kurti, yra laisvai bendrinami. Protinga sistema turi mokytis kaip būti protingais, o tai daryti reikia mokytis iš duomenų ir patirties. Tai tarsi užtvankos statyba - jums reikia tiek brėžinių (algoritmo), tiek statybinių medžiagų (duomenų), kad iš tikrųjų būtų kažkas, kas sustabdys vandenį.

Štai kodėl žmonės vis dar riboja tai, ką jie gali daryti su „Google“ „TensorFlow“ - jie dar neturi „Google“ duomenų. Ir nebent „OpenAI“ pastatytas bendradarbiavimas leistų laisvai naudotis tais pačiais duomenimis, su kuriais dirba „in-house“ mokslininkai, Musko vizija nebūtinai bus realizuota - ar bent jau ne taip, kaip jis jį skatina.

Muskus, Altmanas ir kiti OpenAI steigėjai pradėjo kažką, kas turės didžiulę įtaką A.I. nuo čia. Tuo pačiu metu jie turės būti atviri savo įsipareigojimui skatinti atviro kodo mokslinių tyrimų bendruomenę, o tai reiškia, kad esate viešas apie savo planus ne pelno siekiančiai bendrovei ir norint dalintis duomenimis. Priešingu atveju „OpenAI“ nebebus labai skiriasi nuo bandos kompanijų.