DARPA nusprendė, kad nori iš tikrųjų suprasti A.I.

Pentagonas nori išsiaiškinti, kas daro dirbtinį intelektą. Išplėstinė gynybos projektų tyrimų agentūra (DARPA) ketvirtadienį paskelbė, kad ji yra labai suinteresuota paaiškinti A.I. „XAI“. Naujienos yra staigus išvykimas agentūrai, kuri anksčiau paskyrė A.I. veiksmingumą, o ne suprasti, kaip sistemos priima sprendimus.

DARPA siekia paremti A.I. projektai, kurie galutiniam vartotojui paaiškins, kodėl kažkas įvyko. Pavyzdžiui, DARPA nori, kad žvalgybos analitikai suprastų, kodėl rekomendacijos jų A.I. jie siunčiami. Jei žmogaus analitikas ieško A.I. pasirinkti duomenys, jie turėtų suprasti, kodėl kompiuteris įdėjo šiuos duomenis priešais juos, o ne ką nors kitą. A. A. kaip ir agentūroje finansuojami „Cyber ​​Grand Challenge“, jie turėtų būti suprojektuoti skaidriau, tačiau „DARPA“ pranešime teigiama, kad ji apsvarstys įvairias vartotojo sąsajas (tai neleidžia pernelyg daug informacijos apie tai, kaip XAI projektas turėtų būti paaiškinti save.)

Galutinių projektų santraukos turi būti parengtos iki rugsėjo 1 d., O DARPA tikisi, kad mokslininkams bus skiriami keli apdovanojimai. Tai apima viešųjų pirkimų sutartis ir bendradarbiavimo susitarimus, tačiau agentūra neišduos dotacijų. Agentūra taip pat ieško komandų, kurios gali atlikti tyrimus kaip A.I. turėtų paaiškinti save; kitaip tariant, mokslininkai turi mokytis A.I. taip pat psichologai tiria, kaip žmogaus protas apdoroja informaciją įvairiomis aplinkybėmis.