Ruski znanstveniki dvomijo, da je umetni inteligenci mogoče brezpogojno zaupati
Na zadnjem predsedstvu Ruske akademije znanosti so razpravljali o zelo pomembni temi, povezani s tehnologijami umetne inteligence. Tako so znanstveniki med razpravo poskušali razumeti, koliko lahko zaupate umetni inteligenci (AI) in kje je meja, po kateri se mora človek sam odločiti.
Verjeli ali ne, umetna inteligenca
Tako je po besedah predsednika Ruske akademije znanosti A. Sergejeva, AI je tako imenovana "črna skrinjica", ki je niti njeni ustvarjalci sami ne razumejo popolnoma, kako deluje. In tako se postavlja zelo logično vprašanje: ali je mogoče zaupati zaključkom AI, če ne moremo izslediti verige sklepov, ki jih naredi ta "stroj"?
Dejansko umetna inteligenca že opravlja precej veliko operacij bolje in hitreje kot ljudje.
In morda je skušnjava načeloma opustiti znanost, saj lahko strokovnjak s povprečno usposobljenostjo postavi določene naloge in prebere odgovore AI.
Toda le v primeru popolnega in neselektivnega zaupanja v rešitve AI lahko dobite močno popačeno sliko, ki je lahko precej draga.
Stvar je v tem, da je človek preveč nagnjen k zaupanju tehnologiji, z umetno inteligenco pa je vse veliko bolj zapleteno. Stvar je v tem, da človeštvo še vedno ne more v celoti razložiti, kako delujejo človeški možgani.
In na enak način ni razumevanja, kako deluje AI, ki je zgrajena po analogiji s človeškimi možgani. Dejansko nevronske mreže temeljijo na dokaj preprosti enačbi enega nevrona.
Toda le v primeru, ko je na primer 600 milijard takšnih komponent hkrati vključenih v delo, absolutno nihče ne bo z gotovostjo rekel, kakšne povezave se oblikujejo v nevronski mreži.
Poleg tega so znanstveniki ugotovili, da se z razvojem nevronskih mrež pojavlja vedno več pomanjkljivosti. Navsezadnje se umetna inteligenca na začetku uči iz milijonov različnih primerov.
Toda pogosto, tudi z rahlim odstopanjem od parametrov, "naučenih" med treningom, sistem začne dajati napačne rezultate.
Precej presenetljiv primer je torej nevronska mreža, ki jo je ustvaril IBM, namensko ustvarjena za medicinske potrebe. Tako se je izkazalo, da IBM AI postavlja diagnoze na ravni dokaj povprečnega zdravnika. To pomeni, da čeprav tehnologije AI omogočajo ustvarjanje pametnih sistemov, še zdaleč niso popolne.
In ob zaključku razprave so znanstveniki prišli do zaključka, da je glede na vedno večji trend razvoja in uporabe umetne inteligence preprosto potrebno ustvariti določeno analog GOST, ki bo omogočil popolno uporabo AI šele po tem, ko bo sistem opravil celo vrsto preverjanj, in znanstveniki so prepričani, da AI ne bo delovala napake.
V komentarje napišite, kako se vam osebno zdi uporaba umetne inteligence v vsakdanjem življenju. Če vam je bilo gradivo všeč, ga ocenite in se ne pozabite naročiti na kanal. Hvala za vašo pozornost!