Kompanije moraju da odgovaraju za štetu – stručnjaci traže zauzdavanje veštačke inteligencije

Moćni sistemi veštačke inteligencije predstavljaju pretnju društvenoj stabilnosti, a kompanije koje razvijaju takve sisteme moraju biti odgovorne za štetu koju njihovi proizvodi naprave, ističe grupa renomiranih stručnjaka.

 

Veliki broj stručnjaka, naučnika, političara i predstavnika tehnoloških kompanije sastaće se naredne nedelje na samitu o bezbednosti veštačke inteligencije u Blečli Parku.

Jedan od 23 autora predloga stručnjaka kaže da je „potpuno nesmotreno i neodgovorno“ da se razvijaju još moćniji sistemi veštačke inteligencije pre nego što uopšte možemo da razumemo kako da ih učinimo bezbednim za korišćenje.

„Vreme je da se uozbiljimo kada je reč o naprednim sistemima AI. Ovo nisu igračke. Pojačavanje njihovim mogućnosti pre nego što razumemo kako da ih bezbedno koristimo je potpuno nesmotreno“, istakao je profesor kompjuterske nauke na Univerzitetu Berkli, Stjuart Rasel.

„Sendvičarnice moraju da se pridržavaju više pravila od kompanija koje razvijaju veštačku inteligenciju“, dodao je Rasel.

Dokument o kojem će se raspravljati apeluje na vlasti zemalja širom sveta da usvoje zakone:

– trećinu vladinih sredstava za razvoj AI i trećina resursa koje kompanije ulažu u istraživanje i razvoj VI moraju biti usmereni na bezbednu i etičku praksu korišćenja tih sistema.

– nezavisni revizori moraju imati pristup laboratorijama za AI.

– mora da se uspostavi sistem izdavanja licenci za razvoj i pravljenje najnaprednijih modela.

– kompanije moraju da usvoje specifične bezbednosne mere ukoliko primete opasne sposobnosti u svojim modelima AI.

– tehnološke kompanije moraju da odgovaraju za štetu koju njihovi sistemi AI izazovu.

Predlog potpisuju mnogi renomirani stručnjaci, poput Džefrija Hintona i Džošue Benđija, koji se smatraju i začetnicima i „očevima“ veštačke inteligencije i koji su, između ostalog, osvojili i Tjuringovu nagradu 2018. godine za svoj rad na razvoju VI.

Hinton je dao otkaz prošle godine u Google-u i upozorio na „egzistencijalni rizik“ koji predstavlja veštačka inteligencija, dok se Benđio pridružio njemu i hiljadama drugih stručnjaka u apelu u martu kojim je tražen moratorijum na sprovođenje džinovskih eksperimenata sa VI.

Među potpisnicima predloga su i drugi renomirani autori, profesori, nobelovci, kao što su: Noa Juval Harari, Danijel Kaneman, Šejla Makilrat, Endi Jao…

Oni su upozorili da neodgovorno razvijeni sistemi AI prete da „pojačaju društvenu nepravdu, poremete i potkopaju razne profesije, uzdrmaju socijalnu stabilnost, omoguće velike kriminalne i terorističke aktivnosti i oslabe naše zajedničko razumevanje realnosti koje je temelj društva“.

Upozorili su i da trenutni sistemi AI već pokazuju znake zabrinjavajućih sposobnosti koje ukazuju na pojavu autonomnih sistema koji mogu da planiraju, sprovode ciljeve i samostalno se ponašaju.

 

Izvor: RTS