Članice OZN so sprejele prvi globalni dogovor o etiki umetne inteligence
Vse države članice Organizacije ZN za izobraževanje, znanost in kulturo (Unesco) so pred kratkim sprejele zgodovinski dokument, ki določa globalni okvir za vključujočo in odgovorno uporabo umetne inteligence v naših družbah. V procesu usklajevanja dokumenta je sodelovala tudi Slovenija.
Priporočilo o etiki umetne inteligence, ki ga je v sredo sprejela Generalna konferenca Unesca, je prvi mednarodno-pravni instrument na področju etike v umetni inteligenci. Služil bo kot globalni okvir za vključujočo in odgovorno uporabo umetne inteligence v naših družbah.
Umetna inteligenca ne sme povzročati škode
V njem je med drugim zapisano, da morajo biti sistemi umetne inteligence sorazmerni in ne smejo povzročati škode. Ne smejo se uporabljati za socialno točkovanje in v namene množičnega nadzora. “Izbrana metoda umetne inteligence ne sme kršiti osnovnih vrednot, navedenih v tem dokumentu,” je še zapisano v priporočilu. Pri uporabi izbrane metode ne sme prihajati do kršitev ali zlorabe človekovih pravic, proces razvoja umetne inteligence pa mora “temeljiti na strogih znanstvenih načelih”.
V primerih, ko bi imela uporaba umetne inteligence nepopravljive posledice ali učinke, ki jih je težko razveljaviti, ali v katerih bi lahko bilo celo ogroženo življenje, je na koncu človek tisti, ki bo sprejel zadnjo odločitev o uporabi umetne inteligence. Ključni akterji pri razvoju umetne inteligence morajo spodbujati socialno pravičnost in “zagotoviti pravičnost in nediskriminacijo v skladu z mednarodnim pravom”.
Druga načela vključujejo trajnost, varstvo podatkov, človeški nadzor, preglednost ter odgovornost. Priporočilo spodbuja mednarodno sodelovanje vseh deležnikov na področju razvoja umetne inteligence.
Pomemben del priporočila opozarja na upoštevanje etičnih načel. Vlade vseh držav poziva, “da uvedejo močne mehanizme izvrševanja in varnostne ukrepe za zagotovitev spoštovanja človekovih pravic, temeljnih svoboščin in vladavine prava v digitalnem in fizičnem svetu”.
Podpisnica je tudi Slovenija
V procesu usklajevanja dokumenta so aktivno sodelovali tudi slovenski znanstveniki in strokovnjaki ter Mednarodni raziskovalni center za umetno inteligenco (IRCAI) s sedežem v Ljubljani.
Po mnenju urada za Unesco pri ministrstvu za izobraževanje, znanost in šport gre za prvo besedilo mednarodnega prava na področju etike umetne inteligence, o katerem so se pogajali na svetovni ravni in pri tem vključili vse deležnike. Kot so poudarili, okvir priporočila “prevaja” človekove pravice in vrednote v “konkretne naloge političnega oblikovanja”. Te naloge se nanašajo tudi na področja, kot so izobraževanje, znanost, okolje in zdravje.
STAkrog