ŠTIRI PLASTI MIRNE VESTI.
Predstavniki Googla, Anthropica, Mete, OpenAI, X in Nvidie so se lotili precej neprijetnega vprašanja: kako preverjati umetno inteligenco, ko postaja dovolj sposobna, da lahko naredi tudi kaj, česar razvijalec ni predvidel. Rešitev ni bila površinska. Dogovor predvideva kar štiri plasti nadzora.
Zunanji neodvisni revizor naj bi preverjal, ali sistemi nadzora dejansko delujejo. Neodvisna komisija upravnega odbora naj bi prejemala poročila notranjih in zunanjih nadzornikov, podjetja naj bi imela svoje kontrole za spremljanje modelov med razvojem in uporabo, posebna notranja ekipa pa naj bi preverjala, ali kontrole, spremljanje in zaznavanje delujejo tako, kot je predvideno. Po domače: tudi preverjanje potrebuje nekoga, ki preveri, ali preverjanje še preverja pravo stvar.
Skratka, nadzor je zastavljen resno. Za začetek prostovoljno.
Dokument med drugim zahteva, da modeli ne dostopajo do drugih tehničnih sistemov na neželene načine, sodelujoča podjetja pa naj bi se redno srečevala ter skupaj razvijala standarde in dobre prakse. Sam dogovor dopušča tudi možnost, da bi se kateri od teh ukrepov nekoč preselil v zakone ali predpise.
Tako smo dobili precej zanimiv upravljavski dosežek: zunanjega revizorja, neodvisno komisijo, notranje kontrole in ekipo, ki preverja, ali kontrole delujejo. Štiri plasti varnosti, postavljene zato, da bi čim prej opazili trenutek, ko tehnologija naredi nekaj, česar ji nismo naročili.
To je lahko povsem razumen prvi korak. Hkrati pa je težko spregledati drobno ironijo: za tehnologijo, ki jo želimo naučiti dosledno slediti pravilom, smo si najprej postavili pravilo, ki mu sodelujoča podjetja sledijo prostovoljno.
#AbsurdniArhiv #NepredvidenePosledice #UmetnaInteligenca #Samoregulacija #Tehnologija #Nadzor #Satira