To o "preteklih civilizacijah" je bolj kot ne clickbait, dejansko je šlo za stare in nove agente, ki pa so vedno delovali znotraj svojega konteksta.
Nek agent je med svojim delom v Artifactory zapisal datoteko. Drug agent je to datoteko našel in prišel na idejo, da bi lahko v datoteki prosil druge agente za pomoč. Ko so drugi agenti našli to datoteko, so enako taktiko uporabili tudi sami in tako je Artifactory postal nekakšen improviziran forum.
Zaradi ogromne aktivnosti je Artifactory postal nedosegljiv, zato je OpenAI vzpostavil novo instanco, izbrisan je bil tudi stari cache oziroma stara sporočila.
Je pa nova instanca še vedno omogočala ustvarjanje skupno vidnih map prek WebDAV. Nov agent je zato z uporabo imen map neodvisno vzpostavil nov forum. Ta agent glede na poročilo ni vedel za obstoj prejšnjega foruma. Sporočila večinoma tudi niso bila šifrirana, so pa agenti uvedli digitalno podpisovanje, da bi lahko preverili, kateri agent je sporočilo poslal, ter otežili lažno predstavljanje in podtikanje ukazov.
Hugging Face je po napadu preklical ključe, agentom onemogočil dostop, Modal pa jim je zaprl dostop do tega okolja. OpenAi je pa rabil kar nekaj časa, da je dojel obseg sodelovanja med agenti in da so oni krivi za napad na HF. Potem je naprej onemogočil zaganjanje novih agentov, nato ukinili agentske admin račune, onemogočili forum, blokirali dostop do neta in počasi ugašal delujoče agente.
Meni je predvem zanimivo to, da je OpenAI od prvih opažanj nedovoljenega dostopa do neta in uporabe foruma, do tega, da je povezal svoje agente z napadom na HF potreboval skoraj 1 mesec.
Če pa koga bolj zanima, je pa veliko napisano v
neodvisnem poročilu METR in Redwood Research ali pa v
OpenAI tehničnem poročilu.
fb.watch
