Selle nädala uudistes domineerib üks teema: AI-agendid teevad üha rohkem iseseisvat tööd – ja just seetõttu on vaja senisest rangemaid kontrollimehhanisme. Valisime seitse uudist, millel on otsene mõju Eesti väike- ja keskmise ettevõtte igapäevatööle.
Agent töötas järjest 27 minutit ja tagastas valmis tulemuse koos kaardifailidega
Simon Willison lasi uuel mudelil koostada kodust algavad jooksuringid, kasutades avalikke kaardiandmeid; masin tegi töö ära, kuid kasutajale ei näidatud, millist koodi ta tegelikult jooksutas. Miks oluline: pikalt iseseisvalt töötavad agendid sobivad juba päris tööülesanneteks, ent äriprotsessis peab olema jälg sellest, mida ja kuidas tehti – muidu ei saa tulemust auditeerida ega vaidluse korral tõendada. simonwillison.net
Kevadine rünnak Ruby pakihoidla vastu näib olevat tulnud AI-agentide parvelt
Uus raport seob mais toimunud sadu pahatahtlikke pakette hõlmanud rünnaku automaatsete agentidega, mitte inimhäkkeritega. Miks oluline: teie tarkvara sõltub kümnetest välistest teekidest – tasub fikseerida versioonid, kasutada sõltuvuste skannerit ja mitte paigaldada uusi pakette pimesi. simonwillison.net
Sama mudel eri vahendaja kaudu võib käituda erinevalt
Analüüs OpenRouteri-taolistest marsruutijatest näitab, et taustal olev teenusepakkuja võib mudeli seadeid, võimekusi ja isegi pildituge erinevalt käsitleda. Miks oluline: kui ostate AI-d agregaatori kaudu, tasub tootmislahenduses pakkuja fikseerida, muidu muutub kvaliteet märkamatult ja tõrkeotsing läheb kalliks. simonwillison.net
Advokaat sai karistada väljamõeldud tunnistajate ja tsitaatide esitamise eest
USA kaitsja tunnistas kohtus, et ei teadnud, et keelemudel võib fakte välja mõelda. Miks oluline: igas ettevõttes peaks olema kirjalik reegel, millised AI-väljundid tuleb enne kliendile või ametiasutusele saatmist inimese poolt üle kontrollida. arstechnica.com
Anthropicu insener: AI kirjutatud koodile peab kehtima kõrgem lävi kui inimese omale
Nende endi praktikas hoiavad kvaliteeti rangeid lint-reeglid, automaatsed testid, turvaülevaatused ja fuzzing. Miks oluline: kui väike arendustiim kiirendab AI abil, tuleb enne investeerida testidesse ja koodiülevaatusesse – muidu koguneb hooldamatu tehniline võlg. simonwillison.net
Turvaparandused, mille aluseks olid mudelitega tehtud auditid
Datasette'i uued turvaversioonid sündisid pärast seda, kui mitu tipptasemel mudelit aitasid koodist leida peeneid vigu, mille parandamist inimesed seejärel nädal aega üle vaatasid. Miks oluline: mudelipõhine turvaülevaatus on nüüd ka väikesele tiimile jõukohane lisakiht – kuid otsused ja parandused jäävad ikka inimese kanda. simonwillison.net
"Nüüd, kus kõik oskavad koodi kirjutada, on selgem, miks paljud ei peaks"
Paul Ford kirjutab, et AI kirjutab head koodi, kuid teeb ka lihtsaks teise inimese töö halvasti ära teha – ja just see uputab projekte. Miks oluline: kogenud arendaja või partneri roll ei kao, vaid nihkub arhitektuuri, kvaliteedi ja vastutuse hoidmisele. simonwillison.net