Viimaste nädalate uudistest joonistub välja muster: üks pakkuja kuulutab uue mudeli välja enne, kui seda päriselt kasutada saab; teine toob turule mudeli, mis jääb tipust napilt alla, aga maksab murdosa; kolmandal pool otsustab kohus, et ühe tootja mudeleid võib hangetest kõrvale jätta. Kui teie AI-lahendus on kirjutatud ühe konkreetse mudeli külge, on iga selline uudis teie jaoks risk. Kui ei ole, on see lihtsalt võimalus arvet vähendada.
Mudel on komponent, mitte vundament
Näeme sageli, et AI-projekti juures räägitakse esimese asjana mudelivalikust — justkui oleks see strateegiline otsus aastateks. Praktikas on see pigem nagu hostinguteenuse või makselahenduse valik: oluline, aga vahetatav. Väärtus ei istu mudelis. Väärtus istub selles, et teil on paigas protsess, selged juhised, kontrollitud andmed ja koht, kus tulemust mõõdetakse. Mudel on see osa, mis kuue kuu pärast suure tõenäosusega odavam või parem on.
Sellest järeldub üks lihtne juhtimisotsus: ärge planeerige midagi veel väljakuulutamata mudeli peale ja ärge laske ehitada lahendust, mille sisemus eeldab ühe kindla pakkuja eripärasid igal pool. Hankeotsus tehakse selle põhjal, mis täna päriselt töötab.
Neli asja, mis hoiavad teid vahetusvalmis
Esiteks: mudel valitakse ühest kohast. Kui mudeli nimi on kirjas kümnes erinevas failis või inimeste isiklikes vestlusakendes, pole vahetamist olemaski. Teiseks: juhised ja seadistused elavad teie enda süsteemis, mitte pakkuja veebiliideses. Kui keegi on ehitanud kogu klienditoe loogika ühe platvormi kasutajaliidesesse, kuulub see loogika sisuliselt neile.
Kolmandaks — ja see on kõige alahinnatum samm — koostage 20–30 päris juhtumit koos sellega, milline vastus oleks õige. Päris kliendikirjad, päris arved, päris dokumendid. See on teie testikomplekt ja ainus viis mõistlikult öelda, kas uus mudel on parem või lihtsalt uuem. Neljandaks: logige iga päring nii, et näete hiljem sisendit, väljundit, mudeli nime ja kuupäeva. Ilma selleta on võrdlus tundetöö.
Kuidas vahetust päriselt teha
Kui uus mudel ilmub, laske sellel esmalt sama töö kõrvalt läbi teha, ilma et tulemus kliendini jõuaks. Võrrelge oma testikomplektil: mitu juhtumit sai õige vastuse, kus läks halvemaks, mis maksab üks läbitöötatud juhtum. Alles siis lülitage ümber — ja võimalusel ühe protsessi kaupa, mitte kõik korraga. Hoidke vana seadistus nädal aega alles, et saaks tagasi keerata.
Seesama distsipliin annab veel ühe võidu: enamik rutiinseid ülesandeid — liigitamine, kokkuvõtted, vormistamine, andmete väljanoppimine — ei vaja tippmudelit. Kui teil on testikomplekt olemas, saate julgelt proovida odavamat mudelit ja näete mustvalgel, kas kvaliteet kannatab. Sageli ei kannata, ja arve kahaneb märgatavalt.
Kus on piir
Oleme ausad: täielikku sõltumatust ei ole olemas ja selle taga ajamine läheb kalliks. Kui kasutate pakkuja eripäraseid funktsioone — sisseehitatud tööriistu, kõnet, dokumendiotsingut — siis vahetus pole enam ühe rea muutmine. Vektorandmebaasi puhul tuleb tekstid uue mudeliga uuesti indekseerida. Ja kui tööriista kasutatakse viiskümmend korda kuus, ei tasu selle ümber ehitada abstraktsioonikihti, mis ise rohkem hooldust nõuab kui säästab.
Eesmärk ei ole, et vahetus oleks tasuta. Eesmärk on, et see oleks paari päeva töö, mitte projekti ümberkirjutamine. Kui teie praeguse lahenduse puhul ei oska keegi sellele küsimusele vastata, on see iseenesest vastus — ja hea koht järgmine kvartal alustada.