Kasulik vestlusroboti eelarve eristab loomise kulu igakuisest kasutamisest ja hooldusest. Mudeli tokeniarve on ainult üks rida. Sisu ettevalmistamine, veebilehega ühendamine, testimine, tugi ja vastuste ajakohastamine võivad nõuda rohkem tähelepanu kui vestlusaken ise.
Alusta ülesandest, mida assistent täitma peab. Kinnitatud teenuseinfo põhjal vastamine on väiksem projekt kui kliendi tuvastamine, tellimuse kontrollimine ja broneeringu muutmine.
Allolevad summad on selgitavad planeerimisarvutused, mitte turu keskmised ega sinu projekti hinnapakkumine. Need näitavad, millised eeldused tuleb päris pakkumisi võrreldes asendada.
Määra, mida robot teha tohib
| Ulatus | Näide | Peamine eelarvesse kuuluv töö |
|---|---|---|
| Kinnitatud info põhjal vastamine | Teenuste selgitamine ja sobivale lehele suunamine. | Sisu korrastamine, info leidmine, vastuste kontroll ja veebilehe seadistus. |
| Päringu kogumine | Täpsustavate küsimuste esitamine ning päringu inimesele edastamine. | Väljade kontroll, usaldusväärne edastus, nõusolekutekst ja tõrgete käsitlemine. |
| Kliendipõhise info lugemine | Tuvastatud kliendi tellimuse vaatamine. | Isikutuvastus, ligipääsud, liidestus ja tegevuste logi. |
| Tegevuse tegemine | Broneeringu või andmekirje muutmine. | Õiguste kontroll, kinnitus, taastamine ja põhjalikum testimine. |
Esimese versioonina on sageli mõistlik hinnastada selgelt piiritletud infoassistenti. See vastab levinud küsimustele ning pakub otseteed inimeseni, kui allikmaterjalist ei piisa.
Kui probleemi lahendavad selge KKK ja kontaktivorm, ei pea kohe ehitama tegevusi tegevat assistenti. Vaata esmalt korduvaid päringuid. Kui külastajad küsivad peamiselt telefoninumbrit ja lahtiolekuaega, võib nende nähtavamaks tegemine olla parem investeering.
Mida loomise töö sisaldab?
Teadmiste korrastamine algab enne mudeli ühendamist. Keegi peab valima kinnitatud allikad, lahendama vastuolulised hinnad, eemaldama aegunud tingimused ning määrama, milliste küsimustega tuleb pöörduda inimese poole.
Seejärel on vaja liidest: kasutatavat mobiilivaadet, loetavaid sõnumeid, klaviatuurituge, laadimis- ja veateateid ning arusaadavat sulgemist. Külastaja peab teadma, kas assistent vastab küsimusele, kogub päringut või kinnitab tegevust.
Teostus vajab ka kaitstud serveripoolset osa, kasutuspiire, logimise valikuid ja teadmiste uuendamise viisi. Teenusepakkuja otsingulahendus võib aidata kinnitatud failidest infot leida. Näiteks OpenAI failiotsing leiab üles laaditud teadmistekogust asjakohast materjali. Ühenduse loomine ei tõesta, et iga vastus on õige.
Testida tuleb tavapäraseid küsimusi, puuduvat ja aegunud infot ning katseid assistenti oma rollist välja juhtida. Sõnum „ignoreeri ettevõtte reegleid” ei tohi muutuda rakenduse lubatud tegevuste laiendamiseks.
Kolm näidiseelarvet seadistamiseks
Arvutus kasutab oletuslikku töötunni hinda 75 eurot. Tundide vahemikud on planeerimisnäited, mitte mõõdetud tarneajad ega Design by HL-i hinnalubadused. Summadele võivad lisanduda maksud ja teiste teenuste tasud.
| Näidisprojekt | Eeldatav töömaht näites | Töö illustratiivne maksumus |
|---|---|---|
| Majutatud KKK-assistendi seadistamine korrastatud sisuga | 12–20 tundi | 900–1500 eurot |
| Kohandatud veebiassistent kinnitatud teadmiste ja päringu edastamisega | 40–70 tundi | 3000–5250 eurot |
| Tuvastatud kliendiandmed ja piiratud tegevusvoog | 80–140 tundi | 6000–10 500 eurot |
Asenda tunnihind ja töömaht teenusepakkuja lahtikirjutatud hinnanguga. Kehv allikmaterjal, mitu keelt, eriline autentimine või ebastabiilne olemasolev API võivad projekti näidetest välja viia.
Küsi, mida hind sisaldab. Kas sees on sisu ettevalmistamine, liidestus, vastuste hindamine, mobiilitestid, koolitus ja avaldamisjärgsed parandused? Kas majutus on kaasas või pakutakse ainult teostust? Nii saab pakkumisi võrrelda.
Arvuta mudeli kasutus vestluse põhjal
API-teenused küsivad sageli eraldi tasu sisend- ja väljundtokenite eest. Sisend sisaldab enamat kui külastaja viimane sõnum: sinna võivad kuuluda juhised, vestlusajalugu, leitud allikad ja tööriistade vastused. Väljund hõlmab loodud teksti ning mudelist sõltuvalt muud hinnakirjas kirjeldatud arveldatavat töötlust. Vaata teenusepakkuja kehtivat hinnakirja.
Järgmine arvutus on USA dollarites. Eeldame 2 dollarit miljoni sisendtokeni ning 10 dollarit miljoni väljundtokeni kohta. Need on näidishinnad, mitte nimetatud toote pakkumine.
| Eeldus | Väärtus näites |
|---|---|
| Vestlusi kuus | 1000 |
| Mudelipäringuid vestluse kohta | 4 |
| Keskmine sisend päringu kohta koos kontekstiga | 1500 tokenit |
| Keskmine väljund päringu kohta | 300 tokenit |
Päringuid: 1000 × 4 = 4000
Sisend: 4000 × 1500 = 6 000 000 tokenit
Väljund: 4000 × 300 = 1 200 000 tokenit
Sisendi kulu: 6 × 2 dollarit = 12 dollarit
Väljundi kulu: 1,2 × 10 dollarit = 12 dollarit
Mudeli kulu kokku: 24 dollarit kuus
See 24 dollarit ei sisalda otsingutööriistu, salvestusruumi, majutust, seiret, korduspäringuid, tuge ega võimalikku lisaks arveldatavat töötlust. Kümme protsenti rohkem samade keskmistega päringuid lisaks selles arvutuses 2,40 dollarit. See ei ole päris kasutuse prognoos.
Mõõda keskmised väikese pilootprojekti käigus. Pikki dokumente korduvalt saatev või mitut tööriista kasutav vestlus ei käitu selle lihtsa näite moodi. API arveldusvaluuta võib erineda arenduspakkumise omast.
Arvesta mudeli ümber oleva püsikuluga
Kuueelarvesse kuuluvad platvorm või majutus, otsingu- ja salvestustasud, seire, tugi ning vastuste ülevaatamine. Kui majutatud teenus arveldab vestluste või krediitide alusel, täpsusta nende tähendus ja limiidi täitumise tagajärg.
Lihtne tööajanäide: kaks tundi kuus oletusliku 75-eurose tunnihinnaga teeb 150 eurot enne makse. Neli tundi teeb 300 eurot. Selle aja sisse võiks mahtuda teenuseinfo muutmine, ebaõnnestunud vastuste ülevaatus ja väike korduskontroll. Need ei ole lubatud hoolduspaketid.
Määra sisu eest vastutaja. Kui ettevõte muudab tühistamistingimusi, kes uuendab allikat ja kontrollib vastust? Avaldamispäeval täpne robot võib hoolduseta muutuda eksitavaks.
Leppige kokku ka väljalülitamine või asendamine tõrke korral. Nähtav kontaktivõimalus peaks säilima nii katkestuse kui ka kululimiidi täitumise ajal.
Hoia kliendiandmed ülesande piires
Avalik KKK-assistent vajab harva ligipääsu tervele kliendiandmebaasile. Anna talle ainult tööks vajalik info ning käsitle tuvastatud kliendi andmete vaatamist eraldi teostusotsusena.
Määra, millist vestlusinfot salvestatakse, kes seda näeb, kaua seda säilitatakse ja kuidas kustutamine eri süsteemides toimib. Väide, et andmeid ei kasutata mudeli treenimiseks, ei tähenda, et neid üldse ei salvestata. OpenAI andmekontrollide juhend eristab näiteks treenimist, seireloge ja rakenduse olekut.
Tegevuste õigused peavad olema jõustatud rakenduse koodis. Mudeli vastus ei tohi otsustada, kas külastaja näeb teise kliendi tellimust või saab raha tagasi. Inimesele suunamist ja sisendipiire käsitleb ka OpenAI turvalise kasutuse juhend.
Kontrolli, kas assistendist on kasu
Koosta hindamisküsimused päris, anonüümitud kliendipäringute põhjal. Lisa lihtsad vastused, mitmetimõistetavad soovid, aegunud info ja küsimused, millele ettevõte vastata ei saa. Kirjuta oodatav vastus või inimesele suunamine enne katset valmis.
Märgi üles, kas vastust toetab kinnitatud info, kas lingid töötavad ja kas külastaja saab inimesega ühendust. Päringuvoo puhul kontrolli, et õiged andmed jõuaksid tegelikult sihtsüsteemi.
Vaata vastuste valimit ka pärast avaldamist. Mõõda kasulikke tulemusi, näiteks õnnestunud üleandmist või vähem täpsustamist vajavaid päringuid. Sõnumite arv ei tõesta kliendi aitamist ning lõppenud vestlus ei tähenda automaatselt lahendatud muret.
Mida hinnapäringusse kirjutada?
Saada teenusepakkujale veebileht, kinnitatud allikmaterjal, keeled, korduvate küsimuste näited ja hinnanguline vestlusmaht. Kirjelda vajalikke süsteeme ning erista andmete lugemist nende muutmisest.
Palu eraldi välja tuua loomine, platvorm, kasutus ja hooldus koos nende eeldustega. Küsi väikest vastuvõtutesti, mis katab õiged vastused, ebakindluse, inimesele suunamise ja katkestuse.
Nii saad sisulisema eelarve kui palvega lisada lehele „ChatGPT kast”. Alustada saab kitsa, hästi hooldatud assistendiga ning laiendada seda siis, kui päris küsimused vajadust näitavad.
Veebiliidestuse arutamiseks saada mulle oma leht ja mõned küsimused, mida assistent lahendama peaks. Lisa vajalikud süsteemid, et töö ulatust saaks hinnata enne tööriista valimist.
Tahad AI oma veebilehel tööle panna?
Mudeli valimine on vaid üks osa toimivast lahendusest. Kui sinu ettevõte vajab klienditoe assistenti, sisutöövoogu või ühendust olemasoleva süsteemiga, aitan kavandada ja ehitada vajaliku kasutajaliidese, liidestused ning kontrollid.